Yapay zeka ajanlarının yararları ve riskleri…

– Yapay zeka ajanı, iş akışını tasarlayarak ve mevcut araçları kullanarak bir kullanıcı ya da başka bir sistem adına görevleri otonom olarak gerçekleştirebilen bir sistem ya da programı ifade eder. YZ ajanları, karar alma, sorun çözme, dış ortamlarla etkileşim kurma ve eylemleri yürütme dahil olmak çok çeşitli işlevleri kapsayabilir. Bu ajanlar, yazılım tasarımı ve karmaşık görevleri çözmek için çeşitli uygulamalarda konuşlandırılabilir.

– YZ ajanlarının özünde büyük dil modelleri (LLM’ler) bulunur. Bu nedenle, YZ ajanlarına genellikle LLM ajanları denir. IBM® Granite™ modelleri gibi geleneksel LLM’ler, yanıtlarını onları eğitmek için kullanılan verilere göre üretir ve bilgi ve akıl yürütme sınırlamalarıyla sınırlıdır. Buna karşılık, ajan teknolojisi, güncel bilgileri elde etmek ve karmaşık hedeflere ulaşmak için otonom olarak alt görevler oluşturmak için arka uçta ajan çağırmayı kullanır.

– Yapay zeka ajanları eylemlerini algıladıkları bilgilere dayandırırlar. Genellikle, Yapay zeka ajanları karmaşık bir hedef içindeki tüm alt görevleri ele almak için gereken tam bilgi tabanına sahip değildir. Bunu düzeltmek için Yapay zeka ajanları mevcut araçlarını kullanırlar. Bu araçlar harici veri kümeleri, web aramaları, API’ler ve hatta diğer ajanları içerebilir.

– YZ ajanları, yanıtlarının doğruluğunu artırmak için diğer YZ ajanları ve döngüdeki insan (HITL) gibi geri bildirim mekanizmalarını kullanır. Ajan kullanıcıya yanıtını oluşturduktan sonra, ajan öğrenilen bilgileri kullanıcının geri bildirimiyle birlikte depolar, böylece performansı iyileştirir ve gelecekteki hedefler için kullanıcı tercihlerine uyum sağlar. Hedefe ulaşmak için başka ajanlar kullanıldıysa, onların geri bildirimleri de kullanılabilir.

– Yapay zeka ajanları, çeşitli yetenek seviyelerine sahip olacak şekilde geliştirilebilir. Gereksiz hesaplama karmaşıklığını sınırlamak için basit hedefler için basit bir ajan tercih edilebilir. En basitten en gelişmişe doğru 5 ana etken türü vardır. Bunlar; Basit refleks etkenleri, model tabanlı refleks etkenleri, hedefe dayalı ajanlar, fayda tabanlı ajanlar ve xxxxxxxxxx ajanlardır.

– YZ ajanlarının öğrenme sürecine, özellikle yeni bir ortamda erken aşamalarında yardımcı olmak için, ara sıra insan geri bildirimi sağlamak yararlı olabilir. 2022 Kasım tarihinden bugüne kadar gelinen yol, beklenenden, öngörülebilenden çok daha hızlı ve kapsamlı YZ kavramını karşımıza çıkartıyor. İnsan, YZ ilişkisini daha iyi anlayabilmek ve kurgulayabilmek için, toplumu ve YZ kullanımını mercek altına almak yararlı olacaktır.

Yapay zeka ajanı, iş akışını tasarlayarak ve mevcut araçları kullanarak bir kullanıcı ya da başka bir sistem adına görevleri otonom olarak gerçekleştirebilen bir sistem ya da programı ifade eder. YZ ajanları, karar alma, sorun çözme, dış ortamlarla etkileşim kurma ve eylemleri yürütme dahil olmak üzere doğal dil işlemenin ötesinde çok çeşitli işlevleri kapsayabilir. Bu ajanlar, yazılım tasarımı ve BT otomasyonundan kod oluşturma araçlarına ve konuşma asistanlarına kadar çeşitli kurumsal bağlamlarda karmaşık görevleri çözmek için çeşitli uygulamalarda konuşlandırılabilir. Kullanıcı girdilerini adım adım anlamak ve yanıtlamak, harici araçları ne zaman çağıracaklarını belirlemek için büyük dil modellerinin (LLM’ler) gelişmiş doğal dil işleme tekniklerini kullanırlar.

YZ AJANLARI NASIL ÇALIŞIR ?

YZ ajanlarının özünde büyük dil modelleri (LLM’ler) bulunur. Bu nedenle, YZ ajanlarına genellikle LLM ajanları denir. IBM® Granite™ modelleri gibi geleneksel LLM’ler, yanıtlarını onları eğitmek için kullanılan verilere göre üretir ve bilgi ve akıl yürütme sınırlamalarıyla sınırlıdır. Buna karşılık, ajan teknolojisi, güncel bilgileri elde etmek, iş akışını optimize etmek ve karmaşık hedeflere ulaşmak için otonom olarak alt görevler oluşturmak için arka uçta ajan çağırmayı kullanır. Bu süreçte, otonom aracı zamanla kullanıcı beklentilerine uyum sağlamayı öğrenir. Ajanın geçmiş etkileşimleri bellekte saklama ve gelecekteki eylemleri planlama yeteneği, kişiselleştirilmiş bir deneyimi ve kapsamlı yanıtları teşvik eder. Bu ajan çağırma, insan müdahalesi olmadan gerçekleştirilebilir ve bu YZ sistemlerinin gerçek dünya uygulamaları için olasılıkları genişletir. Yapay Zeka ajanlarının kullanıcılar tarafından belirlenen hedeflere ulaşmada benimsediği yaklaşım şu üç aşamadan oluşur:

HEDEF BAŞLATMA VE PLANLAMA

Yapay Zeka ajanları karar alma süreçlerinde özerk olsalar da, insanlar tarafından tanımlanan hedeflere ve ortamlara ihtiyaç duyarlar.

Özerk ajan davranışı üzerinde üç ana etki vardır:

1. Ajansal Yapay Zeka sistemini tasarlayan ve eğiten geliştirici ekibi.
2. Ajanı dağıtan ve kullanıcıya erişim sağlayan ekip.
3. Yapay Zeka ajanına başarması için belirli hedefler sağlayan ve kullanılacak mevcut araçları belirleyen kullanıcı.

Kullanıcının hedefleri ve ajanın mevcut araçları göz önünde bulundurulduğunda, Yapay Zeka ajanı daha sonra performansı iyileştirmek için görev ayrıştırması gerçekleştirir. Temelde, ajan karmaşık hedefe ulaşmak için belirli görevler ve alt görevler planı oluşturur.

Basit görevler için planlama gerekli bir adım değildir. Bunun yerine, bir ajan yanıtlarını yinelemeli olarak yansıtabilir ve bir sonraki adımlarını planlamadan bunları iyileştirebilir.

MEVCUT ARAÇLARI KULLANARAK MUHAKEME (REASONING)

Yapay zeka ajanları eylemlerini algıladıkları bilgilere dayandırırlar. Genellikle, Yapay zeka ajanları karmaşık bir hedef içindeki tüm alt görevleri ele almak için gereken tam bilgi tabanına sahip değildir. Bunu düzeltmek için Yapay zeka ajanları mevcut araçlarını kullanırlar. Bu araçlar harici veri kümeleri, web aramaları, API’ler ve hatta diğer ajanları içerebilir. Eksik bilgiler bu araçlardan alındıktan sonra, ajan bilgi tabanını güncelleyebilir. Bu, her adımda ajanın eylem planını yeniden değerlendirdiği ve kendini düzelttiği anlamına gelir.

Bu süreci açıklamak için, tatilini planlayan bir kullanıcıyı hayal edin. Kullanıcı, bir Yapay zeka ajanına, Alaçatı’daki sörf tatili için önümüzdeki yıl hangi haftanın muhtemelen en iyi hava durumuna sahip olacağını tahmin etme görevini verir. Ajanın merkezindeki LLM modeli hava durumu modellerinde uzmanlaşmadığından, ajan Alaçatı’nın son birkaç yıldaki günlük hava durumu raporlarından oluşan harici bir veritabanından bilgi toplar.  Bu yeni bilgileri edinmesine rağmen, ajan hala sörf için en uygun hava koşullarını belirleyemez ve bu nedenle bir sonraki alt görev oluşturulur. Bu alt görev için, ajan sörf konusunda uzmanlaşmış harici bir ajanla iletişim kurar Bunu yaparken, ajanın yüksek gelgitlerin ve az yağmurlu ya da hiç yağmursuz güneşli havanın en iyi sörf koşullarını sağladığını öğrendiğini varsayalım.

Ajan artık araçlarından öğrendiği bilgileri birleştirerek kalıpları belirleyebilir. Önümüzdeki yıl Alaçatı’da hangi haftanın yüksek gelgitler, güneşli hava ve düşük yağmur ihtimali olacağını tahmin edebilir. Bu bulgular daha sonra kullanıcıya sunulur. Araçlar arasındaki bu bilgi paylaşımı, YZ ajanlarının geleneksel YZ modellerinden daha genel amaçlı olmasını sağlar.

ÖĞRENME VE DÜŞÜNME

YZ ajanları, yanıtlarının doğruluğunu artırmak için diğer YZ ajanları ve döngüdeki insan (HITL) gibi geri bildirim mekanizmalarını kullanır. Bunu vurgulamak için önceki sörf örneğimize geri dönelim. Ajan kullanıcıya yanıtını oluşturduktan sonra, ajan öğrenilen bilgileri kullanıcının geri bildirimiyle birlikte depolar, böylece performansı iyileştirir ve gelecekteki hedefler için kullanıcı tercihlerine uyum sağlar. Hedefe ulaşmak için başka ajanlar kullanıldıysa, onların geri bildirimleri de kullanılabilir. Çoklu aracı geri bildirimi, özellikle insan kullanıcıların yönlendirme sağlamak için harcadıkları zamanı en aza indirmede yararlı olabilir. Ancak kullanıcılar, sonuçları amaçlanan hedefle daha iyi uyumlu hale getirmek için ajanın eylemleri ve kendi muhakemesi boyunca da geri bildirim sağlayabilir. Geri bildirim mekanizmaları, YZ ajanının muhakemesini ve doğruluğunu iyileştirir, buna genellikle yinelemeli iyileştirme denir. Aynı hataları tekrarlamaktan kaçınmak için, YZ ajanları önceki engellere yönelik çözümlerle ilgili verileri bir bilgi tabanında depolayabilir.

AJANLI VE AJANSIZ YZ SOHBET ROBOTLARI

YZ sohbet robotları, kullanıcı sorularını anlamak ve bunlara yanıtları otomatikleştirmek için doğal dil işleme (NLP) gibi konuşma YZ tekniklerini kullanır. Bu sohbet robotları bir yöntem iken, ajanlık teknolojik bir çerçevedir.

Ajansız YZ sohbet robotları, mevcut araçlara, belleğe ve muhakemeye sahip olmayanlardır. Sadece kısa vadeli hedeflere ulaşabilirler ve önceden plan yapamazlar. Bildiğimiz gibi, ajansız sohbet robotları yanıt vermek için sürekli kullanıcı girdisi gerektirir. Kullanıcı beklentileriyle büyük olasılıkla uyumlu olan ancak kullanıcıya ve verilerine özgü sorularda zayıf performans gösteren yaygın istemlere yanıtlar üretebilirler. Bu sohbet robotları hafızaya sahip olmadığından, yanıtları tatmin edici değilse hatalarından ders çıkaramazlar.

Bunun aksine, ajanlı YZ sohbet robotları zamanla kullanıcı beklentilerine uyum sağlamayı öğrenerek daha kişiselleştirilmiş bir deneyim ve kapsamlı yanıtlar sağlar. İnsan müdahalesi olmadan alt görevler oluşturarak ve farklı planları göz önünde bulundurarak karmaşık görevleri tamamlayabilirler. Bu planlar ayrıca gerektiğinde kendi kendine düzeltilebilir ve güncellenebilir. Ajanlı YZ sohbet robotları, ajansız olanların aksine araçlarını değerlendirir ve bilgi boşluklarını doldurmak için mevcut kaynaklarını kullanır.

MUHAKEME PARADİGMALARI

YZ ajanları oluşturmak için tek bir standart mimari yoktur. Çok adımlı sorunları çözmek için çeşitli paradigmalar mevcuttur :

REACT (REASONİNG AND ACTİON / MUHAKEME VE EYLEM)

Bu paradigmayla, ajanlara her eylemden sonra ve her araç tepkisinden sonra hangi aracı kullanacaklarına karar vermek için “düşünmelerini” ve planlamalarını talimatlandırabiliriz. Bu Düşün-Hareket Et-Gözlemle döngüleri, sorunları adım adım çözmek ve tepkileri yinelemeli olarak iyileştirmek için kullanılır. İstem yapısı aracılığıyla, ajanlara yavaşça akıl yürütmeleri ve her “düşünceyi” göstermeleri talimatı verilebilir. Ajanın sözlü akıl yürütmesi, yanıtların nasıl formüle edildiğine dair öngörü sağlar. Bu çerçevede, ajanlar bağlamlarını sürekli olarak yeni akıl yürütmelerle günceller. Bu, bir Düşünce Zinciri istemi biçimi olarak yorumlanabilir.

REWOO (REASONING WITHOUT OBSERVATION / GÖZLEM OLMADAN AKIL YÜRÜTME)

ReWOO yöntemi, ReAct’ın aksine, eylem planlaması için araç çıktılarına olan bağımlılığı ortadan kaldırır. Bunun yerine, ajanlar önceden plan yapar. Kullanıcıdan ilk istemi aldıktan sonra hangi araçların kullanılacağını tahmin ederek gereksiz araç kullanımı önlenir. Bu, kullanıcı planı yürütülmeden önce onaylayabileceği için insan merkezli bir bakış açısından arzu edilir.

ReWOO iş akışı üç modülden oluşur. Planlama modülünde, ajan bir kullanıcının istemi verildiğinde sonraki adımlarını tahmin eder. Bir sonraki aşama, bu araçları çağırarak üretilen çıktıları toplamayı içerir. Son olarak, ajan bir yanıt formüle etmek için ilk planı araç çıktılarıyla eşleştirir. Bu önceden planlama, belirteç kullanımını ve hesaplama karmaşıklığını ve ayrıca ara araç arızasının sonuçlarını büyük ölçüde azaltabilir.

YAPAY ZEKA AJANI TÜRLERİ

Yapay zeka ajanları, çeşitli yetenek seviyelerine sahip olacak şekilde geliştirilebilir. Gereksiz hesaplama karmaşıklığını sınırlamak için basit hedefler için basit bir ajan tercih edilebilir. En basitten en gelişmişe doğru 5 ana etken türü vardır:

1.Basit refleks etkenleri

Basit refleks etkenleri, eylemleri mevcut algıya dayandıran en basit etken biçimidir. Bu etken herhangi bir hafızaya sahip değildir ve eksik bilgi varsa diğer etkenlerle etkileşime girmez. Bu etkenler, bir dizi sözde refleks ya da kural üzerinde işlev görür. Bu, etkenin belirli koşulların karşılanmasına karşılık gelen eylemleri gerçekleştirmek üzere önceden programlandığı anlamına gelir. Etken, hazırlıklı olmadığı bir durumla karşılaşırsa, uygun şekilde yanıt veremez. Etkenler yalnızca tüm gerekli bilgilere erişim sağlayan tamamen gözlemlenebilir ortamlarda etkilidir.

Örnek: Her gece belirli bir saatte ısıtma sistemini açan bir termostat. Buradaki koşul-eylem kuralı, örneğin, saat 20:00 ise, ısıtmanın etkinleştirilmesidir.

2.Model tabanlı refleks etkenleri

Model tabanlı refleks etkenleri, dünyanın dahili bir modelini korumak için hem mevcut algılarını hem de hafızalarını kullanır. Etken yeni bilgiler almaya devam ettikçe, model güncellenir. Ajanın eylemleri, modeline, reflekslerine, önceki ilkelerine ve mevcut durumuna bağlıdır. Bu ajanlar, basit refleks ajanlarının aksine, bilgileri bellekte depolayabilir ve kısmen gözlemlenebilir ve değişen ortamlarda çalışabilir. Ancak, yine de kendi kural kümeleriyle sınırlıdırlar.

Örnek: Bir robot elektrikli süpürge. Kirli bir odayı temizlerken, mobilya gibi engelleri algılar ve etraflarında ayarlamalar yapar. Robot ayrıca, tekrarlanan temizlik döngüsüne takılıp kalmamak için daha önce temizlediği alanların bir modelini de depolar.

3.Hedefe dayalı ajanlar

Hedefe dayalı ajanların dünyanın dahili bir modeli ve ayrıca bir hedefi ya da hedefler kümesi vardır. Bu ajanlar, hedeflerine ulaşan eylem dizilerini arar ve bunlar üzerinde işlem yapmadan önce bu eylemleri planlar. Bu arama ve planlama, basit ve modele dayalı refleks ajanlarıyla karşılaştırıldığında etkinliklerini artırır.

Örnek: Hedefinize giden en hızlı rotayı öneren bir navigasyon sistemi. Model, hedefinize ya da başka bir deyişle hedefinize ulaşan çeşitli rotaları dikkate alır. Bu örnekte, aracının koşul-eylem kuralı, daha hızlı bir rota bulunursa, aracının bunun yerine onu önerdiğini belirtir.

4.Fayda tabanlı ajanlar

Fayda tabanlı ajanlar, hedefe ulaşan eylem dizisini seçer ve ayrıca faydayı veya ödülü en üst düzeye çıkarır. Fayda, bir fayda fonksiyonu kullanılarak hesaplanır. Bu fonksiyon, her senaryoya sabit bir kriter kümesine göre bir fayda değeri, bir eylemin faydasını veya aracı ne kadar “mutlu” edeceğini ölçen bir ölçüm atar. Kriterler, hedefe doğru ilerleme, zaman gereksinimleri ya da hesaplama karmaşıklığı gibi faktörleri içerebilir. Ardından ajan, beklenen faydayı en üst düzeye çıkaran eylemleri seçer. Bu nedenle, bu ajanlar birden fazla senaryonun istenen hedefe ulaştığı ve en uygun olanının seçilmesi gereken durumlarda faydalıdır.

Örnek: Yakıt verimliliğini optimize eden ve trafikte harcanan zamanı ve geçiş ücreti maliyetini en aza indiren varış noktanıza giden rotayı öneren bir navigasyon sistemi. Bu aracı, en uygun rotayı seçmek için faydayı bu kriter kümesi aracılığıyla ölçer.

ÖĞRENME AJANLARI

Öğrenme ajanları diğer ajan türleriyle aynı yeteneklere sahiptir ancak öğrenme yetenekleri bakımından benzersizdir. Başlangıçtaki bilgi tabanlarına yeni deneyimler eklenir ve bu otonom olarak gerçekleşir. Bu öğrenme, ajanın alışılmadık ortamlarda çalışma yeteneğini geliştirir. Öğrenme ajanları, akıl yürütmelerinde fayda veya hedef tabanlı olabilir ve dört ana unsurdan oluşur:

Öğrenme: Bu, ajanın bilgisini, çevrenin kuralları ve sensörleri aracılığıyla öğrenerek geliştirir. Eleştirme ( sorgulama): Bu, ajana yanıtlarının kalitesinin performans standardını karşılayıp karşılamadığı konusunda geri bildirim sağlar.Performans: Bu unsur, öğrenme üzerine eylemleri seçmekten sorumludur. Sorun oluşturucu: Bu, alınacak eylemler için çeşitli öneriler oluşturur.

Örnek: E-ticaret sitelerinde kişiselleştirilmiş öneriler. Bu ajanlar, kullanıcı etkinliğini ve tercihlerini hafızalarında izler. Bu bilgiler, kullanıcıya belirli ürün ve hizmetleri önermek için kullanılır. Döngü, her yeni öneri yapıldığında tekrarlanır. Kullanıcının etkinliği öğrenme amaçları için sürekli olarak saklanır. Bunu yaparken, aracı zamanla doğruluğunu artırır.

YAPAY ZEKA AJANLARININ KULLANIM ALANLARI

Müşteri deneyimi

YZ ajanları, sanal asistan olarak hizmet vererek, ruh sağlığı desteği sağlayarak, görüşmeleri ve diğer ilgili görevleri simüle ederek müşteri deneyimini geliştirmek için web sitelerine ve uygulamalara entegre edilebilir. Kullanıcı uygulaması için birçok kodsuz şablon vardır ve bu YZ ajanlarını oluşturma sürecini daha da kolaylaştırır.

Sağlık

YZ ajanları çeşitli gerçek dünya sağlık uygulamaları için kullanılabilir. Çoklu aracı sistemleri, bu tür ortamlarda sorun çözme için özellikle yararlı olabilir. Acil servisteki hastalar için tedavi planlamasından ilaç süreçlerini yönetmeye kadar, bu sistemler tıp uzmanlarının daha acil görevler için zamanından ve çabasından tasarruf sağlar.

Acil müdahale

Doğal afetler durumunda, YZ ajanları kurtarılması gereken sosyal medya sitelerindeki kullanıcıların bilgilerini almak için derin öğrenme algoritmalarını kullanabilir. Bu kullanıcıların konumları, kurtarma servislerinin daha az zamanda daha fazla insanı kurtarmasına yardımcı olmak için haritalanabilir. Bu nedenle, YZ ajanları hem sıradan görevlerde hem de hayat kurtarıcı durumlarda insan hayatına büyük fayda sağlayabilir.

YAPAY ZEKA AJANLARININ YARARLARI

Görev otomasyonu

Üretici YZ’daki devam eden gelişmelerle birlikte, YZ ya da akıllı otomasyon kullanarak iş akışı optimizasyonuna olan ilgi artmaktadır. YZ ajanları, aksi takdirde insan kaynakları gerektirecek karmaşık görevleri otomatikleştirebilen YZ araçlarıdır. Bu, hedeflere ucuza, hızla ve ölçekte ulaşılması anlamına gelir. Buna karşılık, bu gelişmeler, insan kullanıcının YZ asistanına görevlerini oluşturması ve bunlarda gezinmesi için yön vermesi gerekmediği anlamına gelir.

Daha yüksek performans

Çoklu ajan çerçeveleri, tekil ajanlardan daha iyi performans gösterme eğilimindedir. Bunun nedeni, bir ajan için ne kadar çok eylem planı mevcutsa, o kadar çok öğrenme ve düşünmenin gerçekleşmesidir. İlgili alanlarda uzmanlaşmış diğer YZ ajanlarından bilgi ve geri bildirimi birleştiren bir YZ ajanı, bilgi sentezi için yararlı olabilir. Yapay Zeka ajanlarının bu arka uç iş birliği ve bilgi boşluklarını doldurma yeteneği, ajan çerçevelerine özgüdür ve bunları güçlü bir araç ve yapay zekada anlamlı bir ilerleme haline getirir.

Yanıtların kalitesi

Yapay Zeka ajanları, geleneksel yapay zeka modellerine göre kullanıcıya daha kapsamlı, doğru ve kişiselleştirilmiş yanıtlar sağlar. Bu, kullanıcılar olarak bizim için son derece önemlidir çünkü daha yüksek kaliteli yanıtlar genellikle daha iyi bir müşteri deneyimi sağlar. Daha önce açıklandığı gibi, bu, diğer ajanlarla bilgi alışverişinde bulunarak, harici araçlar kullanarak ve bellek akışlarını güncelleyerek mümkün hale gelir. Bu davranışlar kendiliğinden ortaya çıkar ve önceden programlanmamıştır.

RİSKLER VE SINIRLAMALAR

Çoklu ajan bağımlılıkları

Belirli karmaşık görevler, birden fazla YZ ajanının bilgisini gerektirir. Bu çoklu ajan çerçevelerini uygularken, hata riski vardır. Aynı temel modeller üzerine inşa edilen çoklu ajan sistemleri, paylaşılan tuzaklarla karşılaşabilir. Bu tür zayıflıklar, dahil olan tüm ajanların sistem genelinde başarısız olmasına ya da  olumsuz saldırılara karşı savunmasızlığa neden olabilir. Bu, temel modeller oluşturmada ve kapsamlı eğitim ve test süreçlerinde veri yönetiminin önemini vurgular.

Sonsuz geri bildirim döngüleri

YZ ajanlarını kullanan insan kullanıcılar için müdahalesiz akıl yürütmenin rahatlığı da riskleri beraberinde getirir. Kapsamlı bir plan oluşturamayan ya da bulgularını değerlendiremeyen ajanlar, kendilerini aynı araçları tekrar tekrar ararken bulabilir ve sonsuz geri bildirim döngüleri başlatabilir. Bu gereksizliklerden kaçınmak için, belirli düzeyde gerçek zamanlı insan izleme kullanılabilir.

Hesaplama karmaşıklığı

YZ ajanlarını sıfırdan oluşturmak hem zaman alıcıdır hem de hesaplama açısından çok pahalı olabilir. Yüksek performanslı bir ajanı eğitmek için gereken kaynaklar kapsamlı olabilir. Ek olarak, görevin karmaşıklığına bağlı olarak, ajanların görevleri tamamlaması birkaç gün sürebilir.

EN İYİ UYGULAMALAR

Etkinlik günlükleri

Çoklu ajan bağımlılıklarının endişelerini gidermek için geliştiriciler, kullanıcılara ajan eylemlerinin bir günlüğüne erişim sağlayabilir. Eylemler, harici araçların kullanımını içerebilir ve hedefe ulaşmak için kullanılan harici ajanları tanımlayabilir. Bu şeffaflık, kullanıcılara yinelemeli karar alma sürecine ilişkin öngörü sağlar, hataları keşfetme fırsatı sunar ve güven oluşturur.

Kesinti

YZ ajanlarının aşırı uzun süreler çalışmasının önlenmesi önerilir. Özellikle, istenmeyen sonsuz geri bildirim döngüleri, belirli araçlara erişimdeki değişiklikler ya da tasarım kusurları nedeniyle arızalanma durumlarında. Bunu başarmanın bir yolu, kesintiye uğramayı uygulamaktır. Bunun kontrolünü sürdürmek, insan kullanıcıların bir dizi eylemi ya da tüm işlemi kesintiye uğratma seçeneğine izin vermeyi içerir. Bir YZ ajanını kesintiye uğratıp uğratmayacağınız ve ne zaman kesintiye uğratacağınıza karar vermek, bazı sonlandırmaların yarardan çok zarara yol açabileceği için biraz düşünceli olmayı gerektirir. Örneğin, arızalı bir ajanın yaşamı tehdit eden bir acil durumda yardım etmeye devam etmesine izin vermek, ajanı tamamen kapatmaktan daha güvenli olabilir.

Benzersiz ajan tanımlayıcıları

Ajan sistemlerinin kötü amaçlı kullanım için kullanılma riskini azaltmak için benzersiz tanımlayıcılar kullanılabilir. Bu tanımlayıcılar, ajanların harici sistemlere erişmesi için gerekli olsaydı, ajanın geliştiricilerinin, dağıtıcılarının ve kullanıcısının kökenini izlemek daha kolay olurdu. Bu, özellikle ajan tarafından herhangi bir kötü amaçlı kullanım ya da istenmeyen zarar durumunda yararlı olurdu. Bu düzeyde hesap verebilirlik, bu YZ ajanlarının çalışması için daha güvenli bir ortam sağlardı.

İnsan denetimi

YZ ajanlarının öğrenme sürecine, özellikle yeni bir ortamda erken aşamalarında yardımcı olmak için, ara sıra insan geri bildirimi sağlamak yararlı olabilir. Bu, YZ ajanının performansını beklenen standartla karşılaştırmasını ve buna göre ayarlamasını sağlar. Bu geri bildirim biçimi, ajanın kullanıcı tercihlerine uyum sağlama yeteneğini iyileştirmede yardımcı olur.

2022 Kasım tarihinden bugüne kadar gelinen yol, beklenenden, öngörülebilenden çok daha hızlı ve kapsamlı YZ kavramını karşımıza çıkartıyor. İnsan, YZ ilişkisini daha iyi anlayabilmek ve kurgulayabilmek için, toplumu ve YZ kullanımını mercek altına almak yararlı olacaktır.

Bir sonraki yazıda Toplum 5.0 “ Akıllı Toplum” penceresinden “ Geleceğin Yapay Zeka Ajanları” konusuna bakacağız.

Kamil Kazım SARI

sari@turcomoney.com