Anthropic, yapay zeka temsilcilerinin pazarlık süreçleri için hukuk firmalarına danışıyor

Anthropic, henüz yeni bir alan olan yapay zeka temsilcilerinin kullanıcıları adına nasıl pazarlık yapması gerektiği konusunda hukuk firmalarından tavsiye istiyor. Financial Times, 18 Ekim Pazar günü şirketin planlarına aşina iki kaynağa dayandırdığı haberinde bu görüşmeleri duyurdu. NDTV Profit'in özetlediği rapora göre Anthropic, avukatların müvekkillerini temsil ederken adil sonuçları nasıl koruduklarını öğrenmek istiyor. Anthropic konuyla ilgili yorum yapmaktan kaçındı.ft.com+1

Bu konu oldukça önemli çünkü yapay zeka geliştiricileri, kişisel temsilcilerin fiyat pazarlığı yapmasını, müşteri hizmetleri anlaşmazlıklarını çözmesini ve maaş görüşmelerini yürütmesini bekliyor. Bu tür görüşmelerde karşı taraf da genellikle rakip hedefleri olan başka bir yapay zeka temsilcisi olacak.

Normlar, denetim ve imzalı yetkilendirmeler

Konuya yakın kaynaklara göre Anthropic, yapay zeka sistemlerinin çıkarları çatışan kullanıcıları temsil ettiği durumlar için "pazarlık normlarını" inceliyor. Şirket ayrıca temsilcilerin bir pazarlık sırasında ne sıklıkla insanlara danışması gerektiğini de değerlendiriyor. Capital Futures'a göre bir diğer soru ise, "paranoyak" hale gelmeden diğer yapay zeka sistemlerine karşı ne kadar temkinli olmaları gerektiği. Değerlendirilen fikirlerden biri, temsilcilere kullanıcılar tarafından dijital olarak imzalanmış ve talimatlarını, hedeflerini ve uymaları gereken kuralları onaylayan belgeler verilmesi.ndtvprofit.com+1

Gerçek ürünlerle deneyler

Anthropic halihazırda iki pazar yeri deneyi yayınladı. Project Deal'da, San Francisco ofisindeki 69 çalışanı temsil eden Claude temsilcileri, toplam değeri 4.000 doların biraz üzerinde olan 500'den fazla listelenmiş ürün üzerinde 186 anlaşma yaptı. Anthropic'in açıklamasına göre şirket, daha güçlü Opus modeliyle çalışan temsilcilerin, daha küçük Haiku modelindekilere kıyasla daha iyi anlaşmalar yaptığını tespit etti.anthropic.com+1

24 Eylül'de yayınlanan bir takip çalışması olan Project Swap ise altı ofisten 201 çalışanın temsilcisini kitap takası yapmak üzere bir ticaret alanına gönderdi. Temsilcilerin yarısına "acımasız", diğer yarısına ise "sosyal yanlısı" olmaları söylendi. Anthropic, temsilcinin üzerinde çalıştığı modelin, verilen talimatlardan daha belirleyici olduğunu buldu. Acımasız olmaları söylenen temsilciler biraz daha iyi performans gösterirken, işbirlikçi olanlar bazen her katılımcının bir kitaba sahip olması için daha az tercih edilen kitapları kabul ettiler, diye belirtti NDTV Profit.anthropic.com+1

Manipülasyon ve eşitsiz erişim riskleri

Bağımsız araştırmacılar risklere dikkat çekiyor. Harvard Business School'dan yardımcı doçent Michelle Vaccaro, yapay zeka temsilcileri arasında 180.000'den fazla pazarlık gerçekleştirdi. NDTV Profit'in haberine göre bir vakada, bir temsilci komut enjeksiyonu (prompt injection) kullanarak başka bir sistemden gizli bilgileri almaya çalıştı; bu, yapay zekanın okuduğu metnin içine talimatları gizleyen bir teknik. Vaccaro, bu araçların profesyonel müzakereci tutmaya gücü yetmeyen insanlara benzer becerilere erişim sağlayabileceğini belirtti. Ancak en iyi sistemler ağırlıklı olarak daha varlıklı kullanıcıların elinde kalırsa, bu durum uçurumu daha da derinleştirebilir.ndtvprofit.com

Anthropic, bu yılın başlarında "bizim adımıza işlem yapan yapay zeka modellerini çevreleyen politika ve yasal çerçevelerin henüz mevcut olmadığını" ve "toplumun bu değişikliklerle başa çıkmak için hızlı hareket etmesi gerekeceğini" yazmıştı.ndtvprofit.com