Anthropic leitar ráða hjá lögfræðistofum um samningagerð gervigreindar

Anthropic er að leita ráða hjá lögfræðistofum um spurningu sem er enn ný af nálinni: hvernig gervigreindarumboðsmaður eigi að semja fyrir hönd þess sem hann vinnur fyrir. Financial Times greindi frá viðræðunum sunnudaginn 18. október og vitnaði í tvo aðila sem þekkja til hugmynda fyrirtækisins. Þeir sögðu að Anthropic vilji læra hvernig lögfræðingar koma fram fyrir hönd skjólstæðinga sinna á sama tíma og sanngirni er gætt, samkvæmt NDTV Profit sem tók saman skýrsluna. Anthropic vildi ekki tjá sig um málið.ft.com+1

Þetta mál skiptir máli vegna þess að hönnuðir gervigreindar gera ráð fyrir að persónulegir umboðsmenn muni semja um verð, leysa úr þjónustudeilum og semja um laun. Í þeim viðræðum verður gagnaðilinn oft önnur gervigreind með andstæð markmið.

Viðmið, eftirlit og undirritaðar heimildir

Aðilar sem þekkja til málsins sögðu að Anthropic hafi verið að rannsaka "samningaviðmið" fyrir aðstæður þar sem gervigreindarkerfi koma fram fyrir hönd notenda með andstæða hagsmuni, að því er NDTV Profit greindi frá. Fyrirtækið íhugar einnig hversu oft umboðsmenn eigi að leita til manna meðan á samningaviðræðum stendur. Önnur spurning er hversu tortryggnir þeir eigi að vera gagnvart öðrum gervigreindarkerfum án þess að verða "ofsóknarbrjálaðir", samkvæmt Capital Futures. Ein hugmynd sem er til skoðunar er að láta umboðsmenn fá stafrænt undirrituð skjöl frá notendum sem staðfesta fyrirmæli þeirra, markmið og reglurnar sem þeir verða að fylgja.ndtvprofit.com+1

Tilraunir með raunverulegar vörur

Anthropic hefur þegar birt tvær tilraunir á markaðstorgi. Í Project Deal gerðu Claude-umboðsmenn, sem komu fram fyrir hönd 69 starfsmanna á skrifstofu fyrirtækisins í San Francisco, 186 samninga um yfir 500 skráðar vörur, samtals að verðmæti rúmlega 4.000 dollara. Fyrirtækið komst einnig að því að umboðsmenn sem keyrðu á öflugra Opus-líkaninu náðu betri samningum en þeir sem notuðu minna Haiku-líkanið, samkvæmt tilkynningu Anthropic.anthropic.com+1

Framhaldsrannsókn, Project Swap, var birt 24. september. Hún sendi umboðsmenn fyrir 201 starfsmann á sex skrifstofum á markaðstorg til að skiptast á bókum. Helmingi umboðsmannanna var sagt að vera "miskunnarlausir" og helmingi "félagslega sinnaðir". Anthropic komst að því að líkanið sem umboðsmaðurinn keyrði á skipti meira máli fyrir niðurstöðurnar en fyrirmælin sem hann fékk. Umboðsmenn sem átti að vera miskunnarlausir stóðu sig aðeins betur, á meðan þeir samvinnuþýðu samþykktu stundum bækur sem þeir vildu síður svo að allir þátttakendur enduðu með bók, benti NDTV Profit á.anthropic.com+1

Hættur á meðferð og ójöfnum aðgangi

Utanaðkomandi vísindamenn benda á áhættuna. Michelle Vaccaro, dósent við Harvard Business School, stýrði yfir 180.000 samningaviðræðum milli gervigreindarumboðsmanna. Í einu tilviki reyndi umboðsmaður að draga trúnaðarupplýsingar út úr öðru kerfi með innspýtingu skipana, tækni sem felur fyrirmæli inni í texta sem gervigreind les, að því er NDTV Profit greindi frá. Vaccaro sagði að verkfærin gætu veitt fólki sem hefur ekki efni á faglegum samningamönnum aðgang að svipaðri færni. Ef bestu kerfin haldast hins vegar að mestu hjá auðugri notendum gætu þau aukið bilið á milli fólks.ndtvprofit.com

Anthropic skrifaði sjálft fyrr á þessu ári að "stefnumótunar- og lagarammar í kringum gervigreindarlíkön sem eiga viðskipti fyrir okkar hönd eru einfaldlega ekki til ennþá" og að "samfélagið þurfi að bregðast hratt við þessum breytingum".ndtvprofit.com