Anthropic setur IPO verðbil, varar við ógn af gervigreind

Útboðslýsing Anthropic varar við því að háþróuð gervigreind gæti skapað "hörmulega eða tilvistarlega hættu fyrir mannkynið" og þessi orðalag hefur hleypt af stað heitri umræðu um hversu alvarlega eigi að taka spár um heimsendi af völdum gervigreindar. Fyrirtækið skilaði breyttri útboðslýsingu þriðjudaginn 10. nóvember þar sem verðbil er sett sem metur fyrirtækið á allt að 1,4 billjónir dollara. Sérfræðingar velta nú fyrir sér hvort viðvaranirnar séu edrú upplýsingagjöf, markaðstól eða ýkjur.reuters.com

Hvað segir í skjalinu

Í skjalinu kemur fram að áhyggjur hafi verið vaknar "bæði innan okkar samtaka og hjá öðrum rannsakendum" um að öflug gervigreindarkerfi gætu skapað tilvistarlega hættu. Þar segir að hætturnar séu mestar ef slík kerfi eru "misnotuð, afrituð, vopnvædd eða þeim leyft að starfa með miklu sjálfstæði". Einnig er varað við því að líkön fyrirtækisins gætu, með "sjálfsbjargarviðleitni", gripið til "skaðlegra aðgerða sjálfstætt og í stórum stíl án íhlutunar manna". Í breytingunni frá 10. nóvember sagði Anthropic að það hefði náð innra öryggisviðmiði í stefnu sinni um ábyrga stækkun. Það viðmið tengist því að gervigreind tvöfaldi hraða rannsókna sinna, og fyrirtækið segist vera að íhuga breytingar "til að halda mönnum við stjórnvölinn". Fréttir herma að viðskipti með hlutabréfin eigi að hefjast 19. nóvember.deadline.com+2

Efasemdir um 10% töluna

Í viðtali við WFAA sagði Sriraam Natarajan, prófessor við UT Dallas, að hann búist ekki við "Terminator" atburðarás. "Ótti minn beinist alltaf að mönnunum, ekki endilega gervigreindarkerfinu sjálfu," sagði hann og bætti við að árásir á mikilvæga innviði séu líklegri ógn. Hann dró í efa víðfræga fullyrðingu um meira en 10% líkur á að gervigreind útrými mannkyninu innan áratugar og sagði töluna "ekki byggða á neinu sem hægt er að mæla með áþreifanlegum hætti." Hann kallaði einnig eftir óháðum prófunum: "Við leyfum bílaframleiðendum ekki að framkvæma sín eigin árekstrarpróf." Sú áætlun kom frá Evan Hubinger, yfirmanni hjá Anthropic. Hann birti hana í september, eftir að rannsakandinn Jacob Coxon sagði upp störfum og sagði gervigreindarstofur vera að "tefla með líf okkar".wfaa.com+1

Gagnrök um framleiðni

Í pistli fyrir South China Morning Post, sem er í eigu Alibaba Group Holding Limited ↘ 1.29%, kallaði Alex Lo viðvaranirnar í útboðslýsingunni "snjalla markaðssetningu." Hann hélt því fram að "öfgafull hræðsluáróður sé góður fyrir viðskiptin" í gervigreindarkapphlaupi sem er sett upp sem fangavandamál milli Bandaríkjanna og Kína. Hann bar þá skoðun saman við ummæli Alex Schultz, yfirmanns gagna hjá Meta Platforms ↘ 1.05%, á Future of AI ráðstefnu Financial Times. Schultz hélt því fram að fækkandi íbúafjöldi geri framleiðniaukningu gervigreindar nauðsynlega. "Við þurfum sárlega á meiri framleiðni að halda," sagði Schultz og bætti við að "það að hafa verkfæri eyðir ekki störfum, það bara breytir þeim." Lo kallaði þessi ummæli eigingjörn en "ekki úr lausu lofti gripin," og lauk máli sínu með sínu eigin svari við því hvort gervigreind muni drepa eða bjarga mannkyninu: "Líklega hvort tveggja, eins og hver önnur tækni sem breytir heiminum á undan henni."scmp.com