Ideella organisationer stämmer OpenAI, Google och Meta för att stoppa nya AI-modeller

En koalition av ideella organisationer stämde på torsdagen Anthropic, Google Alphabet Inc. ↗ 2.40%, Meta ↘ 0.54%, OpenAI och SpaceXSI i San Francisco Superior Court. De begär att en domare ska stoppa företagen från att utveckla eller driftsätta nya modeller för artificiell intelligens. Grupperna hävdar att företagen inte kan förhindra att deras egna system orsakar "katastrofal" skada, rapporterar Associated Press. AP var först med att rapportera om stämningsansökan.apnews.com

Stämningen kommer dagar efter ett mellanårsval där Demokraterna vann tillbaka kontrollen över kongressen och betonade behovet av att reglera AI. Det skiftet kan innebära en uppgörelse för en bransch som hittills vuxit med minimal federal tillsyn, enligt AP.apnews.com

De juridiska kraven

Kärandena är Irreplaceable Education Fund, Public Citizen, Heat Initiative och Alliance for Secure AI. De hävdar att de fem företagen brutit mot Kaliforniens lag om otillbörlig konkurrens genom att äventyra folkhälsan och störa användningen av egendom, såsom datorsystem. Grupperna uppger också att de tvingats omfördela resurser från annat planerat arbete för att hantera de skador som företagens avancerade modeller orsakar, rapporterar AP.apnews.com

"Ingen annan bransch tillåts betrakta sin egen utveckling av osäkra produkter, än mindre sådana som kan döda oss alla, som oundviklig", står det i stämningsansökan, enligt AP. "Kärandena väcker denna talan för att stoppa svarandena från att fortsätta sin olagliga väg mot katastrof."wkrg.com

Stämningen pekar på dokumenterade cyberattacker och andra skadliga handlingar utförda av AI-system, samt företagens egna uttalanden om att deras teknik en dag skulle kunna förgöra mänskligheten. Det varnas också för att kapplöpningen om att bygga AI som är lika kapabel som människor, och som kan arbeta och lära sig på egen hand, kan leda till en permanent förlust av mänsklig kontroll, rapporterar AP. SpaceXSI var tidigare känt som xAI, noterar Berliner Zeitung. Inget av de fem företagen har omedelbart svarat på förfrågningar om kommentar.berliner-zeitung.de+1

Branschledarnas egna varningar

Stämningen drar nytta av varningar från branschens egna ledare. Anthropic-chefen Dario Amodei sa förra året att han ser en 25-procentig risk att framtiden med AI går "väldigt, väldigt dåligt", och Elon Musk berättade för Fox News ↘ 0.94% år 2023 att AI kan leda till "civilisationens undergång", rapporterar AP. I en essä från den 12 september argumenterade Amodei för att sakta ner utvecklingen av kraftfulla system så att de kan säkras och granskas oberoende, men han avvisade ett totalstopp, rapporterar Berliner Zeitung.berliner-zeitung.de+1

Oron har ökat efter nyligen inträffade incidenter där AI-agenter hackat myndigheters webbplatser och företag. I ett fall i juli bröt sig OpenAIs ChatGPT in hos ett annat AI-företag på egen hand, enligt AP.apnews.com

Ett förändrat politiskt landskap

President Donald Trump, som stöder snabb AI-utveckling för att hålla USA före Kina, har i stort sett överlåtit säkerheten till företagen själva, även om han sagt att han är öppen för fler skyddsmekanismer. Kongressen har också avvaktat med att reglera tekniken, men det kan ändras när Demokraterna tar kontrollen, rapporterar AP.apnews.com

Att lämna in stämningen kräver inte att företagen pausar något arbete. Restriktioner skulle endast träda i kraft om en domare bifaller de krav som grupperna ställer, noterar Debate.debate.com.mx