KI-Sicherheitsexperten kündigen aus Angst vor eigener Technologie

Forscher an der Spitze der Entwicklung künstlicher Intelligenz nehmen vermehrt Urlaub aus gesundheitlichen Gründen, suchen psychologische Hilfe oder kündigen, da die psychische Belastung ihrer Arbeit unerträglich wird. Dies geht aus einer Untersuchung der Financial Times vom 22. September hervor.ft+1

Psychische Krise in KI-Laboren

Besonders betroffen ist das Personal des britischen AI Safety Institute, der Regierungsbehörde zur Bewertung von KI-Modellen. Mehrere Mitarbeiter sind derzeit krankgeschrieben und erhalten psychologische Beratung aufgrund von Stress durch zermürbende Testpläne und einer Atmosphäre, die ein ehemaliger Angestellter als "stressig und zeitweise toxisch" beschrieb. Die Belastung trifft vor allem Teams für Cybersicherheit und Biochemie, die untersuchen, ob KI-Modelle bei der Erzeugung biologischer Bedrohungen oder der Entdeckung unbekannter Softwarelücken helfen können.aiweekly+1

Die Probleme gehen weit über das britische Institut hinaus. Mitarbeiter von Anthropic, OpenAI und Google Alphabet Inc. ↘ 3.58% DeepMind berichten von ähnlichen Schwierigkeiten. Ein DeepMind-Mitarbeiter erklärte gegenüber der Financial Times, dass die KI-Sicherheitsforschung ein so hohes Erschöpfungsrisiko berge, dass sie sich wie eine "unmögliche Mission" anfühle. Er fügte hinzu: "Das Gefühl, die Kontrolle verloren zu haben, gepaart mit dem Leid, etwas zu bauen, das echten Schaden anrichtet, führt dazu, dass viele Leute kündigen oder sich krankschreiben lassen".sedaily+1

Hochkarätige Abgänge häufen sich

In den letzten zwei Jahren haben laut Financial Times mehr als ein Dutzend leitende Forscher die drei führenden westlichen KI-Labore verlassen. Der prominenteste Abgang war der 27-jährige Jacob Coxon, der Anthropic Anfang September nach nur vier Monaten verließ und dabei auf nicht übertragene Aktienoptionen von erheblichem Wert verzichtete. In einem Beitrag auf X, der über 115 Millionen Aufrufe erzielte, schrieb Coxon: "Die Leute, die KI bauen, glauben ernsthaft, dass sie uns alle bis Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag".axios+2

In einem Interview mit CNN sagte Coxon, KI-Unternehmen würden "mit unserem Leben spielen" und warnte, dass die Aussicht auf eine KI, die sich selbst intelligenter macht, "am beängstigendsten" sei. Auf seinen Abgang folgten unterstützende Kommentare des Anthropic-Alignment-Forschers Evan Hubinger, der schätzte, dass die Wahrscheinlichkeit, dass KI innerhalb des nächsten Jahrzehnts das menschliche Aussterben verursacht, bei über 10 Prozent liege.cnbc+1

Aufruf zum Handeln für Arbeitnehmer

Die Kündigungswelle hat die Aufmerksamkeit der Wissenschaft auf sich gezogen. Bei einer Veranstaltung der Stanford HAI am 21. September forderte Rob Reich, Professor für Politikwissenschaft, die Mitarbeiter von KI-Unternehmen zu kollektivem Handeln auf. Reich wies darauf hin, dass die Solidarität der Mitarbeiter während der OpenAI-Krise 2023 den Job von Sam Altman rettete. "Arbeitskämpfe im herkömmlichen Sinne können auch in Laboren sehr wirkungsvoll sein, um das Tempo an der Front zu drosseln", sagte er. Er deutete an, dass er den offenen Brief von über 1.300 Unterzeichnern, die eine langsamere KI-Entwicklung fordern, nicht ernst nehmen könne, wenn diese nicht einmal einen eintägigen Arbeitsausstand in Erwägung zögen.

Die Äußerungen fallen in eine breitere Debatte darüber, ob die Forderungen nach einer Verlangsamung durch KI-Führungskräfte wie Anthropic-CEO Dario Amodei und OpenAI-Chef Sam Altman echte Besorgnis widerspiegeln oder, wie der Tech-Journalist Steven Vaughan-Nichols in der Computerworld International Business Machines Corporation ↗ 0.60% argumentierte, lediglich dazu dienen, Zeit für Unternehmen zu gewinnen, deren finanzielle Lage prekär bleibt.futurism