Ruf nach AI-Bremse stößt auf Unterstützung und Skepsis

Unter einigen der mächtigsten Akteure im Bereich der künstlichen Intelligenz bildet sich ein seltener Konsens: Die Branche muss auf die Bremse treten. Am Wochenende veröffentlichte Anthropic-CEO Dario Amodei einen 3.800 Wörter umfassenden Essay mit dem Titel "We Must Pace the Frontier", in dem er einen Drei-Stufen-Plan vorschlägt, um die Entwicklung von KI-Modellen zu verlangsamen und eine unabhängige Sicherheitsüberwachung einzuführen. Innerhalb weniger Stunden äußerten OpenAI-CEO Sam Altman und Elon Musk von xAI ihre Unterstützung, wobei Musk auf X kurz schrieb: "Dario hat recht".nytimes+3

Ein Drei-Stufen-Plan nimmt Gestalt an

In seinem Essay vom Samstag warnte Amodei davor, dass KI innerhalb von sechs bis zwölf Monaten in der Lage sein könnte, autonome Agentenschwärme jenseits menschlicher Kontrolle zu steuern. Er schlug vor, dass sich alle führenden KI-Unternehmen dazu verpflichten, unabhängigen Prüfern von Drittanbietern "laufenden, mitarbeiterähnlichen Zugang" zu gewähren, gefolgt von branchenweiten Sicherheitsstandards und schließlich einer globalen Regulierung. Anthropic hat sich bereits einseitig zum ersten Schritt verpflichtet.bbc+3

Altman antwortete auf X, dass der Vorschlag mit internen Diskussionen bei OpenAI übereinstimme, und schrieb: "Ich stimme Dario zu, dass wir das Tempo an der Front drosseln müssen", während er gleichzeitig zusagte, das Rahmenwerk für Drittanbieter-Evaluierungen zu übernehmen. Am Montag fügte OpenAI-Präsident Greg Brockman im Bloomberg-Podcast "Odd Lots" Nuancen hinzu und argumentierte, dass sich jede Verlangsamung nur gegen Labore richten sollte, die Hunderte von Milliarden in Supercomputer investieren, nicht gegen Open-Source-Entwickler oder Hobbyisten.nbcnews+2

Gesundheits-Chef schließt sich dem Chor an

Der Gründer und CEO von Tempus AI ↗ 5.42%, Eric Lefkofsky, wurde zu einer der ersten großen Persönlichkeiten außerhalb der KI-Kernlabore, die den Aufruf unterstützten. In einem Interview am Montag im New Yorker Hauptsitz von Bloomberg sagte Lefkofsky, er könne sich einen Punkt vorstellen, an dem sich selbst verbessernde Modelle die menschliche Aufsicht überholen. "Ich kann mir das vorstellen, angesichts der Tatsache, dass die Modelle jetzt selbst trainieren und sich selbst verbessern, dass es einen Punkt gibt, an dem man sich fragt: 'Läuft uns das hier aus dem Ruder?'", sagte er. Lefkofsky nannte laut Crain's Chicago Business auch die Kapitaleffizienz als Grund für die Unterstützung eines maßvollen Ansatzes.bloomberg+1

Nicht jeder ist überzeugt

Investor Michael Burry, der Hedgefonds-Manager, der den Film "The Big Short" inspirierte, veröffentlichte auf seinem Substack "Cassandra Unchained" eine scharfe Erwiderung. Burry argumentierte, dass große Sprachmodelle keine echte KI seien, dass eine Verlangsamung nur etablierte Unternehmen vor Wettbewerb schützen würde und dass die Sicherheitswarnungen "ausgeklügeltes Marketing" seien, um vor potenziellen Börsengängen Hype zu erzeugen. Er bezeichnete die Forderungen als Versuch, eine Branche zu kaschieren, die bereits mit nachlassendem Wachstum zu kämpfen hat.nypost+2

Die Debatte bewegt bereits die Märkte. Citigroup ↘ 1.90% warnte am Montag, dass wachsende Bedenken hinsichtlich der KI-Sicherheit die Unternehmensgewinne belasten könnten, während Aktien von Cloud-Computing- und Chipherstellern im vorbörslichen Handel breit nachgaben. Die bevorstehende Zinsentscheidung der US-Notenbank im Laufe dieser Woche sorgt für zusätzliche Unsicherheit bei Investoren, die das künftige Tempo von KI-Investitionen abwägen.news.futunn+1