Brin: Gemini-Modelle helfen jetzt beim Bau ihrer Nachfolger

Google-Mitbegründer Sergey Brin sagt, dass die KI-Modelle des Unternehmens nun dabei helfen, ihre eigenen Nachfolger zu bauen. Er beschrieb dies als das frühe Stadium der rekursiven Selbstverbesserung (RSI), einem lange debattierten Punkt, an dem die KI beginnt, ihre eigene Entwicklung zu beschleunigen.

Brin äußerte sich dazu in einer Gesprächsrunde über die Entstehung von Gemini 4 Argon, Googles neuem Flaggschiff-Modell. Google teilte das Video am Mittwoch, den 14. Oktober, wie Business Insider berichtete. Er sagte, dass die KI-Entwicklung innerhalb von Alphabet Inc. ↘ 2.32% an Fahrt gewinne. Er verwies auf die schnelle Abfolge von Flash-Veröffentlichungen vor Gemini 4 als Beweis und sagte, das Unternehmen "fange an, auf dieses RSI-Laufband zu kommen".businessinsider.com

Modelle helfen beim Bau von Modellen

"Und jetzt arbeiten unsere Forscher und das Modell Hand in Hand, um die nächste Version des Modells zu erstellen", sagte Brin laut Business Insider. Er fügte hinzu, dass Google zum Zeitpunkt, als die Zuschauer das Video sahen, intern bereits Modelle verwenden würde, die "ein paar" Versionen über Argon hinausgingen, und dass er erwarte, dass sich das Tempo "nur weiter beschleunigen wird".businessinsider.com

Googles Sicherheitsbericht für Argon besagt, dass Teile des KI-Forschungs- und Entwicklungszyklus bereits automatisiert sind. "KI-Agenten fungieren jetzt als hochwirksame Assistenten, die den Großteil des Produktionscodes und der Fehlerbehebungen verfassen, obwohl Codeänderungen vor der Einreichung weiterhin einer menschlichen Überprüfung unterliegen", heißt es in dem Bericht laut Business Insider. Vihan Jain, ein RSI-Leiter für Gemini bei Google DeepMind, schrieb auf X, dass "das RSI-Schwungrad einen neuen Gang eingelegt hat", da die Post-Training-Teams jetzt eher nach Argon-Nutzungskontingenten als nach Roh-Chips fragen.businessinsider.com

Ein verspätetes Flaggschiff

Argon wurde am 13. Oktober für Google AI Pro- und Ultra-Abonnenten in der Gemini-App verfügbar, so Google. Es ist Googles erstes Spitzenmodell seit etwa sieben Monaten, nach Gemini 3.1 Pro im Februar. Vor der breiten Veröffentlichung wurde es am 30. September zunächst geprüften Experten durch das "Fairwind"-Sicherheitsprogramm des Unternehmens zugänglich gemacht, berichtete SBS. In der Zwischenzeit hatte Google höherwertige Modelle aufgrund von Bedenken hinsichtlich ihrer Programmierfähigkeiten zurückgehalten und etwa alle drei Wochen leichtgewichtige Flash-Modelle veröffentlicht, so SBS.blog.google+1

Brin hat sich stärker in die Gemini-Bemühungen eingebracht. Er hat seinen Einfluss als Mitbegründer genutzt, um Ressourcen auf die RSI-Arbeit zu lenken, berichtete Business Insider. Business Insider berichtete zudem, dass Google-Mitarbeiter eine stärkere interne Version von Argon namens Carbon getestet haben.businessinsider.com

Branchenwettlauf und Sicherheitsbedenken

Anthropic und OpenAI haben ebenfalls erklärt, dass KI kurz vor der rekursiven Selbstverbesserung stehen könnte. Ein diese Woche veröffentlichter Bericht von Gladstone AI ergab, dass die meisten der befragten Forscher erwarten, dass RSI innerhalb von 3 bis 12 Monaten beginnen wird, und möglicherweise früher ohne staatliches Eingreifen, berichtete Business Insider.businessinsider.com

Diese Aussicht beunruhigt einige Experten. Letzten Monat warnten KI-Forscher, dass Menschen die Kontrolle über die Technologie verlieren könnten, wenn nicht genügend starke Leitplanken vorhanden sind, bevor sich selbst verbessernde Systeme eintreffen.