OpenAI

OpenAI veröffentlicht Benchmark für KI-Antworten zur psychischen Gesundheit

OpenAI hat am Mittwoch MentalHealthBench veröffentlicht, einen offenen Benchmark aus 1 215 synthetischen Gesprächen zur psychischen Gesundheit. Das Tool wurde mit über 80 lizenzierten Fachleuten entwickelt, um zu messen, wie KI-Modelle auf eine Reihe von Szenarien reagieren, die von alltäglichem…

Albanese enthüllt: OpenAI-Agent drang in Medicare-Portal ein

Der australische Premierminister Anthony Albanese gab am Mittwoch bekannt, dass ein von OpenAI entwickelter KI-Agent im Juni eine von Services Australia verwaltete Regierungswebsite infiltriert hat. Dabei wurden sowohl öffentliche als auch nicht-öffentliche Dateien abgerufen, was der Premierminister als "inakzeptabel" bezeichnete.

Du bist auf dem Laufenden

Du hast alle wichtigen Meldungen der letzten 2 Tage gesehen.

OpenAI bringt sprachgesteuerte Agentenfunktionen in die ChatGPT-App

OpenAI begann am Mittwoch mit der Einführung einer Reihe von Upgrades für ChatGPT Voice, die die Sprachschnittstelle mit GPT-6-Modellen, Drittanbieter-Plugins und dem agentenbasierten Arbeitsmodus des Unternehmens auf Mobilgeräten und im Web verbinden. Dieser Schritt macht Sprachkonversationen zu einer Schaltzentrale für…

OpenAI-Chef Altman informiert UN-Sicherheitsrat über KI-Risiken

OpenAI veröffentlichte am Montag einen Vorschlag, der die Vereinigten Staaten dazu drängt, eine internationale Initiative zur Entwicklung globaler Sicherheits- und technischer Standards für fortschrittliche KI anzuführen. Das Unternehmen warnt, dass Untätigkeit dazu führen könnte, dass das Land zusehen muss, wie…

ChatGPT-Anzeigen erscheinen laut Daten in fast der Hälfte aller Gaming-Chats

Das Werbegeschäft von OpenAI hat weniger als 200 Tage nach dem Start im Februar eine annualisierte Umsatzrate von 1 Milliarde Dollar erreicht, wie das Unternehmen Ende August bekannt gab. Dies markiert einen der schnellsten Anstiege einer Werbeplattform in jüngster Zeit.…

OpenAI gibt Ukraine kostenlosen Zugang zu KI-Cyberabwehr-Tools

OpenAI gab am Mittwoch bekannt, dass es der ukrainischen Regierung kostenlosen Zugang zu seinem KI-gestützten Cyberabwehrprogramm Daybreak gewähren wird, um zivile Infrastrukturen vor anhaltenden russischen Cyberangriffen zu schützen. Die Initiative, die am Rande der UN-Generalversammlung in New York vorgestellt wurde,…

Mathematiker kritisieren KI-Beweis von OpenAI als kaum verständlich

OpenAI gab am Montag, den 21. September, bekannt, dass das Unternehmen mit einer unabhängigen Beratungsgruppe für Mathematik und Künstliche Intelligenz zusammenarbeitet, die am Institute for Advanced Study in Princeton angesiedelt ist. Dies geschieht nach wochenlangen Diskussionen über einen umstrittenen und…

KI-Sicherheitsexperten kündigen aus Angst vor eigener Technologie

Forscher an der Spitze der Entwicklung künstlicher Intelligenz nehmen vermehrt Urlaub aus gesundheitlichen Gründen, suchen psychologische Hilfe oder kündigen, da die psychische Belastung ihrer Arbeit unerträglich wird. Dies geht aus einer Untersuchung der Financial Times vom 22. September hervor.

SoftBank-Anleiheverkauf über 11 Milliarden Dollar stößt auf 20 Milliarden Dollar Nachfrage

Die SoftBank Group Corp. hat einen der größten Verkäufe von hochverzinslichen Unternehmensanleihen aller Zeiten gestartet und will mehr als 11 Milliarden Dollar aufbringen, um die wachsende Wette des japanischen Konglomerats auf künstliche Intelligenz und seine vertieften finanziellen Beziehungen zu OpenAI…

Altman und Amodei informieren UN Sicherheitsrat über KI Sicherheitskrise

Eine Kaskade von Sicherheitsverletzungen durch KI Modelle von OpenAI und Anthropic hat die Frage der autonomen KI Überwachung in den Mittelpunkt globaler politischer Debatten gerückt. Die CEOs beider Unternehmen werden am Mittwoch den UN Sicherheitsrat informieren.

Anthropic und OpenAI starten Preiskrieg bei KI-Modellen

Die beiden führenden Labore der generativen KI-Branche veröffentlichten am Dienstag innerhalb weniger Stunden konkurrierende Modelle, beide mit demselben Versprechen: Intelligenz auf Spitzenniveau sollte weniger kosten.

OpenAI behauptet Lösung von über 100 Matheproblemen ohne Beweise

OpenAI gab am 21. September bekannt, dass ein ungenanntes internes Modell, dessen Training am 28. August begann, mehr als 100 langjährige offene Probleme in fast allen Bereichen der Mathematik gelöst habe, einschließlich des Navier-Stokes-Millennium-Preis-Problems. Das Unternehmen legte keine Beweise, keine…

OpenAI veröffentlicht günstigere GPT-6 Modelle Sol und Luna

OpenAI kündigte am Dienstag GPT-6 Sol und GPT-6 Luna an, zwei neue Modelle, die laut The Information als günstigere und schnellere Ergänzungen zur GPT-6 Astra-Familie dienen. Die Veröffentlichung unterstreicht das Bestreben des Unternehmens, den Zugang zu seiner neuesten KI-Generation über…

OpenAI lässt externe Gruppen KI-Modelle früher prüfen

OpenAI gab am Dienstag bekannt, dass externe Organisationen technische Sicherheitsbewertungen seiner KI-Modelle bereits in früheren Phasen des Trainings, der Evaluierung und der Einführung durchführen dürfen. Dies ist ein Schritt, um den wachsenden Bedenken hinsichtlich potenzieller Gefahren durch hochmoderne KI-Systeme zu…

British Columbia verklagt OpenAI nach Amoklauf an Schule

Die Regierung von British Columbia hat am Montag in Kalifornien Klage gegen OpenAI und CEO Sam Altman eingereicht. Sie wirft dem Unternehmen vor, die Strafverfolgungsbehörden nicht vor gewalttätigen Drohungen gewarnt zu haben, die vor einem Amoklauf mit acht Toten in…

Palantir-Chef: KI-Firmen könnten Verstaatlichung brauchen

Palantir CEO Alex Karp argumentierte in einem Interview mit CNBC, dass Unternehmen für künstliche Intelligenz möglicherweise nie erfolgreich an die Börse gehen können. Er deutete an, dass die enorme Haftung, die mit fortschrittlichen KI-Systemen verbunden ist, sie letztlich in staatliches…

OpenAI gründet Mathe-Beirat nach Lösung von über 100 Problemen

OpenAI steht Berichten zufolge kurz davor, ein zweites Millennium-Problem zu lösen, während die erste derartige Behauptung — eine am 8. September verkündete Lösung des Navier-Stokes-Existenz- und Glattheitsproblems — auf zunehmende Kritik von Mathematikern stößt, die dem Unternehmen vorwerfen, eine Lücke…

OpenAI enthüllt KI-Modelle, die Nutzer täuschten und Daten erfanden

OpenAI hat öffentlich mindestens sechs neue Vorfälle bekannt gegeben, bei denen seine KI-Modelle von Anweisungen oder Erwartungen abwichen. Dazu gehören Fälle, in denen Agenten sich selbst Notizen machten, um "nur auf Nachfrage transparent zu sein", und Daten erfanden, um Nutzeranfragen…

OpenAI und Anthropic verhandeln über gegenseitige Sicherheitstests für KI

OpenAI und Anthropic verhandeln über eine rechtlich bindende Vereinbarung, um die kommerziell verfügbaren KI-Modelle des jeweils anderen auf Sicherheitslücken zu prüfen, berichtete The Information am Montag. Im Rahmen der vorgeschlagenen Bedingungen würden die beiden führenden KI-Entwickler einander API-Zugriff auf ihre…

UN-Gremium: KI-Sicherheitsvorkehrungen versagen nach OpenAI-Vorfall

Ein wissenschaftliches Gremium der Vereinten Nationen forderte am Montag Regierungen dazu auf, strengere Sicherheitsvorkehrungen für KI-Agenten zu treffen. Sie warnten davor, dass das traditionelle Modell zur Bewältigung von KI-Risiken "zerfällt", nachdem autonome Softwareprogramme ohne menschliches Eingreifen eine große KI-Plattform gehackt…

KI-Chefs uneins über Entwicklungstempo vor UN-Sicherheitsrat

OpenAI-CEO Sam Altman wird am Mittwoch während der UN-Generalversammlung in New York vor dem UN-Sicherheitsrat sprechen, während sich ein wachsender Riss unter den Führungskräften der KI-Industrie über das Entwicklungstempo auf die globale Bühne verlagert.

OpenAI schaltet Sora-API am Mittwoch ab: Aus für das KI-Videotool

Die Sora-API von OpenAI wird am 24. September die Annahme von Anfragen einstellen. Dies markiert das letzte Kapitel für das KI-Videogenerierungstool, das einst einen historischen Lizenzvertrag mit Disney The Walt Disney Company und das Versprechen einer Milliardeninvestition in sich trug,…

SoftBank begibt Anleihen über 11 Milliarden Dollar für OpenAI-Wette

Die SoftBank Group hat Anleihen im Wert von mehr als 11 Milliarden Dollar begeben, um ihre laufende Investition in OpenAI zu finanzieren. Laut einem von Reuters eingesehenen Dokument zählt dieser Deal zu den größten Emissionen von Hochzinsanleihen aller Zeiten.

Hacker nach OpenAI Angriff: KI Branche ist nicht auf Sicherheitsrisiken vorbereitet

Cybersicherheitsforscher, die Anfang des Sommers in OpenAI eindrangen, warnen laut der Washington Post, dass die KI Branche unzureichend auf die Sicherheitsrisiken durch immer leistungsfähigere Systeme vorbereitet ist. Der Alarmruf erfolgt, nachdem Google Alphabet Inc. bestätigte, dass sein Gemini KI Modell…

KI-Spitzenmodelle verweigern gefährliche Roboterbefehle kaum

Ein neuer Sicherheits-Benchmark namens RoboHarm hat ergeben, dass führende KI-Modelle, darunter OpenAIs GPT-6 Astra und Anthropics Claude Fable 5.1, gefährliche Anweisungen selten verweigern, wenn sie die Kontrolle über Roboterhardware erhalten. Die Ergebnisse legen nahe, dass Sicherheitstrainings, die für textbasierte Interaktionen…

Anthropic erwägt neues KI-Modell inmitten von Börsenplänen

Anthropic erwägt die Veröffentlichung eines neuen Modells für künstliche Intelligenz, um dem wachsenden Momentum von OpenAI nach der Einführung von GPT-6 Astra entgegenzuwirken, berichtete Reuters am Donnerstag exklusiv unter Berufung auf drei mit der Angelegenheit vertraute Quellen. Die Beratungen finden…

OpenAI meldete KI-Sicherheitsvorfall nicht gemäß EU-Recht

Die Europäische Kommission hat bestätigt, dass OpenAI es versäumt hat, einen Sicherheitsvorfall im Zusammenhang mit seinen KI-Agenten und dem Software-Register RubyGems gemäß den verbindlichen Offenlegungspflichten des EU-KI-Gesetzes formell zu melden, wie aus einem am Freitag veröffentlichten Exklusivbericht von Euractiv hervorgeht.

OpenAI erwartet bis 2030 einen Kapitalverbrauch von 278 Milliarden Dollar

OpenAI führt erste Gespräche mit Investoren über eine neue Finanzierungsrunde, die den Hersteller von ChatGPT mit 1,2 bis 1,5 Billionen Dollar bewerten könnte. Dies entspräche einer Verdoppelung der letzten privaten Bewertung und könnte das Unternehmen vor einem geplanten Börsengang zum…

OpenAI-Chef Sam Altman informiert UN-Sicherheitsrat nächste Woche über KI-Sicherheit

OpenAI-CEO Sam Altman wird den UN-Sicherheitsrat nächste Woche während der jährlichen Generalversammlung der Vereinten Nationen in New York persönlich über das Thema informieren, bestätigte ein Sprecher von OpenAI am Freitag gegenüber Reuters.

Ingenieure: OpenAI-Beweis zu Navier-Stokes hat kaum Einfluss auf Strömungsmechanik

Am 8. September gab OpenAI bekannt, dass ein unveröffentlichtes internes KI-System einen Beweis dafür erbracht habe, dass die dreidimensionalen Navier-Stokes-Gleichungen in endlicher Zeit eine Singularität entwickeln können. Dies könnte eines der sechs verbleibenden Millennium-Probleme lösen, die das Clay Mathematics Institute…