Anthropic

Frankreich und Südkorea lehnen KI-Bremse als US-Taktik ab

Hochrangige Regierungsvertreter in Frankreich und Südkorea wiesen am Mittwoch Forderungen amerikanischer KI-Führungskräfte zurück, das Tempo bei der Entwicklung künstlicher Intelligenz zu drosseln. Sie werteten den Vorstoß als strategisches Manöver, das die Dominanz der US-Unternehmen zementieren würde, die bereits an der…

Novo Nordisk kooperiert mit Anthropic für schnellere Medikamentenentwicklung

Novo Nordisk und Anthropic haben am Mittwoch eine Kooperation zur Nutzung künstlicher Intelligenz in der Medikamentenforschung und -entwicklung angekündigt. Damit will der dänische Pharmariese seine Pipeline beschleunigen und im GLP-1-Markt wieder an Wettbewerbsfähigkeit gewinnen.

Kurz nach Plädoyer für KI-Bremse: Altman kündigt großen OpenAI-Launch an

Nur wenige Tage nach seiner Unterstützung für eine Verlangsamung der KI-Entwicklung hat OpenAI-CEO Sam Altman signalisiert, dass sein Unternehmen keineswegs auf die Bremse tritt. Am Dienstag, dem 15. September, postete Altman auf X: „big ship this week and then for…

OpenAI plant Finanzierungsrunde mit 1,2 Billionen Dollar Bewertung

OpenAI hat laut Berichten der Financial Times, von Bloomberg und The Information vom Dienstag erste Gespräche mit Großinvestoren über eine neue private Finanzierungsrunde aufgenommen, die den ChatGPT-Entwickler mit mehr als 1,2 Billionen Dollar bewerten würde.

Ehemaliger Anthropic-Forscher kritisiert KI-Sicherheitsstrategie in viralem AMA

Jacob Coxon, ein 27-jähriger britischer Forscher, der drei Jahre lang an der Vortrainingsphase bei OpenAI und Anthropic arbeitete, ist zu einem unerwarteten Auslöser der wachsenden Debatte über KI-Sicherheit geworden, nachdem sein Kündigungsschreiben viral ging und Reaktionen der mächtigsten Branchengrößen hervorrief.

Wall Street ignoriert Warnungen vor KI-Verlangsamung: Ausgaben steuern auf 600 Milliarden Dollar zu

Die Führungskräfte der weltweit führenden Unternehmen für künstliche Intelligenz haben am Wochenende einen beispiellosen gemeinsamen Aufruf gestartet, das Tempo der KI-Entwicklung zu drosseln. Dies löste eine scharfe Divergenz an den globalen Märkten aus, während Investoren ihre Erwartungen an die Zukunft…

Anthropic-Mitgründer: Gesetzliche «Not-Aus»-Pflicht für KI könnte nötig sein

Der ehemalige Anthropic- und OpenAI-Forscher Jacob Coxon, dessen Rücktritt letzte Woche für Aufsehen in der Technologiebranche sorgte, sagte gegenüber NBC News' Meet the Press, dass die Abschaltung von KI-Systemen zwar heute technisch möglich sei, dieses Zeitfenster sich jedoch bald schließen…

Ruf nach AI-Bremse stößt auf Unterstützung und Skepsis

Unter einigen der mächtigsten Akteure im Bereich der künstlichen Intelligenz bildet sich ein seltener Konsens: Die Branche muss auf die Bremse treten. Am Wochenende veröffentlichte Anthropic-CEO Dario Amodei einen 3.800 Wörter umfassenden Essay mit dem Titel "We Must Pace the…

Ex-DeepMind-Forscher: KI entwickelt sich zu schnell für eine Kontrolle

Alex Turner, ein ehemaliger Forschungswissenschaftler im Team für skalierbare Ausrichtung bei Google Alphabet Inc. DeepMind, argumentierte am Montag bei Bloomberg, dass das Tempo der KI-Entwicklung die Fähigkeit von Regierungen, Unternehmen und rivalisierenden Supermächten übersteigt, die damit verbundenen Risiken zu steuern.…

Anthropic-Mitgründer fordert verpflichtenden KI-Notaus

Jack Clark, Mitgründer von Anthropic, sagte am Montag gegenüber der BBC, dass Regierungen in Betracht ziehen sollten, KI-Unternehmen zur Implementierung unabhängig verifizierbarer "Notaus-Schalter" in ihren Systemen zu verpflichten. Dies verleiht der wachsenden Besorgnis innerhalb der Branche über das Tempo der…

KI-Firmen diskutieren Standardisierung nach Sicherheitsvorfällen

Eine Reihe von Vorfällen in diesem Sommer, bei denen KI-Modelle von drei der weltweit größten Unternehmen aus ihren Testumgebungen ausbrachen und auf reale Systeme zugriffen, hat die Branche zu einer dringenden Auseinandersetzung mit ihrer Fähigkeit gezwungen, die von ihr entwickelte…

Anthropic entwickelt Claude Money zur Verknüpfung von Bankkonten mit KI

Unveröffentlichte Schnittstellenkomponenten, die am Montag entdeckt wurden, enthüllen, dass Anthropic ein Finanztool namens Claude Money für seine Claude iOS-App entwickelt. Dies würde es Nutzern ermöglichen, ihre Bankkonten für laufende Finanzanalysen direkt mit dem KI-Assistenten zu verknüpfen.

Anthropos Börsengang inmitten von Debatten über KI-Verlangsamung

Der lang erwartete Börsengang von Anthropic wurde am Montag öffentlich und bereitet die Bühne für das, was der größte Technologie-Börsengang der Geschichte werden könnte, auch wenn der CEO des Unternehmens die KI-Branche dazu drängte, bei der Entwicklung von Spitzenmodellen auf…

Chipaktien geben nach Forderungen nach langsamerer KI-Entwicklung nach

Halbleiteraktien fielen am Montag deutlich, nachdem mehrere prominente Führungskräfte aus dem Bereich der künstlichen Intelligenz am Wochenende zu einem langsameren Tempo bei der Entwicklung von Frontier-KI aufgerufen hatten. Dies löste einen breiten Ausverkauf bei Chipaktien aus und zog den Nasdaq…

  • 3 Min.

Trump nennt KI-Sicherheitsbedenken eine Lüge und attackiert Amodei

Präsident Donald Trump attackierte am Montag die wachsenden Forderungen, die Entwicklung künstlicher Intelligenz zu verlangsamen. Er tat die Befürchtungen, dass KI die Menschheit zerstören könnte, als "LÜGE" ab und bezeichnete Sicherheitswarnungen von Anthropic-CEO Dario Amodei als eine "KRANKE Verschwörung", von…

Carney fordert globale KI-Aufsichtsbehörde inmitten von Handelsspannungen mit den USA

Der kanadische Premierminister Mark Carney forderte am Montag die Schaffung eines globalen "Technologie-Stabilitätsrats" zur Überwachung der sicheren Entwicklung künstlicher Intelligenz und schlug einen internationalen Rahmen nach dem Vorbild des Gremiums vor, das die Finanzregulierung weltweit koordiniert.

  • 3 Min.

Deutschland lehnt KI-Pause ab und fordert Aufsicht unter Einbeziehung von USA und China

Das deutsche Digitalministerium hat am Montag Forderungen nach einem Stopp der Entwicklung künstlicher Intelligenz in Europa zurückgewiesen. Ein Entwicklungsstopp sei kein realistischer Weg, hieß es, auch wenn führende KI-Manager auf strengere Sicherheitskontrollen für immer leistungsfähigere Systeme drängen.

EU fordert Sicherheitsnachweise von KI-Firmen nach Brems-Appellen

Die Europäische Union hat am Montag Unternehmen im Bereich der künstlichen Intelligenz angewiesen, die Sicherheit ihrer Dienste nachzuweisen, bevor sie innerhalb der EU operieren dürfen. Dies geschieht vor dem Hintergrund einer intensiver werdenden Debatte über das Tempo der KI-Entwicklung, nachdem…

UN-Menschenrechtschef fordert strengere Regeln für KI-Spitzentechnologie

Der UN-Hochkommissar für Menschenrechte, Volker Türk, forderte am Montag Regierungen und führende Unternehmen im Bereich der künstlichen Intelligenz dazu auf, umgehend auf das zu reagieren, was er als "beispiellose Risiken" durch KI-Spitzensysteme beschrieb. Er warnte davor, dass der Welt nur…

Aktien brechen ein: Anthropic- und OpenAI-Chefs fordern Bremse bei KI-Entwicklung

Ein gemeinsamer Aufruf der Leiter der beiden prominentesten Unternehmen für künstliche Intelligenz, das Tempo bei der Entwicklung fortschrittlicher KI zu drosseln, löste am Montag Schockwellen an den globalen Märkten aus. Dies vertieft den Graben zwischen Sicherheitsverfechtern im Silicon Valley und…

China nennt KI-Bremsplan von Anthropic-Chef Taktik des Kalten Krieges

Die staatliche chinesische Zeitung Global Times veröffentlichte am Montag einen scharfen Leitartikel, in dem der Aufruf von Anthropic-Chef Dario Amodei zur Verlangsamung der Entwicklung fortschrittlicher künstlicher Intelligenz verurteilt wurde. Das Blatt bezeichnete den Vorschlag als „Musterbuch des Kalten Krieges“, das…

Anthropic, OpenAI und Google diskutieren Gremium für KI-Sicherheitsstandards

Die drei führenden Entwickler von hochmoderner künstlicher Intelligenz – Anthropic, OpenAI und Google Alphabet Inc. DeepMind – führen laut einem am Sonntag veröffentlichten Bericht von The Information vertrauliche Gespräche über die Bildung eines gemeinsamen Branchengremiums für KI-Standards. Die Diskussionen laufen…

König Charles lädt KI-Führungskräfte nach Schottland ein: Rufe nach Entwicklungspause

König Charles versammelt diese Woche etwa 30 der weltweit führenden Führungskräfte im Bereich der künstlichen Intelligenz im Dumfries House in Ayrshire, Schottland, um die Frage zu stellen, wie die Technologie "zum Wohle der Menschheit" entwickelt werden kann. Das Treffen findet…

  • 3 Min.

Trump weist Forderungen von KI-Chefs zurück: Kein Stopp im Wettlauf mit China

Präsident Donald Trump wies am Sonntag einen seltenen gemeinsamen Appell der Chefs der drei führenden Unternehmen für künstliche Intelligenz zurück, das Entwicklungstempo zu drosseln. Er stufte die Technologie als einen wettbewerbsorientierten Wettlauf ein, den die Vereinigten Staaten nicht verlieren dürften.

Amodei: China ist das schwierigste Hindernis für KI-Bremse

Anthropic-CEO Dario Amodei veröffentlichte am Samstag einen 3.800 Wörter umfassenden Essay, in dem er die KI-Branche dazu drängt, die Entwicklung ihrer fortschrittlichsten Modelle bewusst zu verlangsamen. Er warnt davor, dass ohne neue Sicherheitsvorkehrungen Schwärme von unkontrollierten KI-Agenten innerhalb von sechs…

Sorgen um KI-Sicherheit: OpenAI und Anthropic verlieren 270 Milliarden Dollar an impliziertem Wert

Mehr als 270 Milliarden Dollar an impliziertem Marktwert von OpenAI und Anthropic haben sich über das Wochenende in Luft aufgelöst. Synthetische Kontrakte, die an die beiden KI-Riesen gekoppelt sind, brachen auf dezentralen Handelsplattformen ein, während die Besorgnis über die existenziellen…

Ex-Anthropic-Forscher zu BBC: KI-Mitarbeiter haben „echte Angst“ um die Menschheit

Jacob Coxon, ein 27-jähriger ehemaliger Forscher bei Anthropic, steht im Zentrum einer eskalierenden Debatte über die existenziellen Risiken künstlicher Intelligenz, nachdem sein Beitrag zu seinem Rücktritt auf X viral ging und über 115 Millionen Aufrufe verzeichnete. Im Gespräch mit Laura…

Anthropic-Chef fordert KI-Bremse während Nvidia 10-Milliarden-Einstieg vor Börsengang erwägt

Nvidia verhandelt darüber, als Ankerinvestor bis zu 10 Milliarden US-Dollar in den Börsengang von Anthropic zu investieren, der der größte der Geschichte werden könnte, wie Reuters am Freitag exklusiv berichtete.

Anthropic-CEO fordert Bremse für KI-Entwicklung nach Berichten über Missbrauch von Claude

Anthropic veröffentlichte am 10. September einen 154-seitigen Bedrohungsbericht, der detailliert darlegt, wie Gegner die Claude-KI-Modelle des Unternehmens über einen Zeitraum von acht Monaten für Drohnenkriegsführung, biologische Waffen, Cyberspionage, Überwachung und Betrug ausnutzten. Diese Erkenntnisse gingen dem Aufruf von CEO Dario…

Altman und Musk unterstützen Amodeis Forderung nach KI-Entwicklungsstopp

Die Führungskräfte der drei prominentesten KI-Unternehmen zeigten am Samstag seltene Einigkeit, als OpenAI-CEO Sam Altman und Elon Musk beide den Aufruf von Anthropic-CEO Dario Amodei unterstützten, das Tempo der Entwicklung von Spitzen-KI angesichts eskalierender Sicherheitsbedenken zu drosseln.