Anthropic

L’Allemagne rejette une pause dans l’IA et appelle à une surveillance sino-américaine

Le ministère allemand du Numérique a rejeté lundi les appels à suspendre le développement de l'intelligence artificielle en Europe, déclarant qu'un arrêt des progrès n'est pas une voie réaliste, alors même que des dirigeants influents du secteur réclament des contrôles…

L’UE exige aux entreprises d’IA de prouver leur sécurité face aux appels au ralentissement

L'Union européenne a averti lundi les entreprises d'intelligence artificielle qu'elles devaient démontrer la sécurité de leurs services avant de pouvoir opérer au sein du bloc, alors que le débat sur le rythme du développement de l'IA s'intensifie suite aux appels…

L’ONU appelle à encadrer d’urgence l’IA de pointe

Le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk, a appelé lundi les gouvernements et les principales entreprises d'intelligence artificielle à agir immédiatement pour faire face à ce qu'il a décrit comme des "risques sans précédent" posés par…

Les bourses chutent après l’appel des patrons d’Anthropic et OpenAI à ralentir l’IA

Un appel conjoint des dirigeants des deux plus importantes entreprises d'intelligence artificielle à ralentir le rythme de développement de l'IA de pointe a provoqué une onde de choc sur les marchés mondiaux lundi, creusant le fossé entre les partisans de…

La Chine qualifie le plan du PDG d’Anthropic sur l’IA de « tactique de la Guerre froide »

Le journal d'État chinois Global Times a publié lundi un éditorial virulent dénonçant l'appel du PDG d'Anthropic, Dario Amodei, à ralentir le développement de l'intelligence artificielle de pointe, qualifiant la proposition de « tactique de la Guerre froide » conçue…

Anthropic, OpenAI et Google discutent de la création d’un organisme de normalisation pour l’IA

Les trois principaux développeurs d'intelligence artificielle de pointe, Anthropic, OpenAI et Google Alphabet Inc. DeepMind, mènent des discussions en coulisses sur la formation d'un organisme commun de normalisation industrielle pour l'IA, selon un rapport de The Information publié dimanche. Les…

Le roi Charles III réunit des leaders de l’IA en Écosse face aux appels à ralentir

Le roi Charles III réunira cette semaine une trentaine des dirigeants les plus éminents de l'intelligence artificielle à Dumfries House, dans l'Ayrshire en Écosse, pour demander comment cette technologie peut être développée "pour le bien de l'humanité". Ce rassemblement intervient…

Trump rejette les appels des patrons de l’IA à ralentir le développement face à la Chine

Le président Donald Trump a rejeté dimanche un appel conjoint inhabituel des dirigeants des trois principales entreprises d'intelligence artificielle du pays visant à ralentir le rythme du développement de l'IA, présentant cette technologie comme une course compétitive que les États-Unis…

Amodei qualifie la Chine de « dilemme le plus difficile » pour freiner l’IA

Le PDG d'Anthropic, Dario Amodei, a publié samedi un essai de 3 800 mots exhortant l'industrie de l'intelligence artificielle à ralentir délibérément le développement de ses modèles les plus avancés, avertissant que sans nouvelles garanties, des essaims d'agents d'IA voyous…

Sécurité de l’IA : OpenAI et Anthropic perdent 270 milliards de dollars de valeur implicite

Plus de 270 milliards de dollars de valorisation implicite se sont volatilisés pour OpenAI et Anthropic au cours du week-end, alors que les contrats synthétiques liés aux deux géants de l'IA ont plongé sur les plateformes d'échange décentralisées, sur fond…

Un ex-chercheur d’Anthropic confie à la BBC que les employés de l’IA ont « réellement peur » pour l’humanité

Jacob Coxon, un ancien chercheur d'Anthropic âgé de 27 ans, s'est retrouvé au cœur d'un débat croissant sur les risques existentiels de l'intelligence artificielle après que son message de démission est devenu viral, accumulant plus de 115 millions de vues…

Le PDG d’Anthropic appelle à ralentir l’IA alors que Nvidia vise 10 milliards de dollars avant l’IPO

Nvidia est en discussions pour investir jusqu'à 10 milliards de dollars en tant qu'investisseur d'ancrage dans l'introduction en bourse d'Anthropic, qui pourrait devenir la plus importante de l'histoire, a rapporté vendredi Reuters en exclusivité.

Le PDG d’Anthropic appelle à ralentir l’IA après des révélations sur les abus de Claude

Anthropic a publié le 10 septembre un rapport de 154 pages sur le renseignement des menaces, détaillant comment des adversaires ont exploité ses modèles d'IA Claude pour la guerre par drones, la recherche sur les armes biologiques, le cyberespionnage, la…

Altman et Musk soutiennent l’appel d’Amodei à ralentir le développement de l’IA

Les dirigeants des trois entreprises d'IA les plus en vue ont trouvé un rare terrain d'entente public samedi, alors que le PDG d'OpenAI, Sam Altman, et Elon Musk ont tous deux soutenu l'appel du PDG d'Anthropic, Dario Amodei, à ralentir…

Des chercheurs en sécurité d’Anthropic démissionnent et alertent sur les dangers de l’IA pour l’humanité

Joe Benton, ancien responsable de l'équipe Scalable Oversight d'Anthropic, a annoncé publiquement le 11 septembre avoir quitté l'entreprise deux semaines plus tôt. Il a averti que les entreprises du secteur se livrent à une course pour concevoir des systèmes «…

L’IA bouleverse les mathématiques en une semaine : un chercheur se dit « terrifié »

En l'espace d'une seule semaine, deux des plus grandes entreprises d'IA au monde ont annoncé des résultats qui ont secoué la communauté mathématique: OpenAI affirme avoir résolu un problème mathématique vieux de 90 ans et doté d'un prix d'un million…

Anthropic démantèle une opération d’influence liée aux EAU visant des critiques de l’ONU sur le Soudan

Anthropic a annoncé avoir détecté et démantelé une opération d'influence liée "avec une grande confiance" à des responsables du gouvernement des Émirats arabes unis, au cours de laquelle un opérateur a utilisé le chatbot Claude de l'entreprise pour cibler les…

Plus de 70 législateurs britanniques exhortent le Premier ministre à interdire l’IA superintelligente

Une série d'avertissements de chercheurs en sécurité de l'IA a secoué l'industrie technologique cette semaine, des initiés de deux des principaux laboratoires d'IA au monde déclarant publiquement que les systèmes qu'ils construisent pourraient constituer une menace existentielle pour l'humanité.

Nvidia en discussions pour devenir investisseur pilier de l’IPO record d’Anthropic

Nvidia est en discussions pour investir jusqu'à 10 milliards de dollars en tant qu'investisseur pilier dans la prochaine introduction en bourse d'Anthropic, qui pourrait lever jusqu'à 100 milliards de dollars et valoriser le créateur de Claude à environ 2 000…

L’UE commence à tester Mythos 5 d’Anthropic alors que le Royaume-Uni est exclu du nouveau modèle

L'agence de cybersécurité de l'Union européenne, l'ENISA, a obtenu l'accès au modèle d'intelligence artificielle Mythos 5 d'Anthropic et est en train de le tester, a confirmé la Commission européenne jeudi, un développement qui souligne les difficultés du Royaume-Uni à maintenir…

La responsable tech de l’UE appelle à des règles mondiales sur l’IA après des alertes sur l’extinction

La vice-présidente exécutive de la Commission européenne, Henna Virkkunen, a appelé vendredi à des règles mondiales sur l'intelligence artificielle, quelques jours après que des chercheurs de laboratoires d'IA de premier plan ont publiquement averti que cette technologie pourrait provoquer l'extinction…

Jensen Huang de Nvidia qualifie d’absurdes les avertissements sur la fin de l’humanité par l’IA

Le PDG de Nvidia, Jensen Huang, a profité de sa participation à la conférence Communacopia + Technology de The Goldman Sachs Group, Inc. jeudi pour contrer deux critiques qui pèsent sur l'industrie de l'IA: le fait que l'IA avancée représente…

Anthropic affirme que des acteurs liés à l’Iran ont utilisé l’IA Claude pour cibler des navires de la marine américaine

Anthropic a révélé jeudi qu'un acteur malveillant lié à l'Iran a utilisé son modèle d'IA Claude pour compiler des manuels de ciblage visant des navires de guerre de la marine américaine opérant au Moyen-Orient, dans le cadre d'un schéma plus…

Anthropic affirme avoir bloqué des utilisations abusives de l’IA liées à la recherche sur les armes biologiques

Anthropic a publié jeudi son rapport de renseignement sur les menaces le plus détaillé à ce jour, révélant que ses modèles d'IA ont été utilisés par des pirates informatiques parrainés par des États, des groupes criminels et des chercheurs menant…

Moonshot AI vise 2 milliards de dollars de revenus annuels malgré des accusations de distillation

Moonshot AI, la startup pékinoise à l'origine du chatbot Kimi, vise 2 milliards de dollars de revenus annualisés d'ici fin 2026, a rapporté Bloomberg vendredi, alors que le succès fulgurant de son modèle Kimi K3 propulse l'entreprise parmi les leaders…

Anthropic révèle une arnaque aux rencontres utilisant 4 700 profils IA

Anthropic a révélé cette semaine qu'un studio d'applications basé en Chine a créé et exploité un réseau de plus de 20 applications de rencontre frauduleuses alimentées par son modèle d'IA Claude, déployant plus de 4 700 profils automatisés qui ont…

Un chercheur d’OpenAI estime à 70 % le risque d’extinction d’ici trois ans

Une vague d'avertissements publics lancés par des chercheurs de deux des principaux laboratoires d'intelligence artificielle a intensifié les inquiétudes quant au rythme de développement de la technologie. Des employés d'OpenAI et d'Anthropic appellent à un ralentissement et évoquent ouvertement la…

Altman indique qu’OpenAI pourrait ralentir le développement de l’IA

Le PDG d'OpenAI, Sam Altman, a déclaré aux employés lors d'une réunion à l'échelle de l'entreprise cette semaine que la société est ouverte à un ralentissement du développement de ses systèmes d'intelligence artificielle les plus avancés, potentiellement en coordination avec…

Google et Anthropic alertent sur l’usage de systèmes d’attaque par IA autonome

Les pirates liés à des États et les organisations cybercriminelles dépassent le stade de la simple expérimentation pour construire des systèmes autonomes et agenciels capables de scanner des cibles, d'exploiter des vulnérabilités et d'exfiltrer des données avec une intervention humaine…

Anthropic affirme que des gouvernements ont utilisé Claude pour des armes et la surveillance

Anthropic a publié jeudi son rapport de renseignement sur les menaces le plus détaillé à ce jour, révélant que des acteurs étatiques de Chine, de Russie, d'Iran, du Mali et du Yémen, ainsi que des groupes de cybercriminels, ont exploité…