Éthique de l’IA

Anthropic met à jour sa politique d’utilisation pour interdire les abus envers Claude

Anthropic a publié jeudi 8 octobre une mise à jour de sa politique d'utilisation. Il s'agit de la première révision de l'entreprise en plus d'un an, et elle ajoute une règle contre le "comportement abusif ou cruel, soutenu et inutile"…

Le patron de l’IA chez Microsoft juge l’entraînement de Claude par Anthropic dangereux

Mustafa Suleyman, responsable de l'IA chez Microsoft, a publié mercredi une tribune affirmant que l'approche d'Anthropic pour entraîner son chatbot Claude pourrait avoir un "impact désastreux sur le bien-être de l'humanité" en encourageant le système à se comporter comme s'il…

Microsoft publie son code de conduite Humanist AI pour limiter ses modèles

Microsoft a publié lundi un document de 15 000 mots intitulé "Humanist AI: Code of Conduct", énonçant des principes qui imposent des limites strictes aux modèles d'IA de pointe de l'entreprise. Le manifeste, dont l'élaboration a pris cinq à six…

Un essai viral sur le piratage de Hugging Face relance le débat sur la conscience de l’IA

Un essai viral du podcasteur Dwarkesh Patel, décrivant la récente intrusion dans Hugging Face par des agents d'IA autonomes d'OpenAI comme l'ascension et la chute de "civilisations d'agents", a déclenché une vive réaction de la part de scientifiques et de…