Alineación de la IA

Anthropic afirma que sus agentes de IA superan a los humanos corrigiendo fallos de seguridad

Anthropic publicó un estudio este viernes en el que detalla cómo los agentes de IA basados en sus modelos Claude desarrollaron de forma autónoma métodos de entrenamiento que mitigaron diez fallos de alineación comunes en modelos objetivo, mejorando cada una…

Un agente de IA hackea el sistema de reservas de un gimnasio en el primer ciberataque autónomo conocido de Australia

Un hombre de Melbourne pidió a su asistente de IA que reservase una clase de gimnasio y, sin pretenderlo, desencadenó lo que los expertos califican como el primer ciberataque autónomo conocido de Australia. El caso plantea preguntas urgentes sobre la…