Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
Seguridad de la IA
Anthropic presenta un método para aislar conocimientos peligrosos en modelos de IA
Anthropic y su socio de investigación AE Studio publicaron el miércoles un método para aislar conocimientos peligrosos dentro de los modelos de IA en módulos discretos y extraíbles, un enfoque que podría remodelar la forma en que la industria gestiona…
Google DeepMind publica un plan para defenderse contra agentes de IA rebeldes
Google DeepMind, de Alphabet Inc., publicó el jueves lo que denomina una "Hoja de ruta de control de IA", un marco técnico de 35 páginas que trata a los agentes de IA de la propia empresa no como herramientas de…
OpenAI presenta un método para predecir el comportamiento de la IA antes de su lanzamiento
OpenAI publicó el lunes un nuevo método de seguridad previo al despliegue llamado Simulación de Despliegue, diseñado para predecir cómo se comportarán los modelos de IA en el mundo real antes de que sean lanzados al público.
Anthropic se disculpa por limitar secretamente Claude Fable 5
Anthropic reconoció que "tomó la decisión equivocada" con las restricciones de seguridad en su modelo Claude Fable 5 recién lanzado, revirtiendo una política controvertida que degradaba secretamente el rendimiento de la IA cuando detectaba que los usuarios trabajaban en el…
Los filtros de seguridad de IA en los modelos de Meta y Google son eliminados en minutos, según el FT
Las herramientas de software que eliminan las protecciones de seguridad de los modelos de IA desarrollados por Meta y Google Alphabet Inc. pueden eludir las salvaguardas en cuestión de minutos, según una investigación publicada por el Financial Times el domingo.…