Google traslada su equipo de seguridad de IA fuera de DeepMind

Google Alphabet Inc. ↗ 1.53% trasladará a su equipo de responsabilidad de IA, compuesto por unas 90 personas, fuera de Google DeepMind hacia su división de Asuntos Globales, la cual supervisa el cabildeo y las políticas públicas, según un correo electrónico interno visto por The Wall Street Journal News Corp ↘ 1.33%. El movimiento, efectivo a principios de septiembre, ha generado preocupaciones entre los empleados de que la independencia del equipo y su capacidad para identificar riesgos en modelos de IA de vanguardia se vean disminuidas.wsj

Una reestructuración tras cambios de liderazgo

La reorganización sigue a una sacudida más amplia en DeepMind que vio al cofundador y director ejecutivo Demis Hassabis dejar su cargo para asumir un nuevo rol como presidente. Algunos miembros del equipo de responsabilidad de IA han expresado su preocupación de que el cambio en la estructura de informes afecte negativamente su trabajo, según dos empleados actuales de DeepMind citados por el Journal.moomoo+1

El equipo de ética se ha centrado en evaluar riesgos de IA de vanguardia, incluyendo la evaluación de peligros químicos, biológicos, radiológicos y nucleares durante las pruebas de modelos, así como el examen de los efectos psicológicos de las interacciones de los usuarios con los chatbots de IA. Los empleados temen que reubicar al equipo lejos del grupo de desarrollo del modelo Gemini pueda socavar su capacidad para realizar investigaciones independientes y señalar amenazas emergentes en modelos avanzados.moomoo

Google asegura que el acceso continuará

Google ha sostenido que el equipo mantendrá el acceso a los recursos, la potencia de cómputo y el personal de DeepMind, mientras que otros grupos responsables del comportamiento, la privacidad y la seguridad de los modelos permanecerán dentro de DeepMind. La reestructuración es parte de la integración más amplia de DeepMind en la estructura corporativa de Google, con equipos relacionados de recursos humanos y políticas también siendo reasignados fuera del laboratorio.moomoo

El movimiento se produce en medio de continuos cambios de liderazgo y rotación de talento en DeepMind, lo que plantea preguntas más amplias sobre cómo los principales laboratorios de IA equilibran el rápido desarrollo de modelos potentes con mecanismos de supervisión interna diseñados para detectar daños potenciales antes de su implementación.