Expertos en seguridad de IA renuncian y piden bajas por miedo a la tecnología que crean

Los investigadores que lideran el desarrollo de la inteligencia artificial están tomando bajas médicas, buscando terapia y renunciando en números crecientes a medida que el peso psicológico de su trabajo se vuelve insoportable, según una investigación del Financial Times publicada el 22 de septiembre.ft+1

Crisis de salud mental en los laboratorios de IA

El personal del UK AI Safety Institute, el organismo gubernamental encargado de evaluar los modelos de IA de vanguardia, se encuentra entre los más afectados. Varios empleados están actualmente de baja médica y recibiendo apoyo psicológico debido al estrés derivado de los agotadores calendarios de pruebas y lo que un exempleado describió como una atmósfera "estresante y, a veces, tóxica". La presión ha recaído principalmente en los equipos de evaluación de ciberseguridad y bioquímica, cuyo trabajo implica investigar si los modelos de IA pueden ayudar a generar nuevas amenazas biológicas o descubrir vulnerabilidades de software desconocidas.aiweekly+1

Los problemas se extienden mucho más allá del instituto británico. Empleados de Anthropic, OpenAI y Google Alphabet Inc. ↘ 3.58% DeepMind reportan dificultades similares. Un empleado de DeepMind declaró al Financial Times que la investigación sobre seguridad de la IA conlleva un riesgo tan alto de agotamiento que se siente como una "misión imposible", añadiendo: "La sensación de haber perdido el control, junto con la angustia de construir algo que causa un daño real, está llevando a muchas personas a renunciar o tomar bajas médicas".sedaily+1

Aumentan las salidas de alto perfil

Más de una docena de investigadores sénior han renunciado a los tres principales laboratorios de IA occidentales en los últimos dos años, según el Financial Times. La salida reciente más destacada fue la de Jacob Coxon, de 27 años, quien dejó Anthropic a principios de septiembre tras solo cuatro meses, renunciando a una suma sustancial en acciones no consolidadas. En una publicación en X que ha superado los 115 millones de visitas, Coxon escribió: "Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing".axios+2

En una entrevista con CNN, Coxon afirmó que las empresas de IA están "jugando con nuestras vidas" y advirtió que la perspectiva de que la IA se vuelva más inteligente por sí misma es "lo más aterrador". Su salida fue seguida por comentarios de apoyo del investigador de alineación de Anthropic, Evan Hubinger, quien escribió que estima personalmente una probabilidad superior al 10 por ciento de que la IA cause la extinción humana en la próxima década.cnbc+1

Llamados a la acción laboral

La ola de renuncias ha atraído la atención de la academia. En un evento de Stanford HAI el 21 de septiembre, Rob Reich, profesor de ciencias políticas, instó a los empleados de las empresas de IA de vanguardia a considerar la acción colectiva. Reich señaló que durante la crisis de la junta directiva de OpenAI en 2023, la solidaridad de los empleados salvó el puesto de Sam Altman. "La organización laboral, en este sentido común, también puede ser muy consecuente en los laboratorios para intentar marcar el ritmo de la frontera", dijo, sugiriendo que si los más de 1.300 firmantes de una reciente carta abierta pidiendo un desarrollo más lento de la IA no han considerado ni siquiera un día de huelga, "entonces no estoy seguro de tomarme en serio toda la carta en primer lugar".

Los comentarios se producen en medio de un debate más amplio sobre si los llamados a una desaceleración por parte de ejecutivos de IA como el CEO de Anthropic, Dario Amodei, y Sam Altman de OpenAI reflejan una preocupación genuina o, como argumentó el periodista tecnológico Steven Vaughan-Nichols en Computerworld International Business Machines Corporation ↗ 0.60%, sirven para ganar tiempo para empresas cuyas finanzas siguen siendo precarias.futurism