Hinton califica de razonable una probabilidad del 10% de que la IA extinga a la humanidad

El científico informático y premio Nobel Geoffrey Hinton declaró el martes a BBC Newsnight que una probabilidad del 10% de que la inteligencia artificial acabe con todos los humanos en la próxima década "no parece una estimación irrazonable", un comentario que dejó visiblemente atónita a la presentadora Victoria Derbyshire.ndtvprofit+1

"Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros. No sabemos qué va a pasar", dijo Hinton cuando Derbyshire le preguntó si la cifra era creíble. "Un 10% de probabilidad no me parece una estimación irrazonable. Pero nadie sabe realmente cómo dar una estimación sensata". Cuando Derbyshire repitió sus palabras, Hinton respondió con una sola palabra: "Sí". Su reacción — "Vaya… oh, Dios mío" — circuló rápidamente por internet.ndtv+1

Cómo la IA podría causar devastación

Hinton, quien ganó el Premio Nobel de Física 2024 por su trabajo en aprendizaje automático, dijo que la IA avanzada no necesitaría control físico del mundo para representar una amenaza existencial. "Podría causar un caos total simplemente hablando con la gente", afirmó. "Pero también sería capaz de diseñar virus muy desagradables, tanto biológicos como informáticos. Podría realizar ciberataques devastadores". Añadió que sería "muy insensato" asumir que el riesgo es tan bajo como el 1%.ndtvprofit+1

Stuart Russell, profesor de la UC Berkeley, se hizo eco de esas preocupaciones y dijo a Business Insider que la IA o los actores habilitados por IA podrían atacar infraestructuras críticas, incluyendo sistemas eléctricos, de agua, transporte y financieros.businessinsider

Las renuncias en Anthropic que encendieron el debate

La entrevista de Hinton siguió a una cadena de eventos que comenzó el 8 de septiembre, cuando Jacob Coxon, ex investigador de preentrenamiento tanto en OpenAI como en Anthropic, renunció públicamente. "Ninguna de las dos empresas está actuando de manera responsable", escribió Coxon en X. "Están corriendo directamente hacia una superinteligencia que se automejora y apostando con nuestras vidas".ibtimes+1

El jefe de ciencia de alineación de Anthropic, Evan Hubinger, respondió públicamente que Coxon tenía "razón" y que él personalmente cree que hay más de un 10% de probabilidad de que la IA pueda matar a todos los humanos en una década. "Todavía no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente en camino de lograrlo", escribió Hubinger.businessinsider+1

Una profunda división entre los expertos

No todos los investigadores comparten la alarma. Gary Marcus, investigador de IA, dijo a Business Insider que ve los ciberataques, las armas biológicas y la desinformación como riesgos graves, pero no considera que la extinción sea un resultado realista a corto plazo. "Hay daños muy graves de los que preocuparse, pero no conozco ningún escenario realista para 'matar a todos los humanos'", dijo. Yann LeCun, de Meta ↗ 12.49%, ha descartado anteriormente tales estimaciones de probabilidad como meras intuiciones, una caracterización que el propio Hinton ha aceptado en parte, diciendo a CNN que "cualquiera que estime probabilidades así, en realidad solo está haciendo una suposición descabellada".businessinsider+1

El presentador de ITV, Robert Peston, añadió su voz al debate escribiendo en X: "Me sorprende un poco que no haya atraído más atención, incluso desde dentro del gobierno".ladbible