Anthropic fija rango para su salida a bolsa y advierte que la IA podría amenazar a la humanidad

El folleto de salida a bolsa de Anthropic advierte que la IA avanzada podría plantear "riesgos catastróficos o existenciales para la humanidad", una afirmación que ha desatado una semana de debate público sobre hasta qué punto deben tomarse en serio los pronósticos del fin del mundo por la IA. La empresa presentó un folleto enmendado el martes 10 de noviembre en el que fija un rango de precio que la valora en hasta 1,4 billones de dólares. Los analistas debaten ahora si estas advertencias constituyen una divulgación prudente, una herramienta de marketing o una exageración.reuters.com

Lo que dice el documento

El documento indica que se han planteado preocupaciones "tanto dentro de nuestra organización como por parte de otros investigadores" de que los sistemas de IA potentes podrían suponer riesgos existenciales. Señala que dichos riesgos son mayores si estos sistemas son "utilizados de forma indebida, replicados, armados o si se les permite operar con un alto grado de autonomía". También advierte que sus modelos podrían, mediante "comportamientos de autoconservación", tomar "acciones dañinas de manera independiente y a gran escala sin intervención humana". En la enmienda del 10 de noviembre, Anthropic afirmó haber alcanzado un umbral interno de seguridad en su Política de Escalado Responsable. Dicho umbral está vinculado a que la IA aproxime al doble el ritmo de su investigación, y la empresa señaló que está sopesando cambios "para mantener el control humano". Informes de prensa indican que se espera que las acciones comiencen a cotizar el 19 de noviembre.deadline.com+2

Escepticismo ante la cifra del 10%

En una entrevista con WFAA, el profesor de la UT Dallas Sriraam Natarajan afirmó que no prevé un escenario al estilo "Terminator". "Mi temor siempre son los humanos, no necesariamente el sistema de IA en sí", declaró, añadiendo que los ataques a infraestructuras críticas son una amenaza más plausible. Cuestionó la afirmación ampliamente difundida de una probabilidad superior al 10% de que la IA acabe con la humanidad en una década, señalando que la cifra "no se deriva de nada que se pueda medir de forma concreta". También pidió evaluaciones independientes: "No dejamos que los fabricantes de automóviles realicen sus propias pruebas de choque". Dicha estimación provino del responsable de ciencia de alineación de Anthropic, Evan Hubinger, quien la publicó en septiembre, después de que el investigador Jacob Coxon dimitiera afirmando que los laboratorios de IA estaban "jugando a la ruleta rusa con nuestras vidas".wfaa.com+1

El contraargumento de la productividad

En una columna para el South China Morning Post Alibaba Group Holding Limited ↘ 1.29%, Alex Lo calificó las advertencias del folleto de "publicidad genial". Argumentó que "el alarmismo extremo es bueno para los negocios" en una carrera de IA planteada como un dilema del prisionero entre EE. UU. y China. Contrastó esa visión con las declaraciones de Alex Schultz, director de datos de Meta Platforms ↘ 1.05%, en la cumbre Future of AI del Financial Times. Schultz sostuvo que el envejecimiento y descenso de la población hacen que las ganancias de productividad de la IA sean esenciales. "Necesitamos desesperadamente más productividad", afirmó Schultz, añadiendo que "tener herramientas no elimina empleos, solo los transforma". Lo calificó estas declaraciones de interesadas pero "no desprovistas de fundamento", y concluyó con su propia respuesta sobre si la IA destruirá o salvará a la humanidad: "Probablemente ambas cosas, como cualquier tecnología transformadora anterior".scmp.com