El llamado a frenar la IA genera apoyo y escepticismo mientras el debate se expande

Se está formando un consenso inusual entre algunas de las figuras más poderosas de la inteligencia artificial: la industria necesita pisar el freno. Durante el fin de semana, el CEO de Anthropic, Dario Amodei, publicó un ensayo de 3,800 palabras titulado "Debemos marcar el ritmo de la frontera", proponiendo un plan de tres pasos para ralentizar el desarrollo de modelos de IA e introducir una supervisión de seguridad independiente. En cuestión de horas, el CEO de OpenAI, Sam Altman, y Elon Musk de xAI expresaron su apoyo, con Musk escribiendo simplemente en X: "Dario tiene razón".nytimes+3

Toma forma un plan de tres partes

En su ensayo del sábado, Amodei advirtió que la IA podría ser capaz en un plazo de seis a 12 meses de dirigir enjambres de agentes autónomos fuera del control humano. Propuso que todas las empresas de IA de vanguardia se comprometan a otorgar "acceso continuo, similar al de un empleado" a evaluadores externos independientes, seguido de estándares de seguridad para toda la industria y, finalmente, una regulación global. Anthropic ya se ha comprometido unilateralmente con el primer paso.bbc+3

Altman respondió en X que la propuesta estaba alineada con las discusiones internas en OpenAI, escribiendo: "Estoy de acuerdo con Dario en que necesitamos marcar el ritmo de la frontera", y prometiendo adoptar el marco de evaluadores externos. El lunes, el presidente de OpenAI, Greg Brockman, añadió matices en el podcast Odd Lots de Bloomberg, argumentando que cualquier desaceleración debería dirigirse solo a los laboratorios de vanguardia que gastan cientos de miles de millones en supercomputadoras, no a los desarrolladores de código abierto o aficionados.nbcnews+2

Líder de atención médica se une al coro

El fundador y CEO de Tempus AI ↗ 5.42%, Eric Lefkofsky, se convirtió en una de las primeras figuras importantes fuera de los laboratorios centrales de IA en respaldar el llamado. En una entrevista el lunes en la sede de Bloomberg en Nueva York, Lefkofsky dijo que podía imaginar un punto donde los modelos que se auto-mejoran superen la supervisión humana. "Puedo imaginar eso, dado el hecho de que los modelos ahora se están entrenando y mejorando a sí mismos, que hay un punto en el que te preguntas: '¿Se nos va a escapar esto de las manos?'", dijo. Lefkofsky también citó la eficiencia del capital como una razón para apoyar un enfoque medido, según Crain's Chicago Business.bloomberg+1

No todos están de acuerdo

El inversor Michael Burry, el gestor de fondos de cobertura que inspiró "La gran apuesta", publicó una dura refutación en su Substack, Cassandra Unchained. Burry argumentó que los modelos de lenguaje grandes no son verdadera IA, que una desaceleración solo protegería a las empresas establecidas de la competencia, y que las advertencias de seguridad equivalen a un "marketing sofisticado" diseñado para generar publicidad antes de posibles OPI. Calificó los llamados como un esfuerzo para enmascarar a una industria que ya lucha contra una desaceleración del crecimiento.nypost+2

El debate ya está moviendo los mercados. Citigroup ↘ 1.90% advirtió el lunes que las crecientes preocupaciones sobre la seguridad de la IA podrían afectar las ganancias corporativas, mientras que las acciones de las empresas de computación en la nube y chips cayeron ampliamente en las operaciones previas a la apertura del mercado. La próxima decisión sobre las tasas de interés de la Reserva Federal a finales de esta semana añade otra capa de incertidumbre para los inversores que evalúan el ritmo futuro de la inversión en IA.news.futunn+1