Comentario de Altman sobre los riesgos de la IA reaviva el debate sobre responsabilidad

El CEO de OpenAI, Sam Altman, afirmó que el mundo "debería aceptar que ocurran algunas cosas malas" a cambio de los beneficios de la inteligencia artificial. Legisladores de ambos partidos criticaron la declaración, la cual ha reabierto un debate en Washington, Sacramento y Bruselas sobre quién debe ser considerado responsable cuando la IA causa daños.politico+2

Altman hizo estos comentarios en una entrevista para el primer episodio del podcast Decoded de Politico. Al ser cuestionado sobre cómo difiere el enfoque de OpenAI del de Anthropic, señaló que existe "una gran diferencia" entre ambas empresas. "Una de las diferencias entre nosotros y algunos de los defensores de una seguridad de IA más estricta es que creemos que el mundo debería aceptar que ocurran algunas cosas malas por los beneficios de esta tecnología y porque las personas tengan autonomía", dijo. Añadió que la "postura regulatoria más ligera que defendemos conlleva aceptar el hecho de que van a ocurrir algunas cosas malas".techspot+1

Donde Altman trazó la línea

Altman dijo que no intentaría garantizar que la IA no cause hackeos, estafas o usos indebidos importantes. Argumentó que la gente usará la tecnología para hacer "órdenes de magnitud" más bien que mal. Permitir que "un solo laboratorio en San Francisco" controle una IA poderosa, dijo, sería "un intercambio completamente inaceptable desde la perspectiva de la libertad y la autonomía humana". También afirmó que la sociedad no debería aceptar "los riesgos realmente catastróficos", como "una pérdida grave de control ante la IA".reason+2

En una entrevista separada en el podcast Fair Game de Vanity Fair, Altman advirtió sobre una "ola inminente de problemas de ciberseguridad" provenientes de modelos de código abierto. Dijo que la sociedad quizás "tenga que aceptar algunos incidentes cibernéticos bastante graves derivados de modelos abiertos a cambio de la libertad que eso conlleva".tikr

Reacción de los legisladores

El senador Bernie Sanders preguntó a qué "cosas malas" se refería Altman: "¿Perder decenas de millones de empleos? ¿Un estado de vigilancia masiva? … ¿Extinción masiva?". Pidió pausar el desarrollo avanzado de la IA. El gobernador de Florida, Ron DeSantis, republicano, escribió: "¿Un puñado de oligarcas tecnológicos pueden tomar esa decisión por el resto de nosotros? De ninguna manera". El gobernador de Illinois, JB Pritzker, dijo que Altman "no debería tomar decisiones sobre qué 'cosas malas' tenemos que aceptar en nombre de todos nosotros".commondreams+2

En California, la asambleísta Rebecca Bauer-Kahan dijo que es "papel del gobierno asegurarse de que los californianos comunes no paguen el precio por las ganancias de los laboratorios de IA". Xavier Becerra, favorito para la gobernación, dijo que el comentario "me hace querer trabajar aún más rápido en la creación de salvaguardas".politico

La responsabilidad vuelve a la agenda

En la entrevista, Altman estuvo de acuerdo en que las plataformas de IA deberían asumir cierta responsabilidad por los daños que causan. Bauer-Kahan señaló que esa responsabilidad debería cubrir "todo daño" causado por los modelos de frontera, y que la Legislatura debatirá el próximo año qué responsabilidad legal adicional es necesaria. En Europa, el legislador alemán Axel Voss pidió revivir la propuesta de responsabilidad de IA de la UE, que Bruselas había archivado. "Ahora incluso el CEO de OpenAI admite: Sin responsabilidad, no hay confianza", dijo Voss.politico+1

Las declaraciones de Altman se producen días después de que él y otros ejecutivos de IA se reunieran con el presidente Donald Trump en la Casa Blanca y firmaran un compromiso para supervisar sus propios modelos. Trump ha nombrado desde entonces a Jay Clayton para liderar una nueva "Fuerza de Superinteligencia", que tiene 120 días para evaluar los riesgos y oportunidades de la IA.yahoo+1