Empleados de OpenAI alertaron sobre fallos de seguridad durante años

Según un informe de Reuters publicado el 3 de noviembre, los empleados de OpenAI habían estado planteando preocupaciones sobre la seguridad interna de la empresa desde antes del lanzamiento de ChatGPT a finales de 2022. Reuters citó a cinco personas familiarizadas con el asunto. Algunos de esos trabajadores llevaron sus inquietudes a los altos directivos y a la junta. Varios terminaron convencidos de que a la dirección le importaba más seguir el ritmo de Google y Anthropic que proteger la tecnología de la empresa. Cuando OpenAI reveló en octubre que había encontrado un dispositivo de grabación colocado en una sala de conferencias ejecutiva, varios ex empleados dijeron que no les sorprendiórmb.reuters.com.

El informe aumenta la presión sobre OpenAI y Anthropic. Ambas empresas están bajo un creciente escrutinio sobre qué tan bien protegen una tecnología que los funcionarios estadounidenses ahora tratan como un activo estratégico. Las medidas de seguridad adicionales también podrían ralentizar la investigación y complicar los planes de ambas empresas para grandes ofertas públicas, informó Reutersca.finance.yahoo.com.

Código abierto y herramientas sin probar

Las fuentes dijeron a Reuters que OpenAI mantenía la mayor parte de su código en un único "monorepo". Eso significaba que cualquiera que pudiera acceder a él podía ver detalles de proyectos confidenciales ajenos a su propio trabajo. Tres personas también dijeron que las herramientas internas, incluidos los entornos de prueba utilizados para someter a los modelos a pruebas de estrés, no recibían revisiones de seguridad periódicas. OpenAI respondió que su trabajo más confidencial se encuentra en repositorios separados con estrictos controles de acceso. Dijo que el monorepo no contiene pesos de modelos y que ahora revisa las herramientas internas con regularidadca.finance.yahoo.com.

Thibault Sottiaux, un ejecutivo senior de producto, se ha hecho cargo de un esfuerzo para asegurar los sistemas internos. En agosto, trasladó a una cuarta parte de los ingenieros de producción de OpenAI a la infraestructura de seguridad, dijo una fuente. La portavoz Elana Widmann calificó a OpenAI como "una de las organizaciones más atacadas del mundo". Dijo que las acciones recientes demuestran que su programa de seguridad está "identificando riesgos y respondiendo con determinación". Después de que Reuters solicitara comentarios, OpenAI anunció en una publicación de blog el 2 de noviembre que está planeando su "próximo sprint de seguridad interna".

El caso de la grabación y las intrusiones externas

El 13 de octubre, el Departamento de Justicia dijo que agentes federales habían arrestado a Abdulrahman Alfozan, un ingeniero de OpenAI de 35 años de nacionalidad saudí. Está acusado de esconder un dispositivo de grabación de audio, envuelto en papel higiénico, en una sala de conferencias ejecutiva. Los fiscales alegan que utilizó una herramienta de IA interna para buscar los viajes de los ejecutivos a Arabia Saudita. Un juez ha ordenado desde entonces que permanezca detenido sin fianza, informó Ground Newsground.news+1.

Por separado, investigadores de Hacktron AI dijeron que utilizaron Claude de Anthropic en julio para encadenar dos vulnerabilidades críticas. Eso les permitió tomar el control de varias cuentas de ChatGPT de empleados de OpenAI y acceder a repositorios internos. OpenAI confirmó el informe y dijo que las fallas han sido parcheadasnbcnews.com+1.

Anthropic ha tenido sus propios problemas. A finales de octubre, una startup llamada Cathedral Systems dijo que había irrumpido en los sistemas de Anthropic y obtenido acceso a canales de Slack donde el personal discutía detalles confidenciales de los modelos. Anthropic dijo que los datos expuestos incluían algunos contactos comerciales de clientes y socios y registros básicos de cuentas de usuarioca.finance.yahoo.com.

Velocidad frente a seguridad

Will DePue es un ex investigador de OpenAI que renunció en abril. Resumió la tensión en una publicación citada por Reuters: los líderes de IA "no pueden sacrificar la velocidad por la seguridad. Para ellos es más importante moverse rápido que estar seguros, incluso frente a nuestros mayores adversarios nacionales".