Matemáticos califican de incomprensible la demostración generada por la IA de OpenAI

OpenAI anunció el lunes 21 de septiembre que colaborará con un Grupo Asesor independiente sobre Matemáticas e Inteligencia Artificial, alojado en el Institute for Advanced Study de Princeton, tras semanas de críticas por una demostración generada por IA sobre el problema del milenio de Navier-Stokes, la cual resultó ser en gran medida ilegible.openai+1

Una demostración que nadie puede leer

A principios de este mes, OpenAI reveló que 10,000 agentes de IA trabajaron durante 88 horas para producir una demostración de 166 páginas, la cual sugiere que los fluidos descritos por las ecuaciones de Navier-Stokes pueden desarrollar una singularidad en tiempo finito. Si se verifica, este resultado resolvería uno de los seis problemas del milenio pendientes planteados por el Clay Mathematics Institute. Los matemáticos aceptan la demostración como técnicamente correcta, en parte porque fue validada mediante el lenguaje de programación Lean, pero la comprensión humana del resultado sigue siendo esquiva.openai+2

"Hasta ahora ha sido muy difícil extraer una comprensión humana real de esta nueva demostración de la IA", declaró a NPR James Maynard, matemático de la Universidad de Oxford. "El documento no está escrito para humanos", coincidió Javier Gómez-Serrano, matemático de la Universidad de Brown, quien señaló que la demostración podría ayudar al campo tras "una seria reescritura", pero que "a día de hoy, el documento no nos enseña mucho".nprillinois

El anuncio también provocó una disputa por la autoría. El matemático de la NYU, Tristan Buckmaster, acusó a OpenAI de basarse en su investigación inédita sin darle crédito, alegando que la empresa le ofreció incluirlo como autor solo si excluía a su colaborador, Levent Alpöge, quien trabaja en Anthropic. OpenAI negó haber utilizado el trabajo de Buckmaster, pero admitió que "no puede descartar que datos desidentificados derivados del uso de sus productos ayudaran a mejorar sus modelos".futurism+2

Un panel asesor de élite

El nuevo grupo de nueve miembros incluye a varios ganadores de la Medalla Fields y académicos de Stanford, Harvard, Oxford, Cambridge y otras instituciones de prestigio. Los miembros no recibirán remuneración de OpenAI y podrán comentar públicamente sobre el impacto de la empresa en las matemáticas, ofrecer consejos no solicitados y controlar su propia membresía.theverge+2

"Su valor depende de que sus miembros puedan ejercer su propio juicio y desafiar el nuestro", afirmó OpenAI en una entrada de blog. Sin embargo, la empresa dejó claro que el grupo "no será responsable de asesorarnos sobre cómo marcar el ritmo de nuestro progreso interno en matemáticas".techcrunch+1

Algunos matemáticos cuestionaron si el panel puede representar realmente a la comunidad en general. "Se siente como una torre de marfil", dijo Francesco Fournier-Facio, profesor entrante en la Universidad Heriot-Watt. Simon Machado, investigador de la ETH de Zúrich, calificó la formación del panel como "envuelta en misterio" y cuestionó cómo se seleccionó a sus miembros.theverge

¿Qué sigue?

El desafío más inmediato del grupo podría ser el mayor. Junto con el anuncio del panel asesor, OpenAI reveló que el mismo modelo no publicado ha "resuelto más de 100 problemas matemáticos abiertos desde hace mucho tiempo en la mayoría de las áreas de las matemáticas". El panel indicó que coordinar la publicación de esos resultados es su primera prioridad.indiatoday+2

Martin Hairer, miembro del panel y ganador de la Medalla Fields, escribió en un blog que el grupo se formó porque las empresas de IA han estado "produciendo algunos resultados matemáticos de alto perfil" cuya "publicación y difusión ha estado muy lejos de las prácticas matemáticas aceptables". No obstante, advirtió que los miembros "serían muy ingenuos si creyeran que los laboratorios de IA no intentarán manipular lo que digamos para que se ajuste a su maquinaria de relaciones públicas".theverge