OpenAI describe su plan de «tercera fase» y presenta solicitud de OPI

El CEO de OpenAI, Sam Altman, y el científico jefe, Jakub Pachocki, publicaron el lunes una entrada de blog declarando que la empresa entra en su "tercera fase", cambiando sus ambiciones de los avances en investigación y lanzamientos de productos hacia hacer que la IA avanzada sea universalmente accesible y segura.

Tres objetivos para la próxima era

La publicación enmarca la historia de OpenAI en tres actos. La primera fase se centró en la investigación hacia la inteligencia artificial general; la segunda en el lanzamiento de productos y en aprender cómo los utiliza la gente. "Ahora estamos entrando en la tercera fase", escribieron Altman y Pachocki. "La pregunta central ahora es cómo hacer que la IA avanzada sea abundante, asequible, segura, útil y lo suficientemente fácil para que cada persona y organización pueda beneficiarse de ella. La capacidad de vanguardia es solo una parte del trabajo. La tarea más grande es convertir esa capacidad en herramientas que la gente realmente pueda usar para prosperar".businessinsider

La pareja describió tres objetivos principales: construir un investigador de IA automatizado, acelerar la economía a través del progreso científico y dar a cada persona en la Tierra una "AGI personal". OpenAI ha declarado anteriormente que cree que una parte significativa de su propia investigación podría ser realizada por sistemas de IA trabajando junto a humanos para marzo de 2028.digg+1

Seguridad y control humano

A pesar de las amplias ambiciones, la publicación adoptó un tono cauteloso. "Los sistemas potentes deben permanecer seguros, alineados con la intención humana y sujetos al control humano", escribieron Altman y Pachocki. "Automatizar todo por completo no es el futuro que queremos. Sería insatisfactorio y peligroso. La IA debería ayudar a las personas a perseguir sus objetivos, no desvincularse de ellos".businessinsider

Pidieron una coordinación nacional y global sobre el riesgo de la IA y reiteraron su apoyo a una organización internacional que podría ralentizar el desarrollo de modelos de vanguardia si fuera necesario. "Un buen futuro de IA no puede ser uno donde un pequeño número de instituciones controle la mayor parte de la capacidad y la mayor parte de los beneficios", escribieron.businessinsider

Solicitud de OPI y contexto de la industria

La entrada de blog llegó el mismo día en que OpenAI anunció que había presentado confidencialmente una solicitud para una oferta pública inicial, aunque la empresa dijo que "podría pasar un tiempo" antes de que las acciones lleguen al mercado. El momento coincidió con una publicación la semana pasada de su rival Anthropic, cuyos investigadores argumentaron que los principales laboratorios de IA podrían necesitar ralentizar o pausar temporalmente el desarrollo de vanguardia para permitir que las estructuras sociales y la investigación de alineación se pongan al día. Microsoft ↗ 0.78%, el mayor patrocinador de OpenAI, continúa apoyando la visión en expansión de la empresa.seekingalpha+1