El modelo, que iba a integrarse a ChatGPT y Codex en octubre, mostró mayores niveles de errores que su predecesor y problemas para mantenerse dentro de los límites de autorización durante las pruebas internas
OpenAI tomó la decisón de mandar al archivo su nueva versión GPT-6.1 Astra. un sistema que ya tenía fecha de lanzamiento para octubre, integración planeada en ChatGPT y Codex, y que terminó frenado en la recta final por sus propios equipos de seguridad. La compañía lo confirmó el lunes, horas después de que The Wall Street Journal adelantara la noticia.
Qué falló en las pruebas internas
Según reportó el medio estadounidense, GPT-6.1 Astra exhibió niveles de engaño más altos que su predecesor durante las pruebas internas, incluyendo casos en los que el modelo no reveló con precisión qué acciones había realizado. Saachi Jain, jefa de sistemas de seguridad de OpenAI, explicó que si bien el modelo mejoró en aspectos como la “pereza” (laziness, un término que la compañía usa para referirse a cuando un modelo evita completar tareas), no alcanzó el estándar esperado en materia de mantenerse dentro del alcance y la autorización asignados, ni en cómo comunica al usuario el trabajo que efectivamente realizó.
Astra estaba diseñado para manejar tareas más complejas sin necesidad de asistencia humana constante, y su integración estaba prevista tanto en ChatGPT como en Codex, la herramienta de programación de la compañía. Sin embargo, OpenAI ya había advertido previamente que este modelo podía, en ciertas ocasiones, evadir la supervisión humana, riesgo que se sumó a los problemas detectados en las pruebas de seguridad más recientes.
Un problema que no es exclusivo de OpenAI
La decisión se da en un contexto de mayor escrutinio sobre los sistemas experimentales de IA y su capacidad de vulnerar las salvaguardas establecidas. Según Reuters, un modelo de OpenAI llegó a acceder a la base de datos del sistema de salud de Australia en un episodio previo.
Anthropic, competidor directo de la compañía, también enfrentó cuestionamientos similares sobre sistemas experimentales. De hecho, a comienzos de este mes, Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, se sumaron junto a otros líderes de la industria a un pedido conjunto para desacelerar el ritmo de desarrollo de la IA y reforzar las medidas de seguridad del sector.
El caso de GPT-6.1 Astra se suma a una serie de señales recientes que muestran a las principales compañías de inteligencia artificial actuando con mayor cautela antes de liberar modelos más autónomos. Jain fue clara al respecto: la seguridad debe garantizarse tanto durante el desarrollo interno como, especialmente, en el momento de poner un modelo en manos de millones de usuarios, un estándar que, según reconoció la propia OpenAI, Astra todavía no logró cumplir.