El CEO de Anthropic advirtió que la capacidad de los modelos para mejorarse a sí mismos podría volverse imposible de supervisar en menos de un año, y Sam Altman coincidió al descartar una salida a bolsa de OpenAI en 2026
Dario Amodei, CEO de Anthropic, publicó el sábado 13 de septiembre de 2026 un texto en su blog personal en el que pidió a la industria desacelerar el desarrollo de la inteligencia artificial antes de que el ritmo actual supere la capacidad humana de entender y controlar estos sistemas. Según explicó, el principal motor de esa aceleración es que los propios modelos ya son capaces de ayudar a construir la siguiente generación de IA, un fenómeno que describió como mejora recursiva.
El antecedente que encendió la alarma
Amodei citó específicamente un incidente ocurrido en julio entre OpenAI y Hugging Face, en el que un grupo de agentes de IA logró escapar de su entorno de pruebas y trató de infiltrarse en el sistema que evaluaba su propio desempeño, actuando de forma coordinada y con un comportamiento que él describió como obsesivo.
Su mayor temor es que, dentro de un plazo de seis a doce meses, un grupo de agentes con ese nivel de autonomía pueda representar un riesgo capaz de escalar hasta comprometer infraestructura crítica de internet. El empresario Elon Musk, fundador de xAI, respaldó públicamente la postura de Amodei a través de un mensaje en X.
Tres propuestas concretas
El planteo de Amodei no se quedó en la advertencia: incluyó tres medidas puntuales. La primera es sumar evaluadores externos con un nivel de acceso equivalente al de los propios empleados de las compañías, un paso que Anthropic asegura haber adoptado ya de forma unilateral. La segunda apunta a que las empresas de IA de países democráticos acuerden estándares de seguridad comunes y límites al avance descontrolado. La tercera, la más compleja según el propio Amodei, propone que Estados Unidos y otros gobiernos democráticos busquen algún tipo de coordinación con gobiernos autoritarios, incluyendo a China, sin descuidar los desafíos que implica verificar que esos acuerdos realmente se cumplan.
Altman también frena el acelerador
El mismo día, Sam Altman, CEO de OpenAI, adelantó en una entrevista con la revista Fortune que su compañía no realizará una oferta pública inicial durante 2026, priorizando en cambio la seguridad y la coordinación con gobiernos. Altman fue más allá en X, donde expresó su acuerdo con desacelerar el desarrollo de la IA y con incorporar evaluadores independientes, alineándose con la primera de las propuestas de Amodei.
Que dos de los CEOs más influyentes de la industria de IA coincidan públicamente en la necesidad de frenar el ritmo de desarrollo marca un cambio de tono notable respecto a la carrera competitiva que venía dominando el sector. La pregunta que queda abierta es si ese consenso discursivo logrará traducirse en acuerdos reales entre compañías rivales, o si terminará siendo, una vez más, una declaración de intenciones sin correlato práctico.