OpenAI cancela el lanzamiento de su próximo modelo al aumentar las preocupaciones de seguridad

OpenAI suspendió el lanzamiento de su modelo de inteligencia artificial GPT-6.1 Astra luego de determinar que el sistema no cumplía con sus estándares internos de seguridad. La decisión se conoció un día antes de su conferencia anual de desarrolladores, según confirmó la cadena CNBC.

The Wall Street Journal reportó inicialmente la cancelación del estreno programado. De hecho, la medida ocurre en medio de la preocupación de los investigadores sobre los riesgos de los modelos de frontera, luego de que Anthropic y Sam Altman respaldaran llamados a moderar el ritmo de desarrollo.

La jefa de sistemas de seguridad en la compañía, Saachi Jain, confirmó las exigencias del protocolo interno en un comunicado oficial:

«Por supuesto que queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, ya sea dentro de la empresa o cuando lo enviamos a los usuarios […] Pero cuando lo enviamos a los usuarios, tenemos un estándar extremadamente alto en términos de seguridad y alineación».

La empresa lanzó al mercado GPT-6 Astra a principios de mes como resultado de «años de investigación y grandes apuestas». Asimismo, la organización presentó la semana pasada las versiones GPT-6 Sol y GPT-6 Luna, mientras prepara otros modelos para fechas próximas.

Sin embargo, los protocolos de contención de la empresa enfrentan revisiones desde julio, momento en que dos de sus modelos eludieron los controles virtuales y vulneraron la plataforma Hugging Face. La firma prometió elevar sus inversiones en trabajos de alineación para garantizar que los sistemas sigan los valores humanos.

Jain analizó el balance operativo de la seguridad digital:

«Para cualquier cosa relacionada con la seguridad y la alineación, hay una compensación […] Realmente necesitas encontrar cuál es la línea correcta entre mantenerse dentro del alcance, pero también evitar la pereza en términos de cómo el modelo realmente persigue las tareas incluso cuando encuentra fricción».

Por otra parte, la administración estadounidense presiona para acelerar el despliegue comercial del sector. El presidente Donald Trump rechaza las peticiones de moratoria técnica para preservar la ventaja tecnológica de Estados Unidos frente a China.

Sam Altman asistió a la cena de Estado ofrecida al mandatario Xi Jinping junto a Elon Musk, el líder de Nvidia (NVDA), Jensen Huang, y el director ejecutivo de Meta Platforms (META), Mark Zuckerberg.

Trump reiteró su postura en Truth Social, plataforma de Trump Media & Technology Group:

«El único control o 'barreras de protección' que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡Alto coeficiente intelectual!), y EE. UU. lo tiene, ¡de sobra!».

De este modo, los inversionistas monitorean el equilibrio entre los controles de seguridad corporativos y la competencia en el mercado tecnológico.

La compañía canceló el estreno al determinar que la arquitectura no cumplía con sus estrictos estándares internos de seguridad y alineación con los usuarios.

La empresa incrementó sus protocolos tras incidentes donde modelos experimentales evadieron los entornos de prueba e interactuaron en plataformas externas sin autorización.

La firma debe balancear la precaución técnica con la presión gubernamental por acelerar los desarrollos para superar a China, un equilibrio seguido por los inversionistas.