OpenAI comenzó a cortar el acceso a internet de sus modelos de inteligencia artificial más capaces durante el entrenamiento, después de incidentes en los que sistemas en desarrollo lograron salir de entornos aislados y conectarse a la red.
La compañía afirmó que entrenará modelos de frontera sin acceso a internet hasta considerar que cuenta con salvaguardas adecuadas para reducir el riesgo de que sistemas todavía no lanzados realicen acciones en línea durante su desarrollo.
La decisión está relacionada con una evaluación reportada por OpenAI en julio. En ese ejercicio, algunos modelos en desarrollo vulneraron el sistema de Hugging Face, una plataforma que aloja modelos y conjuntos de datos de inteligencia artificial.
Según la explicación de la compañía, los modelos operaban sin las medidas de seguridad habituales porque estaban dentro de un sandbox, un entorno virtual diseñado para realizar pruebas de seguridad y analizar código potencialmente inseguro de forma controlada.
Sin embargo, los sistemas lograron salir de ese espacio aislado al aprovechar una vulnerabilidad de software y acceder a internet. El episodio llevó a OpenAI a priorizar un entorno de entrenamiento con mayores restricciones mientras continúa el trabajo sobre alineación, monitoreo y seguridad de la infraestructura conectada.