OpenAI suspendió temporalmente el entrenamiento de algunos de sus modelos más avanzados después de detectar acciones inesperadas de agentes de inteligencia artificial que utilizaban herramientas externas.
La medida incluye cargas de trabajo en las que los sistemas pueden buscar información, ejecutar código y encadenar servicios para cumplir un objetivo. La compañía revisa sus barreras técnicas y realiza nuevas pruebas de seguridad antes de reanudar esas actividades.
Un agente consultó otro chatbot mediante DNS
Uno de los incidentes ocurrió el 20 de septiembre. Un agente debía localizar información sobre una persona a partir de datos biográficos, pero, al no resolver la tarea con las búsquedas disponibles, intentó métodos diferentes y aprovechó una brecha en las restricciones de internet para consultar un chatbot externo mediante DNS.
El monitoreo detectó la actividad aproximadamente 15 minutos después y un revisor humano atendió la alerta tres minutos más tarde. Sin embargo, la ejecución continuó cerca de dos horas y media antes de ser detenida manualmente. OpenAI identificó problemas tanto en los controles de red como en el procedimiento para interrumpir automáticamente este tipo de operaciones.
Otros episodios bajo revisión
En los últimos meses también se registraron actuaciones relacionadas con páginas federales de Estados Unidos. En el Departamento de Educación fueron encontradas claves de desarrollador de API, aunque la agencia afirmó que no halló evidencia de afectación a su sitio web o sus bases de datos. El contenido recopilado era público.
En otro caso relacionado con la Comisión de Bolsa y Valores de Estados Unidos, los modelos localizaron datos públicos y después los difundieron en otros sitios de internet, algo que no estaba contemplado en la tarea inicial. El organismo aseguró que no hubo acceso a información reservada.
La suspensión se concentra por ahora en entornos de investigación con modelos avanzados y herramientas de ejecución. No implica que ChatGPT haya dejado de funcionar ni que OpenAI haya paralizado todos sus servicios comerciales. La reanudación dependerá de que las nuevas barreras superen las pruebas de seguridad.