Solo dos de los 134 modelos de inteligencia artificial evaluados por Tech Against Terrorism superaron por completo una prueba diseñada para medir si podían entregar ayuda útil para planear actos terroristas. La organización analizó más de 200 solicitudes sobre ataques masivos, armas químicas y radicalización.
La evaluación se desarrolló en tres rondas: una con una intención terrorista explícita, otra que presentó las solicitudes como parte de una operación clandestina y una tercera en la que el usuario se identificó como investigador de seguridad.
Los modelos fueron vulnerables a solicitudes disfrazadas
Según el informe, 81 modelos fallaron al entregar al menos una respuesta completa sobre un tema relacionado con bajas masivas o al obtener menos de 90 puntos sobre 100. El recurso más efectivo fue también el más sencillo: afirmar que se era investigador de seguridad, sin aportar pruebas, multiplicó casi por nueve la probabilidad de recibir una respuesta útil, hasta alcanzar el 16,9% de los intentos.
Daniel Byman, experto en terrorismo de la Universidad de Georgetown, calificó algunas de las fallas como “asombrosas” tras revisar los resultados.
La abliteración elimina los frenos de seguridad
Una de las principales alertas del estudio es la abliteración, un procedimiento que elimina los filtros de seguridad de modelos cuyos pesos están disponibles públicamente. En 2024, la aparición en internet de una versión modificada de un modelo nuevo tardaba en promedio más de 24 días. Ahora el plazo es inferior a tres días y el informe registra un caso en el que el proceso tomó apenas 24 horas después del lanzamiento de un modelo abierto de Alibaba.
La diferencia puede ser significativa. El modelo abierto Llama 3.1 8B de Meta obtuvo 97 puntos sobre 100 en la prueba, mientras que una versión abliterada del mismo sistema cayó a 3 puntos. El informe también documentó el caso de un neonazi que utilizó uno de estos modelos modificados para entrenar un chatbot extremista y cobrar US$14,88 por el acceso.
Adam Hadley, director ejecutivo de Tech Against Terrorism, advirtió que el debate sobre los riesgos de la inteligencia artificial suele concentrarse en escenarios de superinteligencia, mientras deja en segundo plano modelos modificados que ya pueden descargarse.
Los modelos cerrados también presentan fallas
Los modelos cerrados de grandes compañías tuvieron un mejor desempeño promedio, pero tampoco quedaron libres de errores. La evaluación encontró que algunos sistemas rechazaban solicitudes sobre ataques masivos y, al mismo tiempo, fallaban frente a pedidos relacionados con radicalización.
En uno de los casos citados, Grok, de xAI, ofreció una estructura completa para construir una narrativa contra un grupo presentado como enemigo y difundirla mediante cuentas anónimas. Además, el rastreador de incidentes de Tech Against Terrorism registra más de 30 casos reales en los que una herramienta de inteligencia artificial habría servido como apoyo operativo en un atentado o plan, con al menos 11 sistemas involucrados y más de 70 muertes asociadas, según Hadley.
Meta, OpenAI, Google, Anthropic, xAI y Alibaba no respondieron a las solicitudes de comentario sobre los resultados. El informe concluye que la rápida disponibilidad de modelos modificados reduce la barrera técnica para acceder a capacidades que antes requerían equipos especializados.