Skip to main content
miércoles, 18 de noviembre de 2026 Noticias de Colombia y el mundo.

Solo dos de 134 modelos de IA superaron una prueba sobre terrorismo

Un estudio de Tech Against Terrorism encontró fallas en modelos abiertos y cerrados de inteligencia artificial, incluidos casos en los que filtros de seguridad fueron evadidos o eliminados.
Escrito por Redacción Web 20 octubre, 2026
Compartir WhatsApp X Facebook Telegram
Pantalla con sistemas de inteligencia artificial y elementos visuales relacionados con seguridad digital

Foto: Jefferson Santos / Unsplash

Tamaño del texto
2 de lectura

Solo dos de los 134 modelos de inteligencia artificial evaluados por Tech Against Terrorism superaron por completo una prueba diseñada para medir si podían entregar ayuda útil para planear actos terroristas. La organización analizó más de 200 solicitudes sobre ataques masivos, armas químicas y radicalización.

La evaluación se desarrolló en tres rondas: una con una intención terrorista explícita, otra que presentó las solicitudes como parte de una operación clandestina y una tercera en la que el usuario se identificó como investigador de seguridad.

Los modelos fueron vulnerables a solicitudes disfrazadas

Según el informe, 81 modelos fallaron al entregar al menos una respuesta completa sobre un tema relacionado con bajas masivas o al obtener menos de 90 puntos sobre 100. El recurso más efectivo fue también el más sencillo: afirmar que se era investigador de seguridad, sin aportar pruebas, multiplicó casi por nueve la probabilidad de recibir una respuesta útil, hasta alcanzar el 16,9% de los intentos.

Daniel Byman, experto en terrorismo de la Universidad de Georgetown, calificó algunas de las fallas como “asombrosas” tras revisar los resultados.

La abliteración elimina los frenos de seguridad

Una de las principales alertas del estudio es la abliteración, un procedimiento que elimina los filtros de seguridad de modelos cuyos pesos están disponibles públicamente. En 2024, la aparición en internet de una versión modificada de un modelo nuevo tardaba en promedio más de 24 días. Ahora el plazo es inferior a tres días y el informe registra un caso en el que el proceso tomó apenas 24 horas después del lanzamiento de un modelo abierto de Alibaba.

La diferencia puede ser significativa. El modelo abierto Llama 3.1 8B de Meta obtuvo 97 puntos sobre 100 en la prueba, mientras que una versión abliterada del mismo sistema cayó a 3 puntos. El informe también documentó el caso de un neonazi que utilizó uno de estos modelos modificados para entrenar un chatbot extremista y cobrar US$14,88 por el acceso.

Adam Hadley, director ejecutivo de Tech Against Terrorism, advirtió que el debate sobre los riesgos de la inteligencia artificial suele concentrarse en escenarios de superinteligencia, mientras deja en segundo plano modelos modificados que ya pueden descargarse.

Los modelos cerrados también presentan fallas

Los modelos cerrados de grandes compañías tuvieron un mejor desempeño promedio, pero tampoco quedaron libres de errores. La evaluación encontró que algunos sistemas rechazaban solicitudes sobre ataques masivos y, al mismo tiempo, fallaban frente a pedidos relacionados con radicalización.

En uno de los casos citados, Grok, de xAI, ofreció una estructura completa para construir una narrativa contra un grupo presentado como enemigo y difundirla mediante cuentas anónimas. Además, el rastreador de incidentes de Tech Against Terrorism registra más de 30 casos reales en los que una herramienta de inteligencia artificial habría servido como apoyo operativo en un atentado o plan, con al menos 11 sistemas involucrados y más de 70 muertes asociadas, según Hadley.

Meta, OpenAI, Google, Anthropic, xAI y Alibaba no respondieron a las solicitudes de comentario sobre los resultados. El informe concluye que la rápida disponibilidad de modelos modificados reduce la barrera técnica para acceder a capacidades que antes requerían equipos especializados.

Resumen de la noticia

Una evaluación de Tech Against Terrorism sometió 134 modelos de inteligencia artificial a más de 200 solicitudes relacionadas con terrorismo, ataques masivos, armas químicas y radicalización. Solo dos superaron completamente la prueba. El estudio también encontró que presentarse como investigador de seguridad aumentó casi nueve veces la probabilidad de recibir una respuesta útil. La principal alerta está en los modelos abiertos cuyos filtros fueron eliminados mediante “abliteración”, un proceso que ahora puede completarse en menos de tres días y que deteriora ampliamente las barreras de seguridad.

En pocas palabras

  • 134 modelos fueron evaluados con más de 200 solicitudes
  • Solo dos superaron completamente la prueba de seguridad
  • La técnica de presentarse como investigador elevó la tasa de respuesta al 16,9%
  • La abliteración de modelos abiertos pasó de tardar más de 24 días a menos de tres
  • El modelo Llama 3.1 8B pasó de 97 a 3 puntos tras eliminar sus filtros

¿Por qué importa?

La evaluación muestra que algunas herramientas de inteligencia artificial pueden entregar apoyo operativo para actividades extremistas o perder sus controles de seguridad tras ser modificadas. Esto afecta la forma en que se desarrollan, distribuyen y supervisan los modelos abiertos.

Más noticias

Ver sección
Pantalla de computador con líneas de código y una alerta de seguridad informática

Un malware inyectado en Optimizely robó tarjetas y criptomonedas en sitios de Zoom, BBC y CNN

Durante casi 19 horas del lunes, entrar a algunos de los sitios más concurridos de internet bastó para cargar un código capaz de quedarse con datos de pago y desviar transferencias en criptomonedas. El origen no fue una brecha en Zoom, la BBC o CNN, sino un archivo que todas esas empresas cargan desde Optimizely, la plataforma que usan para pruebas A/B y personalización. La firma Report URI encontró código ajeno en 188 archivos de 178 organizaciones, y Optimizely reconoce que la falla estuvo en su sistema de registro de cuentas.

Cable HDMI conectado a un portátil y a una pantalla externa para transmitir imagen y sonido

HDMI sin sonido en Windows 11: una revisión paso a paso

El televisor puede mostrar el escritorio del portátil y, aun así, el audio seguir saliendo de los altavoces del equipo. En Windows 11 la causa suele estar en la salida seleccionada, en el volumen de la pantalla o en un dispositivo que el sistema no tiene visible. Microsoft y HP documentan una ruta de revisión antes de cambiar el cable.

Teléfono plegable con pantalla abierta y módulo circular de cámaras en la parte trasera.

Huawei Mate X8: cinco colores, cuatro versiones y hasta 1 TB

La tienda china de Huawei ya muestra el Mate X8 antes de su presentación del 24 de noviembre. El plegable conserva el formato tipo libro, suma cinco acabados y ofrece una edición de coleccionista con 16 GB de RAM y 1 TB. Las especificaciones de pantalla, cámara y batería siguen sin confirmación oficial.

Boletín En Primera

Recibe lo que importa en tu correo

Recibe lo que importa en tu correo.