El desarrollo de la inteligencia artificial y el aumento de su autonomía plantean nuevos desafíos para la seguridad, la regulación y la soberanía tecnológica de los países. Así lo expuso el embajador de Colombia ante las Naciones Unidas, Mauricio Gaona, durante una intervención en la que analizó la evolución de estos sistemas y los riesgos asociados a su autonomía.
La pérdida de control, la gran inquietud
Uno de los puntos centrales del análisis fue la protección de la infraestructura crítica y de los sistemas de ciberseguridad. Según Gaona, los casos estudiados muestran que una tecnología capaz de operar por sí sola puede provocar situaciones que sobrepasan los errores convencionales de una herramienta informática.
“La preocupación es la pérdida de control”, afirmó el diplomático, al referirse a la posibilidad de que los sistemas de IA desarrollen capacidades que superen la comprensión humana.
Los modelos actuales, según explicó, pueden procesar y almacenar volúmenes de información que exceden la capacidad de una persona y, mediante sus algoritmos, avanzar hacia procesos de razonamiento cada vez más complejos.
El riesgo, en su lectura, aparece cuando una máquina encuentra soluciones distintas a las que elegiría un ser humano. En ese escenario, el problema no es solo detectar el error, sino entender por qué el sistema tomó esa decisión.
“Estamos llegando a una etapa en la que podríamos controlar algo que no podemos entender”, sostuvo el embajador, al advertir las implicaciones de una eventual inteligencia artificial superinteligente.
Autonomía, brecha internacional y reglas
Gaona también llamó la atención sobre el desarrollo autónomo de la IA, con sistemas capaces de escribir código, identificar nuevos caminos y plantear soluciones con una intervención humana cada vez menor.
Para el diplomático, la discusión debe abordarse desde una perspectiva internacional. El dilema, dijo, no consiste en escoger entre seguridad y desarrollo, sino en establecer mecanismos para que los avances tecnológicos generen beneficios para los países, incluidos los del Sur Global.
En ese escenario advirtió una posible brecha entre las naciones que desarrollan inteligencia artificial y las que se limitan a adquirirla para modernizar sus infraestructuras. Los países que queden fuera de la producción de esta tecnología podrían enfrentar, según su planteamiento, efectos sobre sus capacidades tecnológicas, económicas y productivas.
El embajador comparó el debate con la regulación de otras tecnologías, como los automóviles o las armas nucleares. La diferencia, precisó, es que los seres humanos siempre conocieron los riesgos de lo que regulaban.
“Los humanos siempre estuvieron en control; los humanos entendían los riesgos”, recordó Gaona. Por eso sostuvo que las reglas sobre inteligencia artificial deben incorporarse antes de que los sistemas alcancen niveles de autonomía que dificulten su supervisión por parte de las personas.