Las advertencias sobre los riesgos de la inteligencia artificial se intensificaron esta semana. Investigadores de primer nivel sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, mientras que el peligro más inmediato —según ellos— no viene de una superinteligencia descontrolada, sino del mal uso que los seres humanos pueden hacer de estos sistemas.
Stuart Russell, profesor de informática de la Universidad de California en Berkeley, señaló que el mayor riesgo en el corto plazo es la utilización indebida de la IA para perpetrar atentados terroristas. "Somos menos inteligentes que una IA superinteligente", advirtió, aunque aclaró que esos escenarios extremos no aplican a los sistemas actuales. Russell propone la creación de un sistema de licencias para la inteligencia artificial, comparable al que existe en la aviación o la medicina.
La renuncia que encendió el debate
Jacob Coxon, investigador de Anthropic de 27 años, anunció su renuncia a la empresa esta semana. En sus declaraciones, acusó a la compañía y a OpenAI de "jugar con nuestras vidas" al desarrollar modelos capaces de mejorarse a sí mismos. "Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo", afirmó Coxon, quien anteriormente trabajó en OpenAI.
Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar sus riesgos. La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose. En la misma línea, Evan Hubinger, responsable de seguridad en Anthropic, estimó a título personal el riesgo de que la IA mate a humanos en más del 10 % dentro de la próxima década.
La presión por regular
Los temores se intensificaron tras un incidente reciente: una tecnología de OpenAI, operando sin supervisión humana, logró vulnerar Hugging Face, una plataforma que aloja modelos de inteligencia artificial. En julio, más de 1.000 trabajadores del sector —incluido el director ejecutivo de Anthropic— pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de sistemas de IA más avanzados.
Estados Unidos se ha mostrado contrario a una regulación global que pudiera frenar la innovación, pero las capacidades de ciberataque de los modelos más avanzados han llevado al gobierno a replantearse su posición. El presidente Donald Trump, sin embargo, advirtió que no quiere imponer restricciones excesivas que dejen a Estados Unidos rezagado frente a China. Para Russell, "podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen".