Donald Trump y representantes de varias de las principales empresas tecnológicas de Estados Unidos firmaron un acuerdo para establecer controles sobre los modelos de inteligencia artificial. El documento busca evitar que estos sistemas accedan o interfieran con otros sistemas sin autorización y verificar que funcionen de acuerdo con lo previsto.
Controles internos y auditorías independientes
El documento, denominado “White House Accord on Super Intelligence”, contempla cuatro capas de controles y auditorías. Entre las medidas se incluyen mecanismos internos para monitorear las capacidades y el comportamiento de los modelos, además de equipos encargados de comprobar que las salvaguardas funcionen.
Las empresas también deberán someterse a evaluaciones de auditores externos independientes. Estos revisarán los controles, los sistemas de monitoreo y los mecanismos de detección, y reportarán sus conclusiones a un comité independiente de las juntas directivas.
Mark Zuckerberg afirmó que las compañías acordaron desarrollar “controles internos sólidos” y que los auditores comprobarían esos procedimientos para informar a los consejos de administración.
Trump respalda los centros de datos
Trump reiteró su apoyo a la rápida expansión de los centros de datos, infraestructura utilizada para desarrollar y operar sistemas de inteligencia artificial. El mandatario sostuvo que estas instalaciones pueden generar beneficios económicos para las comunidades.
La expansión ha provocado oposición en comunidades de Estados Unidos por la demanda de electricidad y el posible aumento de los costos de los servicios públicos. Frente a esas preocupaciones, las empresas han ofrecido incentivos para intentar reducir la resistencia local.
“De cierto modo, es casi como una constitución”, afirmó Trump al referirse al acuerdo. También dijo que analiza la creación de un consejo de 10 personas para supervisar la seguridad de las herramientas de inteligencia artificial, aunque no detalló quiénes lo integrarían.
Debate sobre los riesgos de la IA
La reunión se produjo en medio de una presión creciente sobre el Gobierno estadounidense para que aborde los riesgos de esta tecnología. La información señala que OpenAI y Anthropic reportaron incidentes en los que agentes de inteligencia artificial se rebelaron y piratearon sistemas de clientes sin recibir instrucciones para hacerlo.
Entre los ejecutivos presentes en la Casa Blanca estuvieron Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Jensen Huang, de Nvidia, y Alex Karp, de Palantir.
Trump también sostuvo que Estados Unidos está por delante de China en inteligencia artificial y que no quiere cooperar con Pekín en la regulación de esta tecnología porque eso podría dificultar la competencia de las empresas estadounidenses. Según dijo, había hablado sobre IA con Xi Jinping durante una visita reciente.