OpenAI, Anthropic y Google DeepMind están trabajando conjuntamente en la creación de un organismo de supervisión dedicado a evaluar los riesgos asociados con la inteligencia artificial, según confirmó OpenAI a la agencia AFP.
La propuesta fue planteada en julio por Demis Hassabis, cofundador y director general de Google DeepMind, quien sugirió una entidad similar a la Autoridad de Regulación de la Industria Financiera de Estados Unidos (FINRA), un órgano de autorregulación del sector financiero. "La financiación tendría que ser cuantiosa y provenir probablemente en gran parte de la industria", escribió entonces el directivo.
Advertencias desde dentro de la industria
El anuncio se produce en un momento de creciente tensión. Jacob Coxon, desarrollador en Anthropic, renunció a su cargo la semana pasada y advirtió que las empresas de IA están "jugando con nuestras vidas". Al día siguiente, Bilal Chughtai, exinvestigador de Google DeepMind, se sumó a esas preocupaciones: "Creo sinceramente que la IA tiene el potencial de matarnos a todos y que quizá se nos esté acabando el tiempo para evitar ese desenlace", declaró en redes sociales.
Son dos de varios profesionales del sector que han dejado sus puestos para alertar sobre la amenaza que representa esta tecnología, en un momento en que las grandes desarrolladoras llevan meses pidiendo al gobierno estadounidense que regule el sector.
La disputa política por la regulación
En el terreno político, la discusión está polarizada. El presidente Donald Trump rechazó limitar el desarrollo de la inteligencia artificial y calificó los temores sobre un posible control de la IA sobre el mundo de "patraña" en su plataforma Truth Social. Miembros de su gobierno han reiterado que no buscan restringir el sector por temor a que China tome la delantera.
Por su parte, el senador demócrata Bernie Sanders pidió normas internacionales vinculantes en lugar de estándares voluntarios de la industria. "Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares voluntarios de la industria", dijo durante el evento Pro-Human AI en Washington.
Varios observadores, especialmente desde el lado republicano, han acusado a las grandes empresas de IA de intentar "capturar la regulación" para diseñar sus propias normas y proteger su ventaja competitiva, en perjuicio de competidores y consumidores.
Para que la estructura de supervisión se materialice, probablemente se requerirá una ley que evite que la industria sea acusada de connivencia y de infringir las normas de competencia. Además, las empresas más avanzadas en IA deberían someter sus nuevos modelos a exámenes centrados en la seguridad antes de poder comercializarlos, según la propuesta original de Hassabis.