OpenAI comenzará a desplegar en las próximas semanas una marca invisible para textos generados por ChatGPT y Codex entre los usuarios elegibles de todos sus planes en la Unión Europea. La medida responde a los requisitos de transparencia contemplados por la normativa europea sobre inteligencia artificial.
El sistema se llama textGrain y no aparecerá como una etiqueta visible para el lector. En cambio, modifica estadísticamente la selección de palabras del modelo para introducir una señal que un detector pueda analizar posteriormente.
OpenAI decidió comenzar el despliegue en la Unión Europea, en lugar de activar la función por defecto para todos sus usuarios a nivel mundial. Para los clientes de la API, el funcionamiento será distinto: podrán activar voluntariamente el marcado en determinados modelos y la opción permanecerá deshabilitada inicialmente.
La edición puede dificultar la detección
La marca no garantiza que el origen de un texto pueda identificarse en cualquier circunstancia. En las pruebas divulgadas por la compañía, sustituir el 10 % de las palabras por sinónimos redujo la detección de aproximadamente 92 % a 66 %. Cuando el cambio llegó al 25 %, la detección cayó hasta 17 %.
La traducción y la edición también pueden alterar la señal. Los textos cortos o aquellos con pocas posibilidades de variar el vocabulario, como algunas respuestas matemáticas, presentan dificultades adicionales para el sistema.
La compañía señala que encontrar una marca podría indicar que uno de sus sistemas generó o procesó parte del contenido, pero no permitiría establecer cuánto trabajo humano hubo en su elaboración. Del mismo modo, que el detector no encuentre la señal no demostraría que un texto fue escrito completamente por una persona.
La ausencia de marca también podría explicarse porque el contenido fue editado, traducido, es demasiado corto, se produjo antes de la implementación del sistema o proviene de otra herramienta de inteligencia artificial.
El acceso inicial al detector estará limitado a investigadores y organizaciones especializadas aprobados por OpenAI. La herramienta podrá indicar si encuentra una marca de la compañía, pero no revelará la identidad del usuario, sus instrucciones ni sus conversaciones.