OpenAI anunció que comenzará a incorporar una marca de agua estadística invisible en textos generados por ChatGPT y Codex para usuarios de la Unión Europea (UE), como parte de sus medidas para atender las disposiciones de transparencia establecidas por el Reglamento de Inteligencia Artificial del bloque.

La compañía explicó que el sistema, denominado textGrain, comenzará a implementarse durante las próximas semanas para usuarios elegibles de todos los planes de ChatGPT y Codex dentro de la UE. La marca no será visible para el usuario, pero podrá ser identificada posteriormente mediante un detector especializado.

De acuerdo con OpenAI, textGrain funciona mediante una señal estadística incorporada en la selección de palabras que realiza el modelo durante la generación de un texto. El mecanismo busca mantener prácticamente sin cambios el funcionamiento del sistema, mientras permite analizar posteriormente si un contenido contiene la marca.

La empresa también anunció que los clientes que utilizan su interfaz de programación de aplicaciones (API) fuera de la UE podrán activar voluntariamente esta función en determinados modelos. En este caso, la herramienta permanecerá deshabilitada por defecto y cada desarrollador podrá decidir cómo utilizarla de acuerdo con sus obligaciones de transparencia.

OpenAI señaló además que trabaja con proveedores de servicios de computación en la nube para extender la disponibilidad del marcado a contenidos generados mediante sus servicios.

Reconocen limitaciones

La compañía advirtió que el sistema de detección no es infalible. Entre sus principales limitaciones se encuentran la posibilidad de obtener falsos positivos o falsos negativos, así como un menor nivel de precisión cuando se analizan textos demasiado breves.

La marca también puede perder efectividad cuando el contenido es modificado posteriormente, ya sea mediante edición humana, reescritura o traducción. Por esta razón, OpenAI no pondrá inicialmente el detector a disposición del público en general.

El acceso estará reservado para investigadores y organizaciones especializadas que sean aprobados por la empresa y que soliciten utilizar la herramienta.

OpenAI aclaró que la tecnología únicamente permitirá determinar si un texto presenta indicios de haber sido generado por uno de sus modelos. La marca no permitirá conocer quién escribió originalmente el contenido, quién realizó una modificación posterior ni quién es su propietario.

La empresa adelantó finalmente que tiene previsto liberar textGrain como código abierto, con el objetivo de que otros desarrolladores e investigadores puedan trabajar sobre la tecnología y desarrollar nuevas aplicaciones para identificar la procedencia de contenidos generados mediante inteligencia artificial.