ChatGPT dejará una “huella invisible” en sus textos: así funcionará la marca de agua de OpenAI

Qué se sabe del código de buenas prácticas firmado por los gigantes estadounidenses de la IADario Amodei, el empresario de IA más en boga del momento, sigue siendo un enigmaLa tecnológica OpenAI anunció este lunes que planea incorporar marcas de agua invisibles en algunos textos generados con sus productos ChatGPT y Codex para cumplir con la Ley de Inteligencia Artificial (IA) de la Unión Europea (UE).“Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE”, especificó la empresa en un blog donde explica su nuevo enfoque sobre la “procedencia de contenido”.OpenAI destacó que a partir de hoy los clientes de su interfaz de programación de aplicaciones (API) de todo el mundo podrán activar voluntariamente las marcas de agua en textos para determinados modelos.No obstante, la función estará desactivada por defecto en la API para que sus clientes decidan cómo aplicarla en función de sus obligaciones de transparencia.OpenAI dijo que trabaja con proveedores de computación en la nube para “poner la marca de agua a disposición de las salidas de los modelos de OpenAI a las que se accede mediante sus servicios durante las próximas semanas”, añadió.¿Cómo funcionará la detección de la marca de agua?La tecnología, llamada textGrain, incorpora una “señal estadística invisible” en las elecciones de palabras del modelo, aparentemente sin alterar su rendimiento, y que después un detector puede buscar para evaluar si hay una marca de agua.OpenAI reconoció que la detección puede cometer errores, como un falso positivo o un falso negativo, que funciona peor con textos breves y que además puede debilitarse si el contenido se edita, reescribe o traduce.Por eso, la empresa ha decidido que el “detector” estará disponible solo para “investigadores y organizaciones expertas aprobados” que pueden empezar hoy a hacer solicitudes.La función de la marca de agua es ayudar a averiguar si el texto ha sido generado por un modelo de OpenAI, pero no indicará “quién escribió originalmente el texto ni quién es su propietario”, además de otras limitaciones.OpenAI subrayó que planea poner la tecnología de textGrain a disposición del público como código abierto “para que otros puedan desarrollarla”.