OpenAI ha detallado su respuesta a las reglas europeas sobre procedencia de contenido generado por inteligencia artificial. Desde el 5 de octubre, determinados clientes de la API pueden activar de forma voluntaria una marca de agua de texto en modelos compatibles. La empresa también prevé introducir durante las próximas semanas señales invisibles de procedencia en texto elegible generado por ChatGPT y Codex para usuarios de la Unión Europea.
Qué es la marca de agua de texto
A diferencia de una etiqueta visible, el sistema modifica de forma estadística la elección de determinadas palabras o tokens para incorporar una señal detectable sin cambiar de forma evidente el texto para el lector. OpenAI presenta la tecnología como una herramienta de procedencia, no como una prueba absoluta de autoría. La señal puede ayudar a identificar que un contenido contiene patrones asociados a sus modelos, pero no permite inferir por sí sola quién lo creó ni con qué intención.
La compañía reconoce limitaciones relevantes. Ediciones intensas, traducciones o transformaciones posteriores pueden debilitar la señal, y el watermarking puede introducir restricciones sobre la distribución de palabras disponibles. Por eso OpenAI combina esta vía con otras técnicas de procedencia, como metadatos para imágenes y audio, y prevé dar acceso inicial a detectores de texto a investigadores y organizaciones expertas aprobadas.
Qué cambia para empresas y profesionales
Para empresas europeas que integran IA generativa en contenidos, atención al cliente, documentación o software, la novedad obliga a seguir de cerca qué salidas quedan cubiertas y cómo se refleja el cumplimiento del Reglamento de IA. La obligación práctica dependerá del caso de uso y del papel de cada organización en la cadena, pero la procedencia del contenido será cada vez más importante en políticas internas, auditorías y comunicación con clientes.
Qué conviene hacer ahora
Conviene inventariar dónde se genera texto con modelos de IA y distinguir entre contenido interno, borradores, publicaciones externas y respuestas automatizadas. También resulta útil conservar registros de modelo, versión, fecha y flujo de aprobación. Si una empresa utiliza la API de OpenAI, debería evaluar la opción de watermarking en un entorno de pruebas antes de activarla en producción para comprobar impacto en calidad y procesos.
La lectura empresarial
La discusión va más allá de una función técnica. La UE está empujando a los proveedores a ofrecer mecanismos que faciliten identificar contenido sintético, mientras los fabricantes intentan evitar técnicas que degraden la utilidad de los modelos. Para las empresas, esto puede traducirse en nuevas capas de trazabilidad similares a las que ya existen en seguridad, privacidad o gestión documental.
OpenAI insiste en que una señal de procedencia no equivale a afirmar que un texto sea falso, dañino o íntegramente generado por IA. Esa precisión será importante para evitar decisiones automáticas basadas únicamente en detectores. El reto empresarial será combinar transparencia con controles humanos y políticas proporcionadas al riesgo real del contenido.
Fuente
La información procede de la explicación oficial de OpenAI sobre procedencia de texto y normativa europea.
Más actualidad para empresas
- Factura electrónica B2B: calendario para autónomos y pymes
- Qué exigirá la factura electrónica B2B al software
- AWS lleva agentes gestionados de OpenAI a Bedrock
- Google Cloud acelera migraciones con IA
- GitHub lanza ReviewBench
- AWS añade workflows multiagente a Kiro
Fotografía: Matheus Bertelli / Pexels.
