Watermarking en inteligencia artificial: las nuevas obligaciones que las empresas tienen

La utilización masiva de inteligencia artificial para generar imágenes, vídeos, audios, textos, presentaciones y campañas está abriendo una nueva etapa para las empresas: ya no basta con aprender a utilizar herramientas de IA, también hay que saber cómo identificar, etiquetar, revisar y gestionar los contenidos que producen. El watermarking, entendido en sentido amplio como los mecanismos que permiten identificar o acreditar la intervención de inteligencia artificial en un contenido, está dejando de ser una cuestión reservada a desarrolladores y especialistas tecnológicos para entrar directamente en los departamentos de marketing, comunicación, compliance, legal, recursos humanos, ventas y dirección. A medida que resulta más difícil distinguir entre un contenido creado por una persona y otro generado artificialmente, la procedencia se convierte en una cuestión de confianza. Una fotografía puede no ser una fotografía, una voz puede no pertenecer a una persona, un vídeo puede representar un acontecimiento que nunca ocurrió y un texto puede haber sido producido automáticamente en segundos. La empresa que utiliza estas tecnologías tiene, por tanto, que empezar a preguntarse no solo qué puede crear con IA, sino qué necesita saber la persona que recibe ese contenido para interpretarlo correctamente.

El cambio es especialmente relevante porque muchas organizaciones continúan pensando que el watermarking y la identificación de los contenidos generados con IA son responsabilidad exclusiva del proveedor de la tecnología. Sin embargo, aunque una compañía no haya desarrollado el modelo, no haya participado en su entrenamiento y no controle técnicamente cómo se introduce una marca invisible o cómo se generan determinados metadatos, sí decide para qué utiliza la inteligencia artificial, qué resultado selecciona, qué contenido publica, a quién se dirige, cómo lo presenta y qué controles aplica antes de difundirlo. Esta es una de las ideas fundamentales para comprender la nueva etapa regulatoria: el proveedor puede facilitar los mecanismos técnicos de identificación, pero la empresa sigue siendo responsable de cómo utiliza y presenta el contenido generado mediante IA.

El watermarking ya no es solo una cuestión tecnológica

Durante mucho tiempo hemos asociado una marca de agua con un elemento visible colocado sobre una fotografía o documento para indicar su procedencia o impedir determinados usos. Con la inteligencia artificial, el concepto se vuelve mucho más amplio. La transparencia puede apoyarse en marcas visibles, mecanismos técnicos invisibles, información de procedencia, metadatos o avisos que permitan al receptor comprender que está ante un contenido generado o manipulado artificialmente. Para una empresa, lo importante no consiste únicamente en conocer cómo funciona técnicamente cada mecanismo, sino en establecer procedimientos que impidan que contenidos potencialmente engañosos terminen publicándose como si fueran completamente auténticos.

Aquí aparece una distinción fundamental entre las responsabilidades del proveedor y las de la organización que utiliza la tecnología. El AI Act utiliza el concepto de deployer para referirse al responsable del despliegue o usuario profesional de un sistema de inteligencia artificial. La empresa puede no ser responsable de programar el modelo, pero sí de decidir si utiliza sus resultados. Esa decisión puede implicar revisar, contextualizar, identificar, documentar y aprobar el contenido antes de difundirlo. En términos empresariales, la regla puede resumirse de una manera muy sencilla: la herramienta genera; la empresa decide; la empresa responde.

El primer problema es que muchas empresas ni siquiera saben dónde están utilizando IA

Antes de plantearse qué marca debe llevar una imagen o qué información debe acompañar a un vídeo existe un problema todavía más elemental: saber cuándo se está utilizando inteligencia artificial dentro de la organización. En muchas compañías los empleados han incorporado estas tecnologías mucho más rápido que las políticas corporativas. Marketing genera imágenes, ventas prepara propuestas comerciales, comunicación redacta contenidos, recursos humanos produce materiales, formación crea presentaciones, atención al cliente automatiza respuestas y profesionales de prácticamente cualquier departamento utilizan asistentes generativos para trabajar. En numerosas ocasiones todo esto ocurre sin que exista un inventario corporativo de herramientas ni un procedimiento claro para distinguir entre usos internos, contenidos destinados a clientes y materiales que acabarán publicándose.

Si la empresa desconoce dónde se utiliza IA, difícilmente puede aplicar una política coherente de watermarking y transparencia. Esto no significa registrar cada corrección ortográfica realizada mediante inteligencia artificial ni convertir cualquier uso cotidiano en un expediente de compliance. Significa identificar aquellos usos que pueden tener consecuencias externas: contenidos destinados a publicación, campañas publicitarias, imágenes comerciales, vídeos, voces sintéticas, materiales de formación, comunicaciones institucionales, sistemas conversacionales o información que pueda afectar a clientes, empleados, alumnos, usuarios o ciudadanos. Una organización madura debería disponer, como mínimo, de herramientas autorizadas y criterios claros para determinar qué contenidos necesitan revisión antes de salir de la empresa.

La pregunta decisiva: ¿puede confundirse con algo real?

No todo contenido generado mediante inteligencia artificial necesita el mismo nivel de identificación. Este principio es fundamental para evitar que el cumplimiento se convierta en una burocracia imposible de gestionar. Una imagen abstracta creada para decorar una presentación interna no plantea las mismas cuestiones que una fotografía hiperrealista de unas instalaciones que todavía no existen. Una corrección lingüística asistida por IA tampoco es comparable a una voz sintética que puede confundirse con la de una persona real. La pregunta correcta no es simplemente “¿se ha utilizado inteligencia artificial?”, sino “¿puede la persona que recibe este contenido interpretarlo como real, humano o auténtico cuando no lo es?”.

Pensemos en una empresa inmobiliaria que utiliza inteligencia artificial para generar imágenes extraordinariamente realistas de una futura promoción. Las viviendas, jardines y piscinas todavía no existen, pero las fotografías generadas parecen haber sido tomadas después de terminar la construcción. Pensemos en una compañía turística que muestra mediante IA un hotel inexistente, en una empresa que genera digitalmente la imagen de supuestos clientes o en una organización que produce un vídeo que representa un acontecimiento que nunca ocurrió. En todos estos casos el problema no es utilizar inteligencia artificial. El problema aparece cuando el receptor carece de información suficiente para distinguir una representación artificial de la realidad. El material formativo de THE INTELLIGENCE plantea precisamente que, cuando exista riesgo de confusión, la organización valore mecanismos de transparencia como etiquetas visibles, advertencias, aclaraciones, revisión humana reforzada o incluso la decisión de no publicar.

Deepfakes: uno de los grandes territorios del watermarking empresarial

La cuestión adquiere todavía mayor relevancia cuando entramos en el terreno de los deepfakes. En términos sencillos, hablamos de contenidos de imagen, audio o vídeo generados o manipulados mediante inteligencia artificial que se parecen a personas, objetos, lugares, entidades o acontecimientos existentes y pueden parecer auténticos para quien los recibe. El artículo 50 del AI Act recoge expresamente obligaciones de transparencia para los responsables del despliegue que utilizan sistemas de IA capaces de generar o manipular contenidos que constituyan deepfakes.

Las consecuencias para marketing y comunicación son enormes. Una empresa puede crear actualmente un vídeo hiperrealista de una persona, recrear una localización, generar una fotografía aparentemente documental o producir una voz sintética con un nivel de realismo extraordinario. La capacidad tecnológica crecerá todavía más durante los próximos años. Precisamente por ello, la identificación de la procedencia del contenido adquiere mayor importancia. Avisos como “Recreación generada con IA”, “Imagen generada artificialmente”, “Voz sintética” o “Escena recreada mediante inteligencia artificial” pueden proporcionar al receptor el contexto necesario sin destruir el valor creativo de la pieza. La transparencia no exige necesariamente llenar cada creación de advertencias visualmente invasivas; exige impedir que una representación artificial sea interpretada incorrectamente como una realidad auténtica.

La marca puede ser visible, pero también importa lo que no vemos

Una estrategia corporativa de watermarking no debería limitarse a colocar una frase bajo una imagen. Los contenidos digitales pueden incorporar metadatos e información de procedencia que ayuden a conservar evidencia sobre su origen. Por eso existe otra cuestión que las empresas deben empezar a controlar: qué ocurre con esa información cuando el archivo pasa de una herramienta a otra, se edita, se comprime, se exporta, se captura mediante una pantalla o se publica en una plataforma.

El documento de THE INTELLIGENCE advierte sobre una práctica especialmente peligrosa: eliminar marcas, metadatos o señales de procedencia simplemente porque resultan incómodos, pesan más o no interesan desde el punto de vista visual. Si una herramienta genera un contenido acompañado de información sobre su procedencia, la organización debería conocer qué ocurre con esos datos durante todo el proceso de producción. Descargar una imagen generada mediante IA, realizar deliberadamente una captura para eliminar cualquier rastro técnico, publicarla posteriormente como si fuera una fotografía real y no conservar el archivo original sería un ejemplo de una gestión deficiente del contenido.

El watermarking también afecta a chatbots, agentes y voces artificiales

La transparencia no termina en imágenes y vídeos. Una persona puede estar interactuando con inteligencia artificial sin existir ningún archivo visual que marcar. Los chatbots y agentes de IA son el ejemplo más evidente. La nueva generación de sistemas conversacionales puede responder de manera extremadamente natural, mantener contexto, adoptar un nombre, recordar información e incluso ejecutar determinadas acciones. Cuanto más humana resulte la interacción, más importante es que el usuario comprenda que se encuentra ante un sistema automatizado.

Cuando una empresa utiliza un chatbot, asistente virtual, agente automatizado o herramienta similar, debe considerar las obligaciones de transparencia correspondientes y asegurarse de que las personas sepan que están interactuando con una máquina cuando no resulte evidente por el contexto. Una indicación sencilla como “Estás interactuando con un asistente virtual basado en inteligencia artificial” puede cumplir una función equivalente a la marca visible que encontraríamos en una imagen. Lo mismo sucede con las voces sintéticas. Una empresa que utiliza una locución artificial puede incorporar una advertencia como “Voz sintética generada mediante IA”, especialmente cuando el contexto pueda hacer creer al receptor que escucha a una persona real.

¿Hay que marcar también los textos escritos con inteligencia artificial?

Esta es una de las preguntas que más dudas está generando. El artículo 50 contempla determinados textos generados o manipulados mediante IA cuando se publican con la finalidad de informar al público sobre asuntos de interés público. Pero existe un elemento fundamental: el documento de THE INTELLIGENCE recoge que la obligación correspondiente no se aplica de la misma manera cuando el contenido ha pasado por un proceso de revisión humana o control editorial y una persona física o jurídica asume responsabilidad editorial sobre la publicación.

La distinción es especialmente relevante para medios, blogs corporativos, consultoras, universidades, escuelas de negocio, think tanks, asociaciones y empresas que publican informes, newsletters o contenidos sobre regulación, economía, empleo, tecnología u otros asuntos de interés público. Utilizar inteligencia artificial para preparar un primer borrador y posteriormente hacer que un profesional revise datos, modifique argumentos, corrija errores, amplíe información y asuma la responsabilidad editorial no es equivalente a generar automáticamente cientos de artículos y publicarlos sin supervisión. En este terreno, el verdadero mecanismo de garantía no es exclusivamente una marca: también lo es la existencia de una revisión humana real y de una responsabilidad editorial claramente identificable.

Watermarking sin trazabilidad es una política incompleta

Una de las grandes equivocaciones sería interpretar el watermarking exclusivamente como aquello que ve el público. La transparencia también tiene una dimensión interna. Una empresa debería poder demostrar cómo se produjo un contenido cuando aparece una duda, una reclamación o una auditoría. Para los contenidos externos o especialmente delicados, puede ser conveniente conservar la herramienta utilizada, fecha de generación, tipo de contenido, instrucciones principales cuando proceda, versión original, modificaciones posteriores, persona responsable de la revisión, persona que aprobó su utilización, etiqueta aplicada, canal de publicación y versión final difundida.

Esta trazabilidad puede convertirse en una de las grandes herramientas de gobierno de la inteligencia artificial. Imagine que meses después de una campaña alguien cuestiona la autenticidad de una imagen. La empresa que únicamente conserva el archivo publicado tendrá dificultades para explicar qué ocurrió. La organización que mantiene el original generado, conoce la herramienta utilizada y puede acreditar quién revisó y aprobó la pieza dispone de una posición completamente diferente. El watermarking debería entenderse, por tanto, como parte de un sistema más amplio de procedencia, identificación y responsabilidad.

No todo debe marcarse de la misma manera

Aplicar transparencia no significa colocar una enorme etiqueta de “GENERADO POR IA” sobre cualquier contenido en el que haya intervenido una herramienta. Una política corporativa debe ser proporcional. Una corrección ortográfica interna no necesita el mismo tratamiento que un vídeo deepfake; una ilustración decorativa no plantea los mismos riesgos que la recreación hiperrealista de una persona; un borrador posteriormente revisado y asumido editorialmente no es equivalente a una noticia generada automáticamente y publicada sin control.

Por eso las empresas deberían empezar a clasificar sus usos de IA en diferentes niveles. Los usos de bajo riesgo pueden requerir controles mínimos; determinados contenidos externos pueden necesitar revisión ordinaria; y los materiales capaces de inducir a error, afectar a personas, representar acontecimientos, utilizar identidades o generar consecuencias reputacionales deberían contar con una aprobación reforzada. El objetivo no es complicar innecesariamente el uso de inteligencia artificial, sino conseguir que los controles aumenten a medida que aumenta el riesgo de confusión.

Marketing, comunicación, ventas y recursos humanos tendrán que cambiar sus procesos

El watermarking dejará de ser una responsabilidad exclusiva de tecnología porque quienes deciden finalmente cómo se utiliza el contenido son otros departamentos. Marketing tendrá que comprobar si imágenes, vídeos, audios o textos pueden confundirse con materiales reales; comunicación deberá extremar la revisión de noticias, artículos, entrevistas e imágenes institucionales; ventas tendrá que distinguir claramente entre productos o instalaciones existentes y recreaciones conceptuales; atención al cliente deberá informar cuando el usuario interactúe con determinados sistemas automatizados; formación tendrá que valorar la transparencia necesaria en avatares, voces y materiales generados artificialmente; y dirección deberá establecer políticas, responsables y mecanismos de gobierno.

Esto obliga también a formar a los empleados. Una política guardada en una carpeta corporativa sirve de poco si quienes generan contenidos diariamente desconocen cuándo deben aplicarla. Los profesionales deberían saber qué herramientas están permitidas, qué contenidos necesitan revisión, cuándo puede existir riesgo de engaño, qué mecanismos de transparencia utilizar, qué información conservar y a quién acudir cuando aparezca una duda. La verdadera madurez no llegará cuando la empresa disponga de un documento denominado “Política de IA”, sino cuando sus profesionales sean capaces de aplicar esas reglas casi automáticamente durante su trabajo.

De usar inteligencia artificial a poder demostrar que se utiliza correctamente

Estamos entrando en una segunda gran fase de adopción empresarial de la inteligencia artificial. Durante la primera, la obsesión fue descubrir qué podían hacer estas tecnologías: generar más contenido, automatizar tareas, aumentar productividad, reducir tiempos y crear nuevas experiencias. La siguiente estará marcada por una pregunta mucho más exigente: ¿podemos demostrar que estamos utilizando la inteligencia artificial de manera responsable?

En esa nueva etapa, el watermarking, los metadatos, la procedencia de los contenidos, la revisión humana, la trazabilidad, las herramientas autorizadas y la responsabilidad editorial dejarán de ser conceptos independientes para convertirse en piezas de un mismo sistema de gobierno. Las organizaciones que desarrollen estos procedimientos antes tendrán una ventaja evidente: podrán adoptar nuevas herramientas más rápidamente porque sabrán qué pueden hacer con ellas, qué controles necesitan y dónde se encuentran los límites.

La conclusión para cualquier comité de dirección es clara: el proveedor facilita la tecnología, pero la empresa decide cómo utiliza sus resultados. Y cada vez que una organización convierte un contenido generado mediante IA en una campaña, una imagen comercial, un vídeo, una comunicación, una interacción con clientes o una publicación, está tomando una decisión corporativa.

Antes de pulsar “publicar”, por tanto, debería existir una pregunta sencilla capaz de guiar toda política de watermarking: ¿necesita la persona que va a recibir este contenido saber que ha intervenido inteligencia artificial para interpretarlo correctamente? Si la respuesta es sí, la empresa debe disponer del mecanismo adecuado para hacerlo evidente y conservar la trazabilidad necesaria para demostrar posteriormente cómo actuó.

La inteligencia artificial permitirá crear más, hacerlo más rápido y alcanzar una escala desconocida hasta ahora. Pero el siguiente nivel de madurez empresarial no consistirá únicamente en saber generar contenido con IA. Consistirá en saber identificarlo, gobernarlo, revisarlo y asumir la responsabilidad sobre su utilización.

¿Está preparada tu empresa para gobernar la inteligencia artificial?

La adopción de IA ya está avanzando desde la experimentación hacia una cuestión directamente vinculada con estrategia, gobierno corporativo, cumplimiento normativo y liderazgo. Los directivos necesitan comprender no solo cómo utilizar estas tecnologías, sino cómo implantarlas en sus organizaciones, identificar riesgos, establecer políticas internas, tomar decisiones sobre herramientas y preparar a sus equipos para un escenario empresarial en el que la inteligencia artificial estará integrada en prácticamente todas las áreas.

El CSiAD – Curso Superior de Inteligencia Artificial para Directivos de THE INTELLIGENCE® Institute está diseñado precisamente para directivos y profesionales que necesitan entender la IA desde una perspectiva empresarial y aplicarla de forma práctica en sus organizaciones.

No se trata simplemente de aprender a utilizar inteligencia artificial. Se trata de aprender a dirigir una empresa en la era de la inteligencia artificial.