Antes de aprobar una herramienta de IA generativa, las empresas deberían hacer estas 14 preguntas

THE INTELLIGENCE comparte un checklist práctico para evaluar proveedores de IA antes de incorporar sus herramientas a la organización

La adopción de inteligencia artificial generativa está entrando en una etapa diferente. Durante los últimos años, muchas empresas han seleccionado herramientas de IA atendiendo principalmente a su capacidad, facilidad de uso, precio o integración con los sistemas existentes. Sin embargo, a medida que la inteligencia artificial comienza a intervenir en comunicaciones corporativas, marketing, documentos, imágenes, vídeos, audios y procesos internos, aparece una pregunta mucho más exigente: ¿sabemos realmente qué ocurre con el contenido que genera la herramienta y qué mecanismos ofrece su proveedor para identificarlo, rastrearlo y gobernarlo?

Esta cuestión adquiere especial relevancia ante el nuevo marco europeo de transparencia para determinados contenidos generados o manipulados mediante inteligencia artificial. El artículo 50 del AI Act de la Unión Europea introduce obligaciones relacionadas con la identificación de outputs generados por sistemas de IA y establece que determinados proveedores deberán garantizar que estos contenidos puedan ser detectados como generados o manipulados artificialmente mediante soluciones técnicas eficaces, interoperables, robustas y fiables, teniendo en cuenta las características de cada tipo de contenido, los costes de implementación y el estado de la técnica.

El cambio para las empresas es importante porque contratar una herramienta de IA ya no debería ser únicamente una decisión tecnológica. Puede convertirse también en una decisión de compliance, seguridad, reputación y gobierno corporativo.

Por este motivo, desde THE INTELLIGENCE Institute compartimos un nuevo Checklist práctico para evaluar al proveedor, diseñado como una herramienta sencilla para que directivos, responsables de inteligencia artificial, departamentos jurídicos, compliance, seguridad, comunicación y tecnología puedan formular una primera batería de preguntas antes de autorizar una solución de IA generativa dentro de la organización.

El problema no es solamente qué genera la IA, sino qué ocurre después

Una empresa puede utilizar una plataforma extraordinariamente avanzada para crear una imagen, un vídeo, un audio o un documento. Pero la evaluación no debería terminar en la calidad del resultado. Hay que analizar qué sucede cuando ese contenido abandona la plataforma.

¿Incorpora algún mecanismo que permita identificarlo como generado mediante IA? ¿Es ese mecanismo legible por máquina? ¿Se conservan metadatos de procedencia? ¿El marcado permanece cuando se exporta el archivo? ¿Qué ocurre si posteriormente se comprime, transforma, recorta o edita? ¿Existe alguna herramienta que permita verificar su procedencia?

Estas preguntas pueden parecer técnicas, pero progresivamente están entrando en el terreno de la gestión empresarial. Una organización que genera miles de contenidos mediante IA necesita conocer no solamente cómo producirlos, sino también cómo conservar evidencia de su origen y de las herramientas utilizadas.

Aquí aparece además una distinción fundamental: no todas las técnicas de transparencia son iguales. Una marca visible, un watermark invisible, determinados metadatos o sistemas de procedencia pueden cumplir funciones distintas y presentar diferentes niveles de resistencia cuando el contenido se modifica. Por ello, una empresa no debería conformarse con una afirmación genérica del proveedor indicando que sus contenidos “están identificados”. Debe entender qué mecanismo se utiliza y cuáles son sus límites.

La transparencia del proveedor empieza a convertirse en un criterio de compra

Durante los próximos años, las áreas de procurement y tecnología probablemente tendrán que incorporar nuevas variables a sus procesos de selección de software de IA. El rendimiento seguirá siendo fundamental, pero también habrá que evaluar aspectos relacionados con trazabilidad, gobernanza, seguridad, documentación y transparencia.

Una de las preguntas más sencillas del checklist de THE INTELLIGENCE es, precisamente, una de las más reveladoras: ¿el proveedor explica cómo marca los contenidos generados?

Si una empresa no consigue encontrar una explicación clara, la siguiente pregunta debería ser por qué.

La evaluación debería comprobar además si el proveedor reconoce abiertamente las limitaciones de sus mecanismos. Ningún sistema técnico de identificación debería presentarse como absolutamente infalible. La edición, transcodificación, compresión, captura de pantalla, transformación del contenido o determinados procesos de publicación pueden afectar a los mecanismos utilizados. Un proveedor que documenta estas limitaciones ofrece a la empresa información mucho más útil para construir sus propios controles.

También resulta importante comprobar si existe documentación específicamente destinada a clientes empresariales. Una herramienta utilizada individualmente por un consumidor y una plataforma desplegada entre cientos o miles de empleados presentan escenarios completamente distintos. Las organizaciones necesitan controles administrativos, políticas de acceso, gestión de usuarios, documentación, capacidad de auditoría y mecanismos que permitan demostrar posteriormente cómo se utilizó la tecnología.

El watermarking debe integrarse en una política empresarial más amplia

Uno de los errores que pueden cometer las organizaciones es considerar el watermarking como un problema exclusivamente tecnológico. Instalar una herramienta que incorpore mecanismos de marcado no crea por sí solo un sistema adecuado de gobernanza.

La empresa debe determinar qué contenidos requieren identificación, quién puede generarlos, qué herramientas están autorizadas, cómo deben conservarse los archivos originales, qué evidencias deben almacenarse y qué departamentos deben intervenir cuando el contenido pueda tener implicaciones jurídicas, reputacionales o regulatorias.

Imaginemos una organización que utiliza IA para generar imágenes publicitarias, vídeos corporativos, voces sintéticas, documentación interna y textos destinados a clientes. Los riesgos no son idénticos. Tampoco debería serlo el nivel de control.

Por eso, la evaluación del proveedor constituye solamente la primera capa. Después debe existir una política interna que determine cómo utilizar correctamente las capacidades proporcionadas por esa tecnología.

Legal, compliance y seguridad no deberían llegar al final del proceso

Existe además una pregunta especialmente importante dentro del checklist: ¿Legal, compliance o seguridad han revisado la solución si se utilizará en contenidos sensibles?

Durante la primera etapa de adopción de la IA generativa era frecuente que las herramientas entraran en las organizaciones desde abajo. Un profesional descubría una aplicación, comenzaba a utilizarla y posteriormente otros miembros del equipo hacían lo mismo. En muchas empresas, el departamento tecnológico descubría la existencia de determinadas herramientas cuando ya estaban siendo utilizadas.

Ese modelo resulta cada vez más difícil de mantener.

La expansión de los agentes de IA, la generación multimedia y la integración de modelos con sistemas empresariales exige avanzar hacia catálogos de herramientas autorizadas y procedimientos de evaluación previa. El objetivo no debería ser impedir la innovación, sino exactamente lo contrario: crear las condiciones para que la empresa pueda adoptar inteligencia artificial a mayor escala sin multiplicar simultáneamente sus riesgos.

Una buena gobernanza puede acelerar la adopción porque elimina incertidumbre. Cuando un empleado sabe qué herramientas puede utilizar, para qué usos están autorizadas y qué controles debe aplicar, la inteligencia artificial deja de funcionar en una zona gris.

THE INTELLIGENCE comparte un checklist de 14 preguntas

Para facilitar esta primera evaluación, hemos preparado un checklist que concentra catorce cuestiones que cualquier organización puede plantear antes de aprobar una herramienta de IA generativa:

1. ¿La herramienta genera audio, imagen, vídeo o texto sintético?
2. ¿El proveedor explica cómo marca los contenidos generados?
3. ¿La marca es legible por máquina?
4. ¿El contenido puede detectarse como generado o manipulado por IA?
5. ¿La herramienta conserva metadatos de procedencia?
6. ¿El marcado se mantiene al exportar?
7. ¿El proveedor explica qué ocurre si el archivo se edita o comprime?
8. ¿Existe una herramienta de verificación?
9. ¿El proveedor reconoce límites técnicos?
10. ¿Hay documentación específica para empresas?
11. ¿La herramienta permite controles de administración?
12. ¿El proveedor actualiza sus mecanismos de transparencia?
13. ¿La empresa puede conservar evidencia del uso de la herramienta?
14. ¿Legal, compliance o seguridad han revisado la solución si se utilizará en contenidos sensibles?

La regla de prudencia es sencilla: si varias respuestas son “no” o “no se sabe”, la herramienta no debería desplegarse sin una evaluación adicional.

De comprar software a gobernar inteligencia artificial

Este cambio anticipa una transformación más profunda en la gestión empresarial. Durante décadas, seleccionar software consistía esencialmente en comparar funcionalidades, costes, seguridad, soporte e integración. La inteligencia artificial incorpora una nueva dimensión: las organizaciones necesitan comprender también el comportamiento, procedencia y gobernanza de los outputs que producen esos sistemas.

En los próximos años veremos aparecer procesos de AI Vendor Assessment, registros corporativos de herramientas autorizadas, responsables de AI Governance, auditorías periódicas de proveedores y políticas específicas para contenidos sintéticos. Los departamentos de compras, tecnología, jurídico, compliance, comunicación y dirección tendrán que colaborar mucho más estrechamente.

Y probablemente esa sea una de las grandes conclusiones de esta nueva etapa: la empresa que utiliza IA no puede delegar completamente su responsabilidad en el proveedor de IA.

Puede apoyarse en su tecnología. Puede utilizar sus mecanismos de transparencia. Puede exigir documentación y controles. Pero necesita desarrollar también su propia capacidad para saber qué inteligencia artificial utiliza, dónde la utiliza, qué produce y qué evidencia conserva.

El checklist que compartimos desde THE INTELLIGENCE pretende servir precisamente como punto de partida para esa conversación dentro de las organizaciones.

Descarga el Checklist práctico para evaluar al proveedor de IA

Antes de incorporar una nueva herramienta de inteligencia artificial generativa a tu organización, utiliza estas 14 preguntas como primera evaluación de transparencia, trazabilidad y control.