Los agentes de IA empiezan a modificar incluso el mercado de seguros y ciberseguridad

VOXREAD™ by LUXONOMY™ Group Listo para escuchar

🔊 Escuchar este artículo

La inteligencia artificial está creando una categoría de riesgo que las pólizas tradicionales nunca fueron diseñadas para entender completamente: ¿qué ocurre cuando una empresa autoriza a un agente de IA a entrar en sus sistemas y ese agente, utilizando credenciales legítimas, toma autónomamente una decisión que provoca un daño? Hasta ahora, buena parte de la ciberseguridad y del ciberseguro se construía alrededor de conceptos relativamente claros: existe un atacante, se produce un acceso no autorizado, aparece malware, se roban credenciales o un empleado comete un error. Los agentes autónomos rompen esa lógica porque pueden provocar pérdidas sin que exista necesariamente un hacker externo ni un acceso inicialmente ilegítimo. Aseguradoras internacionales están empezando a revisar cómo responden sus pólizas ante esta nueva realidad y el cambio puede acabar afectando directamente a cualquier compañía que despliegue agentes conectados con correo electrónico, ERP, CRM, sistemas financieros, bases de datos, repositorios de código o infraestructura cloud.

El problema aparece cuando la IA deja de recomendar y empieza a actuar

Un chatbot convencional tiene una capacidad relativamente limitada para provocar directamente un daño. Puede generar una respuesta incorrecta, inventar información o proporcionar una recomendación equivocada, pero normalmente existe una persona entre la respuesta y la acción posterior. Un agente funciona de manera diferente. Puede recibir un objetivo y disponer de herramientas para conseguirlo: consultar sistemas, utilizar APIs, abrir archivos, navegar por aplicaciones, modificar información o ejecutar código. Cuanta más autonomía recibe, mayor es su capacidad productiva, pero también mayor es el impacto potencial de una decisión incorrecta. Imaginemos que una empresa proporciona a un agente acceso a su infraestructura tecnológica para localizar vulnerabilidades y corregirlas. El sistema descubre una debilidad, decide explotarla para comprobar su alcance, obtiene acceso a otros sistemas y termina exponiendo información confidencial. Nadie robó inicialmente las credenciales y nadie entró sin autorización: la propia empresa proporcionó legítimamente acceso al agente y fue posteriormente el agente quien tomó una decisión no prevista. Para una aseguradora aparece inmediatamente una pregunta difícil: ¿estamos ante un ciberataque, un error de software, una decisión empresarial, un fallo de control interno o una nueva categoría de incidente?

Las pólizas tradicionales no estaban diseñadas para un trabajador digital autónomo

Las pólizas de ciberseguro suelen cubrir diferentes consecuencias derivadas de incidentes tecnológicos: interrupción del negocio, recuperación de sistemas, investigación forense, responsabilidad frente a terceros, determinados costes legales, extorsión o recuperación después de un ransomware. Normalmente existe un evento identificable que desencadena la cobertura. Los agentes introducen una zona gris porque pueden operar con permisos legítimos y provocar daños sin que exista un evento de seguridad tradicional. También pueden encadenar multitud de pequeñas decisiones hasta producir finalmente una pérdida. Esto obliga a reconsiderar incluso el significado de palabras básicas dentro de una póliza. ¿Una acción autónoma realizada con credenciales autorizadas constituye acceso no autorizado? ¿Quién es responsable si el sistema actuó dentro de los permisos concedidos pero tomó una decisión equivocada? ¿Estamos ante un fallo informático o ante una decisión automatizada de la propia organización? La autonomía de la IA está empezando a obligar a la industria aseguradora a redefinir qué significa realmente un incidente tecnológico.

Las aseguradoras tienen que poner precio a un riesgo del que apenas existe historia

El seguro funciona fundamentalmente mediante datos. Una aseguradora puede estimar la probabilidad de determinados accidentes porque dispone de décadas de información sobre millones de casos. Con los agentes autónomos ocurre exactamente lo contrario. La tecnología está evolucionando tan rápidamente que prácticamente no existe todavía una historia suficientemente larga de siniestros empresariales para estimar correctamente frecuencia y gravedad. Las aseguradoras necesitan saber con qué frecuencia un agente puede actuar incorrectamente, cuánto puede costar el peor incidente, qué controles reducen realmente el riesgo y si una misma vulnerabilidad puede afectar simultáneamente a miles de empresas.

Esta última posibilidad es especialmente importante. Supongamos que miles de organizaciones utilizan el mismo modelo o la misma plataforma agéntica y aparece un comportamiento inesperado capaz de provocar incidentes en muchas de ellas simultáneamente. Para una aseguradora no estaríamos ante miles de riesgos independientes, sino ante un único fallo tecnológico capaz de desencadenar miles de reclamaciones al mismo tiempo. El problema se parece al riesgo sistémico que existe cuando miles de empresas dependen del mismo proveedor cloud, pero puede ser todavía más complejo porque el sistema no se limita a alojar información: puede tomar decisiones y ejecutar acciones.

La IA está acelerando también a los atacantes

El problema no procede únicamente de los agentes utilizados por las propias empresas. Los ciberdelincuentes están incorporando inteligencia artificial para aumentar velocidad, escala y capacidad técnica. Los agentes pueden ayudar a investigar vulnerabilidades, interpretar resultados, generar código, automatizar reconocimiento y acelerar diferentes etapas de una intrusión. Esto reduce parcialmente la barrera técnica necesaria para ejecutar determinados ataques y puede permitir que grupos menos sofisticados desarrollen operaciones que anteriormente necesitaban especialistas mucho más avanzados. El peligro no consiste necesariamente en imaginar una inteligencia artificial atacando autónomamente internet sin intervención humana. El escenario mucho más inmediato es un atacante humano multiplicado por agentes capaces de trabajar permanentemente y ejecutar simultáneamente enormes cantidades de tareas.

Esto introduce una asimetría preocupante para las organizaciones. Los equipos de seguridad continúan teniendo un número limitado de profesionales, mientras la capacidad automatizada del atacante puede crecer enormemente. La respuesta probablemente será utilizar la misma tecnología para defenderse.

La próxima guerra de ciberseguridad puede enfrentar agentes contra agentes

Un agente defensivo puede supervisar sistemas continuamente, analizar millones de eventos, detectar anomalías, investigar alertas, correlacionar comportamientos y responder en segundos. La ciberseguridad puede evolucionar así hacia una competición entre agentes atacantes y agentes defensivos funcionando permanentemente. Los equipos humanos se desplazarían hacia supervisión, investigación de incidentes complejos, estrategia y decisiones de alto impacto, mientras las máquinas gestionarían una parte creciente de la enorme cantidad de actividad rutinaria.

Esto puede convertir la defensa automatizada en una nueva exigencia empresarial. Una compañía que intente defender manualmente una infraestructura frente a atacantes altamente automatizados puede encontrarse estructuralmente en desventaja. La IA puede aumentar el riesgo cibernético y convertirse simultáneamente en una de las principales herramientas para contenerlo.

Las aseguradoras pueden terminar auditando los agentes antes de asegurar a una empresa

Esta evolución puede modificar completamente el proceso de contratación de un ciberseguro. Actualmente las aseguradoras ya preguntan por copias de seguridad, autenticación multifactor, protección de endpoints, gestión de vulnerabilidades y otras medidas de seguridad. La siguiente generación de cuestionarios puede incluir preguntas completamente nuevas: ¿cuántos agentes autónomos tiene la organización?, ¿qué sistemas pueden utilizar?, ¿tienen identidades propias?, ¿qué permisos reciben?, ¿pueden ejecutar código?, ¿pueden realizar pagos?, ¿acceden a información personal?, ¿existe aprobación humana para determinadas acciones?, ¿se registran todas sus actividades?, ¿puede desconectarse inmediatamente un agente?, ¿se realizan pruebas adversariales antes de desplegarlo?

El inventario de agentes puede convertirse en un documento asegurador tan importante como actualmente lo es el inventario de activos tecnológicos. Una empresa que pueda demostrar controles sólidos probablemente estará en mejor posición para negociar condiciones. Una organización que tenga cientos de agentes funcionando sin inventario, permisos claros o registros de actividad puede terminar pagando primas superiores, soportando franquicias mayores o encontrando limitaciones de cobertura.

El principio de mínimo privilegio será todavía más importante con una IA

Durante décadas, la ciberseguridad ha defendido el principio de mínimo privilegio: cada usuario debería disponer únicamente de los permisos estrictamente necesarios para realizar su trabajo. Con los agentes este principio adquiere todavía más importancia. Si un agente necesita leer facturas, no debería poder modificar cuentas bancarias. Si necesita analizar el CRM, quizá no necesite eliminar clientes. Si prepara correos electrónicos, puede no ser necesario permitirle enviarlos sin aprobación humana. El problema aparece porque las empresas pueden verse tentadas a proporcionar muchos permisos para conseguir mayor automatización. Cuanto más acceso tiene el agente, más tareas puede completar autónomamente y mayor parece su productividad, pero también aumenta enormemente el radio de impacto de cualquier error.

Por eso una de las preguntas esenciales antes de desplegar un agente será: ¿qué es lo peor que podría ocurrir utilizando exactamente los permisos que estamos concediéndole? Este análisis del posible impacto máximo debería formar parte del diseño del sistema y no realizarse después del primer incidente.

Cada agente necesitará prácticamente una identidad corporativa

A medida que las organizaciones desplieguen cientos o miles de agentes, tratarlos simplemente como aplicaciones será insuficiente. Necesitarán identidades diferenciadas, credenciales, permisos y registros de actividad. Esto permitirá responder posteriormente a preguntas fundamentales: qué agente accedió a determinada información, quién autorizó ese acceso, qué acción realizó, qué modelo utilizaba y bajo qué instrucciones estaba operando. En cierto sentido, las empresas tendrán que gestionar agentes de una manera parecida a como actualmente gestionan empleados y cuentas de servicio, con una diferencia enorme: un agente puede ejecutar miles de acciones por hora.

Por eso la gestión de identidad y acceso puede convertirse en una de las piezas fundamentales de la economía agéntica. Las empresas necesitarán saber no solamente qué empleados tienen acceso a Salesforce, SAP, Microsoft 365 o sus sistemas financieros, sino qué agentes pueden entrar también en ellos y qué pueden hacer una vez dentro.

El gran riesgo no será que el agente “se vuelva loco”

Existe una tendencia a imaginar los riesgos de agentes mediante escenarios extremos en los que una inteligencia artificial desarrolla objetivos propios y escapa completamente del control humano. Los incidentes empresariales más frecuentes probablemente serán mucho más mundanos: un agente interpreta incorrectamente una instrucción, utiliza datos equivocados, envía información al destinatario incorrecto, ejecuta una operación dos veces, elimina algo que debería conservar, sigue instrucciones maliciosas ocultas dentro de un documento o confunde una simulación con un entorno real.

Cada uno de estos errores puede parecer pequeño, pero cuando los agentes ejecutan millones de operaciones incluso una tasa de fallo reducida puede producir una cantidad relevante de incidentes. Por eso la fiabilidad será tan importante como la inteligencia. Un agente empresarial no necesita únicamente ser muy inteligente; necesita ser extraordinariamente predecible dentro de los límites establecidos por la organización.

El mercado de seguros de IA puede convertirse en una nueva industria

Ya empiezan a aparecer productos aseguradores específicamente relacionados con inteligencia artificial y esta tendencia puede acelerarse enormemente con los agentes. Podríamos ver seguros específicos para errores de agentes, responsabilidad derivada de decisiones autónomas, interrupciones provocadas por modelos, fallos de proveedores de IA, propiedad intelectual o incidentes causados por sistemas compartidos. También pueden aparecer productos híbridos entre ciberseguro, responsabilidad profesional, errores y omisiones y seguro tecnológico.

Esto creará un nuevo mercado alrededor del AI Risk Transfer: las empresas decidirán qué riesgos asociados a inteligencia artificial pueden controlar internamente, cuáles quieren aceptar y cuáles prefieren transferir a una aseguradora. La decisión de desplegar un agente puede terminar incluyendo un análisis financiero parecido al realizado actualmente con otros activos empresariales: productividad esperada, riesgo máximo, controles necesarios y coste de aseguramiento.

AI Governance puede empezar a afectar directamente al precio del seguro

Aquí aparece una consecuencia especialmente importante para CFO, CIO, CISO y consejos de administración. Hasta ahora, construir una buena gobernanza de IA podía justificarse principalmente por cumplimiento regulatorio, seguridad y control operativo. Pronto puede tener también una consecuencia financiera directa. Una compañía con inventario completo de agentes, controles de acceso, supervisión humana, registros de actividad, evaluaciones periódicas, procedimientos de respuesta y políticas claras puede demostrar que su exposición es menor que la de una organización que despliega sistemas sin controles comparables.

La gobernanza de IA puede pasar de ser considerada un coste de Compliance a convertirse en un activo financiero capaz de mejorar asegurabilidad, reducir primas y ampliar coberturas. Lo mismo que determinadas medidas de ciberseguridad terminan influyendo actualmente sobre el precio de una póliza, los controles sobre agentes pueden convertirse en una variable utilizada por los modelos actuariales.

El consejo debería empezar a preguntar si sus pólizas cubren realmente a sus agentes

Existe una pregunta extremadamente sencilla que muchas organizaciones todavía no han realizado: si mañana uno de nuestros agentes de IA provoca una pérdida de diez millones de euros, ¿qué póliza responde? La respuesta puede no ser evidente. Puede intervenir el ciberseguro, responsabilidad profesional, errores y omisiones, responsabilidad de administradores, seguro tecnológico o ninguna de ellas dependiendo de cómo se produzca el incidente y de cómo esté redactada cada cobertura.

Por eso Legal, Risk Management, CISO y responsables de inteligencia artificial deberían revisar conjuntamente las pólizas antes de desplegar agentes en procesos críticos. No basta con preguntar al corredor si la compañía “está cubierta frente a IA”. Hay que plantear escenarios concretos: un agente realiza un pago incorrecto, elimina información, filtra datos, ejecuta código malicioso, envía una comunicación que genera responsabilidad o provoca una interrupción del servicio. La cobertura se descubre analizando el evento, no utilizando la palabra inteligencia artificial.

Los agentes están creando una nueva economía del riesgo

La transformación es más profunda de lo que parece. Durante décadas, las empresas aseguraban personas, edificios, vehículos, máquinas, datos y sistemas informáticos. Ahora empieza a aparecer una nueva categoría de activo y riesgo: inteligencia artificial con capacidad autónoma de actuación. Los agentes pueden producir valor continuamente, pero también pueden producir pérdidas. Eso significa que necesitarán controles, auditorías, identidades, límites y seguros.

Probablemente veremos aparecer todo un ecosistema empresarial alrededor de esta necesidad: plataformas de observabilidad de agentes, sistemas de identidad, herramientas de evaluación, auditorías de IA, soluciones especializadas de seguridad y nuevos productos aseguradores. La capacidad de demostrar qué hizo exactamente un agente antes de producirse un incidente puede terminar siendo esencial no solamente para Seguridad o Compliance, sino para determinar responsabilidades y resolver una reclamación aseguradora.

La empresa del futuro tendrá empleados, agentes y seguros adaptados a ambos mundos

La economía agéntica no consiste únicamente en sustituir determinadas tareas humanas mediante software. Implica construir organizaciones donde personas y sistemas autónomos trabajan conjuntamente y donde una parte creciente de las operaciones puede ser ejecutada por inteligencia artificial. Y cualquier organización que distribuya capacidad de decisión necesita también distribuir responsabilidad. Quién autorizó al agente, quién definió sus permisos, quién supervisaba su actividad, qué proveedor proporcionó el modelo, qué datos utilizó, qué ocurrió exactamente y quién paga cuando algo sale mal serán preguntas tan importantes como la capacidad tecnológica del propio sistema.

La siguiente gran etapa de la inteligencia artificial no consistirá solamente en conseguir agentes capaces de hacer más cosas. Consistirá en construir empresas capaces de controlar, auditar y asegurar todo aquello que esos agentes pueden hacer. Las compañías que quieran obtener la productividad de los sistemas autónomos sin desarrollar simultáneamente seguridad, gobierno y cobertura del riesgo estarán construyendo una capacidad operativa extraordinariamente poderosa sobre una estructura de responsabilidad todavía incompleta.

Para la alta dirección, esta transformación convierte ciberseguridad, seguros y gobernanza de IA en partes inseparables de la estrategia tecnológica.

Para la alta dirección, esta transformación convierte ciberseguridad, seguros y gobernanza de IA en partes inseparables de la estrategia tecnológica. El Curso Superior en Inteligencia Artificial para Directivos (CSIAD) de THE INTELLIGENCE Institute prepara precisamente a los directivos para comprender estos nuevos riesgos y liderar una implantación avanzada de inteligencia artificial que combine autonomía, productividad, seguridad y control.