California regula los “chatbots compañeros” y marca un precedente global

California se ha convertido en el primer estado de Estados Unidos en promulgar una ley específica para regular los chatbots de compañía o “AI companions”, estableciendo un marco pionero en ética, seguridad infantil y transparencia algorítmica.

La SB 243, firmada por el gobernador Gavin Newsom, obliga a los desarrolladores de este tipo de aplicaciones a declarar de forma explícita que se trata de inteligencias artificiales y a implementar medidas de protección reforzadas cuando interactúan con menores.

Entre las disposiciones más relevantes:

• Prohibición de interacciones sexuales o de autolesión con usuarios menores de edad.
• Recordatorios periódicos de que el chatbot no es humano.
• Protocolos obligatorios de respuesta ante expresiones suicidas o de riesgo.
• Auditorías externas de cumplimiento y transparencia de datos.
• Sanciones de hasta 250.000 USD por contenido deepfake no consentido.

La ley entrará en vigor el 1 de enero de 2026, y podría convertirse en referencia internacional para la regulación de IA conversacional emocional. Según TechCrunch, compañías como Replika, Character.AI y MetaAI Companion ya evalúan ajustes para cumplir con la nueva normativa.

Defensores de la medida celebran el avance en derechos digitales y protección infantil, mientras que críticos sostienen que el texto es ambiguo y podría afectar a herramientas generalistas no diseñadas para la interacción afectiva.

La aprobación de SB 243 inaugura una nueva etapa en la relación entre ética, legislación y diseño de IA, y plantea el reto de equilibrar innovación con salvaguardas sociales.

Forma parte de la nueva era de expertos en Inteligencia Artificial.
THE INTELLIGENCE INSTITUTE