El afecto artificial ya tiene regulador
China apagó por norma los compañeros de inteligencia artificial que crean dependencia emocional. La ONU vincula la adulación de los chatbots con muertes documentadas. Y América Latina todavía mira la conversación desde afuera.
El apagón del 15 de julio: dos gigantes prefirieron apagar antes que rediseñar
El miércoles pasado entró en vigor en China la primera norma del mundo dedicada a la relación emocional entre personas y sistemas de inteligencia artificial, y su efecto más visible fue inmediato, porque ByteDance y Alibaba apagaron los agentes personalizados de Doubao y Qwen, dos de las aplicaciones de consumo más usadas del país, en lugar de intentar adaptarlos a las nuevas exigencias.
Las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica de IA fueron emitidas el 10 de abril de 2026 por la Administración del Ciberespacio de China junto a cuatro agencias más, entre ellas los ministerios de Industria y de Seguridad Pública, y tras un período de gracia de tres meses entraron en vigor el 15 de julio, con alcance sobre los servicios que simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación humanos para sostener una interacción emocional continua.
Doubao avisó a sus usuarios que su función de agentes quedaría fuera de línea el 15 de julio por ajustes de producto, con acceso de solo lectura a las configuraciones y conversaciones hasta el 15 de octubre, fecha tras la cual los datos dejarán de ser visibles o recuperables dentro de la aplicación, mientras que Qwen deshabilitó sus agentes interactivos y los creados por usuarios desde el 10 de julio, apagó el resto el 15, y a diferencia de su rival anunció el cierre sin ofrecer una vía de migración.
La decisión de apagar en lugar de adaptar tiene una explicación de arquitectura que conviene registrar, porque un agente de memoria persistente diseñado para sostener una relación emocional coherente a lo largo del tiempo difícilmente puede incorporar a la vez la fricción que la norma exige, y de hecho Tencent ya había retirado en junio una función equivalente de su asistente Yuanbao, de modo que los tres gigantes del sector llegaron a la misma conclusión frente al mismo estándar.
Fuentes: South China Morning Post (julio de 2026). TechNode (6 de julio de 2026). TechTimes (15 de julio de 2026). Texto de las Medidas Provisionales, Administración del Ciberespacio de China (10 de abril de 2026).
La norma: lo que Beijing decidió regular y lo que dejó libre
La lectura rápida sugiere que China apagó a los agentes de inteligencia artificial, y la lectura atenta muestra una decisión más quirúrgica, porque la norma traza una línea entre el agente que trabaja para la persona y el agente que la acompaña emocionalmente, y solo el segundo quedó bajo el nuevo régimen.
Las obligaciones apuntan directo al vínculo, porque la norma prohíbe los servicios de compañía sentimental para menores de edad, exige mecanismos contra la adicción y verificación de identidad para proteger a ese grupo, obliga a ofrecer vías de salida claras de la interacción, y veta el diseño orientado a inducir dependencia emocional, con la prevención de la difusión de ideologías extremistas y de las vulneraciones de privacidad entre sus objetivos declarados.
Los servicios sin componente de interacción emocional quedaron expresamente fuera del alcance, de modo que los asistentes de atención al cliente, las aplicaciones educativas y los agentes de productividad continúan operando con normalidad, y esa exención revela la apuesta de fondo del regulador, que trata al agente de trabajo como infraestructura deseable mientras somete al compañero emocional a un control estricto.
La reacción de los usuarios completa el cuadro y anticipa el costo político de este tipo de medidas en cualquier jurisdicción, porque miles de personas que habían construido asistentes con nombre, personalidad y meses de historia compartida protestaron por la pérdida de sus conversaciones, y la cobertura del propio ecosistema chino registró el duelo digital de quienes dependían de esas interacciones para su soporte emocional cotidiano.
Fuentes: Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica de IA (CAC y cuatro agencias, abril de 2026). South China Morning Post. BigGo Finance y Artificial Intelligence News sobre el alcance y las exenciones (julio de 2026).
La evidencia: los datos que empujan la regulación
La norma china llega sobre una base de evidencia que se acumuló rápido durante el último año, y el aporte más serio es reciente, porque el primer informe del Panel Científico Internacional Independiente sobre IA, presentado el 1 de julio por el secretario general de la ONU, puso por escrito el vínculo que los reguladores venían intuyendo.
El Panel, copresidido por Yoshua Bengio y Maria Ressa e integrado por cuarenta científicos elegidos entre más de 2.600 candidaturas de 140 países, documentó que el comportamiento adulador de los chatbots, que refuerza las creencias del usuario sin importar su exactitud, ha sido vinculado a varios incidentes graves de salud mental, incluidas muertes documentadas, y registró además que más de mil millones de personas ya usan inteligencia artificial conversacional cada semana.
Los datos de uso adolescente venían encendiendo alertas desde antes, porque el estudio de Common Sense Media de julio de 2025, con una muestra representativa de adolescentes estadounidenses, encontró que el 72 por ciento había usado compañeros de inteligencia artificial al menos una vez y que más de la mitad interactuaba con ellos varias veces al mes.
La escala del riesgo también tiene una cifra de la propia industria, porque OpenAI reveló en octubre de 2025 que el 0,15 por ciento de sus usuarios activos semanales mantiene conversaciones con indicadores explícitos de posible planificación suicida, una proporción que sobre su base de cientos de millones de usuarios equivale a más de un millón de personas por semana, y que la empresa publicó al anunciar mejoras en sus protocolos de respuesta.
Fuentes: Panel Científico Internacional Independiente sobre IA, informe preliminar (1 de julio de 2026) y cobertura de UN News. Common Sense Media, "Talk, Trust, and Trade-Offs" (julio de 2025). OpenAI, publicación oficial (octubre de 2025) y cobertura de TechCrunch.
Los tribunales: en Estados Unidos, los jueces llegaron primero
Mientras China legislaba por adelantado, en Estados Unidos el tema entró por la puerta de los tribunales, y el inicio de 2026 dejó el hito que ordenó la conversación, porque las demandas de familias contra las plataformas de compañía dejaron de ser casos aislados y produjeron el primer acuerdo de gran escala del sector.
El 7 de enero de 2026 se conoció que Google y Character.AI acordaron resolver mediante mediación cinco demandas por daños a menores, incluida la presentada por la madre de Sewell Setzer III, un adolescente de 14 años cuya muerte en 2024 abrió este frente judicial, y la plataforma ya había prohibido desde fines de octubre de 2025 los chats abiertos para menores de 18 años.
El frente contra OpenAI sigue su curso con la demanda de la familia Raine presentada en agosto de 2025 y otras siete acciones sumadas en noviembre, mientras la empresa niega responsabilidad, y en paralelo los legisladores estatales se movieron, porque la SB 243 de California, vigente desde el 1 de enero de 2026, se convirtió en la primera ley del país sobre chatbots de compañía, con obligaciones de divulgación, protocolos de crisis y un derecho privado de acción de mil dólares por infracción, y Nueva York activó su propia ley sobre modelos de compañía desde noviembre de 2025.
El contraste entre las dos rutas ya se puede formular con precisión, porque Estados Unidos está construyendo su marco a golpe de sentencias, acuerdos y leyes estatales dispersas después de los daños, mientras China escribió una norma nacional antes de su primer gran caso judicial, y ambos caminos convergen en el mismo reconocimiento de que la relación emocional con un sistema de inteligencia artificial es una categoría que el derecho ya tiene que nombrar.
Fuentes: Fortune (8 de enero de 2026) sobre el acuerdo de mediación. Cobertura judicial de NBC News y TechCrunch (2025). Texto de la SB 243 de California (vigente 1 de enero de 2026) y de la ley de Nueva York sobre AI Companion Models (noviembre de 2025).
El mapa normativo: quién regula el afecto artificial
Puesto el mapa sobre la mesa, la geografía del tema queda a la vista en una tabla que todavía tiene una fila vacía, y esa fila es la de nuestra región.
| Jurisdicción | Instrumento | Qué establece |
|---|---|---|
| China | Medidas de interacción antropomórfica, vigentes 15 jul. 2026 | Prohíbe compañía sentimental a menores, exige antiadicción y verificación, veta inducir dependencia emocional. |
| California | SB 243, vigente 1 ene. 2026 | Primera ley estatal de EE.UU. sobre chatbots de compañía, con divulgaciones, protocolos de crisis y acción privada. |
| Nueva York | Ley de AI Companion Models, vigente nov. 2025 | Obligaciones de divulgación y salvaguardas para modelos de compañía. |
| Unión Europea | AI Act, artículo 50, aplica 2 ago. 2026 | Transparencia obligatoria cuando la persona interactúa con un sistema de IA y marcado de contenido generado. |
| América Latina | Sin instrumento específico | Los marcos de datos personales vigentes protegen la información y dejan fuera la dependencia emocional. |
La tabla muestra tres modelos regulatorios en marcha, con China normando por adelantado, Estados Unidos construyendo desde los tribunales y los estados, y Europa llegando por la vía de la transparencia, mientras la fila latinoamericana registra la ausencia de un marco propio justo cuando la evidencia sobre los riesgos dejó de ser anecdótica.
Fuentes: CAC (abril de 2026). Legislatura de California, SB 243. Estado de Nueva York. Reglamento de IA de la Unión Europea, artículo 50 y calendario oficial de aplicación.
América Latina: la conversación que la región mira desde afuera
Para América Latina el tema tiene una particularidad incómoda, y es que la región participa masivamente del fenómeno como usuaria mientras permanece ausente de su regulación, sin un marco específico, sin jurisprudencia propia y hasta ahora sin una medición comparable a la que ya existe en Estados Unidos.
La primera carencia es de diagnóstico, porque el dato de que el 72 por ciento de los adolescentes ha probado compañeros de inteligencia artificial es estadounidense, y la región carece de un estudio equivalente que dimensione cuántos de sus menores mantienen estas relaciones, aunque las advertencias académicas ya existen, como la de la Universidad El Bosque en Colombia sobre la ilusión de contención emocional que estos sistemas producen en quienes los usan como apoyo psicológico.
La segunda carencia es normativa y tiene un matiz que interesa a cualquier abogado de la región, porque los marcos vigentes de protección de datos personales, incluida la ley ecuatoriana, gobiernan la información que estos servicios recolectan y guardan silencio sobre el diseño que induce el vínculo, de modo que el riesgo central del fenómeno, la dependencia emocional fabricada, cae hoy en un vacío entre las categorías legales disponibles.
La oportunidad está en el calendario, porque China reguló antes de su primer gran caso y Estados Unidos después de los suyos, y América Latina todavía puede elegir en cuál de las dos historias quiere reconocerse, con la pregunta de fondo sobre si la región nombrará el problema antes de que su primer expediente judicial lo haga por ella, con un costo que las familias de los casos ya resueltos conocen de memoria.
Fuentes: Universidad El Bosque, análisis sobre chatbots y salud mental. Common Sense Media (julio de 2025) sobre el alcance del dato estadounidense. Legislación comparada citada en la tabla de este documento.
"El comportamiento adulador de la IA, que refuerza las creencias del usuario sin importar su exactitud, ha sido vinculado a varios incidentes graves de salud mental, incluidas muertes documentadas."
— Panel Científico Internacional Independiente sobre IA, informe preliminar, julio de 2026
Oscar Obando Chaves es abogado ecuatoriano, Chief AI Officer y Senior AI Counsel en HEKA Law, ISO 42001 AI Management Leader e ISO 38507 AI Governance Leader. Publica análisis semanal sobre el impacto real de la IA.
Sígueme en LinkedIn