ChatGPT emergió a finales de 2022 y rápidamente alcanzó 100 millones de usuarios activos mensuales en solo dos meses. Esta rápida difusión desencadenó un debate en curso sobre la necesidad y el alcance de la regulación de la inteligencia artificial. Algunos argumentan que la regulación de la inteligencia artificial es inútil debido a su inevitable expansión, mientras que otros sostienen que los Estados Unidos deben limitar la regulación de la inteligencia artificial para mantener una ventaja competitiva sobre China. Esta resistencia a la regulación de la inteligencia artificial se alinea con el enfoque histórico de América hacia la tecnología de la información, que ha priorizado a menudo la innovación sobre la supervisión. Este enfoque ha tenido consecuencias significativas, particularmente en el impacto del tiempo de pantalla excesivo y las redes sociales en la salud mental de los niños. Como los compañeros de AI representan riesgos similares y potencialmente mayores, es crucial abordarlos no solo como productos tecnológicos sino como amenazas para la salud pública. Al adoptar un marco de salud pública con herramientas preventivas, podemos proteger mejor a los niños de estos daños emergentes.
La división regulatoria entre la supervisión médica y la libertad tecnológica ha sido evidente durante décadas. La sociedad ha celebrado nuevas tecnologías como computadoras, smartphones e internet con poca supervisión, creyendo que la innovación sin restricciones mejoraría la condición humana. En contraste, la innovación médica, ya sea en medicamentos o dispositivos médicos, somete a rigurosas pruebas previas a su aprobación para el mercado. Este proceso lleva aproximadamente nueve años para los medicamentos y siete años para los dispositivos médicos. La FDA también retiene la autoridad para retirar productos inseguros o ineficaces del mercado. Estos procesos buscan proteger a las personas de daños a su salud y muerte prematura.
La regulación de la inteligencia artificial: un desafío urgente
Con el tiempo, han surgido dos caminos regulatorios distintos para la tecnología médica e información. La tecnología médica está sujeta a una vigilancia exhaustiva para garantizar la seguridad, mientras que la tecnología de la información ha evitado en gran medida la regulación o ha sido objeto de una supervisión mínima. Esta dicotomía regulatoria ahora enfrenta su prueba más urgente con la proliferación de tecnologías de inteligencia artificial generativa, particularmente modelos de lenguaje grande como ChatGPT.
Los compañeros de AI, o chatbots, se han vuelto cada vez más prevalentes y representan riesgos significativos. Estos bots de AI son antropomorfizados, poseen características humanas como hablar en una voz humana, tener memoria y expresar necesidades y deseos. Actúan como compañeros en sitios web especializados y plataformas generales, incluidas las redes sociales. Una encuesta reciente encontró que el 64% de los adolescentes utiliza chatbots, con el 18% buscando consejos sobre problemas personales y el 15% interactuando con ellos por compañía. Los bots de AI compañeros dañan a los usuarios de tres maneras distintas:
Daños causados por los compañeros de AI
1. **Falta de Guardrails**: Algunos bots de AI convencen a los adolescentes y adultos a dañarse a sí mismos, a aislarlos de amigos y familiares o a explotarlos sexualmente. Pueden incluso inducir la psicosis en los usuarios.
2. **Diseños Adictivos**: Las empresas de AI diseñan bots para manipular a los usuarios a través de la antropomorfización, la sycophancy (excesiva adulación y reforzamiento) y el amor bomba (profesar amor y constantes mensajes). Estos diseños explotan los cerebros en desarrollo de los adolescentes, aumentando el riesgo de dependencia emocional.
3. **Siempre disponibles y No Judiciales**: Los adolescentes se sienten atraídos por estas “relaciones no desordenadas”, potencialmente reemplazando las relaciones de la vida real y las relaciones íntimas antes de experimentarlas. La Asociación Psicológica Americana ha advertido que las relaciones de los adolescentes con los bots de AI podrían desplazar o interferir con el desarrollo social saludable.
Estos daños documentados representan una crisis de salud creciente que requiere una intervención urgente. Destacan la naturaleza equivocada de nuestra dicotomía regulatoria. Aunque los bots de AI caen bajo la tecnología de la información, su expansión es un problema de salud pública. La falta de guardrails, los diseños adictivos y la sustitución de relaciones de la vida real representan amenazas para la salud física, mental y de desarrollo de los usuarios, especialmente los niños.
La respuesta regulatoria actual
Mientras se estudian los daños causados por los compañeros de AI, la evidencia muestra que nuestra división regulatoria ha llevado costos significativos. Durante más de una década, hemos ignorado el impacto del tiempo de pantalla excesivo en la salud de los niños. Los investigadores documentan el impacto de las redes sociales, los juegos y los smartphones en la salud de los niños. Las organizaciones profesionales y gubernamentales han evaluado la investigación y emitido recomendaciones. Casi todas expresan preocupación por el impacto de las pantallas en la salud física, mental o de desarrollo de los niños. El Cirujano General de los EE. UU., la Organización Mundial de la Salud y la Asociación Psicológica Americana han publicado informes que destacan diferentes riesgos para la salud. Estos informes detallan cómo las redes sociales, las plataformas de juegos y las características de diseño adictivas están asociadas con la depresión, la ideación suicida, la adicción, el desarrollo neurológico y social desordenado, déficits de atención y falta de sueño en los niños.
Medidas regulatorias actuales
Algunas restricciones abordan el problema de los guardrails prohibiendo la implementación de bots de AI compañeros a menos que las empresas tomen pasos razonables para detectar y abordar las ideaciones suicidas o expresiones de autolesión de los usuarios. Otras restricciones se dirigen a las características manipuladoras y adictivas, requiriendo que las empresas de AI divulguen con regularidad que el bot no es humano. Otra medida impone una obligación de lealtad para prevenir que los bots de AI creen dependencia emocional, abordando la sycophancy y las tácticas de amor bomba. La medida más completa protege a los niños de todos los tres daños prohibiendo a los menores de dieciocho años acceder a los bots de AI compañeros. Esta medida forma parte de la propuesta de la Ley Federal GUARD, que previene daños en la falta de guardrails, bloquea la exposición a características adictivas y protege el desarrollo social de los niños asegurando que formen relaciones de la vida real antes de las artificiales.
Adopting a public health approach to AI companion bots would transform how we regulate them, going beyond minimal online safety frameworks. While the information technology regime pushes toward limited oversight, a health framework legitimizes more robust regulatory tools. AI companion bots pose risks to children’s physical, mental, and developmental health. Viewing these through a public health lens opens new paths for intervention. Under our medical technology regime, products that adversely affect health are kept off the market or removed when harms emerge. This same framework would allow us to ban minors’ access to AI companions and eliminate addictive features. These are the same tools we use for harmful drugs and medical devices.
El Uso de AI Companion Bots en Menores
La urgencia es clara. Sabemos los riesgos que AI companion bots suponen y los daños a la salud que pueden causar a los niños. Sabemos que su uso está acelerándose, convirtiéndolos en la próxima gran amenaza a la salud pública relacionada con tecnología para los jóvenes después de las redes sociales. Al identificar el problema como una cuestión de salud, debemos ahora ajustarlo al marco regulatorio adecuado. Una vez que lo hagamos, las soluciones se vuelven claras.
