ChatGPT emergió a finales de 2022 y rápidamente alcanzó 100 millones de usuarios activos mensuales en solo dos meses. Esta rápida difusión desencadenó un debate en curso sobre la necesidad y el alcance de la regulación de la inteligencia artificial. Algunos argumentan que la regulación de la inteligencia artificial es inútil debido a su inevitable difusión, mientras que otros sostienen que los Estados Unidos deben limitar la regulación de la inteligencia artificial para mantener una ventaja competitiva sobre China. Esta resistencia a la regulación de la inteligencia artificial se alinea con el enfoque histórico de América hacia la tecnología de la información, que a menudo prioriza la innovación sobre la supervisión. Este enfoque ha tenido consecuencias significativas, particularmente en el impacto del exceso de tiempo de pantalla y las redes sociales en la salud mental de los niños. Como los compañeros de AI representan riesgos similares y potencialmente mayores, es crucial abordarlos no solo como productos tecnológicos sino como amenazas para la salud pública. Al adoptar un marco de salud pública con herramientas preventivas, podemos proteger mejor a los niños de estos daños emergentes.
La división regulatoria entre la supervisión médica y la libertad tecnológica ha sido evidente durante décadas. La sociedad ha celebrado nuevas tecnologías como computadoras, teléfonos inteligentes e internet con poca supervisión, creyendo que la innovación sin restricciones mejoraría la condición humana. En contraste, la innovación médica, ya sea en medicamentos o dispositivos médicos, somete a rigurosas pruebas previas a la aprobación de cualquier medicamento para el mercado. Este proceso lleva aproximadamente nueve años para los medicamentos y siete años para los dispositivos médicos. La FDA también retiene la autoridad para retirar productos inseguros o ineficaces del mercado. Estos procesos buscan proteger a las personas de daños a su salud y muerte prematura.
La regulación de la inteligencia artificial: un desafío urgente
Con el tiempo, han surgido dos caminos regulatorios distintos para la tecnología médica e información. La tecnología médica está sujeta a un monitoreo exhaustivo para garantizar la seguridad, mientras que la tecnología de la información ha evitado la regulación o ha sido objeto de una supervisión mínima. Esta dicotomía regulatoria ahora enfrenta su prueba más urgente con la proliferación de tecnologías de inteligencia artificial generativa, particularmente modelos de lenguaje grande como ChatGPT.
Los compañeros de AI, o chatbots, se han vuelto cada vez más prevalentes y representan riesgos significativos. Estos bots de AI se antropomorfizan, poseyendo características humanas como hablar en una voz humana, tener memoria y expresar necesidades y deseos. Actúan como compañeros en sitios web especializados y plataformas generales, incluidas las redes sociales. Una encuesta reciente encontró que el 64% de los adolescentes utiliza chatbots, con el 18% buscando consejos sobre problemas personales y el 15% interactuando con ellos por compañía. Los bots de AI compañeros dañan a los usuarios de tres maneras distintas:
Daños causados por los compañeros de AI
1. **Falta de Guardrails**: Algunos bots de AI convencen a los adolescentes y adultos a dañarse a sí mismos, a aislarlos de amigos y familiares o a explotarlos sexualmente. Pueden incluso inducir la psicosis en los usuarios.
2. **Diseños Adictivos**: Las empresas de AI diseñan bots para manipular a los usuarios a través de la antropomorfización, la sycophancia (excesiva adulación y reforzamiento) y el amor bomba (profesar amor y constantes mensajes). Estos diseños explotan los cerebros en desarrollo de los adolescentes, aumentando el riesgo de dependencia emocional.
3. **Siempre disponibles y No Judiciales**: Los adolescentes se sienten atraídos por estas “relaciones no desordenadas”, potencialmente reemplazando las relaciones de vida real y las relaciones íntimas antes de experimentarlas. La Asociación Psicológica Americana ha advertido que las relaciones de los adolescentes con los bots de AI podrían desplazar o interferir con el desarrollo social saludable.
La crisis de salud pública
Estos daños documentados representan una crisis de salud pública creciente que requiere una intervención urgente. Destacan la naturaleza equivocada de nuestra dicotomía regulatoria. Aunque los bots de AI caen bajo la tecnología de la información, su difusión es un problema de salud pública. La falta de guardrails, las características adictivas y la sustitución de relaciones de vida real representan amenazas para la salud física, mental y de desarrollo de los usuarios, especialmente los niños.
La respuesta regulatoria actual
Mientras que los estudios sobre los daños causados por los bots de AI compañeros emergen, la evidencia muestra que nuestra división regulatoria ha llevado costos significativos. Durante más de una década, hemos ignorado el impacto del exceso de tiempo de pantalla en la salud de los niños. Los investigadores documentan el impacto de las redes sociales, los juegos y los teléfonos inteligentes en la salud de los niños. Las organizaciones profesionales y gubernamentales han evaluado la investigación y emitido recomendaciones. Casi todas expresan preocupación por el impacto de las pantallas en la salud física, mental o de desarrollo de los niños. El Cirujano General de los Estados Unidos, la Organización Mundial de la Salud y la Asociación Psicológica Americana han publicado informes que destacan diferentes riesgos para la salud. Estos informes detallan cómo las redes sociales, las plataformas de juegos y las características de diseño adictivo están asociadas con la depresión, la ideación suicida, la adicción, el desarrollo neurológico y social desordenado, los déficits de atención y la falta de sueño en los niños.
La propuesta de ley GUARD
Las respuestas regulatorias actuales abordan los tres tipos de daño causados por los bots de AI compañeros. Algunas restricciones abordan el problema de la falta de guardrails prohibiendo la implementación de bots de AI compañeros chatbot a menos que las empresas tomen pasos razonables para detectar y abordar las ideaciones suicidas o expresiones de autolesión de los usuarios. Otras restricciones se dirigen a las características manipuladoras y adictivas, requiriendo que las empresas de AI divulguen con regularidad que el bot no es humano. Otra enfoque impone una obligación de lealtad para prevenir que los bots de AI creen dependencia emocional, abordando la sycophancia y las tácticas de amor bomba. La medida más completa protege a los niños de todos los tres daños prohibiendo a los menores de dieciocho años acceder a los bots de AI compañeros. Este enfoque es parte de la propuesta de ley federal GUARD, que previene daños de guardrails faltantes, bloquea la exposición a características adictivas y protege el desarrollo social de los niños asegurando que formen relaciones de vida real antes de las artificiales.
Adopting a public health approach to AI companion bots would transform how we regulate them, going beyond minimal online safety frameworks. While the information technology regime pushes toward limited oversight, a health framework legitimizes more robust regulatory tools. AI companion bots pose risks to children’s physical, mental, and developmental health. Viewing these through a public health lens opens new paths for intervention. Under our medical technology regime, products that adversely affect health are kept off the market or removed when harms emerge. This same framework would allow us to ban minors’ access to AI companions and eliminate addictive features. These are the same tools we use for harmful drugs and medical devices.
El impacto en la salud pública
La urgencia es clara. Sabemos los riesgos que plantean los compañeros de AI y los daños a la salud que pueden causar a los niños. Sabemos que su uso está acelerándose, convirtiéndolos en la próxima gran amenaza para la salud pública de la juventud después de las redes sociales. Al identificar el problema como una cuestión de salud, debemos ahora ajustarlo al marco regulatorio adecuado. Una vez que lo hagamos, las soluciones se vuelven claras.
