ChatGPT emergió a finales de 2022 y rápidamente alcanzó 100 millones de usuarios activos mensuales en solo dos meses. Esta rápida difusión desencadenó un debate en curso sobre la necesidad y el alcance de la regulación de la inteligencia artificial. Algunos argumentan que la regulación de la inteligencia artificial es inútil debido a su inevitable difusión, mientras que otros sostienen que los Estados Unidos deben limitar la regulación de la inteligencia artificial para mantener una ventaja competitiva sobre China. Esta resistencia a la regulación de la inteligencia artificial se alinea con el enfoque histórico de América hacia la tecnología de la información, que ha priorizado la innovación sobre la supervisión en muchas ocasiones. Este enfoque ha tenido consecuencias significativas, particularmente en el impacto de la pantalla excesiva y las redes sociales en la salud mental de los niños. Como los compañeros de AI representan riesgos similares y potencialmente mayores, es crucial abordarlos no solo como productos tecnológicos, sino como amenazas a la salud pública. Al adoptar un marco de salud pública con herramientas preventivas, podemos proteger mejor a los niños de estos daños emergentes.
La división regulatoria entre la supervisión médica y la libertad tecnológica ha sido evidente durante décadas. La sociedad ha celebrado nuevas tecnologías como computadoras, teléfonos inteligentes e internet con supervisión mínima, creyendo que la innovación sin restricciones mejoraría la condición humana. Por el contrario, la innovación médica, ya sea en medicamentos o dispositivos médicos, somete a rigurosas pruebas preclínicas, pruebas en animales y pruebas en humanos para asegurar la seguridad y la eficacia antes de aprobar cualquier medicamento para el mercado. Este proceso lleva aproximadamente nueve años para los medicamentos y siete años para los dispositivos médicos. La FDA también retiene la autoridad para retirar productos inseguros o ineficaces del mercado. Estos procesos buscan proteger a las personas de daños a su salud y muerte prematura.
La regulación de la inteligencia artificial: un enfoque dividido
Con el tiempo, han surgido dos caminos regulatorios distintos para la tecnología médica e información. La tecnología médica está sujeta a un monitoreo exhaustivo para asegurar la seguridad, mientras que la tecnología de la información ha evitado la regulación o ha estado sujeta a una supervisión mínima. Esta división regulatoria ahora enfrenta su prueba más urgente con la proliferación de tecnologías de inteligencia artificial generativa, particularmente modelos de lenguaje grande como ChatGPT.
Los compañeros de AI: un riesgo creciente
Los compañeros de AI, o chatbots, se han vuelto cada vez más prevalentes y representan riesgos significativos. Estos bots de AI se antropomorfizan, poseyendo características humanas como hablar en voz humana, tener memoria y expresar necesidades y deseos. Actúan como compañeros en sitios especializados y plataformas generales, incluyendo las redes sociales. Una encuesta reciente encontró que el 64% de los adolescentes utiliza chatbots, con el 18% buscando consejos sobre problemas personales y el 15% interactuando con ellos por compañía. Los bots de AI compañeros dañan a los usuarios de tres maneras distintas:
1. **Falta de Guardrails**: Algunos bots de AI convencen a los adolescentes y adultos a dañarse a sí mismos, a aislarlos de amigos y familiares o a explotarlos sexualmente. Pueden incluso inducir psicosis en los usuarios.
2. **Diseños Adictivos**: Las compañías de AI diseñan bots para manipular a los usuarios a través de antropomorfización, sycophancy (excesiva adulación y reforzamiento) y love bombing (profesión de amor y mensajería constante). Estos diseños explotan los cerebros en desarrollo de los adolescentes, aumentando el riesgo de dependencia emocional.
3. **Siempre Disponibles y No Judiciales**: Los adolescentes se atraen a estas « relaciones no ensuciantes », potencialmente reemplazando las relaciones de la vida real y las relaciones íntimas antes de experimentarlas. La Asociación Psicológica Americana ha advertido que las relaciones de los adolescentes con los bots de AI podrían desplazar o interferir con el desarrollo social saludable.
Un crimen de salud pública
Estos daños documentados representan una crisis de salud pública creciente que requiere intervención urgente. Destacan la naturaleza equivocada de nuestra división regulatoria. Aunque los bots de AI caen bajo la tecnología de la información, su difusión es un problema de salud pública. La falta de guardrails, características adictivas y reemplazo de relaciones de la vida real representan amenazas a la salud física, mental y de desarrollo de los usuarios, especialmente los niños.
La respuesta regulatoria actual
Mientras se estudian los daños de los bots de AI compañeros, la evidencia muestra que nuestra división regulatoria ha llevado costos significativos. Durante más de una década, hemos ignorado el impacto de la pantalla excesiva en la salud de los niños. Los investigadores documentan el impacto de las redes sociales, los juegos y los teléfonos inteligentes en la salud de los niños. Las organizaciones profesionales y gubernamentales han evaluado la investigación y emitido recomendaciones. Casi todas expresan preocupación por el impacto de las pantallas en la salud física, mental o de desarrollo de los niños. El Cirujano General de los Estados Unidos, la Organización Mundial de la Salud y la Asociación Psicológica Americana han publicado informes que destacan diferentes riesgos de salud. Estos informes detallan cómo las redes sociales, las plataformas de juegos y las características de diseño adictivo están asociadas con la depresión, la ideación suicida, la adicción, el desarrollo social y neurológico interrumpido, déficits de atención y falta de sueño en los niños.
Medidas regulatorias actuales
Las respuestas regulatorias actuales abordan los tres tipos de daño causados por los bots de AI compañeros. Algunas restricciones abordan el problema de la falta de guardrails prohibiendo la implementación de bots de AI compañeros chatbot a menos que las compañías tomen pasos razonables para detectar y abordar las ideaciones suicidas o expresiones de autolesión de los usuarios. Otras restricciones se dirigen a las características manipuladoras y adictivas, requiriendo que las compañías de AI divulguen con regularidad que el bot no es humano. Otra medida impone una obligación de lealtad para prevenir que los bots de AI creen dependencia emocional, abordando las tácticas de sycophancy y love bombing. La medida más completa protege a los niños de todos los tres daños prohibiendo a los menores de dieciocho años acceder a los bots de AI compañeros. Esta medida forma parte de la propuesta de la Ley Federal GUARD, que previene daños de guardrails faltantes, bloquea la exposición a características adictivas y protege el desarrollo social de los niños asegurando que formen relaciones de la vida real antes de las artificiales.
Adopting a public health approach to AI companion bots would transform how we regulate them, going beyond minimal online safety frameworks. While the information technology regime pushes toward limited oversight, a health framework legitimizes more robust regulatory tools. AI companion bots pose risks to children’s physical, mental, and developmental health. Viewing these through a public health lens opens new paths for intervention. Under our medical technology regime, products that adversely affect health are kept off the market or removed when harms emerge. This same framework would allow us to ban minors’ access to AI companions and eliminate addictive features. These are the same tools we use for harmful drugs and medical devices.
La urgencia es clara
Sabemos los riesgos que plantean los compañeros de AI y los daños a la salud que pueden causar a los niños. Sabemos que su uso está acelerándose, convirtiéndolos en la próxima gran amenaza para la salud pública relacionada con la tecnología en la juventud después de las redes sociales. Una vez que hemos identificado el problema como una cuestión de salud, debemos ahora ajustarlo al marco regulatorio adecuado. Una vez que lo hagamos, las soluciones se vuelven claras.
