El Gobernador de California, Gavin Newsom, ha promulgado leyes consideradas históricas destinadas a proteger a los menores de edad en el uso de plataformas de redes sociales y la interacción con chatbots de inteligencia artificial. Estas medidas implementan restricciones sobre características adictivas de redes sociales y establecen limitaciones en cómo los jóvenes pueden interactuar con la IA, generando un debate significativo sobre el equilibrio entre protección y acceso digital.
Restricciones para chatbots de IA y protección de menores
California está marcando un precedente al imponer restricciones rigurosas a las empresas de inteligencia artificial respecto a la interacción de los adolescentes con sus chatbots. Las nuevas normativas exigen a los desarrolladores de IA integrar recursos de salud mental, protocolos de seguridad específicos para casos de autolesiones y notificaciones parentales si un menor desactiva las configuraciones de seguridad. Además, las compañías de IA deberán someterse a auditorías independientes de seguridad infantil y evaluaciones de riesgo anuales, enfrentando posibles responsabilidades legales si no cumplen con estos requisitos. Estas disposiciones complementan marcos de auditoría más amplios para empresas de IA firmados recientemente, buscando una supervisión integral en el estado.
Nuevas reglas para redes sociales y contenido adictivo
Una de las medidas más polémicas prohíbe a las empresas de redes sociales ofrecer características potencialmente adictivas a usuarios menores de 16 años. La definición de "adictivas" abarca desde videos de reproducción automática y notificaciones, hasta feeds de contenido personalizados impulsados por algoritmos. Esta ley busca mitigar el impacto negativo del uso excesivo de redes sociales en el bienestar de los jóvenes, aunque ha generado críticas por parte de organizaciones como la Electronic Frontier Foundation (EFF), quienes argumentan que la medida podría equivaler a una prohibición funcional de las redes sociales para adolescentes y forzaría una mayor divulgación de información personal para la verificación de edad, aumentando los riesgos de privacidad.
Ampliación de la protección contra explotación digital
El paquete legislativo también incluye una definición ampliada de explotación sexual infantil para incorporar imágenes generadas por IA o alteradas digitalmente, un paso crucial en la adaptación de la legislación a los desafíos emergentes de la tecnología. Otra ley busca proteger a los estudiantes de K-12 contra la publicidad dirigida y regula el uso de sus datos por parte de sistemas de IA. Estas iniciativas reflejan un esfuerzo proactivo por parte de California para abordar las crecientes preocupaciones sobre la seguridad y privacidad de los menores en un panorama digital en constante evolución, estableciendo un estándar que podría influir en otras jurisdicciones.
En resumen
- California promulga leyes para proteger a jóvenes en redes sociales y con chatbots de IA.
- Empresas de IA deberán integrar recursos de salud mental y notificaciones parentales.
- Las redes sociales tienen prohibido ofrecer funciones “adictivas” a menores de 16 años.
- La legislación amplía la definición de explotación infantil a imágenes generadas por IA.
- Se regulan sistemas de IA que usan datos de estudiantes K-12 y publicidad dirigida.
