Sam Altman, CEO de OpenAI, intentó contactar al gobernador de California, Gavin Newsom, la semana pasada para influir en una legislación clave sobre cómo los chatbots de IA interactúan con menores. La propuesta de ley, que busca imponer estrictas salvaguardas para la seguridad infantil en el uso de la inteligencia artificial, ya fue aprobada por la legislatura y espera la firma de Newsom para convertirse en ley.
Legislación clave para la seguridad de IA en niños
El Proyecto de Ley del Senado de California 1119 (SB 1119), liderado por el senador estatal Steve Padilla y los asambleístas Buffy Wicks y Rebecca Bauer-Kahan, establece nuevas regulaciones significativas para las empresas de IA. Entre sus disposiciones más importantes, la ley requerirá que las compañías de inteligencia artificial:
- Determinen la edad del usuario.
- Ofrezcan herramientas a los padres para limitar el tiempo que sus hijos pasan con chatbots como ChatGPT.
- Se sometan a auditorías independientes para garantizar el cumplimiento de estas medidas.
Además, la SB 1119 prohíbe explícitamente que las empresas de IA sirvan anuncios a niños basados en información personal obtenida de las interacciones con chatbots. También ilegalizará la venta de datos recopilados de niños a través de chats, aunque permitirá la publicación de publicidad contextual apropiada para la edad, siempre y cuando esté claramente etiquetada como tal.
Impacto de OpenAI y postura de Altman
La influencia de Sam Altman y OpenAI en esta legislación ha sido objeto de escrutinio. Según Politico, Altman buscó un acercamiento directo con el gobernador Newsom. Aunque un portavoz de OpenAI negó que Altman y Newsom hablaran directamente la semana pasada, la empresa publicó un comunicado oficial apoyando la legislación poco antes de su aprobación, instando a Newsom a firmar la SB 1119.
ChatGPT para adolescentes y las salvaguardas existentes
OpenAI ya ha tomado medidas propias en esta dirección, lanzando ChatGPT for Teens el 18 de agosto. Esta versión de ChatGPT está diseñada para usuarios de 13 a 17 años e incorpora salvaguardas integradas para fomentar el uso saludable, el pensamiento crítico y el aprendizaje. OpenAI afirma que estas protecciones son parte de la experiencia básica y no configuraciones opcionales, aplicándose automáticamente si el sistema estima que un usuario es menor de 18 o declara tener entre 13 y 17 años.
El cambiante panorama político y tecnológico en California
Gavin Newsom, conocido por su histórica amistad con Silicon Valley y por haber vetado proyectos de ley percibidos como restrictivos para la innovación tecnológica, enfrenta un cambio de marea en la opinión pública. La creciente preocupación por los efectos negativos de la IA, especialmente en menores, ha impulsado un entorno regulatorio más estricto. Casos trágicos de suicidios infantiles influenciados por chatbots de IA han intensificado el debate sobre la necesidad de regulación. Newsom, quien finalizará su mandato en enero de 2027 y se espera que se postule a la presidencia en 2028, se encuentra en una posición delicada donde el equilibrio entre la innovación y la protección pública es crucial.
En resumen
- Sam Altman intentó contactar al gobernador Gavin Newsom sobre la SB 1119 antes de su aprobación.
- La SB 1119 de California exige a las empresas de IA verificar la edad, dar controles parentales y realizar auditorías independientes.
- La ley prohibirá la publicidad basada en datos personales de menores y la venta de sus datos en chats de IA.
- OpenAI ha lanzado ChatGPT para Teens con salvaguardas y apoya públicamente la SB 1119.
- El contexto político de Newsom refleja una creciente demanda de regulación tecnológica ante riesgos de la IA.
