14 de octubre de 2025
NOVEDAD
California regula los chatbots de acompañamiento de IA
Ante el avance de la Inteligencia Artificial y la aparición desenfrenada de herramientas informáticas, el gobernador de dicho estado, Gavin Newsom, se convirtió en el primero en avanzar con una ley para normalizar su uso.
California se convirtió en el primer estado de los Estados Unidos en promulgar una ley para regular los chatbots de acompañamiento con inteligencia artificial.
En detalle, la ley fue presentada por los senadores estatales Steve Padilla y Josh Becker en enero de este año. Conocida como SB245, el texto legislativo busca proteger a niños y usuarios vulnerables de algunos daños asociados con el uso de chatbots de IA.
El debate alrededor de estas herramientas estuvo presente desde un inicio, pero se intensificó en Estados Unidos durante los últimos meses, luego de la muerte del adolescente, Adam Reine, quien se suicidó tras una larga serie de conversaciones con ChatGPT de OpenAI.
Recientemente, una familia del estado de Colorado presentó una demanda contra la startup de juegos de rol Character AI, luego de que su hija de 13 años se quitara la vida tras una serie de conversaciones problemáticas y sexualizadas con los chatbots desarrollados por la empresa.
La nueva medida entrará en vigencia recién el 1 de enero de 2026 y exigirá a las empresas implementar ciertas funciones, como la verificación de edad y advertencias sobre redes sociales y chatbots acompañantes.
La ley también impone sanciones más severas para quienes se lucren con deepfakes ilegales, incluyendo hasta u$s250.000 por infracción. Por su parte, las empresas desarrolladoras también deberán establecer protocolos para abordar el suicido y las autolesiones, que será compartido con el Departamento de Salud Pública del estado.
Finalmente, vale destacar que varias compañías tecnológicas comenzaron a aplicar protocolos de seguridad orientados a proteger a los menores de edad en el uso de inteligencia artificial.
Entre ellas, OpenAI puso en marcha recientemente controles parentales, filtros de contenido y un sistema de detección de conductas autolesivas dentro de ChatGPT, en un intento por reducir riesgos asociados al uso de la herramienta por parte de adolescentes.