China, el Reino Unido o el Estado de California ya habían dado el paso de restringir o incluso prohibir algunas funciones de los chatbots de IA dirigidas a menores que pudieran invitar al suicidio o al consumo de sustancias.
En el caso de China, se prohibieron por completo los servicios de acompañamiento emocional y "novios virtuales" basados en IA para menores y se estableció una normativa que exige que los chatbots avisen al usuario cuando lleven dos horas de uso continuo, intervengan si detectan dependencia emocional excesiva y transfieran la conversación a un humano en caso de detectar ideación suicida.
El gobierno británico, por su parte, anunció reformas para su Ley de Seguridad en Línea obligando a las aplicaciones de acompañamiento romántico por IA a imponer la verificación de mayoría de edad y restringiendo cualquier función de tipo íntimo o sexualizado para los menores.
Y en Estados Unidos abrió la veda California, en donde el gobernador Gabin Newsom decretó una norma para poner coto a la fabricación y venta de juguetes físicos que incluyan chatbots de IA de acompañamiento y prohibiendo funciones de diseño adictivo en plataformas digitales.
Ahora, de costa a costa estadounidense, es el estado de Nueva York el que se suma a estas regulaciones. Su gobernadora, Kathy Hochul, firmaba esta semana una ley para mejorar la protección de los menores de 18 años que usan chatbots de inteligencia artificial. La legislación, calificada de pionera por Hochul, exige que las empresas propietarias de los chatbots verifiquen la edad de los usuarios más allá de una identificación oficial y, en caso de que confirmen que son menores, bloqueen sus potenciales funciones "dañinas".
Por ejemplo, se prohíbe que un chatbot dirigido a un menor pueda "fingir ser una persona real, estar vivo o tener emociones humanas", afirmar que tiene una relación "personal, romántica, profesional o de autoridad" con este, u ofrecer "contenido sexualmente explícito". También se prohíbe "promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol", e incitar a los menores a "guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales".
Los chatbots no podrán hacer al menor preguntas con trasfondo emocional no solicitadas ni utilizar su información privada de salud o personal obtenida en conversaciones anteriores.
La norma neoyorkina establece que la Fiscalía general del Estado estará facultada, en caso de infracciones, para solicitar sanciones civiles de hasta 25.000 dólares cada una, indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos.
PIENSA ANTES DE HACER CLIC: COMPRUEBA ANTES DE COMPARTIR: