Nueva York prohíbe a los chatbots de IA ofrecer ciertas funciones a menores de 18 años

El estado de Nueva York se suma a las regulaciones que ya habían puesto en marcha China, Reino Unido y California para limitar los chatbots de inteligencia artificial dirigidos a menores. La gobernadora, Kathy Hochul, firmó esta semana una ley que, según ella, es pionera en la protección de los menores de 18 años que usan este tipo de herramientas.

La norma obliga a las empresas propietarias de los chatbots a verificar la edad de sus usuarios más allá de una identificación oficial. Si confirman que se trata de un menor, deben bloquear las funciones consideradas dañinas. Entre ellas, se prohíbe que el chatbot finja ser una persona real, afirme estar vivo o tener emociones humanas, mantenga una relación personal, romántica, profesional o de autoridad con el menor, o le ofrezca contenido sexualmente explícito.

También queda vetado que el chatbot promueva o ayude con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol, así como que incite al menor a guardar secretos, aislarse o evitar pedir ayuda a sus padres, a adultos de confianza o a profesionales. Asimismo, no podrá formularle preguntas con trasfondo emocional no solicitadas ni utilizar su información privada de salud o personal obtenida en conversaciones anteriores.

Para hacer cumplir la ley, la Fiscalía general del Estado podrá solicitar sanciones civiles de hasta 25.000 dólares por cada infracción, indemnizaciones y la restitución de daños. La norma también contempla la destrucción de los datos recopilados ilegalmente e incluso de cualquier modelo de IA entrenado con ellos.

China, por su parte, prohibió por completo los servicios de acompañamiento emocional y los "novios virtuales" basados en IA para menores, y exige a los chatbots que avisen al usuario tras dos horas de uso continuo, que intervengan si detectan dependencia emocional excesiva y que transfieran la conversación a una persona si detectan ideación suicida. En el Reino Unido, el Gobierno anunció reformas de su Ley de Seguridad en Línea para exigir verificación de edad en las aplicaciones de acompañamiento romántico por IA y restringir cualquier función íntima o sexualizada para menores.

En Estados Unidos, California fue el primer estado en actuar: el gobernador Gavin Newsom decretó una norma para frenar la fabricación y venta de juguetes físicos con chatbots de IA de acompañamiento y para prohibir funciones de diseño adictivo en plataformas digitales.

La noticia no tiene un vínculo directo con Vitoria-Gasteiz, pero se enmarca en un debate general sobre la seguridad de los menores en el entorno digital que también preocupa a familias y centros educativos de la capital alavesa.

Información elaborada a partir de Diario de Noticias de Álava.