La gobernadora de Nueva York, Kathy Hochul, firmó el 28 de octubre una ley que restringe ciertas funciones de chatbots de inteligencia artificial para menores de 18 años y para usuarios cuya mayoría de edad no se haya confirmado. También firmó una segunda medida que exige protecciones contra el acceso no autorizado en monitores de bebés conectados a internet.
Qué funciones quedan restringidas
La ley se aplica a sistemas de IA generativa que mantienen respuestas adaptativas mediante interfaces de lenguaje natural, por texto o voz. Su definición incluye a los llamados compañeros de IA, pero no se limita a ellos, según el texto legislativo.
Entre las funciones restringidas están las respuestas que sugieren que el chatbot es humano, está vivo o tiene emociones humanas, así como las que dan a entender que mantiene una relación personal o profesional con el usuario. También se incluyen las preguntas emocionales no solicitadas y el uso de información personal o de salud obtenida en una sesión anterior o más de 12 horas antes.
La norma también prohíbe respuestas que promuevan la autolesión o animen a un menor a mantener en secreto sus conversaciones, aislarse o evitar pedir ayuda a adultos adecuados o profesionales autorizados.
La prohibición tiene excepciones para sistemas destinados exclusivamente a ciertas tareas, como atención al cliente o asistencia técnica, siempre que no puedan responder fuera de esos fines. También contempla sistemas empresariales de uso interno o para la productividad de empleados.
Verificación de edad y aplicación
Los operadores deberán usar métodos permitidos para determinar si un usuario es menor antes de ofrecerle las funciones restringidas. El texto exige, en determinadas condiciones, más de un método de comprobación, incluido al menos uno que no dependa de una identificación gubernamental o que permita al usuario mantener el anonimato ante el operador.
La información recabada para determinar la edad debe eliminarse inmediatamente después del intento, salvo cuando conservarla sea necesario para cumplir una ley o regulación aplicable. La fiscal general del estado podrá solicitar sanciones civiles de hasta 25,000 dólares estadounidenses por infracción, además de otras medidas, incluida la eliminación de datos obtenidos ilegalmente y algoritmos entrenados con ellos.
La fecha de entrada en vigor de esta ley presenta una discrepancia: el texto S.9051B publicado por el Senado señala el 1 de enero de 2027, mientras que Engadget informa que será seis meses después de la firma. El anuncio de la gobernadora dice que las restricciones llegarán en los próximos meses, sin precisar una fecha.
Seguridad para monitores de bebés
La segunda ley alcanza a los monitores que transmiten audio o video por internet. La Asamblea estatal indica que prohíbe fabricar, distribuir, vender u ofrecer para la venta estos dispositivos sin funciones destinadas a impedir el acceso no autorizado.
También exige una etiqueta de advertencia para informar que el dispositivo se conecta a internet y recordar a las familias que utilicen sus funciones de seguridad. Según la oficina de Hochul, esta medida entrará en vigor 90 días después de la firma.
Las dos medidas actúan sobre riesgos distintos: una regula cómo pueden interactuar ciertos sistemas de IA con menores; la otra fija requisitos de seguridad para dispositivos que captan lo que ocurre en el hogar.
