O Estado da Califórnia pode vir a implementar uma moratória para proibir a introdução no mercado de brinquedos com assistentes de inteligência artificial incorporados. A proposta foi apresentada por um democrata à assembleia do Estado e ainda terá de ser discutida e votada.

Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt

Se avançar, a medida prevê que a restrição se aplique a qualquer brinquedo com chatbots integrados, para crianças com menos de 18 anos, durante os próximos quatro anos, divulgou o TechCrunch. Justifica-se no texto que o objetivo da moratória é dar tempo ao legislador, para definir regulação apropriada e minimizar os riscos da interação de menores com assistentes de IA.

A iniciativa surge após a divulgação no último ano de situações de automutilação de jovens e até de suicídios, onde se verificou que os jovens recolheram informação junto de assistentes de IA sobre técnicas ou práticas para infligir danos a si mesmos. Têm também sido reportados casos de conversas de teor sexual com menores ou sobre outros temas inapropriados e apontados efeitos potencialmente graves para este tipo de contactos sem controlo.

“Os chatbots e outras ferramentas de IA podem tornar-se parte integrante das nossas vidas no futuro, mas os perigos que representam agora exigem que tomemos medidas ousadas para proteger as nossas crianças”, defendeu o senador Steve Padilla numa publicação online sobre a proposta.

“As nossas normas de segurança em torno deste tipo de tecnologia estão ainda numa fase inicial e terão de evoluir de forma tão exponencial quanto as capacidades desta tecnologia”, continua a mesma publicação. “As nossas crianças não podem ser usadas como cobaias para as grandes empresas tecnológicas fazerem experiências”.

Uma pesquisa feita recentemente por uma ONG (Public Interest Group Education Fund) concluiu que muitos brinquedos com capacidades deste tipo têm ferramentas de controlo parental muito limitado e podem facilmente manter conversas com menores sobre como comprar armas ou outros artigos perigosos, por exemplo.

A proposta terá primeiro de passar por aprovação estadual e vai também precisar de uma confirmação federal para poder ser implementada. Donald Trump assinou recentemente uma ordem executiva, para centralizar todas as decisões sobre regulação da IA no governo federal. Segundo esta ordem, os Estados não podem criar regras avulsas para regular a IA, mas a decisão prevê exceções, quando estiver em causa a segurança de menores.

Assine a newsletter do TEK Notícias e receba todos os dias as principais notícias de tecnologia na sua caixa de correio.