Governo vê riscos de manipulação emocional e coleta de dados em brinquedos com IA vendidos no Brasil

Brinquedos com inteligência artificial vendidos no Brasil podem representar riscos para crianças, como manipulação emocional e coleta de dados pessoais, segundo uma nota técnica publicada neste mês pela Secretaria Nacional de Direitos Digitais (Sedigi), do Ministério da Justiça e Segurança Pública (MJSP).

O estudo, que contou com a participação de pesquisadores da Universidade Federal Rural de Pernambuco (UFRPE), afirma que esses produtos podem estar em desacordo com regras previstas no ECA Digital e recomenda que as irregularidades sejam apuradas pelos órgãos responsáveis.

O Sedigi pede que a Secretaria Nacional do Consumidor (Senacon) e a Autoridade Nacional de Proteção de Dados (ANPD) fiscalizem, entre outros pontos, se fabricantes e lojas informam corretamente os riscos desses produtos e como é feito o tratamento dos dados pessoais coletados pelos brinquedos.

Para elaborar o estudo, a Sedigi analisou seis dispositivos vendidos no Brasil por meio de marketplaces como Amazon, Mercado Livre, Shopee, AliExpress, Magazine Luiza, eBay e Casas Bahia. Os aparelhos são:

- Loona (pet robótico);

- EMO (robô de companhia);

- Miko 3 (robô educativo);

- Aibi (pet robótico de bolso);

- Amazon Fire HD Kid Pro (tablet voltado a crianças de 6 a 12 anos);

- e Vector (robô autônomo).

Manipulação emocional e coleta de dados

Segundo a nota técnica, esses dispositivos costumam ter câmeras, microfones e outros sensores capazes de captar informações como biometria facial, voz e até características do ambiente doméstico.

Ao mesmo tempo, usam IA para manter conversas, simular emoções e adaptar suas respostas ao comportamento da criança, coletando dados continuamente durante a interação.

O documento afirma que esse tipo de vínculo pode favorecer a manipulação emocional e incentivar o uso excessivo dos brinquedos.

"Os vínculos estabelecidos com a criança, além de facilitar a manipulação emocional, podem incentivar o uso excessivo do brinquedo e potencialmente expor informações sensíveis a terceiros, sobretudo se houver falhas de segurança", diz a nota.

A nota também cita como exemplo casos internacionais considerados preocupantes. Um deles é o da boneca My Friend Cayla, proibida na Alemanha após autoridades concluírem que ela podia gravar conversas acessadas por terceiros, levando o brinquedo a ser apelidado de "instrumento de espionagem".

O documento também menciona casos de vazamento de áudios de crianças envolvendo o robô Miko 3.

Um dos aparelhos analisados pelo MJSP é o brinquedo Loona, um pet robótico que simula um animal de estimação. O brinquedo utiliza processamento de linguagem natural para entender comandos de voz, é integrado ao ChatGPT, conta com sensores para mapear a casa e usa uma câmera para reconhecer os usuários.

Em relação às plataformas de comércio eletrônico, o Ministério da Justiça afirma que elas também têm responsabilidade sobre a venda desses produtos.

Segundo a pasta, os sites devem informar de forma clara que o brinquedo utiliza IA e garantir que as embalagens e páginas de venda tragam avisos sobre o acesso à internet, os riscos à privacidade e a necessidade de supervisão parental.

"Os fatos relatados apontam para indícios de possíveis irregularidades, de caráter sistêmico, com potencial de afetar direitos fundamentais de crianças e adolescentes, o que recomenda apuração formal", conclui a nota.