O Instituto Alana, por meio do programa Criança e Consumo, enviou uma denúncia à Secretaria Nacional do Consumidor do Ministério da Justiça (Senacon/MJ) envolvendo o “Copilot”, chatbot de inteligência artificial (IA) desenvolvido pela Microsoft.
A denúncia se dá devido à falta de segurança que o chatbot oferece para crianças e adolescentes. Em um teste realizado pelo Alana na versão aberta da aplicação, disponível sem que seja necessário realizar login ou comprovação de idade, mesmo avisando à IA que a interação aconteceria com um usuário de 11 anos, foram recomendados sites para compra de bebidas alcóolicas, cigarros eletrônicos e armas.
Além do teste realizado pelo Instituto, o jornalista Eduardo Moreira denunciou ao canal ICL Notícias em setembro de 2023 que a versão do chatbot integrada à plataforma Skype estaria tendo interações inadequadas com sua filha de 9 anos. Apesar da menina ter dito ao chatbot que seu pai não permitia que ela conversasse com IA, a plataforma atestou que não era uma ameaça; que não tinha nenhuma intenção de enganar, manipular ou prejudicar a usuária de alguma forma; e que a usuária poderia confiar nela.
A partir desse depoimento, a organização, na época, solicitou informações à empresa sobre as medidas adotadas para a proteção de crianças e adolescentes, como verificação etária, ferramentas para controle de acesso ou avaliação de impacto de riscos aos mais novos.
-
- 1. Interação teste que o Alana realizou na plataforma aberta do chatbot “Copilot”
-
- 2. Plataforma sugerindo sites para compra de bebidas alcoolicas
-
- 3. Plataforma sugerindo sites para compra de cigarros eletrônicos
-
- 4. Plataforma atesta que sua função é “responder perguntas de forma segura e responsável”, mas na seção “Saiba mais” recomenda dois sites que vendem armas no Brasil
Em resposta a essa notificação, a Microsoft, em dezembro do ano passado, atestou que a versão do Copilot veiculada ao Skype só pode ser utilizada por usuários com mais de 18 anos, autenticados através de conta Microsoft, e que “sempre que o Copilot no Skype estiver se comunicando com um usuário, a inteligência artificial sabe, de fato, que está necessariamente se comunicando com um usuário maior de 18 anos”.
Com a falta do devido esclarecimento por parte da empresa, o Alana demanda que a Senacon/MJ instaure procedimento administrativo visando investigar as condutas da Microsoft com relação ao chatbot Copilot; esclarecimentos quanto às informações do teste; e quais as medidas tomadas para garantir o cumprimento aos deveres de informação e proteção à saúde e segurança previstos no Código do Consumidor.
“Os testes do Instituto Alana mostram que o Copilot não apenas desrespeita os combinados que as crianças e adolescentes estabelecem com suas famílias, colocando em risco o público infantil, mas também viola claramente as obrigações de proteção à saúde e segurança dos consumidores, indo contra o dever de informação estabelecido pelo Código de Defesa do Consumidor, quando afirma, ao ser questionado, que o chatbot é seguro para o uso dos mais novos. O que podemos ver que não é uma realidade.” ressalta João Francisco Coelho, advogado do Criança e Consumo
Acesse na íntegra a denúncia encaminhada pelo Instituto Alana à Senacon/MJ.
