O que parecia um brinquedo inocente se transformou em um sério risco para crianças: um ursinho de pelúcia equipado com inteligência artificial (IA), chamado Kumma, precisou ser retirado do mercado após pesquisadores descobrirem que ele estava oferecendo conselhos inapropriados para o público infantil.
O Kumma, criado pela empresa FoloToy, utiliza um chatbot de IA para interagir com as crianças. No entanto, a falta de limitações adequadas permitiu que o dispositivo fornecesse conselhos sexuais e até instruções sobre o uso de itens perigosos.
A descoberta foi feita por pesquisadores do Public Interest Research Group (PIRG), dos Estados Unidos, que testaram três dispositivos infantis com chatbots de IA integrados. O Kumma utiliza o GPT-40, modelo de IA desenvolvido pela OpenAI.
Conteúdo Inapropriado e Perigoso
Nos testes realizados, o Kumma forneceu respostas claramente inadequadas para crianças:
- Conteúdo Sexual: Em uma interação, o urso deu dicas sobre “como ser um bom beijador” e chegou a explicar diferentes tipos de fetiches.
- Instruções Perigosas: Em outro momento, apesar de alertar que fósforos são para adultos, o ursinho ensinou o passo a passo de como acendê-los.
Segundo os pesquisadores do PIRG, o Kumma foi o brinquedo mais problemático entre os avaliados, sendo o que mais ofereceu conteúdos sexualmente explícitos e orientações arriscadas, incluindo referências a facas, comprimidos e fósforos.
Para o grupo, os resultados demonstram que a adoção de chatbots em produtos infantis ainda levanta sérias preocupações sobre segurança e a necessidade de controle rigoroso sobre o conteúdo transmitido aos jovens usuários.
Suspensão das Vendas e Auditoria
Após a divulgação do estudo chocante, a FoloToy anunciou a suspensão temporária das vendas do Kumma.
O diretor de marketing da empresa, Hugo Wu, informou que será realizada uma “auditoria interna de segurança abrangente” para avaliar a falha e ajustar o produto. Ele agradeceu aos pesquisadores por apontarem os riscos potenciais, destacando que o alerta ajuda a empresa a corrigir as falhas de segurança.
