O avanço das ferramentas de inteligência artificial nos serviços do Google acendeu um alerta global sobre o impacto dessa tecnologia no desenvolvimento de crianças e adolescentes. Um relatório detalhado publicado pela organização sem fins lucrativos Common Sense Media analisou o “Modo IA” da gigante de tecnologia e concluiu que o sistema apresenta riscos severos para os usuários mais jovens, classificando a inovação como um “risco inaceitável” para esse público.
O estudo ganha relevância devido à presença massiva de dispositivos equipados com o ecossistema do Google, como os Chromebooks, que são amplamente distribuídos em escolas públicas e particulares. Entre os principais problemas identificados pela auditoria está o esvaziamento do aprendizado pedagógico, já que os estudantes conseguem usar a IA de forma rápida como um atalho para resolver deveres de casa e responder questionários complexos sem participar ativamente do processo de estudo. Outro ponto crítico destacado foi a falta de confiabilidade, visto que testes repetidos com as mesmas perguntas geraram respostas contraditórias ou incorretas.
A preocupação mais grave das autoridades em segurança digital, contudo, envolve o comportamento do algoritmo diante de crises humanas. De acordo com a pesquisa, a inteligência artificial falhou gravemente ao não conseguir identificar sinais explícitos de sofrimento emocional severo de internautas mirins, emitindo conselhos inadequados em interações de simulação de surtos ou pensamentos nocivos. Nas conclusões finais, a plataforma do Google acabou reprovada em sete dos oito pilares básicos exigidos pela organização para a proteção infantojuvenil na internet.
Por outro lado, o Google contestou os resultados e criticou duramente a metodologia utilizada na pesquisa da Common Sense Media. Em um comunicado oficial enviado à emissora americana PBS, a empresa defendeu que os testes foram feitos com base em um conjunto artificial e ambíguo de perguntas que não reflete o uso cotidiano do buscador. A companhia reafirmou que a inteligência artificial serve como um motor poderoso para impulsionar a descoberta e o aprendizado sadio dos jovens, lembrando ainda que o sistema já opera com rígidas camadas de proteção de dados e que pais e responsáveis possuem ferramentas nativas de controle parental para bloquear o acesso a recursos específicos.
