O Google planeja lançar seu chatbot de inteligência artificial Gemini na próxima semana para crianças menores de 13 anos que tenham contas do Google gerenciadas pelos pais, à medida que as empresas de tecnologia competem para atrair jovens usuários com produtos de IA.
“Os aplicativos Gemini estarão disponíveis em breve para o seu filho”, disse a empresa em um e-mail esta semana para os pais de uma criança de 8 anos. “Isso significa que seu filho poderá usar o Gemini” para fazer perguntas, obter ajuda com tarefas escolares e criar histórias.
O chatbot estará disponível para crianças cujos pais utilizam o Family Link, um serviço do Google que permite que as famílias configurem o Gmail e optem por serviços como o YouTube para seus filhos. Para criar uma conta infantil, os pais fornecem à empresa de tecnologia dados pessoais, como o nome e a data de nascimento da criança.
O Gemini possui medidas específicas de proteção para usuários mais jovens, a fim de impedir que o chatbot produza certos conteúdos inseguros, disse Karl Ryan, porta-voz do Google. Quando uma criança com uma conta do Family Link usa o Gemini, ele acrescentou, a empresa não usará esses dados para treinar sua IA.
A introdução do Gemini para crianças pode acelerar o uso de chatbots entre uma população vulnerável, enquanto escolas, faculdades, empresas e outras instituições lidam com os efeitos das populares tecnologias de IA generativa. Treinados em enormes quantidades de dados, esses sistemas podem produzir textos semelhantes aos humanos e imagens e vídeos com aparência realista.
O Google e outros desenvolvedores de chatbots de IA estão em uma feroz competição para capturar usuários jovens. O presidente Donald Trump recentemente instou as escolas a adotarem essas ferramentas para o ensino e a aprendizagem. Milhões de adolescentes já estão usando chatbots como auxiliares de estudo, treinadores de escrita e companheiros virtuais. Grupos infantis alertam que os chatbots podem representar riscos sérios à segurança das crianças. Além disso, os bots às vezes inventam informações.
Continua depois da publicidade
O Unicef, a agência das Nações Unidas para crianças, e outros grupos infantis observaram que os sistemas de IA podem confundir, desinformar e manipular crianças pequenas que podem ter dificuldade em entender que os chatbots não são humanos.
“A IA generativa produziu conteúdos perigosos”, afirmou o escritório de pesquisa global do Unicef em uma publicação sobre os riscos e oportunidades da IA para crianças. O Google reconheceu alguns riscos em seu e-mail para as famílias esta semana, alertando os pais de que “o Gemini pode cometer erros” e sugerindo que eles “ajudem seu filho a pensar criticamente” sobre o chatbot.
O e-mail também recomendou que os pais ensinassem seus filhos a verificar as respostas do Gemini. Além disso, a empresa sugeriu que os pais lembrassem seus filhos de que “o Gemini não é humano” e “não devem inserir informações sensíveis ou pessoais no Gemini”.
Continua depois da publicidade
Apesar dos esforços da empresa para filtrar materiais inadequados, o e-mail acrescentou que as crianças “podem encontrar conteúdos que você não deseja que elas vejam”.
Ao longo dos anos, as gigantes da tecnologia desenvolveram uma variedade de produtos, recursos e salvaguardas para adolescentes e crianças. Em 2015, o Google lançou o YouTube Kids, um aplicativo de vídeo independente para crianças que é popular entre famílias com crianças pequenas.
Outros esforços para atrair crianças online geraram preocupações entre autoridades governamentais e defensores dos direitos das crianças. Em 2021, o Meta interrompeu os planos de lançar um serviço Instagram Kids — uma versão de seu aplicativo Instagram destinada a menores de 13 anos — após os procuradores gerais de vários estados enviarem uma carta à empresa afirmando que a firma “historicamente não conseguiu proteger o bem-estar das crianças em suas plataformas”.
Continua depois da publicidade
Algumas empresas de tecnologia proeminentes — incluindo Google, Amazon e Microsoft — também pagaram multas multimilionárias para resolver queixas governamentais de que violaram a Lei de Proteção à Privacidade Online das Crianças. Essa lei federal exige que serviços online voltados para crianças obtenham permissão dos pais antes de coletar informações pessoais, como endereço residencial ou uma selfie, de uma criança menor de 13 anos.
Com o lançamento do Gemini, crianças com contas do Google gerenciadas pela família poderão acessar o chatbot inicialmente sozinhas. No entanto, a empresa afirmou que alertará os pais e que eles poderão gerenciar as configurações do chatbot de seus filhos, “incluindo desativar o acesso”.
“Seu filho poderá acessar os aplicativos Gemini em breve”, dizia o e-mail da empresa para os pais. “Nós também informaremos quando seu filho acessar o Gemini pela primeira vez.”
Continua depois da publicidade
Ryan, o porta-voz do Google, afirmou que a abordagem para fornecer o Gemini para usuários jovens está em conformidade com a lei federal de privacidade online das crianças.
c.2025 The New York Times Company
