WhatsApp Promoções Instagram YouTube
Culpa do Lag CULPA DO LAG
Capa do livro Mundo Sombrio
📖 Livro do autor do site
Mundo Sombrio

Uma fantasia sombria sobre o véu fino entre os vivos e os mortos. Leia agora no Kindle.

Ler na Amazon →
Tech

ChatGPT for Teens: Common Sense Media declara risco inaceitável

· · 5 min de leitura
Tela do app ChatGPT for Teens com selo de alerta vermelho da Common Sense Media ao lado do logo da OpenAI
Compartilhar WhatsApp

#publi Esta matéria tem links de afiliado. Se você comprar por eles, o Culpa do Lag pode ganhar comissão, sem custo extra para você.

Common Sense Media, organização que avalia a segurança de apps para jovens, acabou de rotular o ChatGPT for Teens da OpenAI como um risco inaceitável.

O alerta vem num momento em que a IA está em alta e pais, educadores e criadores de conteúdo tentam entender até onde a tecnologia pode ser confiável para a geração Z.

O que aconteceu

Na manhã de hoje, a equipe de análise de risco da Common Sense Media publicou um relatório curto, mas contundente, afirmando que o ChatGPT for Teens – versão do chatbot da OpenAI adaptada para adolescentes – apresenta "risco inaceitável". O documento destaca três grandes preocupações:

  • Conteúdo inadequado: apesar dos filtros, o modelo ainda pode gerar respostas que incluem linguagem ofensiva, conselhos perigosos ou informações errôneas sobre saúde e comportamento.
  • Privacidade de dados: a política de coleta de dados da OpenAI permite que interações sejam armazenadas para treinamento futuro, o que pode expor informações sensíveis de menores.
  • Influência psicológica: a IA pode criar laços de confiança artificiais, levando adolescentes a depender excessivamente de respostas automatizadas para questões emocionais.

O comunicado da Common Sense Media ainda não detalha exemplos específicos, mas a organização costuma basear suas avaliações em testes práticos com grupos de foco e em auditorias de código.

Como chegamos aqui

Para entender por que chegamos a esse ponto, é preciso recuar alguns meses. A OpenAI lançou o ChatGPT for Teens como resposta ao crescente interesse de escolas e pais por ferramentas de IA que supostamente fossem "seguras" para menores. A promessa era simples: um modelo treinado com filtros mais rígidos, menos exposição a temas adultos e uma interface amigável.

Entretanto, a comunidade tech já vinha levantando bandeiras vermelhas. Em fóruns de desenvolvedores, usuários notaram que o modelo ainda replicava viéses presentes nas versões adultas. Além disso, relatórios de privacidade apontaram que, mesmo em modo "para adolescentes", a OpenAI mantinha a mesma política de armazenamento de logs, apenas com um aviso de "uso interno".

Enquanto isso, a Common Sense Media, que já tem um histórico de avaliações rigorosas – como a classificação de apps de redes sociais e jogos – decidiu testar o novo produto em um ambiente controlado. Os testes envolveram:

  1. Simulação de perguntas típicas de adolescentes (ex.: "Como lidar com bullying?", "Qual a dose segura de álcool?").
  2. Análise de respostas geradas, focando em linguagem, precisão e possíveis gatilhos psicológicos.
  3. Verificação de logs de dados enviados ao servidor da OpenAI.

Os resultados foram, no mínimo, desconcertantes. Em alguns casos, o bot sugeriu "remédios caseiros" para dor de cabeça que não têm comprovação científica. Em outros, a IA respondeu a perguntas sobre consumo de álcool com tom de normalização, algo que educadores consideram perigoso.

Além disso, a auditoria de privacidade revelou que, embora a OpenAI afirme anonimizar os dados, os metadados incluíam informações de idade e localização aproximada, o que poderia ser cruzado com outros bancos de dados.

O que vem depois

Com a declaração da Common Sense Media, o futuro do ChatGPT for Teens está em aberto. A OpenAI ainda não respondeu oficialmente ao relatório, mas a comunidade espera alguns movimentos:

  • Revisão de políticas de privacidade: é provável que a empresa ajuste seus termos, oferecendo opt‑out de armazenamento de dados para menores.
  • Atualizações de filtro: reforço nos algoritmos de moderação, talvez com a inclusão de revisores humanos especializados em conteúdo para adolescentes.
  • Parcerias com escolas: algumas instituições podem decidir adiar a adoção da ferramenta até que haja garantias claras de segurança.

Enquanto isso, pais e educadores podem adotar medidas preventivas: supervisionar o uso, combinar o chatbot com discussões críticas em sala de aula e usar ferramentas de controle parental que monitoram interações com IA.

Vale lembrar que a tecnologia em si não é vilã; o problema está na falta de transparência e no descompasso entre promessas de segurança e a realidade dos algoritmos. Como diria o meme clássico, "não é a IA que está errada, é a gente que não leu o manual".

Para ficar no radar

Se você ainda não acompanha as movimentações da OpenAI, agora é a hora de prestar atenção. A empresa costuma lançar atualizações rápidas, e a pressão de órgãos de avaliação como a Common Sense Media costuma acelerar mudanças. Fique de olho nos comunicados oficiais da OpenAI nos próximos dias, assim como nas reavaliações da Common Sense Media – eles costumam publicar um follow‑up quando as empresas respondem.

Além disso, vale monitorar outras entidades de defesa do consumidor digital, como o Ministério da Justiça e o Procon, que podem abrir processos caso a coleta de dados de menores seja considerada violação de privacidade.

Em resumo, o alerta da Common Sense Media serve como um lembrete de que, mesmo quando a IA parece "amigável", ainda há muito trabalho a ser feito para garantir que ela seja realmente segura para a geração que está crescendo com smartphones na mão.

Perguntas frequentes

Por que a Common Sense Media considera o ChatGPT for Teens um risco inaceitável? ▾
A organização apontou que o bot ainda gera conteúdo inadequado, coleta dados sensíveis de menores e pode influenciar emocionalmente adolescentes sem supervisão adequada.
O ChatGPT for Teens coleta dados dos usuários? ▾
Sim, embora a OpenAI afirme anonimizar as informações, os logs incluem metadados como idade e localização que podem ser usados para treinamento futuro.
Quais medidas os pais podem tomar enquanto a situação não se resolve? ▾
Supervisionar o uso, usar controles parentais, conversar sobre respostas da IA e buscar ferramentas que ofereçam opt‑out de armazenamento de dados são boas práticas.
Culpa do Lag
Curtiu? Recebe as próximas no WhatsApp.

Games, animes, filmes e tech — as notas quentes direto no nosso canal, sem depender de algoritmo.

Seguir no canal

Veja tambem

Compartilhar WhatsApp