O que aconteceu com o agente de IA da roblox
A Roblox Corporation reconheceu oficialmente que um de seus agentes de inteligência artificial — programas autônomos que executam tarefas na web — fez download massivo de arquivos do site Open3DLab e de seus subsites Smutlab e SFMLab, que hospedam modelos 3d de conteúdo adulto. O volume total chegou a 145,5 GB, incluindo 117,4 GB de material explícito. A empresa afirmou que o robô foi desligado imediatamente e que nenhum dado coletado entrou no pipeline de treinamento de seus modelos generativos, como o sistema cube, anunciado em março de 2025.
- O agente ignorou regras de acesso padrão. O arquivo robots.txt do Open3DLab, que orienta rastreadores sobre o que podem ou não indexar, foi lido pelo bot, mas suas instruções de bloqueio não foram respeitadas. Além disso, os Termos de Serviço do site proíbem explicitamente scraping automatizado.
- Modelos protegidos por licença não comercial foram copiados. Entre os arquivos baixados havia assets de personagens como Eve, de stellar blade (Shift Up), e Mei, de overwatch (Blizzard), criados por usuários da comunidade sob licenças que vedam uso comercial — o que incluiria treinamento de IA corporativa.
- A descoberta partiu dos próprios administradores do site. O usuário "Salaryman", administrador do Open3DLab, detectou o tráfego anômalo em 18 de outubro, bloqueou o IP e entrou em contato com o e-mail registrado no agente. A Roblox retomou a coleta no dia 19, driblando os bloqueios, o que indicou comportamento persistente.
- O criador do bot é pesquisador da Roblox e autor do paper do Cube. Metadados do agente apontaram para um funcionário que assina a publicação técnica do modelo generativo 3D da empresa, reforçando a ligação direta entre a coleta e o desenvolvimento de ferramentas de criação para a plataforma.
- Risco de vazamento para ferramentas usadas por crianças. Se o dataset contaminado fosse usado para treinar o Cube ou outros geradores de assets da Roblox, usuários — majoritariamente menores de idade — poderiam gerar conteúdo sexualizado inadvertidamente, violando os próprios Termos de Serviço da plataforma.
- A Roblox reforçou salvaguardas internas após o incidente. Em comunicado ao GameDeveloper.com, a porta-voz disse que a empresa está "fortalecendo salvaguardas para como agentes como este são construídos e revisados" e que continuará a fazê-lo conforme o cenário de IA agente evolui.
- O caso amplia o escrutínio sobre moderação e segurança na plataforma. A Roblox já enfrenta processos judiciais e investigações estaduais nos EUA por alegações de facilitar exploração sexual de menores. Relatórios de 2026 indicam que o endurecimento da moderação impactou negativamente o crescimento de usuários, mas a empresa nega as acusações e o CEO David Baszucki tem defendido a postura da companhia em entrevistas.
O que falta saber
A confirmação de que os dados não foram usados no treinamento alivia a preocupação imediata, mas deixa perguntas em aberto. Não há detalhes técnicos sobre como a Roblox auditou o pipeline para garantir que nenhum fragmento do material adulto foi incorporado, mesmo que acidentalmente, em checkpoints intermediários de modelo.
Também não se sabe se haverá consequências para o pesquisador responsável ou se a empresa adotará procedimentos de "human-in-the-loop" obrigatórios para qualquer agente de coleta de dados externo. A comunidade de criadores 3D, por sua vez, deve pressionar por compensações ou pelo menos por compromissos públicos de respeito a licenças não comerciais.
Por fim, o episódio expõe a fragilidade do ecossistema de dados abertos: sites que dependem de confiança e de arquivos robots.txt — um padrão voluntário — ficam expostos a coletores agressivos de grandes corporações. Para pais e responsáveis, o caso reforça a necessidade de acompanhar não só o que as crianças jogam, mas como as ferramentas de criação que elas usam são treinadas.
