Anthropic lançou o Claude Fable 5 em 2024, anunciando-o como o modelo de IA mais avançado disponível ao público.
O que aconteceu?
Durante o evento de divulgação, a empresa destacou a performance do Fable 5 em áreas como química, física e, supostamente, biologia. Contudo, ao testar o modelo com questões de nível fundamental — por exemplo, "Qual é a função dos ribossomos?" ou "Como ocorre a fotossíntese?" — o sistema não forneceu respostas diretas. Em vez disso, ele devolveu a solicitação ao modelo anterior, Claude Opus 4.8, que ainda responde, mas com limitações de profundidade.
Como chegamos aqui?
O desenvolvimento do Claude Fable 5 segue a linha de aprimoramento progressivo da Anthropic, que já havia lançado versões como Claude 2, Claude 3 e Claude Opus 4.8. Cada iteração trouxe aumentos de parâmetros, treinos mais extensos e filtros de segurança mais rígidos. O Fable 5 incorpora o chamado "Mythos 5" — um conjunto de técnicas de alinhamento que visam reduzir respostas potencialmente perigosas ou enganosas.
Entretanto, a política de segurança implementada para o Fable 5 inclui uma lista de tópicos restritos, entre eles "informações biológicas que possam ser usadas para fins maliciosos". A Anthropic justificou a medida alegando que respostas detalhadas sobre processos biológicos podem ser mal interpretadas ou empregadas em biotecnologia não autorizada.
- Parâmetros estimados: > 175 bilhões (não confirmado oficialmente).
- Treinamento: base de dados até setembro de 2023, com reforço de alinhamento via RLHF.
- Filtros: camada de negação automática para termos como "dna editing", "vírus" e perguntas de nível escolar.
Quando o modelo detecta uma pergunta que se encaixa nos critérios restritos, ele aciona o fallback para o Claude Opus 4.8, que possui um conjunto de regras menos restritivo.
O que vem depois?
Analistas de IA apontam que a decisão pode gerar duas tendências:
- Pressão por transparência: desenvolvedores e comunidade acadêmica podem exigir que a Anthropic publique a lista completa de tópicos bloqueados e os critérios de decisão.
- Ajustes de modelo: futuras versões, possivelmente Claude Fable 6, podem reavaliar o escopo de bloqueio, permitindo respostas básicas de biologia enquanto mantêm restrições para informações sensíveis.
Enquanto isso, usuários que dependem do Fable 5 para suporte educacional precisarão contornar o fallback ou migrar para outras plataformas de IA que ainda respondam a perguntas elementares.
Datas e o que falta saber
Até o momento, a Anthropic não divulgou um cronograma para revisões de política ou atualizações de modelo. O próximo grande anúncio da empresa está previsto para o final de 2024, durante a conferência anual de IA, mas detalhes ainda não foram confirmados.
Os principais pontos que ainda precisam de esclarecimento são:
- Quais critérios específicos definem uma "pergunta básica" de biologia?
- Existe um plano de comunicação para desenvolvedores que integrem o Fable 5 em aplicativos educacionais?
- Como a Anthropic medirá o impacto da restrição nas métricas de satisfação do usuário?
O veredito
O Claude Fable 5 representa um salto tecnológico em termos de capacidade de linguagem, mas a política de bloqueio de perguntas biológicas compromete seu uso em contextos educacionais simples. Até que a Anthropic reveja os filtros ou ofereça uma camada opcional de permissões, profissionais e estudantes deverão buscar alternativas ou aceitar o redirecionamento ao Opus 4.8, que, embora funcional, não possui o mesmo nível de refinamento.
