Margaret Atwood, vencedora do Booker Prize e autora de The Handmaid’s Tale, afirmou recentemente que a maior falha da inteligência artificial (IA) está nos próprios dados que a alimentam: "garbage in, garbage out".
O que aconteceu
Durante o Babell Literary and Cultural Festival, realizado em Porto, Portugal, a escritora foi questionada sobre o papel da IA na literatura e na cultura contemporânea. Atwood, conhecida por suas críticas sociais afiadas, não hesitou: segundo ela, sistemas de IA só reproduzem o que recebem, e se esses insumos são de baixa qualidade, o resultado será igualmente ruinoso.
Ela destacou que, embora a tecnologia ofereça ferramentas poderosas – como geração de texto, tradução automática e recomendações de conteúdo – a falta de curadoria humana pode transformar esses recursos em "máquina de lixo". O ponto central da entrevista foi a necessidade de garantir que os dados de treinamento sejam éticos, diversificados e verificados.
Como chegamos aqui
Para entender a crítica de Atwood, vale recuar à evolução da IA nos últimos anos. A popularização dos grandes modelos de linguagem (LLMs) como GPT‑4 trouxe à tona debates sobre viés algorítmico, propriedade intelectual e responsabilidade editorial. Vários incidentes – desde respostas ofensivas até a propagação de desinformação – mostraram que, sem filtros adequados, a IA pode amplificar preconceitos já existentes.
Além disso, a explosão de dados gerados por usuários nas redes sociais, blogs e fóruns criou um repositório massivo, mas nem sempre confiável. algoritmos treinados em textos coletados automaticamente acabam absorvendo erros, estereótipos e até teorias da conspiração. Quando esses modelos são utilizados para criar conteúdo jornalístico, literário ou publicitário, o risco de disseminar "lixo" aumenta exponencialmente.
Atwood não é a primeira a apontar esse problema. Pesquisadores de ética em IA, como Timnit Gebru, já alertavam sobre a necessidade de datasets limpos e representativos. No entanto, a voz de uma escritora de renome traz a questão para o público geral, reforçando que a responsabilidade não recai apenas sobre desenvolvedores, mas também sobre quem consome e compartilha o conteúdo gerado por máquinas.
O que vem depois
O próximo passo, segundo a própria Atwood, é a implementação de processos de revisão humana mais rigorosos. Ela sugere que editoras, plataformas de mídia e desenvolvedores adotem uma abordagem híbrida: IA para acelerar tarefas repetitivas, mas sempre com supervisão de especialistas que possam detectar inconsistências, vieses ou informações falsas.
Além da revisão, há um chamado à transparência. Usuários precisam saber quando um texto foi produzido por IA e quais fontes foram utilizadas. Essa prática pode reduzir a confiança cega em conteúdos automatizados e estimular uma cultura de verificação.
Por fim, a escritora enfatiza a importância da educação digital. Se leitores e criadores forem treinados para identificar sinais de baixa qualidade, a demanda por "lixo" diminuirá, pressionando empresas a melhorar seus pipelines de dados.
Onde isso pode dar
- Melhoria nos datasets: Investimentos em curadoria de dados podem tornar os modelos mais precisos e menos tendenciosos.
- Regulamentação: Leis que exijam auditorias de viés e relatórios de origem de dados podem surgir em diferentes jurisdições.
- Parcerias editoriais: Editoras podem criar comitês de ética para validar conteúdos gerados por IA antes da publicação.
- Educação continuada: cursos e workshops sobre alfabetização de IA podem se tornar padrão em escolas e universidades.
Para ficar no radar
Enquanto a tecnologia avança, o alerta de Margaret Atwood serve como um lembrete de que a qualidade dos resultados depende diretamente da qualidade dos insumos. A comunidade tecnológica ainda tem muito a aprender sobre como filtrar, validar e melhorar os dados que alimentam seus sistemas. A discussão está apenas começando, e o futuro da IA dependerá da capacidade coletiva de evitar o "garbage in, garbage out".
