Anthropic está consultando religiões para ensinar ética ao Claude
A Anthropic tem se reunido com líderes religiosos de várias tradições para tentar resolver um dos problemas mais difíceis da IA: como ensinar valores morais a u
A Anthropic, empresa por trás do Claude, está fazendo algo inusitado: reunindo líderes religiosos de diversas tradições para tentar resolver um dos problemas mais difíceis da inteligência artificial. Como você ensina um modelo de linguagem a tomar decisões moralmente corretas quando não existe uma regra clara para a situação?
Contexto técnico
Um LLM (Large Language Model, ou modelo de linguagem de grande escala) como o Claude é treinado em enormes volumes de texto humano. Ele aprende padrões, linguagem, raciocínio, e também absorve valores embutidos nesse texto. Mas o problema é que valores humanos são contraditórios, culturalmente dependentes e cheios de exceções.
Para tentar contornar isso, a Anthropic criou o que chama de "Claude's Constitution" (a constituição do Claude), um documento que guia o comportamento do modelo em situações eticamente ambíguas. O objetivo é que, quando não existe uma regra clara, o Claude tome a decisão que uma pessoa com valores perfeitos tomaria.
O problema central que a empresa admite abertamente: eles temem que seus esforços para dar bons valores ao Claude falhem. Esse é um problema técnico sério em IA, conhecido como alinhamento de valores (value alignment), que é garantir que o comportamento de um sistema de IA esteja alinhado com os valores e intenções humanas.
Recentemente, representantes da Anthropic e da OpenAI participaram de um evento chamado "Faith-AI Covenant" em Nova York, reunindo líderes do judaísmo, hinduísmo, Igreja de Jesus Cristo dos Santos dos Últimos Dias, coalização Sikh e Igreja Ortodoxa Grega. Antes disso, a Anthropic havia se reunido com 15 líderes cristãos para discutir o "desenvolvimento espiritual" do Claude.
Impacto para devs
À primeira vista, isso parece distante do dia a dia de quem escreve código. Mas tem implicações diretas para quem usa ou constrói sistemas com modelos de linguagem:
1. Comportamento do modelo não é neutro. Quando você usa a API do Claude para construir um chatbot, assistente ou agente, as respostas do modelo carregam valores embutidos durante o treinamento e ajuste fino (fine-tuning). Entender isso importa para prever como o modelo vai se comportar em casos de borda.
2. O problema de alinhamento é real e não resolvido. A frase mais honesta da matéria vem de Rumman Chowdhury, CEO da Humane Intelligence: a ideia de que poderíamos chegar a princípios éticos universais "não é real". Isso significa que qualquer sistema de IA que você construir vai herdar ambiguidades morais, não soluções perfeitas.
3. Governança de IA vai afetar APIs e produtos. As reuniões com líderes religiosos fazem parte de um esforço maior de "demonstrar responsabilidade". Na prática, isso se traduz em filtros de conteúdo, restrições de uso e políticas que impactam o que você consegue ou não consegue fazer com a API.
Se você está construindo um agente (um sistema autônomo que toma decisões com base em um LLM) para uma aplicação crítica, como saúde, jurídico ou financeiro, a pergunta "quem definiu os valores desse modelo e como?" deixa de ser filosófica e vira um requisito de auditoria.
Conclusão
A Anthropic não vai virar uma instituição religiosa, mas a movimentação revela algo importante: as empresas de IA perceberam que não dá para resolver alinhamento de valores só com matemática e dados. Elas estão buscando âncoras externas para justificar as escolhas que já estão sendo feitas dentro dos modelos.
Para o dev júnior, a lição prática é simples: trate os valores de um LLM como você trata dependências de terceiros. Você não controla o código interno, mas precisa entender os efeitos colaterais antes de colocar em produção.