ChatGPT ganha Contato de Confiança para alertar alguém se você estiver em perigo
A OpenAI lançou o Trusted Contact: uma função que notifica um contato escolhido por você caso o ChatGPT detecte sinais de risco à sua segurança durante uma conv
A OpenAI acaba de lançar uma funcionalidade chamada Trusted Contact (Contato de Confiança) no ChatGPT. A ideia é simples: você indica um amigo ou familiar de confiança, e essa pessoa recebe uma notificação por SMS, e-mail ou pelo próprio app do ChatGPT caso o sistema detecte que você pode estar passando por uma crise séria, como pensamentos de automutilação ou suicídio.
Contexto técnico
O ChatGPT já tinha camadas de proteção para conversas sensíveis. Quando o modelo identifica temas como autolesão ou suicídio, ele redireciona o usuário para linhas de crise e serviços de emergência. O Trusted Contact é uma camada adicional em cima disso.
Mas como o sistema decide que algo é "grave o suficiente"? Segundo a OpenAI, o processo não é 100% automático. Quando a conversa sinaliza um risco sério, uma pequena equipe de humanos treinados revisa o chat em até uma hora antes de qualquer alerta ser disparado. Só depois dessa revisão manual o contato cadastrado é notificado.
Isso é um padrão importante de engenharia de sistemas críticos: o modelo de linguagem (LLM, ou Large Language Model, um sistema de IA treinado em grandes volumes de texto para entender e gerar linguagem natural) serve como primeiro filtro, mas a decisão final ainda passa por revisão humana. Falsos positivos em um sistema desse tipo têm custo emocional alto, então faz sentido não confiar cegamente no modelo.
O alerta enviado ao contato é intencionalmente vago: não inclui trechos da conversa, só informa que a pessoa pode precisar de atenção. Privacidade, portanto, é preservada dentro do possível.
Para configurar, o usuário entra nas configurações do ChatGPT e nomeia o contato. Essa pessoa tem uma semana para aceitar. Se não aceitar, o usuário pode indicar alguém novo. O recurso está disponível apenas para maiores de 18 anos e foi desenvolvido em parceria com especialistas em saúde mental.
Impacto para devs
Se você desenvolve produtos com IAs conversacionais, esse lançamento levanta questões práticas que você vai encontrar cedo ou tarde:
1. Moderação de conteúdo sensível não é só um problema de prompt
Filtrar temas críticos via LLM é um ponto de partida, mas não suficiente para aplicações de saúde, suporte emocional ou atendimento ao cliente. O modelo pode errar, tanto para falso positivo quanto para falso negativo. A revisão humana no loop é um padrão que você deve considerar em sistemas críticos.
2. Pipelines de escalada
A arquitetura aqui é um pipeline de escalada: evento detectado pelo modelo, entra numa fila de revisão humana, e só então dispara uma ação externa (o alerta). Você pode replicar esse padrão com filas como SQS, Pub/Sub ou RabbitMQ:
# Exemplo simplificado de pipeline de escalada
def process_message(user_id: str, message: str):
risk_score = detect_risk(message) # chamada ao LLM ou classificador
if risk_score > THRESHOLD:
enqueue_for_human_review(user_id, message) # fila de revisão
# alerta só é disparado após revisão humana confirmar
3. Privacidade por design
O alerta não vaza o conteúdo da conversa. Isso é privacidade por design, um princípio que você deve aplicar desde a modelagem do sistema: o que precisa sair do contexto privado do usuário é só o mínimo necessário para a ação pretendida.
4. Consentimento explícito
O usuário configura o contato ativamente, o contato precisa aceitar. Nenhuma notificação é enviada sem que ambos os lados tenham concordado. Esse modelo de consentimento duplo é boa prática em qualquer sistema que envolva dados de terceiros.
Conclusão
O Trusted Contact não é uma funcionalidade de dev diretamente, mas o padrão de arquitetura por trás dele é: revisão humana no loop, pipeline de escalada, privacidade por design e consentimento explícito. São decisões de engenharia que aparecem em qualquer produto que lida com dados sensíveis de usuários. Vale observar como a OpenAI implementou isso e carregar esses padrões para os seus próprios projetos.