Marca-d'água de texto: sinal de proveniência não é prova de autoria

A OpenAI anunciou uma implantação gradual de marcas-d'água invisíveis em saídas elegíveis de ChatGPT e Codex na União Europeia, em todos os planos, nas próximas semanas.[16] Na API, clientes de qualquer país podem habilitar a opção para modelos selecionados, mas ela permanece desabilitada por padrão.[16] O anúncio não descreve ativação global automática e não transforma um detector em prova de quem escreveu um texto.

O que muda para quem desenvolve

A técnica textGrain insere um sinal estatístico na escolha das palavras, e o detector procura esse sinal sem identificar pessoa, conta ou conversa.[16] A empresa afirma que a marca não mede contribuição humana, não estabelece propriedade ou responsabilidade legal e não confirma a veracidade do conteúdo.[16]

Minha leitura é modelar proveniência, autoria e revisão como informações distintas. Uma aplicação pode registrar que utilizou um modelo, mas ainda precisa explicar quais fontes sustentam o texto e qual revisão ocorreu. Um sinal estatístico não substitui esse histórico.

Em um teste com alvo de 1% de falsos positivos, a OpenAI relata detecção de cerca de 80% das marcas em trechos de 200 tokens e 95% em trechos de 400 tokens, para conteúdo como psicologia.[16] Em outra avaliação com trechos de 400 tokens, substituir 10% das palavras por sinônimos reduziu a detecção de aproximadamente 92% para 66%; substituir 25% reduziu para 17%.[16] São avaliações diferentes, não partes de uma taxa universal.[16]

Como aplicar

Se o produto usa a API, registre a configuração de proveniência efetivamente escolhida, o modelo e a data da geração. Separe esse registro de afirmações sobre autoria humana. Evite um selo que prometa “texto humano” apenas porque uma marca não foi encontrada.

Preserve fontes e revisões em uma trilha adequada ao uso, sem copiar dados privados desnecessários. Para conteúdo publicado, proponho informar a assistência de IA de modo compreensível e manter a possibilidade de verificar as referências. O desenho deve continuar útil mesmo quando o detector não está disponível.

O acesso inicial ao detector de texto será concedido caso a caso a pesquisadores e organizações especializadas aprovadas, não como ferramenta pública irrestrita.[16] Se houver acesso autorizado, um experimento pode comparar textos elegíveis antes e depois de edição e tradução, sempre com origem conhecida. Inclua controles sem marca e registre os resultados por tamanho e tipo de conteúdo. Sem esse acesso, não simule uma validação que não aconteceu.

Para qualquer decisão que afete pessoas, proponho usar o sinal apenas como elemento complementar e exigir revisão e contestação. Não converta uma pontuação isolada em acusação automática de fraude.

Cuidados e limites

A ausência de marca não prova autoria humana: o trecho pode ser curto, editado, traduzido, anterior à implantação, vir de modelo não compatível ou de outra empresa.[16] A presença pode indicar geração ou processamento de parte do trecho por um sistema OpenAI, sem medir toda a participação humana.[16]

A empresa planeja disponibilizar a tecnologia como código aberto e ampliar opções com parceiros de nuvem, mas esses planos não equivalem a componentes já integralmente abertos ou disponíveis.[16] Trate configuração, cobertura e acesso como estados verificáveis. Proveniência útil exige contexto; um detector sozinho entrega apenas um sinal.

Fonte

[16] Fonte: OpenAI News