Imagem gerada por IA
OpenAI vai inserir marca-d’água invisível em textos do ChatGPT na União Europeia
Recurso atende às exigências europeias de transparência e chegará aos usuários nas próximas semanas; edições podem dificultar a detecção
Ao copiar um texto produzido pelo ChatGPT ou pelo Codex na União Europeia, os usuários passarão a levar junto uma identificação invisível de sua origem. A OpenAI anunciou na segunda-feira (5), que começará a inserir marcas-d’água nesses conteúdos nas próximas semanas, por meio de ajustes discretos nas escolhas de palavras, para cumprir as exigências de transparência da legislação europeia de inteligência artificial.
Segundo o TechCrunch, a implementação alcançará usuários elegíveis de todos os planos das duas ferramentas no bloco europeu. As regras do AI Act que entraram em vigor em 2 de agosto exigem que empresas de IA marquem os conteúdos gerados de forma que outros sistemas consigam identificá-los. Para desenvolvedores que utilizam a API da OpenAI, o recurso ficou disponível no dia do anúncio, em modelos selecionados e em qualquer país, mas permanece desativado por padrão.
A marca-d’água não será um símbolo visível nem um aviso acrescentado ao conteúdo. O sistema orienta sutilmente as escolhas de palavras do modelo, formando um padrão que o leitor não percebe, mas que um detector pode reconhecer. Como essa identificação está no próprio texto, ela permanece quando o conteúdo é copiado e colado.
A OpenAI afirma que a marcação não identifica o usuário e que seus testes não apontaram alterações relevantes no desempenho dos modelos com o recurso ativado. A empresa, porém, reconhece que a capacidade de detecção diminui em algumas situações, especialmente em passagens curtas, respostas matemáticas e textos traduzidos.
Alterações no conteúdo também podem enfraquecer a identificação. Em um dos testes divulgados, substituir 10% das palavras por sinônimos fez a taxa de detecção cair de cerca de 92% para 66%. Assim, um texto sem marca reconhecível pode ter sido editado, ser curto demais para a análise ou ter sido produzido por uma ferramenta de outra empresa.
Por esse motivo, a companhia ressalta que a ausência da marca-d’água não comprova autoria humana. Encontrar o padrão também não permite determinar quanto do resultado veio de decisões, revisões ou contribuições criativas de uma pessoa. A identificação pode indicar que um sistema da OpenAI gerou ou processou parte de uma passagem, mas não mede a participação humana no trabalho.
Diante dessas limitações, o acesso inicial ao detector ficará restrito a pesquisadores aprovados e organizações especializadas. Esses grupos ajudarão a avaliar a confiabilidade da tecnologia e seus possíveis usos.
Para explicar o funcionamento do recurso, a empresa publicou um relatório técnico sobre o método textGrain, elaborado com pesquisadores da Universidade da Pensilvânia e de Yale. A técnica utiliza uma chave secreta para organizar as opções de palavras durante a geração. A combinação dessas escolhas cria um padrão que pode ser reconhecido posteriormente com o texto e a chave.
O anúncio ocorre dois meses depois de a Anthropic informar que passaria a marcar os textos do Claude em todos os países. A decisão provocou críticas de usuários que destacaram sua participação nas instruções, no contexto e nas decisões que orientam o conteúdo. A OpenAI já havia desenvolvido uma marca-d’água para textos, mas adiou seu lançamento, em parte por receio de que usuários migrassem para concorrentes sem esse mecanismo.
FUP Explica
O movimento da OpenAI é, antes de tudo, uma resposta regulatória: o AI Act europeu entrou em vigor em agosto e as empresas de IA não têm escolha a não ser se adaptar ou sair do mercado do bloco. Ao anunciar a marca-d'água para o ChatGPT e o Codex na União Europeia, a OpenAI sinaliza que prefere se adequar a enfrentar sanções, o que tende a pressionar outras empresas do setor a seguirem o mesmo caminho, especialmente depois que a Anthropic tomou decisão semelhante para o Claude.
No plano prático, a tecnologia ainda tem limitações sérias. Uma taxa de detecção que cai de 92% para 66% com a simples troca de 10% das palavras por sinônimos mostra que o mecanismo é contornável com edições relativamente simples. Isso enfraquece o argumento de que a marca-d'água resolve o problema da identificação de conteúdo gerado por IA, e explica por que o acesso ao detector ficará restrito a pesquisadores e organizações especializadas por enquanto. O risco é que a ferramenta crie uma falsa sensação de segurança: a ausência da marca não prova autoria humana, e a presença dela não diz quanto uma pessoa contribuiu para o resultado.
Para usuários comuns, a mudança é quase imperceptível no uso cotidiano, mas abre um debate que tende a crescer: quem é o autor de um texto produzido com IA? A OpenAI deixa claro que a marcação não responde a essa pergunta, o que mantém o terreno jurídico e ético em aberto. Empresas que usam o ChatGPT para produzir conteúdo em escala, como agências de comunicação ou plataformas editoriais, podem enfrentar questionamentos sobre transparência mesmo quando o texto passou por revisão humana significativa.
