Chatbots vão exibir marca em textos que foram criados por ia

Empresas donas de modelos de inteligência artificial (IA) terão de se adaptar à nova legislação da União Europeia (UE), a AI Act (Lei da IA), que obriga as gigantes de tecnologia a criarem mecanismos para que o público consiga identificar que determinado conteúdo foi gerado por uma IA. Entre as empresas que assinaram o código de transparência europeu estão a Anthropic, dona do Claude, a OpenAI, do ChatGPT, o Google, dono do Gemini, a Microsoft, que tem o Copilot, além de Meta e Mistral. A exceção até agora foi o Grok, da xAI, de Elon Musk, que não aparece como signatária. Apesar de a mudança de procedimento atender a uma legislação da UE, a tendência é que seja adotada globalmente, de acordo com termos divulgados por Claude e ChatGPT.
"A marcação será aplicada às saídas dos modelos compatíveis onde quer que o Claude seja oferecido, em todo o mundo", diz trecho do documento da Anthropic.
A empresa anunciou que vai ativar uma marcação de conteúdo em textos gerados por IA. "Os textos gerados conterão marcas d’água incorporadas, e os arquivos gerados incluirão metadados de proveniência assinados digitalmente quando houver suporte para isso". Os metadados funcionam como uma espécie de DNA de documentos, informando data de criação, formato, tamanho e origem.
A aplicação das marcas só será realizada nos modelos lançados após 2 de agosto. Para plataformas anteriores, será necessário um período de ajuste. A Anthropic não informou uma data para que elas ocorram.
A dona do Claude disse que vai oferecer, em breve, uma cartilha para os usuários conseguirem detectar as digitais da ferramenta nos conteúdos, como determina a legislação da UE.
A marca d’água é imperceptível, mas vai acompanhar o texto quando ele for copiado e colado em qualquer outro lugar, podendo se manter apesar de edições realizadas posteriormente.
Nos termos e condições da OpenAI, a dona do ChatGPT afirma que "adota uma abordagem em camadas que combina padrões, marcas d’água e ferramentas de verificação" em seus conteúdos.
Em seu comunicado, a OpenAI afirmou que trabalha "para ampliar as medidas de procedência nos sistemas em diferentes modalidades, incluindo texto, à medida que os padrões e as ferramentas amadurecem". A inserção de "digitais" em criações pela IA no formato de áudio também está sendo desenvolvida pela dona do ChatGPT.
O chatbot da OpenAI fornece uma página para verificar a proveniência de conteúdos suspeitos. Ainda assim, a empresa informa que "sinais podem ser removidos ou não resistir a edições ou alterações de plataforma". (Com Paulo Renato Nepomuceno)