blog

Aug 31, 2023

A corrida para encontrar uma maneira melhor de rotular a IA

Um protocolo de Internet chamado C2PA usa criptografia para rotular imagens, vídeo e áudio. Este artigo é do The Technocrat, boletim informativo semanal de política tecnológica do MIT Technology Review sobre poder, política,

Um protocolo de internet chamado C2PA usa criptografia para rotular imagens, vídeo e áudio

Este artigo é do The Technocrat, boletim informativo semanal de política tecnológica do MIT Technology Review sobre poder, política e o Vale do Silício. Para recebê-lo em sua caixa de entrada todas as sextas-feiras, cadastre-se aqui.

Recentemente escrevi um conto sobre um projeto apoiado por algumas grandes empresas de tecnologia e mídia que tenta ajudar a identificar conteúdo criado ou alterado por IA.

Com o boom de textos, imagens e vídeos gerados por IA, tanto os legisladores como os utilizadores médios da Internet têm apelado a mais transparência. Embora possa parecer um pedido muito razoável simplesmente adicionar um rótulo (o que é), na verdade não é fácil, e as soluções existentes, como detecção e marca d'água alimentadas por IA, apresentam algumas armadilhas sérias.

Como escreveu minha colega Melissa Heikkilä, a maioria das soluções técnicas atuais “não tem chance contra a última geração de modelos de linguagem de IA”. No entanto, a corrida para rotular e detectar conteúdo gerado por IA começou.

É aí que entra este protocolo. Iniciado em 2021, o C2PA (nomeado em homenagem ao grupo que o criou, a Coalizão para Proveniência e Autenticidade de Conteúdo) é um conjunto de novos padrões técnicos e código disponível gratuitamente que rotula de forma segura o conteúdo com informações que esclarecem de onde ele veio de.

Isso significa que uma imagem, por exemplo, é marcada com informações pelo dispositivo de origem (como uma câmera de telefone), por qualquer ferramenta de edição (como o Photoshop) e, em última análise, pela plataforma de mídia social para a qual foi carregada. Com o tempo, essas informações criam uma espécie de histórico, que fica todo registrado.

A tecnologia em si – e as maneiras pelas quais o C2PA é mais seguro do que outras alternativas de rotulagem de IA – é muito legal, embora um pouco complicada. Eu abordo mais isso em meu artigo, mas talvez seja mais fácil pensar nisso como um rótulo nutricional (que é a analogia preferida da maioria das pessoas com quem conversei). Você pode ver um exemplo de vídeo deepfake aqui com o rótulo criado por Truepic, membro fundador do C2PA, com Revel AI.

“A ideia da proveniência é marcar o conteúdo de uma forma interoperável e inviolável para que possa viajar pela Internet com essa transparência, com esse rótulo nutricional”, diz Mounir Ibrahim, vice-presidente de assuntos públicos da Truepic.

Quando foi lançado pela primeira vez, o C2PA era apoiado por um punhado de empresas proeminentes, incluindo Adobe e Microsoft, mas nos últimos seis meses, o seu número de membros aumentou 56%. Ainda esta semana, a principal plataforma de mídia Shutterstock anunciou que usaria C2PA para rotular todas as suas mídias geradas por IA.

Baseia-se numa abordagem opt-in, pelo que os grupos que pretendam verificar e divulgar a origem do conteúdo, como um jornal ou um anunciante, optarão por adicionar as credenciais a um meio de comunicação.

Um dos líderes do projeto, Andy Parsons, que trabalha para a Adobe, atribui o novo interesse e urgência em torno do C2PA à proliferação da IA ​​generativa e à expectativa de legislação, tanto nos EUA como na UE, que exigirá novos níveis de transparência .

A visão é grandiosa – as pessoas envolvidas admitiram para mim que o verdadeiro sucesso aqui depende da adoção generalizada, se não universal. Eles disseram que esperam que todas as principais empresas de conteúdo adotem o padrão.

Para isso, diz Ibrahim, a usabilidade é fundamental: “Você quer ter certeza de que, não importa onde ele vá na internet, ele será lido e ingerido da mesma maneira, assim como a criptografia SSL. É assim que você dimensiona um ecossistema online mais transparente.”

Este poderá ser um desenvolvimento crítico à medida que entramos na época eleitoral nos EUA, quando todos os olhos estarão atentos à desinformação gerada pela IA. Os pesquisadores do projeto dizem que estão correndo para lançar novas funcionalidades e cortejar mais plataformas de mídia social antes do esperado ataque.

Atualmente, o C2PA trabalha principalmente com imagens e vídeos, embora os membros digam que estão trabalhando em maneiras de lidar com conteúdo baseado em texto. Abordo algumas das outras deficiências do protocolo neste artigo, mas o que é realmente importante entender é que mesmo quando o uso da IA ​​é divulgado, ele pode não conter os danos da desinformação gerada por máquina. As plataformas de redes sociais ainda terão de decidir se mantêm essas informações nos seus sites, e os utilizadores terão de decidir por si próprios se confiam e partilham o conteúdo.