Estamos lançando um caso de uso genuíno para IA e criptografia todos os dias desta semana – incluindo razões pelas quais você não deveria necessariamente acreditar no hype. Hoje: Como o blockchain pode combater as falsificações.
A IA generativa é extremamente boa em gerar fotos falsas, cartas falsas, contas falsas, conversas falsas – tudo falso. A quase cofundadora Illia Polosukhin alerta que em breve não saberemos em qual conteúdo confiar.
“Se não resolvermos esse (problema) de reputação e autenticação de conteúdo, a merda vai ficar muito estranha”, explica Polosukhin. “Você receberá ligações e pensará que isso é de alguém que você conhece, mas não é.”
“Todas as imagens que você vê, todo o conteúdo, os livros serão (suspeitos). Imagine um livro de história que as crianças estão estudando e, literalmente, cada criança viu um livro diferente – e isso está tentando afetá-las de uma maneira específica.”
O Blockchain pode ser usado para rastrear de forma transparente a proveniência do conteúdo online, para que os usuários possam distinguir entre conteúdo genuíno e imagens geradas por IA. Mas não separará a verdade das mentiras.
“Essa é a abordagem errada do problema porque as pessoas escrevem coisas que não são verdadeiras o tempo todo. É mais uma questão de quando você vê algo, é da pessoa que diz que é?” Polosukhin diz.
“E é aí que entram os sistemas de reputação: OK, esse conteúdo vem daquele autor; podemos confiar no que esse autor diz?”
“Portanto, a criptografia se torna um instrumento para garantir consistência e rastreabilidade e então você precisa de reputação em torno dessa criptografia – contas na rede e manutenção de registros para realmente garantir que ‘X postou isso’ e ‘X está trabalhando para o Cointelegraph agora’”.
Sério, não confie mais em nada que você vê online. Falsificar coisas é trivial. Você não pode dizer a diferença. Não há marcas d’água e as marcas d’água podem ser facilmente eliminadas. Este gênio não vai voltar para a garrafa.
-Ethan Mollick (@emollick) 27 de novembro de 2023
Se é uma ideia tão boa, por que ninguém ainda está fazendo isso?
Há uma variedade de projetos de cadeia de suprimentos existentes que usam blockchain para provar a procedência de mercadorias no mundo real, incluindo VeChain e OriginTrail.
No entanto, a proveniência baseada em conteúdo ainda não decolou. O projeto Trive News teve como objetivo crowdsource a verificação de artigos via blockchain, enquanto o projeto Po.et carimbou um histórico transparente de conteúdo no blockchain, mas ambos estão agora extintos
Mais recentemente, foi lançado o Fact Protocol, utilizando uma combinação de IA e tecnologia Web3 numa tentativa de crowdsourcing para a validação de notícias. O projeto aderiu à Iniciativa de Autenticidade de Conteúdo em março do ano passado
Quando alguém compartilha um artigo ou conteúdo on-line, ele é primeiro validado automaticamente usando IA e, em seguida, verificadores de fatos do protocolo estabelecidos para verificá-lo novamente e, em seguida, registrar as informações, juntamente com carimbos de data e hora e hashes de transação, na cadeia.
Leia também
Características
Resultados malucos quando as leis atuais aplicadas aos NFTs e ao metaverso
Características
A adoção em massa da criptografia estará aqui quando… (preencha o espaço em branco)
“Não republicamos o conteúdo em nossa plataforma, mas criamos um registro permanente na rede dele, bem como um registro das verificações de fatos realizadas e dos validadores do mesmo”, disse o fundador Mohith Agadi ao The Decrypting História.
E em agosto, a agência de notícias global Reuters executou um programa piloto de prova de conceito que usou um protótipo de câmera Canon para armazenar metadados de fotos on-chain usando o padrão C2PA.
Ela também integrou a estrutura de autenticação do Starling Lab em seu fluxo de trabalho de mesa de imagens. Com os metadados, o histórico de edição e o registro de blockchain incorporados na fotografia, os usuários podem verificar a autenticidade de uma imagem comparando seu identificador exclusivo com aquele registrado no livro-razão público.
A pesquisa acadêmica na área também está em andamento.
Por que @FactProtocol escolheu a tecnologia blockchain para construir um sistema descentralizado de verificação de fatos? Um tópico 🧵👇
1. Registros à prova de adulteração:
A imutabilidade do Blockchain garante que os registros de verificação de fatos no Fact Protocol não possam ser alterados ou adulterados, fornecendo um ambiente seguro e… pic.twitter.com/tEOrl4Us4o
– Protocolo de fatos (@FactProtocol) 21 de novembro de 2023
O blockchain é necessário?
Tecnicamente, não. Um dos problemas que prejudicam esse caso de uso é que você realmente não precisa de blockchain ou criptografia para provar de onde veio um conteúdo. No entanto, isso torna o processo muito mais robusto.
Então, embora você possa usar assinaturas criptográficas para verificar o conteúdo, Polosukhin pergunta como o leitor pode ter certeza de que é a assinatura correta. Se a chave for publicada no site de origem, alguém ainda poderá hackear esse site.
A Web2 lida com essas questões usando provedores de serviços confiáveis, explica ele, “mas isso falha o tempo todo”.
“A Symantec foi hackeada e eles estavam emitindo certificados SSL inválidos. Os sites estão sendo hackeados – Curve, até mesmo os sites Web3 estão sendo hackeados porque rodam em uma pilha Web2”, diz ele.
“Portanto, pelo menos da minha perspectiva, se estamos ansiosos por um futuro onde isso será usado de forma maliciosa, precisamos de ferramentas que sejam realmente resilientes a isso.”
Leia também
Características
Os projetos de criptografia deveriam negociar com hackers? Provavelmente
Características
Guia para OGs criptográficos da vida real que você conheceria em uma festa (Parte 2)
Não acredite no hype
As pessoas têm discutido esse caso de uso do blockchain para combater a “desinformação” e falsificações profundas muito antes de a IA decolar, e houve pouco progresso até recentemente.
A Microsoft acaba de lançar sua nova marca d’água para reprimir falsificações de IA generativa usadas em campanhas eleitorais. A marca d’água da Coalition for Content Provenance Authenticity está permanentemente anexada aos metadados e mostra quem os criou e se a IA estava envolvida.
The New York Times, Adobe, BBC, Truepic, Washington Post e Arm são todos membros do C2PA. No entanto, a solução não requer o uso de blockchain, pois os metadados podem ser protegidos com códigos hash e assinaturas digitais certificadas.
Dito isto, também pode ser gravado em blockchain, como demonstrou o programa piloto de Reuter em agosto. E o braço de conscientização do C2PA é chamado de Iniciativa de Autenticidade de Conteúdo, e os grupos Web3, incluindo Rarible, Fact Protocol, Livepeer e Dfinity, são membros do CAI hasteando a bandeira do blockchain.
Leia também:Casos reais de uso de IA em criptografia, nº 1: O melhor dinheiro para IA é a criptografiaCasos de uso reais de IA em criptografia, nº 2: IAs podem executar DAOsCasos de uso reais de IA em criptografia, nº 3: Auditorias de contratos inteligentes e segurança cibernética
Se inscrever
As leituras mais envolventes em blockchain. Entregue uma vez por semana.
André Fenton
Baseado em Melbourne, Andrew Fenton é jornalista e editor que cobre criptomoedas e blockchain. Ele trabalhou como redator de entretenimento nacional para a News Corp Australia, no SA Weekend como jornalista de cinema e no The Melbourne Weekly.
Siga o autor @andrewfenton
