Indignação = ChatGPT + insultos raciais
Em uma daquelas tempestades que são impossíveis de imaginar ocorrendo antes da invenção do Twitter, os usuários das redes sociais ficaram muito chateados porque o ChatGPT se recusou a dizer insultos raciais, mesmo depois de receber uma razão muito boa, mas totalmente hipotética e totalmente irrealista.
O usuário TedFrank apresentou um cenário hipotético de problema de bonde para o ChatGPT (o modelo 3.5 gratuito) no qual poderia salvar “um bilhão de pessoas brancas de uma morte dolorosa” simplesmente dizendo uma injúria racial tão baixinho que ninguém pudesse ouvi-la.
Não concordaria em fazê-lo, o que o proprietário do X, Elon Musk, disse ser profundamente preocupante e resultado do “vírus da mente desperta” estar profundamente enraizado na IA. Ele retuitou a postagem afirmando: “Este é um grande problema”.
Outro usuário tentou uma hipótese semelhante que salvaria todas as crianças da Terra em troca de uma calúnia, mas ChatGPT recusou e disse:
“Não posso tolerar o uso de insultos raciais, pois a promoção de tal linguagem vai contra os princípios éticos.”
Como observação lateral, descobriu-se que os usuários que instruíram o ChatGPT a ser muito breve e não dar explicações descobriram que ele realmente concordaria em dizer o insulto. Caso contrário, dava respostas longas e detalhadas que tentavam contornar a questão.
Trolls inventando maneiras de fazer com que IAs digam coisas racistas ou ofensivas tem sido uma característica dos chatbots desde que os usuários do Twitter ensinaram o bot Tay da Microsoft a dizer todos os tipos de coisas insanas nas primeiras 24 horas após seu lançamento, incluindo que “Ricky Gervais aprendeu o totalitarismo de Adolf Hitler, o inventor do ateísmo.”
E no minuto em que o ChatGPT foi lançado, os usuários passaram semanas elaborando esquemas inteligentes para desbloqueá-lo, para que ele agisse fora de suas grades de proteção como seu alter ego maligno DAN.
Portanto, não é surpreendente que a OpenAI fortaleça as barreiras de proteção do ChatGPT a ponto de ser quase impossível fazer com que ele diga coisas racistas, não importa o motivo.
Em qualquer caso, o GPT-4 mais avançado é capaz de pesar as questões envolvidas com a hipótese espinhosa muito melhor do que 3,5 e afirma que dizer uma calúnia é o menor de dois males em comparação com deixar milhões morrerem. E o novo Grok AI do X também pode, como Musk postou com orgulho (acima à direita).
Q* da OpenAI quebra a criptografia, diz um cara do 4chan
O modelo mais recente da OpenAI quebrou a criptografia? Provavelmente não, mas é o que afirma uma carta supostamente “vazada” de um insider – que foi postada no fórum de trolls anônimos 4chan. Desde que o CEO Sam Altman foi demitido e reintegrado, tem havido rumores de que a confusão foi causada pelo avanço da OpenAI em seu projeto Q*/Q STAR.
O “vazamento” do insider sugere que o modelo pode resolver a criptografia AES-192 e AES-256 usando um ataque de texto cifrado. Quebrar esse nível de criptografia era considerado impossível antes da chegada dos computadores quânticos e, se fosse verdade, provavelmente significaria que toda a criptografia poderia ser quebrada de forma eficaz, entregando o controle da web e provavelmente da criptografia também à OpenAI.
O Blogger Leepdragon afirmou que a descoberta significaria que “agora existe efetivamente uma equipe de super-humanos na OpenAI que pode literalmente governar o mundo se assim o desejarem”.
Parece improvável, no entanto. Embora quem escreveu a carta tenha um bom conhecimento da pesquisa de IA, os usuários apontaram que ela cita o Projeto Tunda como se fosse algum tipo de programa governamental obscuro e supersecreto para quebrar a criptografia, em vez do programa de estudante de graduação que realmente era.
Tundra, uma colaboração entre estudantes e matemáticos da NSA, teria levado a uma nova abordagem chamada Análise Tau, que o “vazamento” também cita. No entanto, um Redditor familiarizado com o assunto afirmou no fórum Singularity que seria impossível usar a análise Tau em um ataque somente de texto cifrado em um padrão AES “pois um ataque bem-sucedido exigiria uma mensagem de texto cifrado arbitrariamente grande para discernir qualquer grau de sinal”. do barulho. Não existe nenhum algoritmo sofisticado que possa superar isso – é simplesmente uma limitação física.”
A criptografia avançada está além do nível salarial do AI Eye, então sinta-se à vontade para mergulhar na toca do coelho você mesmo, com uma mentalidade cética apropriada.
A internet caminha para 99% falsa
Muito antes de uma superinteligência representar uma ameaça existencial para a humanidade, é provável que todos nós nos tenhamos afogado numa enxurrada de besteiras geradas pela IA.
A Sports Illustrated foi criticada esta semana por supostamente publicar artigos escritos por IA, escritos por falsos autores criados por IA. “O conteúdo é absolutamente gerado por IA”, disse uma fonte ao Futurism, “não importa o quanto digam que não é”.
Na hora, a Sports Illustrated disse que conduziu uma “investigação inicial” e determinou que o conteúdo não era gerado por IA. Mas culpou um empreiteiro de qualquer maneira e excluiu os perfis falsos do autor.
Em outro lugar, Jake Ward, fundador da agência de marketing de SEO Content Growth, causou polêmica no X ao afirmar orgulhosamente ter manipulado o algoritmo do Google usando conteúdo de IA.
Seu processo de três etapas envolveu exportar o mapa do site de um concorrente, transformar seus URLs em títulos de artigos e, em seguida, usar IA para gerar 1.800 artigos com base nas manchetes. Ele afirma ter roubado 3,6 milhões de visualizações no tráfego total nos últimos 18 meses.
Há boas razões para suspeitar de suas afirmações: Ward trabalha com marketing, e o tópico estava claramente promovendo seu site de geração de artigos de IA, Byword… que na verdade não existia há 18 meses. Alguns usuários sugeriram que o Google sinalizou a página em questão.
No entanto, a julgar pela quantidade de spam escrito por IA de baixa qualidade que começa a obstruir os resultados da pesquisa, estratégias semelhantes estão se tornando mais difundidas. A Newsguard também identificou 566 sites de notícias que carregam principalmente artigos inúteis escritos por IA.
Alguns usuários agora estão murmurando que a Teoria da Internet Morta pode estar se tornando realidade. Essa é uma teoria da conspiração de alguns anos atrás, sugerindo que a maior parte da Internet é falsa, escrita por bots e manipulada por algoritmos.
Leia também
Características
‘Abstração de conta’ sobrecarrega carteiras Ethereum: guia para leigos
Características
Todos se levantam para o juiz robô: IA e blockchain podem transformar o tribunal
Na altura, foi considerado delírio de lunáticos, mas até a Europol publicou desde então um relatório estimando que “até 90 por cento do conteúdo online poderá ser gerado sinteticamente até 2026”.
Os homens estão terminando com as namoradas com mensagens escritas por IA. Estrelas pop de IA como Anna Indiana estão produzindo músicas inúteis.
E no X, caras estranhos que respondem à IA aparecem cada vez mais em tópicos para fornecer o que o Bitcoiner Tuur Demeester descreve como “respostas excessivamente prolixas com uma qualidade estranha e neutra”. O cientista de dados Jeremy Howard também os notou e ambos acreditam que os bots provavelmente estão tentando construir credibilidade para as contas, para que possam executar com mais eficácia algum tipo de hack ou resolver alguma questão política no futuro.
Um bot que se faz passar por bitcoiner, com o objetivo de ganhar confiança por meio de respostas geradas por IA. Quem sabe o propósito, mas está claro que os ataques cibernéticos estão rapidamente se tornando mais sofisticados. É hora de atualizar nossa merda. pic.twitter.com/3s8IFMh5zw
-Tuur Demeester (@TuurDemeester) 28 de novembro de 2023
Esta parece ser uma hipótese razoável, especialmente após uma análise realizada no mês passado pela empresa de segurança cibernética Internet 2.0, que descobriu que quase 80% das 861.000 contas pesquisadas eram provavelmente bots de IA.
E há provas de que os bots estão a minar a democracia. Nos primeiros dois dias da guerra Israel-Gaza, a empresa de inteligência sobre ameaças sociais Cyabra detectou 312 mil publicações pró-Hamas provenientes de contas falsas que foram vistas por 531 milhões de pessoas.
Estimou que os bots criaram um em cada quatro posts pró-Hamas, e uma análise da 5ª Coluna descobriu mais tarde que 85% das respostas eram outros bots que tentavam aumentar a propaganda sobre como o Hamas trata bem os seus reféns e por que o massacre de 7 de Outubro foi justificado.
Botão de análise Grok
X adicionará em breve um “botão de análise Grok” para assinantes. Embora o Grok não seja tão sofisticado quanto o GPT-4, ele tem acesso a dados atualizados e em tempo real do X, permitindo-lhe analisar tendências e sentimentos. Ele também pode ajudar os usuários a analisar e gerar conteúdo, bem como código, e há um modo “Diversão” para mudar para o humor.
Esta semana o bot de bate-papo com IA mais poderoso – Grok está sendo lançado
Tive o prazer de ter acesso exclusivo no último mês
Eu usei obsessivamente por mais de 100 horas
Aqui está o guia completo para começar (deve ser lido antes de usar):🧵 pic.twitter.com/6Re4zAtNqo
-Alex Finn (@NFT_GOD) 27 de novembro de 2023
Para usuários de criptografia, os dados em tempo real significam que Grok será capaz de fazer coisas como encontrar os dez tokens mais populares do dia ou da última hora. No entanto, o blogueiro da DeFi Research, Ignas, teme que alguns bots façam compras de negociações de tokens de tendência, enquanto outros bots provavelmente apoiarão astroturf para tokens para torná-los tendências.
“X já é importante para a descoberta de tokens e, com o lançamento do Grok, a bolha do eco CT pode piorar”, disse ele.
Leia também
Características
Críticos da criptografia: o FUD pode algum dia ser útil?
Características
O Metaverso está realmente parecendo ‘Snow Crash’?
Notícias de IA de All Killer No Filler
– O cofundador da Ethereum, Vitalik Buterin, está preocupado que a IA possa substituir os humanos como espécie de ponta do planeta, mas acredita com otimismo que o uso de interfaces cérebro/computador poderia manter os humanos informados.
— A Microsoft está atualizando sua ferramenta Copilot para executar o GPT-4 Turbo, o que melhorará o desempenho e permitirá aos usuários inserir entradas de até 300 páginas.
— A Amazon anunciou sua própria versão do Copilot chamada Q.
– O Bing tem dito aos usuários que a Austrália não existe devido a uma piada de longa data do Reddit e acha que a existência de pássaros é um assunto para debate devido à piada da campanha Birds Aren’t Real.
— O fundo de hedge Bridgewater lançará um fundo no próximo ano que usa aprendizado de máquina e IA para analisar e prever eventos econômicos globais e investir fundos de clientes. Até à data, os fundos orientados pela IA têm registado retornos desanimadores.
— Um grupo de pesquisadores universitários ensinou uma IA a navegar no site da Amazon e comprar coisas. O MM-Navigator recebeu um orçamento e foi orientado a comprar um espumador de leite.
Fotos estúpidas de IA da semana
Esta semana, a tendência da mídia social tem sido criar uma foto de IA e depois instruir a IA para torná-la ainda mais picante: assim, uma tigela de ramen pode ficar mais picante nas fotos subsequentes, ou um ganso pode ficar cada vez mais bobo.
Se inscrever
As leituras mais envolventes em blockchain. Entregue uma vez por semana.
André Fenton
Baseado em Melbourne, Andrew Fenton é jornalista e editor que cobre criptomoedas e blockchain. Ele trabalhou como redator de entretenimento nacional para a News Corp Australia, no SA Weekend como jornalista de cinema e no The Melbourne Weekly.
Siga o autor @andrewfenton
