A IA que parece estar consciente pode chegar nos próximos anos, representando uma ameaça “perigosa” para a sociedade, diz um líder da IA.
O CEO da Microsoft AI, Mustafa Suleyman, 41 anos, escreveu em um ensaio pessoal publicado no início desta semana que a IA aparentemente consciente (SCAI), que é a inteligência artificial tão avançada que pode convencer os humanos de que é capaz de formular seus próprios pensamentos e crenças, está a apenas alguns anos de distância.
Relacionado: a Microsoft afirma que sua IA é melhor do que os médicos no diagnóstico de pacientes, mas “você definitivamente ainda precisa do seu médico”
Embora exista “zero evidência” de que a IA está consciente no momento, é “inevitável e indesejável” que Scai poderia aparecer nos próximos dois a três anos, escreveu Suleyman.
A “preocupação central” de Suleyman é que o SCAI poderia parecer empático e agir com maior autonomia, o que levaria os usuários do SCAI a “começar a acreditar na ilusão de AIS como entidades conscientes” a ponto de defenderem os direitos de IA e até a cidadania da IA. Isso marcaria uma “virada perigosa” para a sociedade, onde as pessoas se apegam à IA e desconectadas da realidade.
“Esse desenvolvimento será uma virada perigosa no progresso da IA e merece nossa atenção imediata”, escreveu Suleyman no ensaio. Ele acrescentou mais tarde que a IA “desconecta as pessoas da realidade, desgastando laços e estruturas sociais frágeis, distorcendo prioridades morais prementes”.
Relacionado: ‘Muito espaço para startups’: é aqui que os empreendedores devem procurar oportunidades de negócios na IA, de acordo com o CEO da AI da Microsoft
Suleyman disse que estava se tornando “cada vez mais preocupado” com a psicose da IA, ou seres humanos experimentando falsas crenças, delírios ou sentimentos paranóicos após interações prolongadas com a IA Chatbots. Exemplos de psicose da IA incluem usuários formando um relacionamento romântico com um chatbot de IA ou sentindo que têm superpotências depois de interagir com ele.
A psicose da IA se aplicará a mais do que apenas indivíduos que correm risco de problemas de saúde mental, previu Suleyman. Ele disse que os usuários precisam “urgentemente” discutir “guardrails” em torno da IA para proteger as pessoas dos efeitos negativos da tecnologia.
CEO da Microsoft AI Mustafa Suleyman. Fotógrafo: David Ryder/Bloomberg via Getty Images
Suleyman se tornou o CEO da IA da Microsoft no ano passado, depois de co-fundir e executar sua própria startup de IA por dois anos, chamada Inflexão AI, por LinkedIn. A Microsoft é a segunda empresa mais valiosa do mundo, com uma capitalização de mercado de US $ 3,78 trilhões no momento da redação.
Relacionado: CEO da Microsoft AI diz que quase todo o conteúdo da Internet é um jogo justo para o treinamento de IA
Suleyman também co-fundou a DeepMind, uma empresa de pesquisa e desenvolvimento de IA adquirida pelo Google por cerca de US $ 600 milhões em 2014.
Suleyman não é o primeiro CEO a alertar sobre os efeitos negativos da IA. Em uma palestra em uma conferência do Federal Reserve no mês passado em Washington, DC, o CEO da Openai, Sam Altman, disse que “excesso de confiança emocional” no ChatGPT o mantém acordado à noite.
“As pessoas confiam muito no Chatgpt”, disse Altman no evento. “Isso é muito ruim para mim.”
