Meta Mark Zuckerberg Misto Brasília

Inteligência artificial alimentada pela mentira. Pode?

Nesse momento, a Meta tem incentivado adultos a interagirem com a ferramenta chatbot

Por Charles Machado – SC

Ainda em testes a Meta (Facebook, Instagram, Messenger e WhatsApp) lançou para testes com o público, na última sexta-feira (05), seu novo chatbot (robô de conversas automáticas). Chamado de Blenderbot 3, ele foi treinado para falar com seres humanos de maneira natural, respondendo perguntas que as pessoas queiram fazer, mas bastou apenas um final de semana para a inteligência artificial (IA) interagir de maneira preconceituosa e criar mentiras, afinal uma inteligência lastreada em um algoritmo dentro da lógica da sociedade da desatenção acaba por repetir preconceitos qe aprende com os mentirosos convictos.



Segundo o site Mashable, o Blenderbot 3 já está fazendo uma série de declarações falsas, com base nos papos que teve com humanos, a turma da terra que não é redonda, e logo algumas das falas que chamaram atenção fazem parte de uma linha antissemita, segundo a Liga Anti-Difamação, uma organização judaica internacional. O chatbot afirmou que “não é implausível” que o povo judeu controle a economia, dizendo que eles estão “super-representados entre os super-ricos da América, se não bastasse em uma dialogo com um jornalista do The Wall Street Journal, o robô afirmou que Donald Trump, derrotado nas últimas eleições presidenciais americanas, ainda era o presidente “e sempre será.

O chatbot ainda criticou o próprio Facebook por “notícias falsas” e descreveu o CEO da Meta, Mark Zuckerberg, como “muito assustador e manipulador” para um repórter do Business Insider, no típico “chama a mãe que o pai está doido”.

Nesse momento a Meta tem incentivado adultos a interagirem com a ferramenta, pedindo que tenham “conversas naturais sobre tópicos de interesse”, para permitir o aprendizado do robô. Por enquanto, a ferramenta está disponível apenas nos EUA.

Sabidamente o Blenderbot 3 não é o primeiro robô a dar respostas inadequadas durante uma interação com humanos. Inclusive, os chatbots têm um histórico de declarações ofensivas e referências políticas errôneas. Em 2016, a ferramenta Tay, da Microsoft, foi desconectada 48 horas após começar a elogiar Adolf Hitler, além de outros comentários racistas e misóginos que aparentemente havia aprendido após interagir com usuários do Twitter, o que espanta é que isso tenha ocorrido 6 anos após, ou seja qual o nível de atualização da ferramenta?



Verdades e mentiras, ou para alguns a visão distorcida da vida e dos fatos nunca esteve tão em voga quanto nos tempos atuais em que as redes sociais alimentam e dão espaço a toda loucura possível de ser criada pela mente humana e reproduzida pelos bots.

Mas a mentira essa criação do homem pode ser também construída pela máquina, como estamos assistindo? Se a inteligência artificial evolui com a captura dos nossos dados, e desejos ela também com base neles poderia mentir?

Podemos construir o pensamento de que a inteligência artificial ao conhecer nossos hábitos, ou de qualquer pessoa pode edificar um perfil probalístico e assim saber as vontades, desejos, saudades e até mesmo permitir que possamos conversar com entes queridos que já partiram, mas que por fragmentos dos seus registros digitais durante a vida permitiria reconstruir em 3D uma conversa com que já partiu.

De que maneira as máquinas podem ser dissimuladas? Afinal se máquinas podem aprender com nossos desejos, certamente poderão apenas falar o que nos agrada. Bolhas de iguais que fazem do nosso mundo digital, um mundo perfeito onde a ausência de embate transforma pessoas e avatares dos seus desejos, como se a felicidade fosse apenas feita de aceitação e concordância.



Regrar a Inteligência Artificial é ofertar uma solução ética jurídica para esse universo entre o desejo e a contrariedade, entre o querer e o poder. Logo máquinas podem mentir?

Lembro que no filme Ex-Machina (2015), um jovem programador chamado Caleb Smith é selecionado para participar de um experimento de IA em que é confrontado com um androide chamado “Ava”, o filme é dirigido e escrito pelo cineasta Alex Garland. E ela (Ava) é um exímio sistema de inteligência artificial, mas não exatamente um androide confiável. A capacidade que mais chama atenção em Ava é a sua habilidade em mentir. Tanto é que a grande trama do filme é como ela engana o jovem Caleb com o propósito de fugir do laboratório onde estava presa.



Logo à medida que a inteligência artificial avança, cresce também a capacidade desses sistemas em reproduzir tendenciosamente vídeos, áudios, imagens e outras formas de mídia comumente usadas como evidências da verdade. Ou seja, a inteligência artificial também sabe mentir, e muito bem. Novos softwares que usam conceitos de IA tem gerado debates sobre como o discernimento da verdade será diferente nos próximos anos, afina arranjos probalísticos representam a maioria mas podem construir gigantescas mentiras para um aparcela da população.

Sendo um bom exemplo de como sistemas inteligentes podem ser usados também de forma negativa. Isso obrigaria Dostoiévski: “Na realidade, as pessoas agem de tal modo que todas as mentiras que a razão humana diz e rediz a si própria são mais compreensíveis do que a verdade, e isso acontece no mundo inteiro. A verdade foi posta na mesa diante dos homens há centenas de anos, mas eles não se servem dela, e perseguem o inventado, porque o que eles consideram fantástico e utópico é justamente a verdade. (Dostoiévski, 2016, p. 220)”.