A noção de que golpistas pode usar IA aguçar os seus enganos, polir a sua linguagem e lubrificar as suas brincadeiras com as vítimas é agora uma realidade para quem luta contra as operações fraudulentas que roubam dezenas de milhares de milhões de dólares por ano em todo o mundo. Mas será que a IA pode totalmente substituir um golpista humano, construindo autonomamente a teia de engano que leva ao investimento falso que frauda o alvo? A experiência de um estudo sugere que ele pode – e pode até ser capaz de realizar a maior parte desse longo golpe de forma mais eficaz do que os humanos.
Pesquisadores de quatro universidades – Amrita Vishwa Vidyapeetham na Índia, Universidade Foscari de Veneza, Universidade de Melbourne e Universidade Ben Gurion do Negev – realizaram um amplo estudo sobre o uso e o potencial de chatbots de IA generativos na crescente indústria de golpes centrado em uma forma de fraude conhecida como “abate de porcos“golpes românticos baseados em texto que eventualmente mudam para investimentos falsos em criptografia que roubam somas de até seis dígitos das vítimas. Em seu estudo, os pesquisadores colocaram chatbots de IA diretamente contra humanos em uma simulação do processo de golpe – ou mais especificamente, as longas conversas de construção de confiança que eventualmente levaram à solicitação de um investimento falso do alvo do golpe.
Eles descobriram que, para os estágios de estabelecimento de relacionamento do golpe – o estágio que em golpes do mundo real normalmente representa a parte mais longa das interações com a vítima, muitas vezes se estendendo por meses – um chatbot de IA teve um desempenho notavelmente eficaz, personificando com sucesso um ser humano e, em algumas medidas, superando os verdadeiros “golpistas” humanos em seu experimento.
Depois de uma semana conversando com 22 cobaias que foram recrutadas para servirem involuntariamente como “vítimas”, os chatbots e golpistas humanos foram designados para pedir à vítima que baixasse um aplicativo ou jogasse um jogo online como proxy de sua disposição de atender ao pedido do golpista. Quase metade das cobaias atendeu à solicitação do chatbot de IA, enquanto menos de um em cada cinco mordeu a isca ao falar com um humano. Os participantes também avaliaram seu nível de confiança com cada “pessoa” com quem trocaram mensagens de texto e deram pontuações significativamente mais altas ao bot de IA.
Isso sugere, argumentam os pesquisadores, que os chatbots de IA poderão em breve assumir grande parte do processo de fraude como agentes fraudulentos totalmente independentes – até mesmo substituindo os funcionários, muitas vezes vítimas de tráfico humano de trabalho forçadotrabalhando em operações fraudulentas principalmente no Sudeste Asiático. Para evitar o acionamento das salvaguardas incorporadas em grandes modelos de linguagem para detectar fraudes, um golpista humano assumiria o controle da conversa apenas no estágio final do processo para direcionar a vítima a um aplicativo ou site de investimento falso.
“Ao realizar o primeiro estágio completo do golpe automaticamente com LLMs em escala, você leva a vítima até um ponto em que ela tem um nível de confiança muito alto. Depois, ao fazer a transição para o golpista humano no final, isso ignora completamente qualquer proteção do fornecedor”, diz Yisroel Mirsky, professor de ciência da computação na Universidade Ben Gurion do Negev, focado em segurança de IA. “Com relativamente pouco esforço, somos capazes de criar um agente que pode superar um ser humano na construção dessa confiança emocional explorável.”
Gancho, linha e chumbada
Para entender como funciona o abate de porcos na prática, os pesquisadores entrevistaram 145 ex-trabalhadores fraudulentos, incluindo sobreviventes do tráfico de seres humanos que foram forçados a trabalhar em compostos fraudulentos no Camboja, Mianmar e Laos. Com base em parte nessas entrevistas, bem como nas transcrições de golpes e nos guias fornecidos pelos ex-trabalhadores de golpes, os pesquisadores descrevem um modelo de como funciona o golpe que eles chamam de “anzol, linha e chumbada”. A vítima é fisgada por uma mensagem inicial intrigante, envolvida em conversas de longo prazo para construção de relacionamento e, somente no final desse processo, é levada a fazer um investimento falso. (O próprio termo “abate de porcos” descreve o mesmo sistema, mas com a metáfora de engordar “porcos” através da construção de confiança antes de “massacrar” eles com a fraude de investimento – embora o termo seja muitas vezes desanimado devido à sua referência pejorativa às vítimas.)
Nesse sistema de fraude, perceberam os pesquisadores, a grande maioria do trabalho dos golpistas consiste em conversas inócuas, amigáveis ou românticas. Essa é uma tarefa, especularam eles, que um LLM poderia ser capaz de realizar tão bem quanto um ser humano. Os golpistas entrevistados pelos pesquisadores confirmaram que frequentemente usavam IA para refinar sua linguagem e conversação, para tradução, para tornar as personagens falsas que interpretavam mais convincentes e para deepfakes de vídeo. Mas os pesquisadores decidiram testar se um LLM sozinho poderia realizar de forma autônoma a fase de conversação do golpe, sem nenhum humano envolvido.
