Os riscos do ChatGPT preparam o cibercrime para um crescimento recorde

O ChatGPT foi acusado de muitas coisas: criar uma nova forma de os estudantes fazerem batota, tornar-se um destruidor de empregos, criar uma fonte barata de textos de má qualidade e, o meu favorito: ser uma ameaça perigosa e profana que ameaça o tecido moral da sociedade.

Mas as pessoas têm feito, ou sido pagas para fazer, todas essas coisas há décadas. A OpenAI e outros fornecedores de inteligência artificial generativa tornam-nas mais baratas. Acima de tudo, promete eliminar uma enorme quantidade do trabalho rotineiro no trabalho de escritório, tal como os teares, as linhas de montagem e os robôs fizeram anteriormente pelo trabalho manual.

Como qualquer ferramenta ou inovação tecnológica, as ferramentas de IA generativa têm capacidade para ser utilizadas com grande benefício e causar grandes danos.

Em que são bons os Modelos de Linguagem de Grande Dimensão (LLM)?

A utilização do ChatGPT, do Microsoft Bard e de outras ferramentas tornou muito mais fácil obter informações úteis a partir de previsões… mas as utilizações vão além das finanças.

Os LLM são persuasivos. Sabem, com precisão matemática, que combinações de palavras as pessoas consideram mais convincentes e são treinados para se manterem dentro desses limites. 

Possuem um vasto conhecimento de factos e detalhes. 

Podem resumir e reformular texto em qualquer estilo que escolher.

No entanto, não são bons a dizer a verdade. Os computadores, conhecidos por uma rígida submissão à lógica, têm paradoxalmente nos LLM uma incapacidade de distinguir a verdade da ficção e são plenamente capazes de fabricar mentiras para responder a perguntas, reforçando depois essas mentiras sem qualquer dificuldade e com total confiança.

O que isto significa para nós

Não quero tornar isto demasiado filosófico, mas, neste momento da história, estão a acontecer coisas. 

Os desenvolvimentos técnicos, políticos e económicos combinaram-se para confundir muitos dos indicadores que as pessoas utilizam para avaliar a credibilidade e atribuir confiança. Tal como as fotografias falsas nas redes sociais confundiram as pessoas, o ChatGPT e outros LLM fazem agora parte da mistura. Enquanto sociedade, teremos mais uma vez de nos adaptar, aprendendo novas formas de distinguir a verdade da desinformação. 

As mesmas pessoas de sempre, a mesma história de sempre.

Como funcionam atualmente os ciberataques e os esquemas de fraude eletrónica

Deixando de lado a alta filosofia, o crescimento dos LLM representa uma ameaça específica para as empresas: reduzir o custo de ataques de fraude eletrónica de qualidade.

“Pessoas enganadas” é a maior fonte isolada de perdas práticas relacionadas com a cibersegurança. Embora o setor se concentre nas ameaças e soluções técnicas, a esmagadora maioria dos crimes informáticos bem-sucedidos depende de enganar alguém em algum momento do processo.

Atualmente, existe uma indústria próspera de centros de atendimento telefónico dedicados à fraude e ao cibercrime. Têm fornecedores e vendedores, procedimentos e recursos humanos e, provavelmente, retiros ocasionais de liderança para celebrar um trabalho bem feito. É todo um negócio.

Algumas partes do processo de fraude são automatizadas: o e-mail inicial à procura de amor ou para lhe falar de uma excelente oportunidade de negócio consiste em modelos reciclados – encontrará o mesmo e-mail na caixa de entrada do seu vizinho, talvez ligeiramente alterado através dos seus testes A/B intermináveis para obter melhores taxas de conversão.

Assim que você ou o seu vizinho clica ou responde, alguém no centro de atendimento assume o controlo, seguindo procedimentos e utilizando competências aperfeiçoadas ao longo de anos para conduzir o “potencial cliente” (você) através do “funil de vendas” (esquema) e “concluir a venda” (defraudá-lo) da forma mais eficiente possível. 

Estes funcionários têm avaliações de desempenho, métricas-chave, estruturas de bónus e dias de baixa. São o maior custo de funcionamento de um centro de atendimento de fraude eletrónica. Tal como acontece em qualquer negócio, as empresas e os indivíduos com melhor desempenho obtêm melhores taxas de conversão e receitas e, por isso, conseguem cobrar valores mais elevados.

Existe uma certa segmentação natural no “mercado” da fraude, baseada no “rendimento” esperado (o dinheiro que se pode extorquir) dos alvos: 

• As empresas de baixo custo e baixo desempenho procuram normalmente um número maior de alvos de baixo rendimento. Este é o equivalente, no mundo da fraude, aos anúncios do Instagram de bugigangas de baixo custo e utilidade duvidosa; tente mostrá-las ao maior número possível de pessoas e poderá conseguir algumas vendas.
• As equipas de alto desempenho procuram alvos de maior rendimento e investem mais em cada um deles. Estes são os grandes clientes B2B do mundo da fraude; faça uma investigação exaustiva e coloque os seus melhores representantes de vendas e de apoio ao cliente a trabalhar no caso.

Não faz sentido do ponto de vista empresarial atribuir potenciais clientes de baixo rendimento a equipas de alto desempenho, pelo que raramente os alvos de baixo rendimento (ou seja, eu e a maioria de vocês) recebem tentativas sofisticadas conduzidas por burlões qualificados.

Como os LLM vão mudar o jogo

Vejamos o que já sabemos:

• As ferramentas de IA são boas a parecer persuasivas. 
• Os modelos de IA são bons a assimilar uma grande quantidade de informação detalhada de um conjunto de dados e a produzir algo único, específico e plausível. 
• A IA generativa tem uma fluência perfeita em inglês e conhecimentos enciclopédicos sobre todos os assuntos disponíveis na internet. 
• Os algoritmos do GPT podem ser ajustados para escrever no estilo de qualquer grupo demográfico.

Além disso, as desvantagens da IA são inconsequentes para a indústria da fraude: a verdade não importa. Desde que a vítima caia no esquema, a gestão não quer saber dos disparates que ela aceita. 

Uma abordagem não está a resultar? Não se preocupe, a aprendizagem automática não tem ego e mudará de estratégia sem pensar duas vezes (ou uma vez sequer, já agora…).

A cereja no topo do bolo? As ferramentas de IA custam quase nada em comparação com um centro de atendimento cheio de burlões.

Cronograma de lançamento

Infelizmente, o mundo do crime move-se depressa. Não têm de se preocupar com a reputação, há menos burocracia e é fundamental chegar cedo a este “mercado”. 

Um produto de LLM orientado para o crime, o WormGPT, já se tornou suficientemente popular para ser notícia nos meios de comunicação generalistas devido ao seu chatbot de IA favorável a software malicioso. É indubitável que também existem outros e não demorará muito até que a pressão competitiva e a divulgação das melhores práticas reduzam os custos operacionais o suficiente para fazer do phishing apoiado por LLM o método dominante de realizar operações.

Façamos uma pausa pelo Assistente de Operações de Burlas, que em breve ficará desempregado.

À medida que a indústria do phishing atravessar esta transformação nos próximos anos, o custo de gerir uma operação de phishing sofisticada cairá a pique, levando os agora autónomos “melhores vendedores” e outros cibercriminosos a começarem a visar oportunidades de menor retorno. Muitos mais de nós ficarão expostos a uma vaga de phishing de elevada qualidade e muitos cairão nela.

Está na altura de mudar os protocolos de autenticação

Devido aos esquemas de phishing e aos hackers que conseguem aceder às contas, muitos de nós aprendemos a desconfiar das mensagens recebidas por email e por SMS. Eu, tal como outros especialistas, recomendo frequentemente a utilização do telefone para verificar informações confidenciais necessárias em atividades de risco, como transações de elevado valor; as empresas de títulos de propriedade e os escritórios de advogados utilizam esta estratégia com sucesso há anos.

Acredito que isso deixará de funcionar. As chamadas telefónicas credíveis geradas por LLM já não estão longe. Os produtos existentes podem utilizar amostras de voz para criar áudio de qualquer pessoa a dizer o que quer que seja. No momento em que escrevo este artigo, isto ainda não funciona em tempo real; demora algum tempo a gerar cada excerto. Felizmente, a maioria de nós não se deixará enganar por atrasos de cinco ou dez segundos numa conversa, por muito que o interlocutor soe como Johnny Cash.

Mas os computadores e a tecnologia têm uma forma curiosa de ficar mais rápidos. Estou plenamente confiante de que o progresso incremental nas ferramentas de geração de voz por IA e na velocidade de processamento tornará as chamadas apoiadas por LLM numa oferta comum dentro de uma década. Em breve, perderemos a capacidade de saber se uma pessoa é legítima apenas pela sua voz; uma oportunidade a que os agentes mal-intencionados não poderão resistir.

Ver pode não ser acreditar

A síntese de voz não é o único software de falsificação disponível; a criação de um vídeo credível de alguém com base em gravações anteriores já é possível (e está a melhorar). O vídeo é substancialmente mais difícil do que a voz – os vídeos credíveis costumam exigir muitas horas, competências consideráveis e o talento de um especialista.

Mas, tal como acontece com a síntese de áudio, o desenvolvimento de uma versão automatizada e em tempo real é apenas uma questão de anos. Poderá demorar algumas décadas, especialmente até se tornar suficientemente barato para os grupos criminosos, mas acontecerá.

Próximos passos para a segurança organizacional

Está preparado para um mundo onde todas as comunicações virtuais podem ser falsas? A privacidade dos dados morreu? Caminhamos para o colapso da civilização e para um regresso à idade da pedra?

Não exatamente.

A matemática ao resgate

Hoje, usamos a voz, a aparência e os maneirismos para identificar alguém. Em termos de cibersegurança, estes fatores autenticam essa pessoa perante nós; utilizamo-los para determinar se a pessoa que fala connosco é realmente quem afirma ser. Dependemos desta estratégia sem pensar nisso e, nos últimos 7000+ anos, tem funcionado muito bem.

Esta nova realidade dos LLM e da falsificação de identidade gerada por IA promete eliminar essa capacidade. Teremos de a substituir por outra forma de autenticar as pessoas quando comunicamos online.

Aqui, há esperança: temos outras técnicas que funcionam, simplesmente ainda não são populares. A tecnologia de autenticação baseada na matemática desenvolvida ao longo das últimas duas décadas não será afetada por estas mudanças e já é barata e fácil. Muitos sistemas já dependem delas sem que os utilizadores se apercebam. A perda do reconhecimento virtual poderá levar muitos a optar por uma autenticação criptograficamente rigorosa e a afastarem-se de métodos fracos, como uma chamada telefónica normal ou o Zoom.

Diz-me Algo Bom

Para o melhor e para o pior, a sociedade irá encontrar o seu próprio caminho. Felizmente, pode assumir um papel mais ativo no futuro da sua empresa e impedir que esta ameaça afete o seu negócio. Nem sequer é assim tão difícil. 

Primeiro, coloque todas as informações sensíveis atrás de um fornecedor de identidade federado e criptograficamente rigoroso. Depois, deixe claro na sua empresa que deve depender disso, em vez de se limitar a reconhecer as pessoas pelo seu estilo de escrita ou pela sua voz. 

Por último, pode concentrar-se naquilo que faz melhor e deixar que outros, como eu, leiam sobre o resto. Subscreva o boletim informativo do The CFO Club se quiser ser o primeiro a saber quando eu detetar a próxima ameaça à sociedade.