ChatGPT-risker bäddar för rekordökning av cyberbrottslighet
ChatGPT har anklagats för många saker: att skapa ett nytt sätt för studenter att fuska, att bli en jobbdödare, att skapa en billig källa till dålig text och, min personliga favorit: att vara ett farligt och oheligt hot mot samhällets moraliska väv.
Men människor har gjort, eller fått betalt för att göra, alla dessa saker i årtionden. OpenAI och andra leverantörer av generativ artificiell intelligens gör dem billigare. Framför allt lovar tekniken att eliminera en enorm mängd av det monotona arbetet i tjänstemannaarbete, precis som vävstolar, löpande band och robotar tidigare gjorde för manuellt arbete.
Precis som alla verktyg eller tekniska innovationer kan verktyg för generativ AI användas både till stor nytta och till stor skada.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Vad är stora språkmodeller (LLMs) bra på?
Användningen av ChatGPT, Microsoft Bard och andra verktyg har gjort det mycket enklare att utvinna användbara insikter från prognoser … men användningsområdena sträcker sig längre än bara ekonomi.
LLMs är övertygande. De vet, med matematisk precision, vilka kombinationer av ord människor finner mest övertygande, och de tränas att hålla sig inom de ramarna.
De har omfattande kunskaper om fakta och detaljer.
De kan sammanfatta och omformulera text i vilken stil du än väljer.
De är däremot inte bra på att tala sanning. Datorer, som är kända för en strikt begränsning till logik, har paradoxalt nog i LLMs en oförmåga att skilja sanning från fiktion och är fullt kapabla att hitta på lögner som svar på frågor och sedan sömlöst förstärka dessa lögner med fullständig övertygelse.
Vad detta innebär för oss
Jag vill inte bli alltför filosofisk kring det hela, men i detta historiska skede händer det saker.
Tekniska, politiska och ekonomiska utvecklingar har samverkat och gjort många av de indikatorer som människor använder för att bedöma trovärdighet och tilldela förtroende förvirrande. Precis som falska foton på sociala medier förvirrade människor är ChatGPT och andra LLMs nu en del av blandningen. Som samhälle måste vi återigen anpassa oss och lära oss nya sätt att skilja sanning från desinformation.
Samma gamla människor, samma gamla historia.
Så fungerar cyberattacker och nätfiskebedrägerier i dag
Bortsett från den högtravande filosofin utgör ökningen av LLMs ett särskilt hot mot företag: att sänka kostnaden för nätfiskeattacker av hög kvalitet.
”Människor som blir lurade” är den enskilt största källan till praktiska cybersäkerhetsförluster. Medan branschen fokuserar på tekniska hot och lösningar bygger den överväldigande majoriteten av framgångsrik cyberbrottslighet på att lura någon någonstans i processen.
I dag finns det en blomstrande bransch av callcenter som ägnar sig åt bedrägerier och cyberbrottslighet. De har leverantörer och underleverantörer, rutiner och HR och förmodligen även ledarskapsretreater då och då för att fira ett väl utfört arbete. Det är en hel verksamhet.
Vissa delar av bedrägerikedjan är automatiserade: det första mejlet som söker kärlek eller vill berätta om en fantastisk affärsmöjlighet består av återanvända mallar – du hittar samma mejl i din grannes inkorg, kanske något justerat genom deras ändlösa A/B-tester för bättre konverteringsgrad.
När du eller din granne klickar eller svarar tar någon på callcentret över, följer rutiner och använder färdigheter som finslipats under flera år för att så effektivt som möjligt föra ”den potentiella kunden” (dig) genom ”säljtratten” (bedrägeriet) och ”slutföra affären” (bedra dig).
Dessa anställda har prestationsutvärderingar, nyckeltal, bonusstrukturer och sjukdagar. De är den största kostnaden för att driva ett nätfiskecenter. Precis som i alla företag ger företag och individer med bättre prestationer bättre konverteringsgrad och intäkter och kan därför ta ut högre priser.
Det sker en viss naturlig segmentering på bedrägerimarknaden baserat på måltavlornas förväntade ”avkastning” (hur mycket pengar du kan luras på):
- Företag med låga kostnader och låg prestation riktar sig vanligtvis mot ett större antal mål med låg avkastning. Detta är bedrägeriets motsvarighet till Instagramannonser för billiga prydnadssaker av tvivelaktig kvalitet; försök att visa annonsen för så många människor som möjligt, så kanske du får några försäljningar.
- Högpresterande team riktar sig mot mål med högre avkastning och investerar mer i vart och ett. Detta är bedrägerivärldens stora B2B-konton; gör omfattande efterforskningar och sätt dina bästa säljare och kundtjänstmedarbetare på uppgiften.
Det är dålig affärslogik att tilldela potentiella kunder med låg avkastning till högpresterande team, så mål med låg avkastning (det vill säga jag och de flesta av er) utsätts sällan för sofistikerade försök som genomförs av skickliga bedragare.
Så kommer LLMs att förändra spelplanen
Låt oss gå igenom vad vi redan vet:
- AI-verktyg är bra på att låta övertygande.
- AI-modeller är bra på att smälta en mängd detaljerad information från en datamängd och spotta ur sig något unikt, specifikt och trovärdigt.
- Generativ AI har perfekt flyt på engelska och encyklopediska bakgrundskunskaper om alla ämnen på internet.
- GPT:s algoritmer kan finjusteras för att skriva i vilken demografisk grupps stil som helst.
Vad mer är, AI:s nackdelar är betydelselösa för bedrägeribranschen: sanningen spelar ingen roll. Så länge offret går på bluffen bryr sig ledningen inte om vilket strunt det får höra.
Fungerar inte en metod? Oroa dig inte, maskininlärning har inget ego och byter strategi utan att tänka efter (eller tänka alls, för den delen…).
Pricken över i: AI-verktyg kostar nästan ingenting jämfört med ett callcenter fullt av bedragare.
Tidsplan för lansering
Tyvärr rör sig brottsvärlden snabbt. De behöver inte bekymra sig om sitt rykte, det finns mindre byråkrati, och det är avgörande att vara tidigt ute på denna ”marknad”.
En brottsinriktad LLM-produkt, WormGPT, har redan blivit tillräckligt populär för att hamna i rikstäckande nyheter tack vare sin AI-chattbot som är vänligt inställd till skadeprogram. Andra finns utan tvekan också tillgängliga, och det dröjer inte länge innan konkurrenstryck och spridningen av bästa praxis pressar ned driftskostnaderna tillräckligt för att nätfiske med stöd av LLM ska bli den dominerande metoden för att få saker gjorda.
Låt oss ta en stund för den snart arbetslösa medarbetaren inom bluffverksamhet.
När nätfiskebranschen genomgår denna omvandling under de kommande åren kommer kostnaden för att driva en sofistikerad nätfiskeverksamhet att rasa, vilket får de nu autonoma ”toppförsäljarna” och andra cyberbrottslingar att börja rikta in sig på möjligheter med lägre avkastning. Många fler av oss kommer att utsättas för en flod av nätfiske av hög kvalitet, och många kommer att gå på det.
Dags att ändra autentiseringsprotokollen
På grund av nätfiskebedrägerier och hackare som tar sig in på konton har många av oss lärt sig att ta emot meddelanden via e-post och sms med en nypa salt. Jag och andra experter rekommenderar ofta att man använder telefonen för att verifiera konfidentiell information som behövs vid riskfyllda aktiviteter, till exempel transaktioner med höga belopp; fastighetsbolag och advokatbyråer har använt denna strategi framgångsrikt i flera år.
Jag tror att det kommer att sluta fungera. Trovärdiga telefonsamtal som genereras av LLM ligger redan nära till hands. Befintliga produkter kan använda röstprover för att skapa ljud där vem som helst säger vad som helst. När den här artikeln skrivs fungerar detta inte i realtid; det tar en stund att generera varje klipp. Som tur är kommer de flesta av oss inte att luras av fem eller tio sekunders fördröjning i ett samtal, oavsett hur mycket den som ringer låter som Johnny Cash.
Men datorer och teknik har en märklig förmåga att bli snabbare. Jag är helt övertygad om att stegvisa framsteg inom AI-verktyg för röstgenerering och bearbetningshastighet kommer att göra samtal med stöd av LLM till en standardtjänst inom ett decennium. Vi kommer snart att förlora förmågan att avgöra om en person är äkta enbart utifrån rösten; en möjlighet som illvilliga aktörer inte kan motstå.
Det man ser behöver inte vara sant
Röstsyntes är inte den enda programvaran för identitetsförfalskning som finns på gång; det går att skapa en trovärdig video av någon baserat på tidigare inspelningar, och det finns redan (och blir bättre). Video är betydligt svårare än röst – trovärdiga klipp kräver vanligtvis många timmars arbete, betydande skicklighet och konstnärlighet från en expert.
Men precis som med ljudsyntes är utvecklingen av en automatiserad version i realtid bara en fråga om år. Det kan ta ett par decennier, särskilt innan den blir tillräckligt billig för kriminella nätverk, men den kommer.
Nästa steg för organisatorisk säkerhet
Är du beredd på en värld där all virtuell kommunikation kan vara falsk? Är datasekretessen död? Är vi på väg mot en civilisationens kollaps och en återgång till stenåldern?
Inte riktigt.
More Articles
Matematiken till undsättning
I dag använder vi röst, utseende och manér för att identifiera någon. Med cybersäkerhetens termer autentiserar dessa faktorer personen för oss; vi använder dem för att avgöra om personen som talar med oss verkligen är den han eller hon utger sig för att vara. Vi förlitar oss på denna strategi utan att tänka på det och under de senaste 7000+ åren har den fungerat utmärkt.
Denna nya verklighet med LLM och AI-genererad identitetsförfalskning hotar att undanröja den förmågan. Vi kommer att behöva ersätta den med ett annat sätt att autentisera vid kommunikation på nätet.
Här finns det hopp: Vi har andra tekniker som fungerar, de är bara inte populära ännu. Den matematikbaserade autentiseringsteknik som utvecklats under de senaste två decennierna kommer inte att påverkas av dessa förändringar, och den är redan billig och enkel. Många system är redan beroende av dem utan att användarna inser det. Förlusten av virtuell igenkänning kan få många att övergå till kryptografiskt rigorös autentisering och bort från svaga metoder som ett vanligt telefonsamtal eller Zoom.
Berätta något bra för mig
På gott och ont kommer samhället att hitta sin väg. Som tur är kan du ta en mer aktiv roll i ditt företags framtid och förhindra att detta hot påverkar din verksamhet. Det är inte ens så svårt.
Börja med att flytta all känslig information bakom en federerad och kryptografiskt rigorös identitetsleverantör. Gör det sedan tydligt i företaget att man ska förlita sig på den i stället för att nöja sig med att känna igen personer genom deras skrivstil eller röst.
Och slutligen kan du fokusera på det du är bäst på och låta andra, som jag, läsa om resten. Prenumerera på The CFO Clubs nyhetsbrev om du vill vara först med att få veta när jag upptäcker nästa hot mot samhället.
