ChatGPT:n riskit vauhdittavat kyberrikollisuuden ennätysmäistä kasvua
ChatGPT:tä on syytetty monista asioista: uuden huijaustavan luomisesta opiskelijoille, työpaikkojen tuhoajaksi muuttumisesta, halvan huonon tekstin lähteen luomisesta sekä omasta henkilökohtaisesta suosikistani: vaarallisesta ja epäpyhästä uhasta, joka uhkaa yhteiskunnan moraalista rakennetta.
Mutta ihmiset ovat tehneet kaikkia näitä asioita vuosikymmenten ajan – tai heille on maksettu niiden tekemisestä. OpenAI ja muut generatiivisen tekoälyn tarjoajat tekevät niistä halvempia. Ennen kaikkea se lupaa poistaa valtavan määrän puuduttavaa rutiinityötä toimistotyöstä, aivan kuten kangaspuut, kokoonpanolinjat ja robotit tekivät aiemmin suorittavassa työssä.
Kuten mitä tahansa työkalua tai teknologista innovaatiota, generatiivisen tekoälyn työkaluja voidaan käyttää sekä suureksi hyödyksi että suureksi vahingoksi.
Continue Reading for Free
Create a free account to finish this article, plus get ongoing access to timely insights and practical resources.
Have an account? Log In
Mihin suuret kielimallit (LLMs) soveltuvat?
ChatGPT:n, Microsoft Bardin ja muiden työkalujen käyttö on helpottanut huomattavasti hyödyllisten oivallusten löytämistä ennusteista… mutta käyttötarkoitukset ulottuvat taloutta laajemmalle.
LLMs-mallit ovat vakuuttavia. Ne tietävät matemaattisella tarkkuudella, millaiset sanayhdistelmät ihmisistä tuntuvat kaikkein vetoavimmilta, ja ne on koulutettu pysymään näiden rajojen sisällä.
Niillä on valtavasti tietoa tosiasioista ja yksityiskohdista.
Ne voivat tiivistää ja muotoilla tekstin uudelleen millä tahansa valitsemallasi tyylillä.
Ne eivät kuitenkaan ole hyviä totuuden kertomisessa. Tietokoneet tunnetaan tiukasta logiikan rajoittuneisuudesta, mutta LLM-malleissa ne sisältävät paradoksaalisesti kyvyttömyyden erottaa totuutta fiktiosta ja ovat täysin kykeneviä keksimään valheita vastatakseen kysymyksiin ja vahvistamaan sitten saumattomasti näitä valheita täydellä itsevarmuudella.
Mitä tämä tarkoittaa meille
En halua tehdä tästä liian teoreettista, mutta tässä historian vaiheessa asioita tapahtuu.
Tekniset, poliittiset ja taloudelliset kehityskulut ovat yhdessä sekoittaneet monia niitä mittareita, joiden avulla ihmiset arvioivat uskottavuutta ja määrittävät, keneen luottaa. Aivan kuten sosiaalisessa mediassa leviävät väärennetyt kuvat hämmentävät ihmisiä, ChatGPT ja muut LLM-mallit ovat nyt osa tätä kokonaisuutta. Yhteiskuntana meidän on jälleen sopeuduttava ja opittava uusia tapoja erottaa totuus väärästä tiedosta.
Samat vanhat ihmiset, sama vanha tarina.
Miten kyberhyökkäykset ja tietojenkalasteluhuijaukset toimivat nykyään
Syvällinen filosofia sikseen: LLM-mallien yleistyminen aiheuttaa yrityksille erityisen uhan, koska se alentaa laadukkaiden tietojenkalasteluhyökkäysten kustannuksia.
”Ihmisten huijaaminen” on yksittäinen suurin lähde käytännön kyberturvallisuustappioille. Vaikka ala keskittyy teknisiin uhkiin ja ratkaisuihin, ylivoimainen enemmistö onnistuneesta tietoverkkorikollisuudesta perustuu siihen, että joku huijataan jossain vaiheessa prosessia.
Nykyään on olemassa kukoistava puhelinpalvelukeskusten toimiala, joka on omistautunut petoksille ja tietoverkkorikollisuudelle. Niillä on tavarantoimittajia ja alihankkijoita, menettelytapoja ja henkilöstöhallintoa sekä todennäköisesti myös silloin tällöin johtajien retriittejä hyvin tehdyn työn juhlistamiseksi. Se on kokonainen oma ilmiönsä.
Jotkin petosketjun osat ovat automatisoituja: alkuperäinen sähköposti, jossa etsitään rakkautta tai kerrotaan mahtavasta liiketoimintamahdollisuudesta, perustuu kierrätettyihin malleihin – löydät saman sähköpostin naapurisi postilaatikosta, ehkä hieman muokattuna heidän loputtomassa A/B-testauksessaan paremman konversioasteen saavuttamiseksi.
Kun sinä tai naapurisi napsautatte linkkiä tai vastaatte, joku puhelinpalvelukeskuksessa ottaa ohjat käsiinsä, noudattaa menettelytapoja ja käyttää vuosien aikana hioutuneita taitoja siirtääkseen ”liidin” (sinut) ”myyntiputken” (huijauksen) läpi ja ”päättääkseen kaupan” (huijatakseen sinua) mahdollisimman tehokkaasti.
Näillä työntekijöillä on suoritusarviointeja, keskeisiä mittareita, bonusrakenteita ja sairauslomapäiviä. He ovat tietojenkalasteluun keskittyvän puhelinpalvelukeskuksen suurin kustannuserä. Kuten missä tahansa liiketoiminnassa, paremmin suoriutuvat yritykset ja yksilöt saavuttavat parempia konversioasteita ja tuottoja ja voivat siten veloittaa korkeampia hintoja.
Petosten ”markkinoilla” tapahtuu jonkin verran luonnollista segmentoitumista kohteiden odotetun ”tuoton” (huijattavissa olevien eurojen) perusteella:
- Edulliset ja heikosti suoriutuvat yritykset tavoittelevat yleensä suurempaa määrää kohteita, joiden tuotto on pieni. Tämä vastaa petosten maailmassa Instagram-mainoksia halvoista ja tarpeettomista pikkuesineistä: yritä saada tuote mahdollisimman monen ihmisen nähtäväksi, niin saatat saada muutaman kaupan.
- Huipputiimit tavoittelevat suuremman tuoton kohteita ja investoivat kuhunkin niistä enemmän. Nämä ovat petosten maailman suuria B2B-asiakkuuksia: tee perusteellinen tutkimus ja määrää parhaat myynti- ja asiakaspalveluedustajasi niiden pariin.
Liiketoiminnan kannalta ei ole järkevää osoittaa vähän tuottavia liidejä huipputiimeille, joten vähän tuottavat kohteet (eli minä ja useimmat teistä) saavat vain harvoin taitavien huijareiden toteuttamia kehittyneitä huijausyrityksiä.
Miten LLM-mallit muuttavat peliä
Käydään läpi, mitä jo tiedämme:
- Tekoälytyökalut osaavat kuulostaa vakuuttavilta.
- Tekoälymallit osaavat sulattaa tietoaineistosta suuren määrän yksityiskohtaista tietoa ja tuottaa siitä jotain ainutlaatuista, täsmällistä ja uskottavaa.
- Generatiivinen tekoäly hallitsee englannin täydellisesti, ja sillä on tietosanakirjamainen taustatietämys kaikista internetin aiheista.
- GPT:n algoritmit voidaan säätää kirjoittamaan minkä tahansa väestöryhmän tyyliin.
Lisäksi tekoälyn haitat ovat petosteollisuudelle merkityksettömiä: totuudella ei ole väliä. Kunhan huijauksen kohde lankeaa huijaukseen, johto ei välitä siitä, mitä soopaa hänelle syötetään.
Eikö yksi lähestymistapa toimi? Ei hätää, koneoppimisella ei ole egoa, joten se vaihtaa lähestymistapaa hetkeäkään epäröimättä (tai ilman ensimmäistäkään ajatusta, jos tarkkoja ollaan…).
Kirsikkana kakun päällä on se, että tekoälytyökalut maksavat lähes olemattoman vähän verrattuna huijareita täynnä olevaan puhelinpalvelukeskukseen.
Julkaisun aikajana
Valitettavasti rikollismaailma liikkuu nopeasti. Sen ei tarvitse huolehtia maineesta, byrokratiaa on vähemmän, ja tässä ”markkinassa” on tärkeää olla ajoissa liikkeellä.
Yksi rikollisuuteen keskittyvä LLM-tuote, WormGPT, on jo saavuttanut niin suuren suosion, että se on päätynyt valtamediaan haittaohjelmille suotuisan tekoälychatbotinsa vuoksi. Muitakin on epäilemättä saatavilla, eikä kestä kauan, ennen kuin kilpailupaine ja parhaiden käytäntöjen yleistyminen laskevat toimintakustannuksia riittävästi, jotta LLM:ään perustuvasta tietojenkalastelusta tulee hallitseva tapa saada asioita aikaan.
Pidetäänpä hetki hiljaa pian työttömäksi jäävän huijausoperaatioiden koordinaattorin muistoksi.
Kun tietojenkalasteluala käy läpi tämän muutoksen seuraavien vuosien aikana, kehittyneen tietojenkalasteluoperaation pyörittämisen kustannukset romahtavat, mikä saa nyt autonomiset ”huippumyyjät” ja muut kyberrikolliset kohdistamaan toimintaansa myös pienemmän tuoton mahdollisuuksiin. Yhä useampi meistä altistuu laadukkaan tietojenkalastelun tulvalle, ja monet lankeavat siihen.
On aika vaihtaa todennusprotokollat
Tietojenkalasteluhuijausten ja tileille murtautuvien hakkereiden vuoksi monet meistä ovat oppineet suhtautumaan sähköpostitse ja tekstiviesteillä saamiinsa viesteihin varauksella. Minä ja muut asiantuntijat suosittelemme usein puhelimen käyttämistä riskialttiissa toimissa, kuten suurten rahasummien siirroissa, tarvittavien luottamuksellisten tietojen varmistamiseen; kiinteistönvälitysyritykset ja asianajotoimistot ovat käyttäneet tätä strategiaa menestyksekkäästi jo vuosien ajan.
Uskon, että se lakkaa toimimasta. Uskottavat LLM:n tuottamat puhelut eivät ole enää kaukana. Nykyiset tuotteet voivat käyttää ääninäytteitä ja luoda ääntä, jossa kuka tahansa henkilö sanoo mitä tahansa. Tätä artikkelia kirjoitettaessa se ei toimi reaaliajassa, vaan jokaisen äänileikkeen luominen vie jonkin aikaa. Onneksi useimmat meistä eivät hämäänny viiden tai kymmenen sekunnin viiveistä keskustelussa, vaikka soittajan ääni kuulostaisi Johnny Cashilta.
Tietokoneilla ja teknologialla on kuitenkin hauska tapa nopeutua. Luotan täysin siihen, että tekoälyn puheentuotantotyökalujen ja prosessointinopeuden vähittäinen kehitys tekee LLM:ään perustuvista puheluista arkipäiväisen palvelun seuraavan vuosikymmenen aikana. Menetämme pian kykymme tietää pelkän äänen perusteella, onko henkilö oikea; pahantahtoiset toimijat eivät voi jättää tällaista tilaisuutta käyttämättä.
Näkeminen ei välttämättä ole uskomista
Äänisynteesi ei ole ainoa käytettävissä oleva toisena henkilönä esiintymiseen tarkoitettu ohjelmisto; menneiden tallenteiden perusteella luotu uskottava video jostakin henkilöstä on jo todellisuutta (ja kehittyy jatkuvasti). Video on huomattavasti ääntä vaikeampi – uskottavat videoleikkeet vaativat yleensä asiantuntijalta pitkiä työtunteja, huomattavaa taitoa ja taiteellista osaamista.
Mutta aivan kuten äänisynteesissäkin, automatisoidun reaaliaikaisen version kehittäminen on vain vuosien kysymys. Siihen voi mennä pari vuosikymmentä, etenkin jotta siitä tulee rikollisryhmille riittävän halpaa, mutta se tulee tapahtumaan.
Organisaation turvallisuuden seuraavat askeleet
Oletko valmis maailmaan, jossa jokainen virtuaalinen viestintätilanne voisi olla väärennös? Onko tietosuoja kuollut? Olemmeko matkalla kohti sivilisaation romahdusta ja paluuta kivikaudelle?
Ei sentään.
Matematiikka apuun
Tänään käytämme ääntä, ulkonäköä ja eleitä jonkun henkilön tunnistamiseen. Kyberturvallisuuden termein nämä tekijät todentavat henkilön meille; käytämme niitä määrittääksemme, onko kanssamme puhuva henkilö todella se, joka hän väittää olevansa. Luotamme tähän strategiaan ajattelematta sitä, ja viimeisten yli 7000 vuoden ajan se on toiminut erinomaisesti.
Tämä uusi LLM:ien ja tekoälyn tuottaman toisena henkilönä esiintymisen todellisuus uhkaa poistaa tämän kykymme. Meidän on korvattava se toisella tavalla todentaa henkilöllisyys verkossa viestittäessä.
Tässä on toivoa: meillä on muitakin toimivia tekniikoita, ne eivät vain ole vielä suosittuja. Viimeisten kahden vuosikymmenen aikana kehitetty matematiikkaan perustuva tunnistautumisteknologia ei kärsi näistä muutoksista, ja se on jo valmiiksi halpaa ja helppoa. Monet järjestelmät ovat jo riippuvaisia niistä käyttäjien huomaamatta. Virtuaalisen tunnistamisen luotettavuuden menetys saattaa ohjata monet kohti kryptografisesti vankkaa tunnistautumista ja pois heikoista menetelmistä, kuten tavallisesta puhelusta tai Zoomista.
Kerro jotain hyvää
Hyvässä tai pahassa yhteiskunta löytää kyllä tiensä eteenpäin. Onneksi voit itse ottaa aktiivisemman roolin yrityksesi tulevaisuudessa ja estää tätä uhkaa vaikuttamasta liiketoimintaasi. Se ei ole edes niin vaikeaa.
Siirrä ensin kaikki arkaluonteiset tiedot yhdistetyn ja kryptografisesti vankan identiteetintarjoajan taakse. Tee sitten yrityksessäsi selväksi, että siihen tulee luottaa sen sijaan, että tunnistaminen rajoitettaisiin ihmisten kirjoitustyylin tai äänen perusteella.
Ja lopuksi voit keskittyä siihen, missä olet parhaimmillasi, ja antaa muiden, kuten minun, lukea lopusta. Tilaa The CFO Clubin uutiskirje, jos haluat kuulla ensimmäisten joukossa, kun huomaan seuraavan yhteiskuntaa uhkaavan tekijän.
