Skaitmeninė apgaulė ir dirbtinis intelektas

Yra įvairių būdų, kaip dirbtinis intelektas gali būti naudojamas piktavališkais tikslais ir apgaulei.

Apsimetimas, sintetinės (vaizdo) klastotės (Deepfake)

Dirbtinio intelekto pagalba generuojami realistiški vaizdo ir garso įrašai, imituojantys tikrų žmonių veiksmus ar kalbas. Sintetinės klastotės gali vaizduoti individus sakant ar darant tai, ko jie niekada nėra sakę ar darę. Tokie klastoti įrašai gali būti naudojami klaidinti visuomenę, įmones, ar individus, apsimetant žinomais, pažįstamais ar patikimais asmenimis. Vaizdo klastotės greitai tobulėja ir darosi vis sunkiau jas atskirti.

Balso sukčiavimas, klonavimas ir klastotės

Balso klastotės, įskaitant klonavimą ar sintezę, naudojamos apgauti žmones telefonu ar socialinėse medijose. Nedidelis žmogaus balso pavyzdys gali būti naudojamas generuoti kalbą, kuri skamba visiškai kaip jums pažįstamo žmogaus balsas. Dirbtinio intelekto pagalba galima kurti išgalvotus interviu, kalbas ar pilnus dialogus, kurie bus praktiškai neatskiriami nuo realių.

Teksto generavimas

Kalbų modeliai, kaip chatGPT, gali generuoti bet kokios temos tekstus, straipsnius, blogus ar kitą socialiniams tinklams tinkamą turinį, kurį sunku atskirti nuo žmonių sukurto turinio. Šis turinys gali būti generuojamas greitai ir efektyviai bei naudojamas netikroms istorijoms, žinioms, dezinformacijai platinti. Jei daug panašių istorijų plinta internete, jos gali atrodyti labiau įtikimos ir patikimos. Ilgainiui, šios istorijos yra pridedamos į paieškos sistemas, kaip google, ir gali būti panaudojamos toliau apmokyti dirbtinio intelekto modelius.

Botų (automatizuotų programų) ir trolių fermos

Botų ir trolių fermos naudojamos automatizuoti netikrų paskyrų kūrimą ir informacijos platinimą socialinėse platformose. Dirbtiniu intelektu paremti botai sunkiau atskiriami nuo žmonių ir gali imituoti žmonių elgseną ir bendravimą. Dirbtinio intelekto pagalba surinkus ir išanalizavus duomenis apie žmones, galima pritaikyti žinutes konkrečiai tam žmogui, atsižvelgiant į jo polinkius, emocijas, pomėgių ar pan. 

Automatizavimas

Naudodami dirbtinio intelekto automatizavimą, socialiniai inžinieriai gali vykdyti didelio masto atakas su mažesnėmis pastangomis, tokiu būdu didindami sėkmingo sukčiavimo tikimybę.

Žvalgyba ir profiliavimas

Dirbtinio intelekto pagalba galima labai greitai rinkti ir analizuoti socialinių tinklų ar kitus viešai prieinamus duomenis apie potencialius taikinius. Tai padeda pritaikyti tolimesnias atakas konkrečiai tam asmeniui, pavyzdžiui, pagal jo emocijų ar pomėgių analizę. Arba panaudoti šią informaciją generuojant sukčiavimo el. laiškus, kurie imituoja jums pažįstamų žmonių stilių ir kalbą.

Dezinformacija ir netikros naujienos

Dirbtinio intelekto pagalba lengva generuoti ir platinti įtikinamus dezinformacijos ar netikrų naujienų įrašus, ypač panaudojant vaizdo, balso ar teksto klastotes. Itin lengvai ir efektyviai dezinformacijai platinti galima panaudoti paveiksliukus ar memus, kurie greitai plinta, yra populiarūs, pasiekia plačias auditorijas ir yra sunkiai tikrinami automatizuotų patikros įrankių. Kuo šokiruojantis ir emociškai įkvepiantis yra turinys, tuo labiau tikėtina, kad jis bus plačiai pasidalintas.

Socialinių tinklų algoritmai taip pat yra programuojami taip, kad vartotojai liktų įsitraukę ir algoritmiškai jiems kuruojamas srautas, rodant turinį, atitinkantį jų esamas pažiūras ir interesus. Tai prisideda prie efektyvesnio dezinformacijos skirtos konkrečiai auditorijai platinimo.

Technologijų ir atakų prieinamumas

Dirbtinio intelekto ir pažangių technologijų pagalba galima lengviau manipuliuoti informacija, kurti klastotes, skleisti dezinformaciją ir pan. net ir paprastiems vartotojams, nebėra reikalingos gilios techninės žinios.

Apgaulės, apgavystės ir nusikaltimai neatsirado su skaitmeninėmis technologijomis. Apgavystės taktikos tiesiog įgavo naujus būdus ar įrankius, bet motyvacijos liko tos pačios: užsidirbti, paveikti, suklaidinti ar sutrikdyti.

Gal teko girdėti ar net patiems gauti el. laiškų iš “Nigerijos princo”, žadančio pasidalinti turtais, tik tiems turtams atgauti reikia pagalbos – sumokėti nedidelę sumą muitams ar pan. Iki elektroninių laiškų atsiradimo, ta pati apgaulės taktika buvo naudojama “Ispanijos karo belaisvio” aferose – atsiųstame popieriniame laiške prašoma padėti sumokėti sargams, kurie padėtų išlaisvinti turtingą karo belaisvį, o šis pažada grįžęs namo pasidalinti savo turtais.

Kodėl veikia skaitmeninės apgaulės yra daugiau susiję su apgaulėmis nei technologijomis. Nusikaltėliai ir apgavikai išnaudoja žmogiškuosius pažeidžiamumus: kontekstą, emocijas, tendencijas. Pavyzdžiui, mūsų norą greitai ir lengvai užsidirbti ar gauti rezultatus. Pasitikėjimą tuo, ką matome ir girdime. Baimes ir norą padėti artimiesiems patekusiems į nelaimę. Norą būti suprastiems ir įvertintiems. Tendenciją geriau įsiminti ir reaguoti į šokiruojančius ir įkvepiančius įvykius. 

Yra beveik 200 žmogiškųjų tendencijų ir šališkumų (https://www.sog.unc.edu/sites/www.sog.unc.edu/files/course_materials/Cognitive%20Biases%20Codex.pdf ), kurie iš esmės yra mūsų mąstymo ir elgesio optimizacijos. Jei jų nebūtų, net paprastas vandens pirkimas parduotuvėje galėtų užtrukti kelias valandas, bandant logiškai įsivertinti ir išsirinkti tinkamiausią variantą. Visos šios tendencijos ir šališkumai gali būti suskirstyti į keturias sritis: kaip mes prisimenam, poreikis veikti greitai, turėjimas per daug ir turėjimas per mažai informacijos. Ir jie dar papildomai yra įtakojami mūsų emocijų. Supratimas kaip veikia tendencijos ir šališkumai bei emocijų įtaka gali padėti tiek mus apgauti, tiek nuo apgavysčių apsisaugoti.

Iliuzinės tiesos efektas yra polinkis manyti, kad daug kartų girdėta informacija yra tiesa, nors iš tiesų informacija yra klaidinga. Šis efektas gali būti panaudojamas dezinformacijos kampanijoms. Kuo plačiau ir dažniau paskleista informacija, tuo ji atrodo tikresnė ir patikimesnė.

Ne mažiau svarbus yra ir kontekstas. Mes galim visiškai skirtingai interpretuoti tą pačią žinutę ar informaciją, priklausomai nuo konteksto, kuriame ją gavome. Įsivaizduokite, kad laukiate siuntinio ir gaunate žinutę su prašymu patikslinti siuntos adresą. Žymiai sunkiau pastebėti, kad ši žinutė netikra, nes jūs iš tiesų laukiate siuntos. Kaip informacija yra pateikiama taip pat yra konteksto dalis. Pavyzdžiui, pateikiant tik dalį informacijos tinkančios norimai istorijai, techniškai nemeluojant, bet iš tiesų klaidinant.   

Mūsų smegenys natūraliai linkusios pasitikėti tuo, ką matome ir girdime, todėl esame iš esmės labiau pažeidžiami apgaulėms, kurioms naudojamos sintetinės medijos.

Brolių Grimų pasakoje “Snieguolė ir septyni nykštukai” veidrodis tarnavo kaip patikimas šaltinis sužinoti tiesą. “Kas pasaulyje gražiausia” klausdavo piktoji karalienė ir tikėjo, kad veidrodžio pateiktas atsakymas yra tikroji tiesa. O kaip mes galime žinoti, kas yra tiesa, o kas ne, jeigu naudojant dirbtinį intelektą, galima suklastoti vaizdus, balsus, sugeneruoti tikroviškai atrodančias naujienas praktiškai iš nieko?

Gal paklauskim pačio dirbtinio intelekto?

Aš: Kaip aš galiu žinoti, kas tikra, o kas ne, kai viską galima suklastoti, ypač naudojant modernias technologijas, kaip Dirbtinis Intelektas?

ChatGPT:

Tai, kad šiuolaikinės technologijos leidžia kurti itin tikroviškas klastotes, yra iššūkis, su kuriuo vis daugiau žmonių susiduria. Tačiau yra keletas būdų, kaip galima atsargiai vertinti informaciją ir stengtis atskirti tiesą nuo fikcijos:

1. Šaltinių patikimumas: Visada svarbu patikrinti, iš kur gaunama informacija. Patikimi šaltiniai, tokie kaip pripažintos naujienų agentūros, akademinės institucijos ar vyriausybinės organizacijos, paprastai yra patikimesni nei mažiau žinomi ar abejotini šaltiniai.
2. Kryžminis tikrinimas: Patikrinti informaciją iš kelių nepriklausomų šaltinių yra gera praktika. Jei skirtingi šaltiniai pateikia tą pačią informaciją, tai gali būti ženklas, kad ji yra teisinga.
3. Faktų tikrinimo įrankiai: Yra daug internetinių platformų ir įrankių, kurie specializuojasi faktų tikrinime. Tokios platformos kaip „Snopes“, „PolitiFact“, ar „FactCheck.org“ gali padėti patikrinti konkrečius teiginius ar vaizdus.
4. Technologijos naudojimas: Nors technologijos leidžia suklastoti informaciją, jos taip pat gali padėti ją identifikuoti. Yra programinės įrangos, kuri gali padėti aptikti klastotes, pvz., patikrinant nuotraukų metaduomenis ar analizuojant vaizdo įrašus.
5. Sveikas skepticizmas: Labai svarbu ugdyti kritinį mąstymą ir neskubėti priimti bet kokią informaciją kaip tiesą, ypač jei ji atrodo per daug gera ar baisi, kad būtų tikra. Tokiais atvejais verta stabtelėti ir atlikti papildomą tyrimą.
6. Mokymasis ir švietimas: Svarbu nuolat mokytis apie naujausias technologijas ir metodus, kaip atskirti klastotes. Supratimas apie dirbtinio intelekto galimybes ir apribojimus padeda atpažinti, kada technologijos galėjo būti panaudotos neteisingai.
7. Analizės gilumas: Nepakanka žiūrėti tik į paviršutiniškus informacijos aspektus. Gilinimasis į kontekstą, istoriją ir platesnį vaizdą gali padėti atskirti, kas yra realu.

Nors technologijos, kaip Dirbtinis Intelektas, suteikia galimybių kurti itin tikroviškas klastotes, žinių, įrankių ir metodų derinys gali padėti išlaikyti sveiką skeptiškumą ir atskirti tiesą nuo fikcijos.

Atpažinti skaitmeninę apgaulę ir klastotes tampa vis sudėtingesnė, ypač ir toliau tobulėjant technologijoms.

Keletas ženklų, kurie gali padėti atpažinti klastotes:

• Pastebimi spalvų, šviesų, apšvietimo neatitikimai.
• Sinchronizacijos problemos.
• Neryškios ar nenatūraliai atrodančios akys (ypač mirksėjimas), plaukai, dantys, linijos ir proporcijos.
• Pastebimi įspėjamieji ženklai: prašymo skubumas, spaudimas, grėsmingas tonas, finansinių ar asmeninių duomenų prašymas
• Vizualinės klastotės (deepfake) aptikimo įrangos naudojimas.
• Slaptos frazės ar ženklo turėjimas. Susikurkite su šeima ar draugais slaptas frazes ir ženklus (pvz., specifinis judesys). Jei kyla įtarimų, kad kažkas apsimetinėja, galima paklausti slaptos frazės ar ženklo, ar kombinacijos.
• Video skambučiai. Jei kyla įtarimų, susiskambinkite video skambučiu. Juos suklastoti sunkiau ir geriau matosi neatitikimai ar sinchronizacijos problemos.

Tačiau negalima pilnai pasitikėti šiais ženklais, nes rytojaus technologijos ar nusikaltėlių kūrybiškumas gali rasti būdų juos apeiti. Todėl svarbu ugdyti bendrą atsparumą ir kritinį mąstymą.

Technologija yra tik įrankis

Atsiranda vis daugiau įrankių, skirtų kovoti su skaitmenine apgaule, įskaitant, skirtų faktų tikrinimui ar giliai suklastotų vaizdų detektorių. Jie naudingi ir gali padėti, tačiau nėra tobuli, gali suklysti ar neteisingai interpretuoti informaciją. Net ir naudojant įrankius, galutinį sprendimą priimate jūs. Naudojimas kelių įrankių ar šaltinių yra patikimesnis nei pasitikėjimas vienu.

Pavyzdžiui, naudokitės keliomis faktų tikrinimo svetainėmis, tokiomis kaip „Snopes“ ar „FactCheck.org“, kad patikrintumėte informaciją.

Net jei vaizdo klastočių įrankiai neaptiko klastotės, prieš dalijantis šokiruojančiu vaizdu, įvertinkite, kas yra autorius ir kokiu tikslu šis vaizdas yra platinamas.

Dirbtinis intelektas bei jo sugeneruotas turinys taip pat nėra be trūkumų. Dirbtinio intelekto įrankiai gali apsimokyti ant šališkos ar melagingos informacijos, „haliucinuoti“ arba sukurti informaciją, kuri skamba tikroviškai, bet nėra faktinė. Prieš naudojant ir dalijantis dirbtinio intelekto pateikta informacija, pasitikrinkite, ar ji tiksli.

Sąmoningumas, skepticizmas ir kritinis mąstymas

Kasdien gauname perteklinius informacijos kiekius iš įvairių šaltinių – socialinių tinklų, naujienų portalų, interneto svetainių ir skambučių, ir vis sunkiau suprasti ir įvertinti, kuri informacija yra patikima ar teisinga. Tam reikia nuolat ugdyti sąmoningumą, skepticizmą ir kritinį mąstymą.

Sąmoningumas padeda stebėti savo reakcijas į gaunamą informaciją ir pamatyti, kai bandoma manipuliuoti emocijomis. Jei pastebite, kad tam tikras įrašas internete sukelia stiprias emocijas, tai gali būti signalas, kad turinys yra klaidinantis arba skirtas manipuliuoti, pavyzdžiui, sensacingos antraštės.

Skepticizmas padeda kelti klausimus net apie informaciją iš patikimų šaltinių ir įrodymų paiešką. Kritinis mąstymas – vertinti informacijos patikimumą ir šaltinius prieš priimant informaciją kaip faktą.

Kaip praktikuoti sąmoningumą, skepticizmą ir kritinį mąstymą:

• Sustokite ir padarykite pauzę. Jei pastebite emocinę reakciją į informaciją, naudokite tai kaip signalą sustoti ir tą informaciją kritiškai įsivertinti. Atpažinkite, kaip poreikiai ir pasakojimai ar žinutės yra naudojami siekiant jus manipuliuoti. Galbūt naršydami „TikTok“ matote vaizdo įrašą, kuriame siūlomas nemokamas telefonas, jei tik pasidalinsite vaizdo įrašu ir parašysite komentarą. Tai klasikinis pavyzdys, kaip išnaudojamas noras laimėti.
• Ištirkite šaltinį. Kas pateikė informaciją ir kokie yra tos informacijos pateikimo motyvai? Kas yra istorijos autoriai? Kas prisidėjo prie istorijos parašymo ir platinimo? Ar naujienų šaltinis, portalas oficialus? Ar teko anksčiau apie jį girdėti?
• Raskite patikimą informaciją ir atsekite iki originalaus šaltinio. Jei istorijos daugiau jokiuose dideliuose šaltiniuose nėra, kodėl ši istorija aprašoma tik vienam ir keistuose šaltiniuose? Ar sutampa istorijos su oficialių ir patikimų organizacijų pateiktomis naujienomis ir istorijomis? Kas yra originalus informacijos šaltinis? Kartais informacija iškraipoma, kai perteikiama ir perpasakojama per skirtingus šaltinius.

Pastebėję dezinformaciją, praneškite apie ją platformos administratoriams. Venkite dalintis ar komentuoti pačią žinutę, nes tokiu būdu algoritmai interpretuos įsitraukimą ir dar plačiau skleis žinutę. Neleiskite, kad jūsų neigiama reakcija didintų žinutės sklaidą.

Grėsmių modeliavimas

Vienas iš efektyvių būdų apsisaugoti nuo skaitmeninės apgaulės yra gebėjimas žvelgti į pasaulį iš apgaviko perspektyvos ir atpažinti galimas grėsmes dar prieš joms pasireiškiant. Kaip nusikaltėliai galėtų pasinaudoti jūsų asmeniniais duomenimis arba kaip galėtų manipuliuoti technologijomis, kuriomis naudojatės?

Įsivertinkite, kad dirbtinis intelektas vis plačiau naudojamas visur: nuo žaidimų platformų iki socialinių tinklų. Galbūt draugiškas žaidėjas iš tiesų yra pokalbių botas?

Kaip aš atrodau Internete? Paieškokite informacijos apie save, pvz., per google. Ką radote? Pažiūrėkite, ar jūsų duomenys buvo nutekinti per įvairius incidentus https://haveibeenpwned.com/

Nuolatinis mokymasis

Technologijos ir apgaulės metodai nuolat keičiasi, todėl norėdami apsisaugoti ir mes turime nuolat mokytis bei didinti skaitmeninio raštingumo įgūdžius, domėtis naujais apgaulės metodais ir kaip efektyviai tikrinti informaciją.

Pagalvokite, kaip galite būti sprendimo dalimi. Kokią informaciją dalinatės ir kaip ją vertinate? Ar prieš dalindamiesi skandalingu straipsniu patikrinote jo faktus? Ar kritiškai įvertinote informaciją iš socialinių tinklų? Ar suabejojote įrašu, kuris sukelia stiprią emociją? Galbūt tai apgaulė?

Dezinformacija: Klaidinga arba klaidinanti informacija, kuri skleidžiama sąmoningai, siekiant apgauti.

Misinformacija: Klaidinga arba netiksli informacija, kuri skleidžiama netyčia. Asmuo, kuris dalijasi misinformacija, gali tikėti, kad tai tiesa, tačiau ji vis tiek yra neteisinga.

Netikros naujienos: Klaidinantis arba suklastas turinys, be jokių patikrinamų faktų, šaltinių ar citatų.

Botas: Automatizuota programinė įranga, sukurta atlikti tam tikras užduotis, pavyzdžiui, skelbti turinį arba bendrauti su vartotojais socialiniuose tinkluose.

Trolis: Interneto naudotojas, kuris tyčia provokuoja arba erzina kitus internete, skelbdamas įžeidžiantį, neadekvatų ar nesvarbų turinį.

Botų ir trolių fermos: Organizacijos arba grupės kuriančios ir valdančios netikras socialinių tinklų paskyras arba automatizuotas programas (botus).

Vizualinės klastotės (Deepfake): Realistiškas sintetinis turinys, sukurtas dirbtinio intelekto, pavyzdžiui, vaizdo įrašai arba garso įrašai, kuriuose žmonės sakosi darantys dalykus, kurių iš tikrųjų nesakė ar nedarė.