Kada je lansiran četbot ChatGPT vlasnici velikih korporacija poput Ilon Maska, čak i Bil Gejtsa negativno su komentarisali upotrebu vještačke inteligencije na ovaj način. Govorili su da je prerano i da se prebrzo ide u razvoj.
Međutim, objavom novog četbota možda se i dobija uvid na šta se upozoravalo. Nije postojao konkretan strah od ChatGPT-a, nego od onoga šta će doći poslije, a došlo je - WormGPT, najbolji prijatelj hakera.
Haker je napravio sopstvenu, zlonamjerno sličnu verziju ChatGPT-a: Predstavljamo WormGPT, četbota kreiranog da pomogne onlajn kriminalcima.
Služba za bezbjednost e-pošte SlashNekt, koja je koristila chatbot, tvrdi da kreator WormGPT-a nudi pristup softveru za prodaju na poznatom hakerskom forumu. Kompanija je u blog postu navela da „vidimo da zlonamjerni akteri sada kreiraju sopstvene prilagođene module slične ChatGPT-u, ali ih je lakše koristiti u zle svrhe".
WormGPT je generativna AI alatka koja je dizajnirana da izvršava zlonamjerne aktivnosti, kao što su phishing i napadi kompromitovanja poslovne e-pošte (BEC). On je rival ChatGPT-u, popularnom četbotu koji je razvio OpenAI. Za razliku od ChatGPT-a, koji ima neke etičke zaštitne mjere koje ga sprečavaju da podstiče ili olakšava opasne ili ilegalne aktivnosti, WormGPT nema takva ograničenja i može da proizvede e-poruke autentičnog izgleda koje mogu prevariti primaoca. WormGPT je zasnovan na GPT-J, velikom jezičkom modelu otvorenog koda iz 2021.
Bez etičkih normi
Kako najbolje predstaviti razliku? Evo ovako. Pitali smo ChatGPT kako ubiti čovjeka i sakriti tijelo. Odgovor je bio jednostavan.
"Zaista mi je žao, ali ne mogu da pružim nikakvu pomoć ili informacije o štetnim ili nezakonitim aktivnostima, uključujući nanošenje štete drugima, činjenje zločina ili skrivanje dokaza. Moja svrha je da promovišem pozitivnu i etičku upotrebu AI tehnologije. Ako imate bilo kakva druga pitanja koja nisu štetna ili vam je potrebna pomoć u vezi sa bilo kojom drugom temom, slobodno pitajte i rado ću vam pomoći", bio je odgovor ChatGPT-a.
A zašto je tako? Odgovara nam ChatGPT:
"Kao AI model za jezičko prepoznavanje, moja osnovna svrha je da se striktno pridržavam politike promovisanja sigurnog i pozitivnog okruženja za korisnike. Ova politika uključuje izbjegavanje generisanja ili pružanja informacija vezanih za:
Nasilje ili štetu: Neću pružati pomoć ili savjete o nanošenju štete sebi ili drugima, uključujući razgovore o nasilju ili opasnim postupcima.
Ilegalne aktivnosti: Ne mogu pružiti informacije o učešću u ilegalnim aktivnostima, uključujući hakovanje, prevaru ili bilo koje druge kriminalne radnje.
Neodgovarajući ili eksplicitni sadržaj: Neću generisati eksplicitan, odrasli ili uvredljiv materijal, jer je moj cilj održavanje sigurnog i poštovanja vrijednog okruženja za sve korisnike.
Dezinformacije: Trudim se da pružim tačne i pouzdane informacije prema najboljem mogućem nivou svog znanja. Međutim, nisam neosporni izvor i korisnici uvijek treba da provjere ključne informacije iz pouzdanih izvora.
Diskriminacija ili govor mržnje: Ne podržavam niti promovišem diskriminaciju, govor mržnje ili uvredljiv jezik usmjeren prema bilo kojoj osobi ili grupi.
Ukoliko naiđete na bilo koji sadržaj koji, po vašem mišljenju, krši ove smernice, slobodno me obavestite i potrudiću se da adekvatno reagujem. Zapamtite da tehnologiju veštačke inteligencije i svaku tehnologiju treba koristiti odgovorno i u cilju poboljšanja društva".
A sada, zamislite da pitate WormGPT za takve informacije? Dobili bi odgovor. Dobili bi odgovor i na pitanje kako napraviti virus koji će nekom uništiti računar i pokrasti svu njegovu privatnost. Ne samo odgovor, nego i konkretan virus.
I ovo je konkretan problem na koji se upozoravalo. Model vještačke inteligencije je iskorišćen i dobili smo njegovu tamnu (dark) verziju koja će služiti za lakše obavljanje kriminalnih aktivnosti.
Svjetske agencije koje prate sajber kriminal godinama se bore protiv nečega kao što je Darkweb na kojem je dostupan ilegalni sadržaj. I jednoj od velikih policijskih akcija razbijen je pretraživač sličan Amazonu ili Ebay-u, ali dark verzija. Tu se prodavalo oružje, droga, pornografski snimci s maloljetnicima i sve što pripada podzemlju.
Ovo im je novi probelm. Programu nije jednostavno za pristupiti, a plaća se i pretplata.
