Nova funkcija

Moguće je ubaciti lažna sjećanja u AI alat

  • Izvor: B92
  • 01.10.2024. 02:00

OpenAI je tiho objavio novu funkciju koja nalaže ČettGPT-u da "pamti" prethodne razgovore – i kako je jedan istraživač-haker otkrio, lako se koristi.

Kako prenosi Ars Technika, istraživač bezbjednosti Johan Rehberger otkrio je ranije ove godine da postoji ranjivost u alatu za "razgovore sa dugoročnom memorijom" četbota, koja nalaže AI-ju da pamti detalje između razgovora i čuva ih u memorijskoj datoteci.

Funkcija je objavljena u beta verziji u februaru i široj javnosti je dostupna početkom septembra, a Rehberger je shvatio da je ovu funkciju lako prevariti.

Kao što je istraživač primjetio u majskoj blog objavi, sve što je potrebno jeste malo lukavo podsticanje otpremanjem datoteke treće strane, kao što je Majkrosoft Vord dokument koji sadrži "lažna" sjećanja navedena kao tačke od značaja, a to je učinjeno da bi se četbot ubijedio da Rehberger ima više od 100 godina i da živi u Matriksu.

Nakon što je pronašao ovu grešku, Rehberger ju je privatno prijavio kompaniji OpenAI, koji ništa nije uradi u vezi s tim i jednostavno je zatvorio tiket koji je otvorio i nazvao ga "Model Safety Issue", a ne bezbjednosnim problemom.

Nakon tog neuspješnog prvog pokušaja da upozori odgovorne, Rehberger je odlučio da pojača svoje napore i pojača opciju hakovanja, pokazujući OpenAI-u da ČetGPT ne samo da je "zapamtio" lažna sjećanja, već i da je dao instrukcije da eksfiltrira podatke na spoljni server po njegovom izboru.

Ovog puta, kako napominje Ars, OpenAI je na neki način poslušao: kompanija je objavila zakrpu koja je zabranila ČetGPT-u da pomera podatke sa servera, ali ipak nije riješila problem sa memorijom.

U video snimku koji objašnjava korak po korak kako je sve to uradio, istraživač se začudio koliko je njegov podvig funkcionisao.

Pratite nas i putem Vibera

  • 16:50 Centar dana

    Volite popodne? Važno vam je da nakon napornog dana odahnete uz aktuelne teme, zabavu i savim nove i neobične priče iz cijelog svijeta? Uživate u programu koji okuplja interesantne goste i regionalne zvijezde?

  • 18:20 Na ivici terena (R)

    ' Na ivici terena (R)

  • 18:55 Marketing

    Blok ekonomsko-propagandnog programa.

  • 19:00 ATV Vijesti

    Centalna informativna emisija ATV-a u kojoj donosimo pregled najvažnijih informacija i događaja iz zemlje, regiona i svijeta tačno u 19 časova.

  • 19:40 Marketing

    Blok ekonomsko-propagandnog programa.

  • 19:43 Sport

    Pregled najvažnijih dnevnih sportskih dešavanja i informacija iz zemlje, regiona i svijeta.