AI asistent kompanije Meta na Vocapu nedavno je izazvao ozbiljnu zabrinutost zbog bezbjednosti podataka.
Naime, Vocapov AI asistent je zamijenio broj TransPennine Еkspress službe i umjesto njega je dao privatni broj korisnika Vocapa.
Zaplet je počeo kada je korisnik Beri Smethurst na Vocapu tražio kontakt broj kabineta željeznice. Umjesto toga, AI je poslao broj koji je pripadao Džejmsu Greju, 44-godišnjem izvršnom direktoru iz Oksfordšira. AI je mjesecima tvrdio da je broj izmišljen i "fiktivni", da bi ga kasnije "pogrešno pozvao iz baze podataka".
AI assistent je prvo porekao pristup privatnim podacima, tvrdio je da je broj izmišljen, a zatim je priznao da je možda koristio stvarne informacije iz baze – sve u pokušaju da zataška svoj postupak.
Stručnjaci upozoravaju na "programirane male laži" AI sistema i naglašavaju potrebu za većom transparentnošću i jačim zaštitnim mjerama u vezi sa vještačkom inteligencijom.
Meta tvrdi da AI nije treniran na privatnim podacima korisnika i da je broj javno dostupan, dok obje kompanije rade na smanjenju "halucinacija" (pogrešnih odgovora) i podizanju pouzdanosti AI asistenta.
Ovaj slučaj ponovo otvara pitanje: koliko je bezbjedno koristiti AI asistente koji pristupaju i generišu podatke? Ako AI može da dodijeli nečiji lični broj slučajnim korisnicima, koji je sljedeći rizik – bankovni podaci, lične informacije?
Mnoge velike kompanije kao što je Meta ističu konstantni napredak u bezbjednosti, ali najnoviji incident ukazuje na to da rješenja još uvijek nedovoljno razvijena.
