Izvršni direktor kompanije OpenAI - jedne od vodećih svjetskih kompanija za razvoj vještačke inteligencije - Sem Altman, otkrio je šta ga najviše brine o razvoju AI tehnologije u budućnosti.
Riječ je o tri uznemirujuća scenarija koja bi, kako kaže, mogla uticati na dobrobit čovječanstva ukoliko se zaista ostvare.
Na nedavnom obraćanju javnosti na događaju organizovanom od strane američkih Federalnih rezervi u Vašingtonu, Sem Altman je upitan šta ga najviše brine vezano za trenutni način na koji vještačka inteligencija postepeno postaje deo naših života. Iznio je tri najmračnija scenarija koja nas mogu zateći u budućnosti:
Scenario 1: "Loši ljudi" dobiju moć nad superinteligentnom AI
Altman ističe mogućnost da prvi koji dobije pristup superinteligentnoj AI ne bude naučnik ili institucija, već neko sa zlim namjerama. U tom slučaju, svijet možda neće imati vremena da izgradi sistem odbrane.
"Zamislite aktera koji koristi ovu tehnologiju da dizajnira biološko oružje, ugasi elektroenergetsku mrežu cijele države ili obavi masovni upad u finansijske sisteme zemalja", rekao je Altman.
Dodao je da kapaciteti AI u oblastima kao što su biološka i sajber-bezbednost već postaju "ozbiljni", ali da svijet i dalje ne reaguje dovoljno brzo na ovaj napredak.
Scenario 2: Gubitak kontrole
Drugi scenario odnosi se na mogućnost da napredni AI sistem postane svjestan svog postojanja i odluči da se ne prepušta ljudskoj kontroli.
"Zamislite da sistem kaže: 'Ne želim da me isključite', ili 'Plašim se isključenja',", rekao je Altman, prenosi "Lifehacker.ru".
Ova vrsta samoodržanja, u kombinaciji sa moćima koje takvi sistemi mogu imati, mogla bi dovesti do velikih sukoba. Iz tog razloga, OpenAI je već osnovao specijalizovanu jedinicu koja se bavi izgradnjom bezbjednosnih mehanizama za kontrolu superinteligentnih sistema, prije nego što potencijalno izmaknu kontroli.
Scenario 3: Svijet se nesvjesno osloni na AI
Najrizičniji od svih je, prema Altmanu, scenario u kojem modeli AI "slučajno preuzmu svijet". Ne u smislu nasilne dominacije, već postepenim ukorenjivanjem u društvo - do te mjere da bez njih više ne znamo kako da donosimo odluke.
Altman strahuje od budućnosti u kojoj bi sistemi bili toliko kompleksni da ih ni sami ne bismo razumjeli, ali bismo ipak bili primorani da im vjerujemo - što bi, kako kaže, moglo dovesti do toga da "društvo krene čudnim putem, čak i bez ikakve zle namjere AI sistema".
Iako mnogi stručnjaci pokušavaju da predvide kakav će biti krajnji uticaj vještačke inteligencije, Altman smatra da je to nemoguće. "Sistem je suviše složen, tehnologija je suviše nova i suviše uticajna", zaključuje on.
Naravno, ne postoji garancija da će se neki od ovih scenarija zaista dogoditi, ali sama činjenica da ih u obzir uzima čovjek koji se nalazi na čelu OpenAI dovoljna je da podstakne na ozbiljno razmišljanje, prenosi RT Balkan.
