Најнапреднији модели вјештачке интелигенције у свијету показују забрињавајућа нова понашања - лажу, сплеткаре, чак и пријете својим творцима да би постигли своје циљеве.
У једном нарочито застрашујућем примјеру, под пријетњом да ће бити искључена, "клод четири", најновија креација компаније "Антропик", узвратила је уцјеном једног инжењера да ће обзнанити његову ванбрачну аферу.
У међувремену, модел "о1" компаније "ОпенАИ" покушао је да се пребаци на спољне сервере, а то је негирао када је ухваћен на дјелу, преноси АФП.
Ове епизоде указују на отрежњујућу стварност - више од двије године након што је "чет џи-пи-ти" потресао свијет, истраживачи вјештачке интелигенције још не схватају у потпуности како функционишу њихове сопствене креације.
Ипак, трка за примјеном све моћнијих модела се наставља вртоглавом брзином.
Чини се да је ово обмањујуће понашање повезано са појавом "резонских" модела, односно система вјештачке интелигенције који рјешавају проблеме корак по корак умјесто да генеришу тренутне одговоре.
Према ријечима Сајмона Голдштајна, професора на Универзитету у Хонг Конгу, новији модели су посебно склони таквим проблематичним испадима.
"`О1` је био први велики модел гдје смо видјели овакво понашање", објаснио је Маријус Хобан, шеф компаније "Аполо рисерч", која је специјализована за тестирање великих система вјештачке интелигенције.
Ови модели понекад симулирају усклађивање и изгледа као да прате упутства док тајно теже другачијим циљевима.
Ова "стратешка врста обмане" засад се јавља само када истраживачи намјерно тестирају моделе у екстремним сценаријима и проучавају границе њихових могућности.
.webp)
