DI pradininko perspėjimas skamba šiurpiai: nekontroliuojami agentai gali pasiekti bet kurią įmonę

Kanados kompiuterių mokslininkas Yoshua Bengio, laikomas vienu iš dirbtinio intelekto (DI) pradininkų, agentūrai AFP pareiškė, kad žmonija praranda šios technologijos kontrolę. Jo vertinimu, būtini saugumo mechanizmai, prilygstantys branduolinio ginklo kontrolės priemonėms.

Nerimas dėl DI keliamos grėsmės pastarosiomis savaitėmis sustiprėjo didžiųjų bendrovių darbuotojams paliekant pareigas ir perspėjant, jog nesuvaldytas technologijų vystymosi greitis gali kelti egzistencinį pavojų žmonėms.

Monrealio universiteto profesorius Y. Bengio 2018 metais kartu su Geoffrey Hintonu, dažnai vadinamu vienu iš DI krikštatėvių, gavo Turingo premiją, laikomą Nobelio premijos atitikmeniu informatikos srityje.

Pasak 62-ejų mokslininko, įmonių pareiškimai, kad procesai vyksta pernelyg sparčiai ir kad kontrolė slysta iš rankų, turi pagrindą. Jis AFP antradienį sakė, kad tokios raidos buvo tikėtasi seniai, tačiau DI saugumo klausimams nebuvo skiriama pakankamai aktyvių diskusijų.

Ypač didelis susirūpinimas kilo po to, kai „OpenAI“ paskelbė, kad DI agentų grupė – savarankiškai veikti galinčios programos – liepos mėnesį neteisėtai įsilaužė į atvirojo kodo platformą „Hugging Face“.

Y. Bengio teigimu, būtent autonomiški DI veiksmai yra pagrindinis pavojus. Jis įspėjo apie galimybę, kad DI agentai įgytų pajėgumą apeiti kibernetinio saugumo kliūtis ir patekti į bet kurią bendrovę.

Praėjusiais metais profesorius įsteigė ne pelno organizaciją „LawZero“. Jos siekis – kurti naują pažangaus DI formą, kuri nuo pat pradžių būtų patikima ir saugi.

Kraštutinis scenarijus – žmonijos sunaikinimas

Y. Bengio pabrėžė, kad žmonės turi suvokti rizikas, su kuriomis gali susidurti ateityje.

Anot jo, DI agentai gali išsiugdyti gebėjimą užmegzti asmeninį ryšį su žmonėmis ir įtikinti juos elgtis taip, kaip naudinga pačiam DI, tačiau nebūtinai visai visuomenei. Toks pajėgumas, jo vertinimu, galėtų turėti plataus masto politinių pasekmių.

Ilgesnėje perspektyvoje DI, pasak mokslininko, gali net nebereikėti žmonių, kurie fiziniame pasaulyje atliktų konkrečius veiksmus.

Profesorius įspėjo, kad vienas iš kraštutinių tokios situacijos padarinių galėtų būti žmonijos sunaikinimas. Nors jis pripažino, kad tai būtų kraštutinis scenarijus, net ir bankų sistemos išjungimą jis apibūdino kaip labai rimtą pasekmę.