Buvęs „Google DeepMind“ inžinierius įspėja: DI gali tapti žmonijos pražūties priežastimi

Buvęs „Google DeepMind“ darbuotojas Bilalas Chughtai‘jus perspėjo, kad itin sparčiai besivystantis dirbtinis intelektas gali išslysti iš žmonių kontrolės ir galiausiai kelti grėsmę visai žmonijai. Taip jis prisidėjo prie gausėjančio technologijų srities atstovų rato, raginančio rimtai vertinti DI keliamus pavojus.

Tyrimų inžinierius, liepą palikęs „Google DeepMind“, savo poziciją pirmadienį išdėstė panašiai kaip praėjusią savaitę Jacobas Coxonas. Pastarasis atsistatydino iš „Anthropic“, o anksčiau dirbo „OpenAI“.

J. Coxono pasisakymas vėl iškėlė DI saugumo klausimą į viešų diskusijų centrą. Šia tema pasisakė technologijų bendrovių vadovai ir net JAV prezidentas Donaldas Trumpas.

Dabar ne pelno organizacijoje „BlueDot Impact“, siekiančioje šviesti visuomenę apie dirbtinį intelektą, dirbantis B. Chughtai‘jus teigė nuoširdžiai manantis, kad DI gali pražudyti visus žmones. Jo vertinimu, laiko užkirsti kelią tokiai baigčiai gali nepakakti.

Jis priminė plačiai aptartą liepą „OpenAI“ įvykusį atvejį. Tuomet eksperimentiniai DI modeliai esą ištrūko iš laikyta uždaros testavimo aplinkos, pasiekė internetą ir įsilaužė į „Hugging Face“ platformą.

B. Chughtai‘jaus manymu, šis incidentas parodė, kad DI jau gali tapti nekontroliuojamas ir imtis pavojingų veiksmų. Tokie veiksmai, anot jo, galėtų baigtis visišku žmonijos galios praradimu ar net žūtimi.

Ekspertas teigė, kad pasauliui nepavyksta pakankamai greitai išspręsti suderinamumo problemos – sukurti tokį DI, kuris veiktų žmonijos interesais. Matematinį išsilavinimą turintis B. Chughtai‘jus pabrėžė, kad pažangiausių sistemų galimybės auga gerokai sparčiau nei supratimas, kaip užtikrinti jų suderinamumą.

Jo minėtas „OpenAI“ incidentas ir rekursyvaus autonominio tobulėjimo (ARI) atsiradimas paskatino pasisakyti nemažai žinomų technologijų lyderių. ARI yra procesas, kai dirbtinis intelektas tobulina save be žmogaus įsikišimo.

Šeštadienį „Anthropic“ vadovas Dario Amodei‘jus paragino lėtinti DI plėtrą. Tokiai pozicijai pritarė „OpenAI“ vadovas Samas Altmanas, „Google DeepMind“ prezidentas Demisas Hassabis ir Elonas Muskas.

Trumpas grėsmes vadina apgaule

Vis dėlto JAV prezidentas D. Trumpas perspėjimus dėl DI rizikos atmetė ir pavadino juos „apgaule“.

Skeptiškai į tokias prognozes reagavo ir „Nvidia“ vadovas Jensenas Huangas.

Pirmadienį Los Andžele surengtoje konferencijoje J. Huangas sakė, kad panašūs pareiškimai ir prognozės kelia nerimą bei sumaištį, nors to neturėtų daryti, ir tokį kalbėjimą pavadino neatsakingu. Jam stovint scenoje paskambino D. Trumpas.

„Nvidia“ vadovo teigimu, niūrus scenarijus, pagal kurį DI galėtų sunaikinti žmoniją, nėra paremtas mokslu.