Karolio III perspėjimas technologijų elitui: DI gali tapti jėga, galinčia atimti gyvybę

Didžiosios Britanijos karalius Karolis III ketvirtadienį aukščiausiojo lygio susitikime, skirtame dirbtinio intelekto (DI) ateičiai, perspėjo technologijų sektoriaus vadovus apie egzistencines grėsmes. Jos galėtų kilti, jei ši technologija atsidurtų netinkamų žmonių rankose.

Karalius kalbėjo prieš auditoriją, kurioje buvo „Nvidia“, „Anthropic“, „Google DeepMind“ ir „OpenAI“ vadovai. Jis pabrėžė, kad sprendimai, priimami šiandien, nulems pasaulį, kurį paveldės būsimos kartos, todėl DI plėtra turi vykti taip, kad žmogiškumas liktų neliečiamas.

Susitikimas surengtas Damfriso namuose, Rytų Airšyro Kamnoko mieste. Jame dalyvavo ir vyriausiasis Vatikano patarėjas DI bei technologijų etikos klausimais, Jungtinės Karalystės skaitmeninių technologijų ministras, vyriausybės patarėjai bei kiti svečiai.

Įžanginėje kalboje Karolis III DI raidą apibūdino kaip kartu intriguojantį ir didelį susirūpinimą keliantį reiškinį.

Jis atkreipė dėmesį, kad DI jau demonstruoja reikšmingas galimybes gerinti ir išsaugoti gyvybes, ypač gyvybės mokslų bei medicinos srityse. Vis dėlto, anot karaliaus, patys technologijų kūrėjai vis garsiau kalba apie pavojų, kad DI gali įgyti ir tamsesnių galimybių, galbūt net tapti pajėgus atimti gyvybę.

Karolis III teigė, kad būtina skubiai tinkamai įvertinti egzistencines rizikas, jei tokios sistemos patektų į blogas rankas ir būtų panaudotos potencialiai katastrofiškais būdais. Jis pabrėžė, kad kontrolės priemonės reikalingos dar nepasiekus momento, kai būtų per vėlu.

Pasak monarcho, dabartinis DI formavimosi etapas yra lemiamas ateities kartoms. Technologijų vadovų pareiga esą yra ne vien spartinti pažangą, bet ir užtikrinti, kad technologija patikimai tarnautų žmonijai, bendruomenei bei gamtai. Priimant naujoves, negalima atsisakyti to, kas išlieka svarbu visais laikais.

Renginys vyksta po to, kai „Daily Mail“ paskelbė ištrauką iš naujos Velso princesės Dianos brolio grafo Spencerio knygos „Gulbės giesmė“ (angl. „Swan Song“). Joje teigiama, kad po Dianos mirties 1997 metais karalius pasakė, jog ji bus pakankamai greitai pamiršta.

Bakingamo rūmai šį teiginį paneigė. Rūmų atstovas spaudai nurodė, kad Karolis III supranta, jog brolio gedulo skausmas gali aptemdyti protą.

Diskusijos dėl DI kontrolės

Nuogąstavimai dėl galimos žmonijos egzistencijai grėsmės, kurią kai kas sieja su DI, paskatino pramonės lyderius svarstyti, kaip pažaboti technologiją, kol ji neprarado žmonių kontrolės.

Ketvirtadienį „Microsoft AI“ vykdomasis direktorius Mustafa Suleymanas pareiškė, kad žmonija iš esmės sėja naują silicio rūšį. Interviu BBC laidai „Today“ jis taip pat užsiminė apie „Anthropic“ konkurentų pasirinktą kryptį.

Jo teigimu, kuriant DI sistemas, galinčias veikti savarankiškai, pačioms kelti tikslus, uždirbti pinigus, valdyti turtą ir vykdyti verslą, atsirastų nauja silicio rūšis. Ji neišvengiamai konkuruotų su žmonėmis dėl išteklių, nesvarbu, kiek rūpintųsi žmonija ar ją mylėtų.

M. Suleymanas sakė manantis, kad toks yra „Anthropic“ tikslas, tačiau jo požiūriu tai būtų klaidinga ir klaidinanti kryptis. Jis teigė, kad jei bendrovė šį kelią laiko saugesniu DI vystymo būdu, ji turėtų pateikti tai patvirtinančius duomenis. Anot jo, vietoje to reikėtų kurti DI sistemas, kurios neužsiima savianalize.

„Anthropic“ tyrėjas Evanas Hubingeris praėjusią savaitę sulaukė pasaulio žiniasklaidos dėmesio, kai pareiškė manantis, jog yra didesnė nei 10 proc. tikimybė, kad per 10 metų DI gali sukelti tam tikros rūšies išnykimą lemiantį pavojų.