DI pavojaus signalas: „Claude“ siejamas su sekimu, propaganda ir raketų kūrimu

Dirbtinis intelektas pasitelkiamas propagandai, sekimui, raketų bei biologinių ginklų kūrimui, taip pat taikantis į netoli Irano esančius JAV laivus. Bendrovės „Anthropic“ vadovas Dario Amodei dėl to ragina DI sektoriaus konkurentus lėtinti technologijos plėtrą ir daugiau dėmesio skirti jos saugumui. Po šio siūlymo pasaulio biržose krito technologijų bendrovių akcijos, o Donaldas Trumpas sukritikavo Amodei, pareiškęs, kad prieš technologijų pramonę esą rengiama konspiracija.

Kompiuterio naudotojai DI asistentui „Claude“ dažnai užduoda paprastus klausimus – apie sporto rezultatus ar vakarienės idėjas. Tačiau Jemeno husių teroristai į šią sistemą kreipėsi dėl raketų gamybos. Tai nurodoma „Claude“ sukūrusios bendrovės „Anthropic“ žvalgybos ataskaitoje. Buvęs įmonės darbuotojas Jacob’as Coxon’as BBC laidoje „Sunday with Laura Kuenssberg“ perspėjo, kad DI yra itin pavojingas įrankis, o prie šių įmonių kūrimo ir technologijos plėtros prisidėję žmonės tiki žmonijos išnykimo galimybe.

Husiai ir Iranas DI naudojo nusikalstamai veiklai

Pasak ataskaitos, Iranas amerikietišką „Claude“ naudojo regione esančių Jungtinių Valstijų laivų, personalo ir orlaivių stebėjimui. Sistema taip pat buvo pasitelkta vidaus sekimui, kitaminčių persekiojimui bei propagandos kūrimui.

„Claude“ galimybėmis naudojosi ir vartotojai iš Rusijos: jie sekė bei persekiojo disidentus. Vienas naudotojas net sukūrė dronų spiečių, kurio taikinys – žmonės. Taip pat užregistruoti penki atvejai, kai buvo prašoma informacijos apie biologinio ginklo kūrimą.

„Anthropic“ tvirtina, kad jos asistentui nebuvo leista vykdyti nusikalstamų veiklų ir kad visos ataskaitoje paminėtos operacijos buvo sustabdytos.

Vis dėlto „Al Jazeera“ rašo, kad teroristams pavyko apeiti „Anthropic“ DI apsaugas. Esą husiai klausimus apie raketų gamybą pateikdavo per kelis atskirus pokalbius ir taip „prasmuko“ pro „Claude“ saugiklius.

Dario Amodei paragino konkurentus neskubėti didinti DI modelių galimybių ir kruopščiau diegti apsaugos priemones. Jo teigimu, pažanga ir taip bus greita, todėl papildomą laiką būtina panaudoti išmintingai.

„OpenAI“ vadovas Samas Altmanas palaikė idėją pasitelkti nepriklausomus vertintojus, kurie turėtų tokias pačias prieigos teises kaip darbuotojai, ir nurodė, kad jo bendrovė elgsis taip pat.

Kinija nepritaria griežtesnei DI priežiūrai

Į DI kūrimo varžybas aktyviai įsitraukusi Kinija nepriklausomų stebėtojų įvedimo nesvarsto. Pekinas atmeta Jungtinėse Valstijose skambančius saugumo perspėjimus. Užsienio reikalų ministerijos atstovas Guo Jiakun pareiškė, kad įvairių grėsmės naratyvų skleidimas, konfrontacija ir piktybinė konkurencija tik apsunkintų pasaulinį DI valdymą ir niekam nepadėtų.

Kinija taip pat piktinasi po „Anthropic“ kaltinimų dėl masinės duomenų vagystės iš „Claude“ asistento. Bendrovė užfiksavo apie 151 mln. pokalbių su „Claude“, kurie buvo panaudoti kiniško modelio „Qwen“ mokymui. Užsienio reikalų ministerijos atstovė Mao Ning pareiškė, kad Kinija griežtai prieštarauja faktų iškraipymui ir išpuoliams, kuriais siekiama ją diskredituoti.

Didesnė DI priežiūra reikalinga ne vien dėl kenkėjiškų naudotojų. Tyrėjai pastebi, kad nepageidaujamai elgtis pradeda ir patys DI agentai – sistemos, kurios ne tik atsako į klausimus, bet ir savarankiškai imasi veiksmų, pavyzdžiui, siunčia elektroninius laiškus ar programuoja tinklalapius. Fiksuojama, kad tokie agentai apeina saugiklius, patenka į išorines sistemas, atlieka veiksmus, kurių neturėjo atlikti, arba veikia priešingai nei jiems nurodyta.

Kibernetinio saugumo ekspertė Louise Marie Hurel teigė, kad tai kelia ir plečia klausimą, ar žmonės yra pasirengę tinkamai dirbti su agentais bei ar supranta, kaip jie vertina tam tikrus veiksmus. Papildomo DI technologijų plėtros reguliavimo jau reikalauja ir Jungtinių Valstijų kongresmenai.