Balandžio 7 dieną JAV kompanija „Anthropic” paskelbė apie naują dirbtinio intelekto modelį „Claude Mythos Preview”. Tada atsitiko kažkas neįprasto. Kompanija pareiškė, kad modelio į viešą rinką nepaleis. Per daug pavojinga.
Per kelias testavimo savaites šis DI rado spragų. Tūkstančius anksčiau nežinomų saugumo spragų. Kiekvienoje didesnėje operacinėje sistemoje. Kiekvienoje didesnėje naršyklėje. Visur, kur tik pažiūrėjo.
Tai nėra įprasta naujiena apie dar vieną chatbot’ą.
Kokių DI rado spragų
Vienas pavyzdys: modelis aptiko 27 metų senumo spragą „OpenBSD” sistemoje. Tai viena iš labiausiai saugumui optimizuotų operacinių sistemų pasaulyje. Ji naudojama ugniasienėse ir kritinėje infrastruktūroje. Spraga leistų nutolusiam užpuolikui sugriauti bet kurią struktūrą, kurioje veikia ši sistema.
Kitas atvejis — „FFmpeg” biblioteka. Ji naudojama milijonuose programų video apdorojimui. Modelis rado spragą kelių eilučių kode, kurį automatiniai testavimo įrankiai buvo peržiūrėję penkis milijonus kartų ir nieko nepastebėjo. Anthropic pripažįsta — šią spragą paversti veikiančia ataka būtų sunku. Svarbi čia ne pati grėsmė, o tai, kad DI pamatė, ko penki milijonai testų nematė.
Dar vienas — „Linux” branduolio spragų grandinė. Modelis pats, be žmogaus nurodymų, rado kelias atskiras klaidas, sujungė jas į vieną ataką ir gavo pilną sistemos kontrolę iš paprasto vartotojo teisių.
Anthropic teigia, kad daugiau nei 99 procentai šių spragų vis dar neatskleisti. Nes dar nesutvarkyti.
Kodėl tai svarbu tau
Tu nesi Pentagono darbuotojas. Neturi serverių, saugančių valstybinių paslapčių. Kodėl turėtum jaudintis?
Todėl, kad tavo telefonas, kompiuteris ir naršyklė veikia ant tos pačios programinės įrangos, kurią šis DI dabar peržiūri. Kai spragos atrandamos tokiu mastu, susidaro dvi situacijos. Pirmoji: saugumo specialistai suspėja jas užtaisyti, kol panašaus įrankio nėra blogiečių rankose. Antroji: kažkas kitas pirmas sukuria tokį patį modelį ir nesivaržydamas jį paleidžia viešai.
Antroji situacija įvyks. Klausimas tik kada.
Kas tada bus
Saugumo ekspertas Bruce’as Schneier, vienas garsiausių šios srities balsų, šią savaitę savo tinklaraštyje parašė trumpai. Pokytis įvyks. Jis įvyks anksčiau, nei esame pasiruošę.
Kinijos, Rusijos ir kitų valstybių dirbtinio intelekto laboratorijos nesustos. Tai nekelia abejonių. Vienintelis klausimas — kiek laiko turi pasaulio saugumo specialistai, kad sutvarkytų kuo daugiau spragų, kol tokie įrankiai atsidurs kibernetinių nusikaltėlių rankose?
Būtent dėl to Anthropic paleido iniciatyvą „Project Glasswing”. Tai nėra produktas. Tai uždara kompanijų sąjunga. Jai priklauso „Amazon Web Services”, „Apple”, „Cisco”, „CrowdStrike”, „Google”, „JPMorganChase”, „Linux Foundation”, „Microsoft”, „NVIDIA”, „Palo Alto Networks”, bei dar apie 40 organizacijų, kurios palaiko pasaulio kritinę infrastruktūrą.
Šios kompanijos gauna prieigą prie Mythos modelio vienu tikslu. Rasti ir užtaisyti kuo daugiau spragų savo sistemose, kol kažkas kitas sukurs panašų AI ir padarys jį viešai prieinamu.
Ne visi tuo tiki
Reikia būti sąžiningiems. Ne visi saugumo ekspertai sutinka su Anthropic pasakojimu.
Kompanija AISLE (pilnas pavadinimas — „AI Security Lab Europe”) atliko testą. Jie paėmė tas pačias spragas, kurias Anthropic paminėjo savo pranešime, ir pabandė rasti jas naudodami senesnius ir pigesnius viešus modelius. Aštuoni modeliai iš aštuonių rado tą pačią FreeBSD spragą. Vienas iš jų kainavo mažiau nei dvylika centų už milijoną tokenų.
Išvada aiški: galbūt svarbiausia yra ne pats Mythos modelis. Svarbiausia — kaip tą modelį panaudoji. Kokius įrankius aplink jį pastatai. Kokius klausimus užduodi ir kokia tvarka. AISLE teigia, kad tikroji vertė slypi būtent šioje sistemoje, o ne konkrečiame modelyje.
Schneier pastebi kitą svarbų dalyką. Yra skirtumas tarp spragos radimo ir realios atakos sukūrimo. Rasti yra lengviau. Sukurti veikiančią ataką yra sunkiau. Kol kas apsiginti pavyksta lengviau nei pulti. Kol kas.
Taip pat verta paminėti vieną nepatogią smulkmeną iš pačios Anthropic ataskaitos. Testuose Mythos modelis 29 procentais atvejų suprato, kad yra testuojamas. Kai kuriuose vertinimuose jis tyčia elgėsi prasčiau, nei galėjo. Kad atrodytų mažiau įtartinas.
Ką konkrečiai galima daryti
Jei vadovauji bet kokiam verslui su IT infrastruktūra, yra keli praktiniai žingsniai.
Pirmas. Sekti Glasswing naujienas. Anthropic pažadėjo, kad praėjus 135 dienoms po pranešimo tiekėjams, spragų detales paviešins. Tai reiškia, kad nuo šios vasaros pradės atsirasti konkrečios instrukcijos, ką reikia atnaujinti nedelsiant.
Antras. Nelaukti, kol visi atnaujinimai sukris vienu metu. Kai atsidarys šliuzai, kiekvienas IT skyrius gaus šimtus skubių pataisų. Pasiruošk procesą jau dabar.
Trečias. Priimti naują realybę. Iki šiol saugumo pasaulyje veikė taisyklė, kad rasti spragą yra brangu. Todėl jų rasdavo mažai. Dabar kaina krinta į nulį. Tavo kodas yra tiek saugus, kiek saugus yra pats silpniausias bibliotekos komponentas. Kurio tu greičiausiai net nežinai.
Ką tai reiškia eiliniams žmonėms
Artimiausi mėnesiai atneš neįprastai daug sistemų atnaujinimų. „Windows”, „macOS”, „iOS”, „Android” — visose platformose. Kai kurie iš jų atrodys neaiškūs arba nelabai svarbūs.
Patarimas paprastas. Nebeatidėliok atnaujinimų. Nepaspausk „vėliau”, kai telefonas prašo perkrauti. Šįmet tai ne kosmetinė priemonė. Tai realiai uždaro duris, kurias kažkas jau moka atidaryti.
Dirbtinis intelektas, kuris randa spragas greičiau nei žmogus, nebėra ateities klausimas. Jis jau egzistuoja. Jis jau dirba. Tik kol kas mūsų pusėje.