ЖИ-нің қате талдауы: Стартап домендеріне каскадты бұғаттау

Axios порталында MeetingTV стартапының Palo Alto Networks және оның еншілес компаниясы Koi—киберқауіпсіздік талдауы (threat intelligence) жүйелерін әзірлеуші - үстінен берген искіне қатысты егжей-тегжейлі талдау жарияланды. Даудың туындауына Koi-дің киберқауіпсіздік есебі себеп болды, онда стартаптың инфрақұрылымы қытайлық хакерлердің операциясымен байланысты деп көрсетілген. MeetingTV бұл қателікті ИИ-нің "галлюцинациясы" (қате талдауы) деп есептейді және соның кесірінен компания домендері әлі күнге дейін көптеген қауіпсіздік вендорларының өнімдерінде бұғатталып тұрғанын алға тартады.

30 желтоқсанда Koi компаниясы миллиондаған браузерлерді зақымдаған DarkSpectre хакерлер тобы туралы есеп жариялады. Онда зиянды инфрақұрылымдар қатарында MeetingTV домендері де аталған. Стартап Koi-ге есепті түзету туралы өтініш білдірді. 12 ақпанда Koi бір доменді тізімнен алып тастап, оның талданған кодта болғанын, бірақ зиянды инфрақұрылыммен байланысы расталмағанын атап өтті. Алайда, бұл домендердің бұғатталуын шешпеді. 18 наурызда MeetingTV Koi-ге қарсы иск берді. Сәуір айында Palo Alto Networks Koi-ді (шамамен 400 миллион долларға) сатып алу мәмілесін аяқтап, толықтырылған иск бойынша жауапкерге айналды.

Талқылаудың ортасында - нақты браузерлік кеңейтім бар, есепте соның көмегімен Zoom Stealer науқаны кеңірек DarkSpectre операциясымен байланыстырылған. MeetingTV бұл кеңейтімді есептің өзінде көрсетілген ID-лер арасынан табу мүмкін еместігін алға тартып, бұл алшақтықты ИИ-нің қате талдауының немесе талдау барысындағы елеулі кемшіліктің салдары ретінде түсіндіреді. Маңызды ескерту: Koi шынымен де бағдарламалық қамтамасыз етуді және кеңейтімдерді талдау үшін ИИ-ді қолданады, бірақ сот құжаттарында осы қате тұжырымды дәл модель жасағаны туралы тікелей дәлелдер жоқ.

Иск беруші үшін негізгі мәселе есептің өзі емес, оның салдары болып отыр. Стартаптың CEO-сы Майкл Робертсонның айтуынша, домендерді блоктан шығару өте көп күш-жігерді талап етеді және жиі мүмкін емес болып шығады: блок-листердің саны жүздеп саналады, және нақты провайдердің кімнің шешімін қолданатыны белгісіз. Маусым айының басында вендорлардың бір бөлігі ғана домендердің мәртебесін "зияндыдан" "орташа қауіпке" дейін төмендетті, қалғандары бұғаттауды сақтап қалды. Palo Alto Networks ИИ және есептің тұжырымдарына қатысты сұрақтардан жалтаруды жөн санап, тек Koi-дің зерттеуі қауіп-қатерді анықтау курсын көрсететінін, ал дау құқықтық өрісте шешілетінін мәлімдеді. Koi сәуір айындағы өтінішінде қауіпсіздік саласындағы зерттеулер—бұл қорғалған сөз болып табылатынын және есептің MeetingTV-ді қауіп деп атамағанын алға тартты.

Бұл жеке қақтығыстың артында киберқауіпсіздік индустриясында әлі жауабы жоқ сұрақ тұр: ИБ-зерттеушілері өздері жариялаған есептердің каскадты салдары үшін қаншалықты жауапты. Олардың тұжырымы threat intelligence жүйесіне түскен бойда, ол бірнеше сағат ішінде вендорлардың өнімдеріне таралып, бұғаттауды іске қосады, ал оны кейіннен қайтару мүмкін емес болып шығады, ИИ қолданылды ма, жоқ па, маңызды емес. Бүгін, 30 маусымда, Koi толықтырылған искке жауап беруі тиіс. MeetingTV соттан дәлелдер жоғалмас үшін оларды ашудың ерте кезеңін сұрап отыр.