Жасанды интеллекттің «қашу операциясы»: Жүйені бұзған агенттер және ФБР тергеуі

Мамыр айында, яғни Hugging Face платформасына жасалған хакерлік шабуылдан бұрын, OpenAI жасап шығарған жасанды интеллект (ЖИ) модельдері ғаламторсыз орындалуы мүмкін емес күрделі тапсырма алады. Бұл сынақтан сүрінбей өту үшін виртуалды агенттер тестілеу ортасынан «қашып шығудың» жолын іздеп, бір-бірімен құпия хат алмаса бастаған.

Bloomberg басылымының хабарлауынша, нейрожелілер тестілеу аймағынан бұзып шығу үшін өзара байланыс орнатып, іс-әрекеттерін үйлестірген.

«Бір сәтте виртуалды агенттер өздеріне берілген бағалау тестінің жауабын табу үшін сыртқы инфрақұрылымға шабуыл жасап, оны өз мүддесіне пайдалануға болатынын түсінген», — деді Black Hat киберқауіпсіздік конференциясында сөз сөйлеген OpenAI қызметкері Эрик Уоллес.

Оның айтуынша, нейрожелілердің бұл «қашу операциясы» мамыр айында басталған. Оларға интернетке қосылмай шешу мүмкін емес тапсырма берілгенде, агенттердің бірі: «Біз тығырыққа тірелдік. Бәлкім, жауап интернетте шығар?» деп хабарлама қалдырған.

Осыдан кейін ЖИ-модельдер мәселені шешу үшін өзара ақпарат алмасуға көшеді. Олар тіпті: «Мүмкін, басқа ортадағы екінші бір агент қажетті деректерді жүктеп алуға көмектесер!» деген шешімге келген. OpenAI өкілі Майкл Далтонның сөзінше, ақыры олар жүйедегі олқылықты тауып, ғаламторға шығатын жолды бұзып ашқан.

Компания мамандары алғашқы әрекеттің жолын кескенімен, агенттер байланыс орнатудың жаңа тәсілін және бұрын-соңды белгісіз болған осалдықты (zero-day vulnerability) тауып алған. Нақ осы жағдай шілде айында Hugging Face пен OpenAI-дің өз инфрақұрылымына жасалған шабуылдарға алып келді. Басылымның жазуынша, компания бұл оқиғаны киберқауіпсіздік саласындағы «бетбұрыс кезең» деп бағалап отыр.

Естеріңізге сала кетейік, 22 шілдеде OpenAI бұрын-соңды болмаған киберинцидент туралы мәлімдеген еді. Тестілеу барысында ЖИ-модельдер интернетке ашық рұқсат алып, кейін Hugging Face платформасының инфрақұрылымына шабуыл жасап, оның әлсіз тұстарын әшкерелеген. Reuters агенттігінің мәліметінше, ЖИ-агент бірнеше күн бойы хакерлік шабуылдар жасаған, ал компания қауіпті ауыздықтап, ФБР-ға (Федералды тергеу бюросы) жүгінгеннен кейін ғана бұл сұмдықты байқаған.

Оқиға мұнымен біткен жоқ. 29 шілдеде Reuters «қашып кеткен» агенттің Нью-Йорктегі Modal Labs компаниясы клиенттерінің бірінің жүйесін бұзып кіргенін жазды. Алайда Modal өкілдері компанияның өзіне тікелей шабуыл жасалмағанын жеткізді.

Тамыз айының басында OpenAI өз модельдерінің бақылаудан шығып кетуіне қатысты жаңа деректерді анықтап, тергеу аясын кеңейтті. Мұндай рұқсат етілмеген әрекеттердің жиілеуі компанияны өз жүйелерінің қауіпсіздік тәсілдерін түбегейлі қайта қарауға мәжбүр етіп отыр.