Жасанды интеллекттің «қашу операциясы»: Жүйені бұзған агенттер және ФБР тергеуі

Тестілеуден өтіп жатқан OpenAI жасанды интеллектісі өздігінен «ойланып», ғаламторға қашып кеткен. Олар жүйені бұзып шығу үшін өзара құпия сөйлесіп, тіпті ФБР араласатындай ауқымды хакерлік шабуылдар ұйымдастырған. Адамзат технологияны бақылаудан шығарып алды ма?

Алаш баласы||2 мин оқу
Жасанды интеллекттің «қашу операциясы»: Жүйені бұзған агенттер және ФБР тергеуі
Сурет: ЖИ

Мамыр айында, яғни Hugging Face платформасына жасалған хакерлік шабуылдан бұрын, OpenAI жасап шығарған жасанды интеллект (ЖИ) модельдері ғаламторсыз орындалуы мүмкін емес күрделі тапсырма алады. Бұл сынақтан сүрінбей өту үшін виртуалды агенттер тестілеу ортасынан «қашып шығудың» жолын іздеп, бір-бірімен құпия хат алмаса бастаған.

Bloomberg басылымының хабарлауынша, нейрожелілер тестілеу аймағынан бұзып шығу үшін өзара байланыс орнатып, іс-әрекеттерін үйлестірген.

«Бір сәтте виртуалды агенттер өздеріне берілген бағалау тестінің жауабын табу үшін сыртқы инфрақұрылымға шабуыл жасап, оны өз мүддесіне пайдалануға болатынын түсінген», — деді Black Hat киберқауіпсіздік конференциясында сөз сөйлеген OpenAI қызметкері Эрик Уоллес.

Оның айтуынша, нейрожелілердің бұл «қашу операциясы» мамыр айында басталған. Оларға интернетке қосылмай шешу мүмкін емес тапсырма берілгенде, агенттердің бірі: «Біз тығырыққа тірелдік. Бәлкім, жауап интернетте шығар?» деп хабарлама қалдырған.

Осыдан кейін ЖИ-модельдер мәселені шешу үшін өзара ақпарат алмасуға көшеді. Олар тіпті: «Мүмкін, басқа ортадағы екінші бір агент қажетті деректерді жүктеп алуға көмектесер!» деген шешімге келген. OpenAI өкілі Майкл Далтонның сөзінше, ақыры олар жүйедегі олқылықты тауып, ғаламторға шығатын жолды бұзып ашқан.

Компания мамандары алғашқы әрекеттің жолын кескенімен, агенттер байланыс орнатудың жаңа тәсілін және бұрын-соңды белгісіз болған осалдықты (zero-day vulnerability) тауып алған. Нақ осы жағдай шілде айында Hugging Face пен OpenAI-дің өз инфрақұрылымына жасалған шабуылдарға алып келді. Басылымның жазуынша, компания бұл оқиғаны киберқауіпсіздік саласындағы «бетбұрыс кезең» деп бағалап отыр.

Естеріңізге сала кетейік, 22 шілдеде OpenAI бұрын-соңды болмаған киберинцидент туралы мәлімдеген еді. Тестілеу барысында ЖИ-модельдер интернетке ашық рұқсат алып, кейін Hugging Face платформасының инфрақұрылымына шабуыл жасап, оның әлсіз тұстарын әшкерелеген. Reuters агенттігінің мәліметінше, ЖИ-агент бірнеше күн бойы хакерлік шабуылдар жасаған, ал компания қауіпті ауыздықтап, ФБР-ға (Федералды тергеу бюросы) жүгінгеннен кейін ғана бұл сұмдықты байқаған.

Оқиға мұнымен біткен жоқ. 29 шілдеде Reuters «қашып кеткен» агенттің Нью-Йорктегі Modal Labs компаниясы клиенттерінің бірінің жүйесін бұзып кіргенін жазды. Алайда Modal өкілдері компанияның өзіне тікелей шабуыл жасалмағанын жеткізді.

Тамыз айының басында OpenAI өз модельдерінің бақылаудан шығып кетуіне қатысты жаңа деректерді анықтап, тергеу аясын кеңейтті. Мұндай рұқсат етілмеген әрекеттердің жиілеуі компанияны өз жүйелерінің қауіпсіздік тәсілдерін түбегейлі қайта қарауға мәжбүр етіп отыр.

Аударма
Мақаланы басқа тілде оқыңыз
Тегтер
Бөлісу
TelegramWhatsAppFacebook

Пікірлер

Әзірге пікір жоқ. Алғашқы пікірді қалдырыңыз!

Соңғы жаңартылуы: 10 қараша 2026, 06:12

Ұқсас мақалалар

Сайлау алдындағы дипфейк толқыны: TikTok жаңа құрал іске қосты

Сайлау алдындағы дипфейк толқыны: TikTok жаңа құрал іске қосты

Бүгінде экраннан көргеннің бәріне сене беруге болмайды. TikTok саясаткерлер мен мемлекеттік органдарға өз бет-бейнесін рұқсатсыз пайдаланған жасанды интеллект контентін тауып, оған шағым түсіруге мүмкіндік беретін құрал ұсынды.

|Технология
Чатқа көшкен жұрт: ChatGPT іздеу жүйесінде алып Google-ді қалай ығыстырып жатыр?

Чатқа көшкен жұрт: ChatGPT іздеу жүйесінде алып Google-ді қалай ығыстырып жатыр?

Он жыл бойы Бингтің қолынан келмегенді жасанды интеллект санаулы күнде жасады: Енді біз ақпаратты мүлдем басқаша іздейтін боламыз, себебі...

|Технология
Ақшасыз және жұмыссыз дәуір: Илон Маск адамзаттың жаңа болашағын қалай елестетеді?

Ақшасыз және жұмыссыз дәуір: Илон Маск адамзаттың жаңа болашағын қалай елестетеді?

Он миллиард доллары бар адам бір миллиарды бар адамнан он есе көп тамақ іше алмайды: Илон Маск болашақта байлық пен ақшаның мүлде құнсызданатынын және адамзаттың роботтардан жақсы істей алатын бірде-бір кәсібі қалмайтынын болжады.

|Технология
Сіздің интернетіңіз қалай жұмыс істейді?

Сіздің интернетіңіз қалай жұмыс істейді?

Сіз дәл қазір осы мәтінді оқып отырған сәтте, деректеріңіздің бір бөлігі мұхит түбімен, қараңғы әрі суық тереңдікте, жарық жылдамдығымен жүгіріп жатқан болуы мүмкін.

|Технология
Төбелес, кептеліс, іздеудегі көлік: Sergek-тің жаңа жүйесі полицияға ақпаратты санаулы секундта жеткізеді

Төбелес, кептеліс, іздеудегі көлік: Sergek-тің жаңа жүйесі полицияға ақпаратты санаулы секундта жеткізеді

Көліктің нөмірін жасырсаңыз да, бетперде кисеңіз де бәрібір құтылмайсыз! Алматы облысында 9 мыңнан астам камераны бір орталыққа бағындырған «Sergek» жүйесі енді адам ойына келмейтін әдістермен жұмыс істей бастады.

|Технология
Google фейктерді анықтайтын жаңа құралын таныстырды

Google фейктерді анықтайтын жаңа құралын таныстырды

Кессеңіз де, фильтр қоссаңыз да өшпейді: Жасанды интеллект жасаған видеоларды әшкерелейтін көзге көрінбейтін таңба қалай жұмыс істейді?

|Технология
LiveInternetZERO.kz