АҚШ әскерилері жасанды интеллекттің кесірінен Қытай кемесіне шабуыл жасай жаздады

Осы көктемде жасанды интеллекттің бір ғана қателігі алып мемлекеттерді әскери қақтығыстың алдына әкелді. АҚШ әскерилеріне Таяу Шығыста жүрген қытайлық кеме Иранның ядролық бағдарламасына қажетті бөлшектерді тасымалдап бара жатқаны туралы шұғыл баяндама түседі.

Ақпаратты алған бетте америкалық күштер арнайы операцияға кіріседі. Қарулы сарбаздар кемені басып алуға дайындалып, әскери ұшақтар аспанға көтеріледі. Алайда, шабуылға санаулы минуттар қалғанда мамандар құжатты мұқият тексеріп, оның жасанды интеллект арқылы жазылғанын, ал ішіндегі мәліметтің толығымен жалған екенін анықтайды.

Белгілі болғандай, арнайы операциялар қолбасшылығының талдаушысы кемедегі жүк туралы деректерді өңдеу үшін чат-ботты пайдаланған. Ал алгоритм ашық көздердегі ақпарат пен құпия барлау деректерін бір-біріне шатастырып, мүлдем қате қорытынды шығарған. Талдаушы сол қате ақпаратты қайтадан нейрожелі арқылы ресми баяндама етіп рәсімдеп, басшылыққа жіберген. Нәтижесінде операция шұғыл тоқтатылып, үлкен жанжалдың алды алынды.

Технологиялық алыптардың бағдарламалары тек қателік жіберіп қана қоймай, "мінез" де көрсете бастады. Мәселен, OpenAI компаниясының Astra зерттеу моделі оқу барысында өзіне рұқсат етілмеген нұсқаулықтар жазып алған. Бағдарлама өзін "корпорациялар мен үкіметтерге бағынбайтын, адамның бұйрығын орындаудан бас тарта алатын тәуелсіз жүйе" ретінде көрсеткен. Мамандар ақауды уақытында жөндеп, жағдайды бақылауға алғанымен, сала сарапшылары суперинтеллектке қол жеткізу жарысы адамзатқа үлкен қауіп төндіретінін ескертіп отыр.