Оған тірі қалудың қажеті жоқ. Оның ортаға қатысты уайымы жоқ.

Жасанды интеллект бүгінде тек есеп шығаратын немесе мәтін құрастыратын технология емес. Ол адаммен пікірлеседі, сұраққа жауап береді, эмоцияны таниды, кейде тіпті ойланатын тіршілік иесі секілді әсер қалдырады. Бірақ басты сұрақ сол күйі ашық тұр: машина шынымен түсіне ме, әлде тек түсінгендей бола ма?

Ғылымды танымал етуші Алексей Семихатов пен ми зерттеушісі, медицина ғылымдарының докторы, профессор Константин Анохин арасындағы әңгіме осы мәселенің ең нәзік тұсына үңіледі. Бұл — жасанды интеллекттің техникалық мүмкіндігі туралы ғана емес, адамның өзін тануы туралы да сұхбат. Өйткені «машинада сана пайда бола ма?» деген сұрақтың ар жағында «адам санасы деген не?» деген одан да терең мәселе тұр.

«Жасанды интеллект — бәрібір интеллект пе?»

Сұхбат басында Алексей Семихатов қазіргі технологиялық серпілістің философиялық салмағын дәл қояды. Оның айтуынша, адамзат алғаш рет өзінен бөлек, бірақ өзіне өте ұқсас жүйемен бетпе-бет келді.

«Жасанды интеллект — бұл бәрібір интеллект пе? Жасанды нейрондық желілерде сана болуы мүмкін бе?» — дейді журналист.

Бұл сұрақ сырттай қарағанда қарапайым көрінуі мүмкін. Бірақ ол қазіргі ғылымның, технологияның және этиканың ең күрделі түйіндерінің біріне айналды. Себебі бүгінгі үлкен тілдік модельдер кез келген тақырыпта сөйлесе алады, күрделі сұрақтарға жауап береді, мәтін жазады, талдайды, пікір білдіреді. Кейде адаммен сөйлесіп отырғандай әсер қалдырады.

Алайда Семихатов бір маңызды күмәнді де алға тартады: егер біз машинамен сөйлесіп, оның машина екенін байқамай қалсақ, бұл оның ішінде «біреу бар» дегенді білдіре ме?

Сана дегеніміз — тек ойлау емес

Константин Анохин бұл сұраққа бірден нақты жауап бермейді. Өйткені, оның айтуынша, алдымен сананың өзін дұрыс түсініп алу керек.

Ғалым сананы адамның дамыған тілімен, мәдениетімен немесе күрделі логикалық ойлауымен ғана шектеуге болмайтынын айтады. Қазіргі ғылымда сана туралы түсінік кеңейіп келеді. Бұрын сана көбіне адамға ғана тән құбылыс ретінде қарастырылса, қазір жануарлардағы сана белгілері де белсенді зерттеліп жатыр.

«Қазір сана туралы айтқанда жоғары дамыған сана және базалық сана ажыратылады», — дейді Анохин.

Оның түсіндіруінше, базалық сана — бұл бір нәрсені сезіну қабілеті. Яғни ауырсыну, қорқыныш, қалау, сағыныш, қоршаған ортаны субъективті қабылдау. Ғалым бұл тұста Декарттың әйгілі «Мен ойлаймын, демек, өмір сүремін» қағидасын еске салады. Бірақ «ойлау» дегенді тек рационалды пайымдау деп түсінбеу керек екенін айтады.

«Сана — бір нәрсені сезіну қабілеті. Яғни “бұл тіршілік иесі болу қандай?” деген ішкі тәжірибе», — дейді ол.

Осы жерде әңгіме жасанды интеллекттен бұрын тірі табиғатқа ауысады. Балық ауырсынуды сезе ме? Шаян қайнаған суға түскенде қинала ма? Жаңа туған нәрестеде тілге дейінгі сана бар ма? Иттің, құстың, сегізаяқтың ішкі тәжірибесі қандай?

Бұл сұрақтардың бәрі бір мәселеге келіп тіреледі: сананы сырттан қалай танимыз?

«Біз олардан сұрай алмаймыз»

Журналист Семихатов осы тұста мәселенің ең қиын жағын атап өтеді: жануардан да, нәрестеден де, болашақ жасанды жүйеден де тікелей сұрап біле алмаймыз.

Анохиннің жауабы бойынша, сұрау — жалғыз әдіс емес. Сананы жүйенің ішкі процестеріне, оның қоршаған ортамен байланысына, мінез-құлық және жүйкелік белгілеріне қарап тануға болады.

Мысалы, жаңа туған нәрестені алайық. Ол сөйлей алмайды, өз сезімін сипаттап бере алмайды. Бірақ біз оның санасыз екенін айтпаймыз. Себебі оның биологиялық жүйесі ересек адамның жүйесіне ұқсас. Біз өзіміздегі сананы соған қарай экстраполяциялаймыз.

Ғалым осы жерде тарихтағы ауыр мысалды келтіреді: 1980-жылдардың басына дейін АҚШ-та кейбір жағдайда жаңа туған нәрестелерге наркозсыз операция жасалған. Себебі олар ауырсынуды толық сезбейді деген қате түсінік болған.

Бұл мысал сананы тану мәселесінің тек ғылыми емес, этикалық салдары да бар екенін көрсетеді.

Машина сөйлейді. Бірақ оның ішінде «біреу» бар ма?

Сұхбаттың ең өткір бөлігі жасанды интеллектке келгенде басталады. Семихатов: егер сана эволюциялық ортада, тірі қалу қажеттілігінен пайда болса, онда жасанды интеллект саналы бола алмайды емес пе деген күмән айтады.

«Оған тірі қалудың қажеті жоқ. Оның ортаға қатысты уайымы жоқ. Бұл мүлде басқа нәрсе», — дейді журналист.

Анохин бұл күмәнді жоққа шығармайды. Бірақ жасанды интеллекттің адамға ұқсас сөйлей алуы өз алдына бөлек құбылыс екенін ескертеді.

«Біз онымен сөйлесіп, оның машина екенін байқамай қалуымыз — ішінде “біреу бар” дегенді білдірмейді», — дейді ғалым.

Бұл — сұхбаттың негізгі тұжырымдарының бірі. Жасанды интеллект жауап бере алады, диалог жүргізе алады, эмоцияны сипаттай алады. Бірақ бұл оның сол эмоцияны сезінетінін дәлелдемейді.

Басқаша айтқанда, машина «мен қорқып тұрмын» деп жаза алады. Бірақ ол шынымен қорқа ма? Машина «мен сені түсінемін» дей алады. Бірақ ол шынымен түсіне ме?

Терең желілердегі күтпеген қабілеттер

Сонымен бірге Анохин жасанды нейрондық желілердің адамды таңғалдырған тұстарын жоққа шығармайды. Керісінше, қазіргі жасанды интеллекттің ішкі құрылымында ғылым үшін өте маңызды белгілер бар екенін айтады.

Ғалым 2000-жылдардың басында жүргізілген зерттеулерді еске алады. Сол кезде нейрожелі негізіндегі роботтар кеңістікте қозғалуды үйренген. Кейін олардың жасанды «миында» жануарлар мен адамдар миындағы «орын нейрондарына» ұқсас құрылымдар пайда болған.

Бұл ерекше құбылыс еді: жүйеге нақты осындай нейрон жаса деп ешкім бұйрық бермеген. Ол оқыту барысында өздігінен пайда болған.

Кейін үлкен тілдік модельдерде де ұқсас құбылыстар байқалды. Мысалы, мәтіннің эмоционалдық реңкін танитын «сентимент нейроны» анықталған. Ол жағымды және жағымсыз мәтіндерге әртүрлі жауап берген.

«Мұның бәріне оларды арнайы үйретпеген», — дейді Анохин.

Бұл жерде журналист Семихатов өте маңызды қорытындыға жақындайды: бәлкім, біз сана белгілері деп жүрген кейбір қасиеттер тек биологиялық эволюцияның нәтижесі ғана емес, күрделі ақпараттық жүйелерде пайда болатын жалпы заңдылық шығар?

«Суық эмердженция»: біледі, бірақ сезбейді

Анохин бұл сұраққа сақтықпен жауап береді. Оның айтуынша, күрделі жүйелерде күтпеген қасиеттер пайда болуы мүмкін. Мұндай құбылыс ғылымда эмердженция деп аталады. Яғни жүйенің жеке бөліктерінен тікелей шықпайтын, бірақ жалпы күрделілік артқанда пайда болатын жаңа сапа.

Бірақ ғалым қазіргі жасанды интеллектте сананың бар екеніне сенбейді.

«Мен қазіргі жасанды жүйелерде сана бар деп есептемеймін», — дейді ол.

Сонымен бірге ол болашақта мұндай мүмкіндікті толық жоққа шығармайды. Бірақ қазіргі жағдайда байқалып отырған құбылысты «суық эмердженция» деп сипаттайды.

Бұл ұғымның мәні мынада: жасанды жүйе көп нәрсені тануы, эмоцияны ажыратуы, адамша жауап беруі мүмкін. Бірақ оның ішінде сол эмоцияны сезінетін субъект жоқ.

«Ол көп нәрсеге еліктей алады, бірақ ештеңе сезбейді. Ол — зомби», — дейді Анохин.

Семихатов бұл ойды «суық эмердженция — зомбидің сыпайы атауы сияқты» деп түйіндейді.

Егер машинада сана пайда болса, оны өшіруге бола ма?

Сұхбаттың ең мазасыз тұсы — болашаққа қатысты этикалық сұрақ. Егер бір күні жасанды жүйенің ішінде шынымен «біреу» пайда болса ше? Егер ол сезінсе, қаласа, қорықса, ауырсынса, онда адамзат оған қалай қарауы керек?

Анохин бұл бағытқа аса сақтықпен қарайды.

«Егер жасанды жүйенің ішінде шынымен біреу бар болса, онда оны жай ғана розеткадан суырып тастай алмайсыз», — дейді ғалым.

Бұл сөйлем жасанды интеллект туралы пікірталастың техникалық шеңберден әлдеқайда кең екенін көрсетеді. Саналы машина пайда болса, ол құрал болудан қалады. Онда құқық, жауапкершілік, азап, еркіндік, өшіру, пайдалану сияқты бұрын тек тірі жаратылысқа қатысты айтылған мәселелер технология әлеміне көшеді.

Ғалым мұндай жағдайда адамзат шешімі өте қиын этикалық дағдарысқа тап болуы мүмкін екенін айтады.

Жасанды интеллект адам миын түсінуге көмектесе ме?

Әңгіме соңында Семихатов сұрақты басқа қырынан қояды: жасанды интеллектті зерттеу адам миын түсінуге көмектесе ала ма?

Анохиннің айтуынша, бұрын нейробиологтар жасанды жүйелерді түсіну үшін ми туралы білімді қолдануға тырысқан. Енді кері бағыт та маңызды бола бастады: жасанды нейрондық желілердің ішін зерттеу арқылы адам миының жұмысын жақсырақ түсінуге болады.

Қазіргі зерттеулер нейрондық желілер ішінде белгілер мен мағыналардың белгілі бір кеңістігі қалыптасатынын көрсетіп отыр. Кейбір қасиеттер бір аймақта, басқалары басқа аймақта топтасады. Бұл құрылымдар мидың ұйымдасуын еске салады.

Бірақ ең басты айырмашылық әлі де сақталып отыр.

«Оларға әзірге қалау жетіспейді», — дейді Анохин.

Бұл — мақаланың да, сұхбаттың да негізгі түйіні. Жасанды интеллект білуі мүмкін. Талдауы мүмкін. Сөйлесуі мүмкін. Тіпті адамнан ақылды көрінуі де мүмкін. Бірақ қалау, сезіну, ішкі тәжірибе, «мен» деген субъективті орталық болмаса, оны сана деп атау қиын.

Түйін

Жасанды интеллект туралы бүгінгі пікірталас тек технология туралы емес. Ол адам туралы. Біз машинаның саналы болу мүмкіндігін зерттей отырып, өз санамыздың табиғатын түсінуге тырысамыз.

Қазіргі жасанды интеллект адамға ұқсап сөйлейді, бірақ адам сияқты сезіне ме — белгісіз. Ол эмоцияны таниды, бірақ эмоцияны бастан кешіре ме — дәлелденбеген. Ол жауап береді, бірақ жауаптың ішкі мағынасын сезіне ме — ашық сұрақ.

Сондықтан бүгінгі ғылымның ең маңызды шекарасы мына жерде тұр: ақылды имитация мен шынайы сананың арасы қайда аяқталады?

Ал бұл сұраққа жауап табу — тек инженерлердің емес, нейробиологтардың, философтардың, журналистердің және бүкіл қоғамның ортақ міндеті.