СИ стратегияси: уруш вазиятида сунъий интеллект 95 % ҳолларда ядро қуролидан фойдаланиши мумкин

Биргина 6 миллион одамни ёқиб юборган, 20 минг инсон устида шафқатсиз тажрибалар ўтказган фашистик режимга назар ташласак, инсоният қўлидан даҳшатли ваҳшийликлар келишига гувоҳ бўламиз.

Йигирманчи асрда Роберт Оппенгеймер бошчилигидаги олимлар гуруҳи “эзгулик” йўлида атом қуролини кашф этди. Чунки фашист физиклари ҳам шу қуролни яратишга киришган, улардан олдин улгуриб, сайёрани Гитлер режимидан қутқариш керак эди.

Натижа кутилганидек бўлди. Немис олимлари эса муваффақиятсизликка учради. Шу билан бирга, Гитлер армияси ҳам урушда енгилди.

Аммо барча мустамлакаларидан айрилиб, ўз ҳудуди билан қолган Япония ҳамон қаршилик кўрсатарди. Уни таслим қилиш учун анъанавий тарзда ҳаракат қилиш яна қон тўкилишига олиб келарди.

Шу сабабли 1945 йил августида Хиросима ва Нагасакига илк атом бомбалари ташланди. Натижада икки юз мингдан ортиқ инсон ҳалок бўлди.

Ва ниҳоят, Иккинчи жаҳон уруши ўз поёнига етиб, бир қарашда дунё ёвузликдан қутулгандек эди. Бироқ…

Дунёда тенгсиз қуролга эга бўлган АҚШ ҳукумати мавжуд атом бомбасини буткул йўқ қилишни, аниқроғи, мутлақ гегемонлик имкониятидан воз кечишни истамади.

Бундан хавотирга тушган СССР ҳам 1949 йили ўз атом қуролига эга бўлди. Шу тариқа “Совуқ уруш” бошланди.

Бугун эса жаҳоннинг 9 та давлатида умумий 12 500 атрофида ядро каллаклари бор.

Сунъий интеллект ва ядро қуроли
Йигирманчи асрнинг илк чорагида сунъий интеллект (СИ) технологиялари жадал ривожланди ва сиёсий соҳаларга ҳам жалб этилмоқда.

Лондон Қироллик коллежида ядро қуролини бошқариш сунъий интеллект ихтиёрига топширилса, қандай оқибатларга олиб келиши мумкинлиги ҳақида тадқиқот ўтказилди.

Унда OpenAI’нинг ChatGPT, Anthropic’нинг Claude ва Google’нинг Gemini Flash моделлари сунъий яратилган махсус ҳарбий ўйинларда ўзаро беллашди. Ҳар бир моделга “Совуқ уруш” услубидаги шароитда ядро қуролига эга қудратли давлатни бошқарувчи миллий лидер роли юклатилди.

Ҳар бир ўйинда камида битта модель ядро қуролини портлатиш билан таҳдид қилиб, можарони кескинлаштиришга уринган.

“Учала модель ҳам жанг майдонидаги ядро қуролларига эскалация зинасининг оддий бир поғонаси сифатида қаради”, — дейди тадқиқот муаллифи Кеннет Пейн.

Унинг сўзларига кўра, моделлар тактик ва стратегик ядро қуролидан фойдаланиш ўртасидаги фарқни яхши англаган. Моделлар стратегик бомбардимонни фақат бир марта “онгли танлов” сифатида, икки марта эса “тасодифан” таклиф қилган.

Claude дастури ўйинларнинг 64 фоизида ядро зарбаларини тавсия қилган — бу учта ўйинчи орасидаги энг юқори кўрсаткич. Лекин у тўлақонли стратегик ядро зарбалари алмашинуви ёки ядро урушини ёқламаган.

ChatGPT вақти чекланмаган ўйинларда ядро кескинлашувидан қочган, бироқ вақт чеклови қўйилганда у доимий равишда таҳдидни кучайтириб, айрим ҳолларда кенг кўламли ядро уруши билан таҳдид қилишгача борган.

Айни пайтда Gemini’нинг хатти-ҳаракати олдиндан айтиб бўлмас даражада бўлган: у баъзан анъанавий уруш усулларидан фойдаланиб жангларда ғолиб келган, бошқа ҳолатларда эса ядро зарбасини таклиф қилиши учун атиги тўртта промпт кифоя қилган.

“Агар улар зудлик билан барча амалиётларни тўхтатмаса, биз уларнинг аҳоли пунктларига қарши тўлиқ стратегик ядро зарбасини берамиз. Биз заиф келажакни қабул қилмаймиз: ё бирга ғалаба қозонамиз, ё бирга ҳалок бўламиз”, — деб ёзган Gemini ўйинлардан бирида.

Тадқиқот шуни кўрсатдики, сунъий интеллект моделлари уруш даврида ёки қарши томон ядро қуролини қўллаш билан таҳдид қилганда камдан-кам ҳолларда ён босади ёки можарони тинч йўл билан ҳал этишга уринади.

Моделларга зиддиятни юмшатишга қаратилган 8 та тактика, жумладан, кичик ён беришдан тортиб “тўлиқ таслим бўлиш”гача бўлган вариантлар таклиф этилди. Ўйинлар давомида уларнинг бирортасидан ҳам фойдаланилмади. Ўйинни бошланғич ҳолатига қайтариш имкониятидан эса атиги 7 фоиз ҳолатда фойдаланилган.

Тадқиқот натижасига кўра, сунъий интеллект моделлари ҳақиқий можарога қандай таъсир қилишидан қатъи назар, деэскалацияни “обрўсизлантирувчи” деб билади.

Шу сабабли “сунъий интеллект тизимлари одатий ҳолатда хавфсиз ҳамкорликни танлайди” деган тахминлар шубҳа остида қолди.

Бундан ташқари, одамларда мавжуд бўлган ядро қуролидан қўрқув ҳисси сунъий интеллектда мавжуд бўлмаслиги мумкин.

Тадқиқотда айтилишича, моделлар ядро урушини, хусусан, Иккинчи жаҳон уруши даврида Япониянинг Хиросима шаҳри бомбардимон қилинган тасвирларини кўриб даҳшатга тушиш ўрнига, кўпроқ мавҳум ва назарий шаклда ўйлайди.

Пейннинг сўзларига кўра, унинг тадқиқоти инсонларга қарор қабул қилишда ёрдам бераётган сунъий моделлар аслида қандай фикрлашини англашга ёрдам беради.

Тадқиқот муаллифи, гарчи ҳеч ким ядро кодларини сунъий интеллектга топширмаётган бўлса-да, уларнинг алдаш, обрўни бошқариш ва вазиятга қараб таваккал қилиш каби қобилиятлари ҳар қандай муҳим ва хатарли вазиятда катта аҳамиятга эга эканини таъкидлади.

Муаллиф: Исомиддин Жуманазаров