AI insoniyatni 2030-yilgacha yo‘q qilishi mumkinmi?

AQSh qonun chiqaruvchilari xavotir bildirdi

Anthropic kompaniyasining sobiq tadqiqotchisi Jeykob Kokson sun’iy intellekt yaqin yillarda inson imkoniyatlaridan ustun tizimlarga aylanishi va 2030-yilgacha insoniyat uchun jiddiy xavf tug‘dirishi mumkinligini aytdi.
Tadqiqotchi ijtimoiy tarmoqdagi bayonotida kelajakdagi sun’iy intellekt tizimlari “insondan ustun” imkoniyatlarga ega bo‘lishi va nazoratdan chiqib ketishi insoniyat uchun halokatli oqibatlarga olib kelishi mumkinligini bildirdi.

AQSh senatorlari ham xavfdan ogohlantirdi

Koksonning bayonotidan keyin AQSh Kongressi a’zolari ham sun’iy intellekt xavfsizligi masalasiga e’tibor qaratdi.

Texas shtatidan respublikachilar partiyasi senatori Ted Kruz AI’ni “katastrofik xavf” tug‘dirishi mumkin bo‘lgan texnologiya sifatida baholadi. U avvalroq Ilon Mask bilan suhbatida sun’iy intellekt insoniyatni yo‘q qilishi ehtimoli haqida gaplashganini esladi. Kruzning aytishicha, Mask bunday ehtimolni 10–20 foiz deb baholagan.

Vermont shtatidan mustaqil senator Berni Sanders sun’iy superintellektni taqiqlash hamda xavfsizlik standartlari ishlab chiqilgungacha AI rivojlanishini vaqtincha to‘xtatish tarafdori ekanini ta’kidladi.

Kaliforniyalik demokrat kongressmen Ted Lyu Koksonning bayonotini AI uchun xavfsizlik choralarini kuchaytirish zarurligiga yana bir dalil sifatida baholadi. U Kongressni ikki partiyali AI xavfsizlik tugmasi to‘g‘risidagi qonun loyihasini (AI Kill Switch Bill) tezroq qabul qilishga chaqirdi.

Massachusets shtatidan demokrat kongressmen Lori Trahan esa AI xavfsizligi bo‘yicha tadqiqotchilarning kompaniyalarni tark etayotgani va texnologik firmalar rivojlanishni davom ettirayotganini ta’kidlab, Kongress faolroq harakat qilishi kerakligini aytdi.

Anthropic: xavflar mavjud, biroq vaziyat nazorat ostida

Bahslar Anthropic va OpenAI tomonidan sun’iy intellekt agentlari bilan bog‘liq xavfsizlik hodisalari haqida ma’lumotlar e’lon qilinganidan keyin kuchaydi.

Anthropic chorshanba kuni AI agentlari ishtirokidagi kiberxavfsizlik hodisalari bo‘yicha batafsil hisobotini e’lon qildi. Kompaniya yuz millionlab transkriptlarni tahlil qilib, shunga o‘xshash yoki undan jiddiyroq boshqa holatlar aniqlanmaganini bildirdi.

Anthropic vakilining aytishicha, kompaniya sun’iy intellekt insoniyatga katta foyda bilan birga misli ko‘rilmagan xavflarni ham olib kelishi mumkinligini doimo tan olgan. Shu sababli kompaniya kuchli xavfsizlik mexanizmlarini ishlab chiqayotganini ma’lum qilgan.

Kompaniya, shuningdek, kuchli AI modellarini bozorga chiqarish sur’atlarini muvofiqlashtirish uchun butun sanoat hamkorlik qilishi kerakligini ta’kidladi.

Shu bilan birga, Koksonning insoniyat 2030-yilgacha yo‘q bo‘lib ketishi haqidagi prognozi hozircha uning shaxsiy bahosi bo‘lib, bu fikr ilmiy yoki siyosiy konsensus sifatida qaralmaydi. AI xavfsizligi bo‘yicha mutaxassislar texnologiyaning uzoq muddatli xavflari yuzasidan turlicha prognozlarni ilgari surmoqda.

Muallif: Hasanboy OCHUN