Anthropic kompaniyasining AI Alignment Science yo‘nalishi rahbari Evan Hyubinger sun’iy intellektning uzoq muddatli xavflari haqida keskin ogohlantirdi.
U X ijtimoiy tarmog‘idagi postida SI kelgusi o‘n yil ichida butun insoniyatning yo‘q bo‘lib ketishiga olib kelishi ehtimolini 10% dan yuqori deb hisoblashini aytdi.
Hyubinger bu raqamni Anthropic kompaniyasining rasmiy prognozi emas, balki o‘zining shaxsiy bahosi sifatida bildirgan. U ayni paytdagi SI modellari insoniyat uchun katta xavf tug‘dirayotganini aytmagan.
Aksincha, uning ta’kidlashicha, hozirgi modellar xavfi past, asosiy xavotir esa kelajakda ancha kuchli — superintellekt darajasidagi tizimlar paydo bo‘lishi bilan bog‘liq.
U ayniqsa rekursiv o‘z-o‘zini takomillashtirish ssenariysidan xavotirda. Bunda SI tizimi o‘z imkoniyatlarini yaxshilashga yordam berib, yanada kuchli SI tizimlarini yaratishda ishtirok etishi mumkin.
Natijada texnologiyaning rivojlanish sur’ati insonlarning uni nazorat qilish va xavfsizligini ta’minlash imkoniyatlaridan tezlashib ketishi ehtimoli bor. Hubinger bunday jarayon kutilganidan tezroq rivojlanayotganini aytgan.
Muammo “alignment”, ya’ni kuchli SI tizimlarining inson manfaatlari, maqsadlari va xavfsizlik talablariga mos ishlashini ta’minlash bilan bog‘liq.
Uing fikricha, Anthropic bu muammoni hal qilish ustida ishlayotgan bo‘lsa-da, superintellektni inson nazoratida ushlab turish bo‘yicha hali aniq yechimga ega emas va kompaniya bunga erishish yo‘lida yetarlicha tez harakat qilayotganiga ishonch yo‘q.
Hyubingerning bayonoti Anthropic kompaniyasining yana bir tadqiqotchisi Jeykob Kokson kompaniyani tark etganidan keyin paydo bo‘ldi.
Kokson OpenAI va Anthropic kompaniyalarini o‘zini-o‘zi takomillashtiruvchi superintellekt yaratish poygasida yetarlicha ehtiyotkorlik qilmayotganlikda tanqid qilib, kompaniyalar “insoniyat hayoti bilan tavakkal qilayotganini” aytgan.
Hyubinger esa Coxonning fikriga javoban, Anthropic ichida ham SI insoniyat uchun ekzistensial xavf tug‘dirishi mumkinligiga jiddiy ishonadigan tadqiqotchilar borligini ochiq aytdi. Shu bilan birga, u Anthropic xavfsizlik masalasini jiddiy olayotganini ta’kidladi.
Avvalroq Spot sun’iy intellekt tufayli insoniyatning yo‘q bo‘lib ketish xavfi 95% deb baholanayotgani haqida yozgandi.
Google va Microsoft sobiq muhandisi Neyt Soaresning qayd etishicha, sun’iy intellekt hozirgi sur’atda rivojlanishda davom etsa, bunday yuqori ko‘rsatkich saqlanib qoladi.
