OpenAI kompaniyasi potensial xavfli kontentni aniqlash maqsadida ChatGPT’da xabarlarni avtomatik skanerlash tizimini ishga tushirganini e’lon qildi.
Yangi choralar qo‘rqinchli muloqotlarni maxsus moderatorlar jamoasiga topshirish, keskin vaziyatlarda esa to‘g‘ridan-to‘g‘ri huquq-tartibot idoralariga murojaat qilishni o‘z ichiga oladi.
Qaror sun’iy intellekt boti bilan o‘zaro aloqa foydalanuvchilarning o‘z-o‘ziga zarar yetkazishga urinishlari, vasvasa g‘oyalari va hatto o‘z joniga qasd qilishiga olib kelgan bir qator hodisalardan so‘ng paydo bo‘ldi.
Mutaxassislar bunday holatlarni “AI-psixozlar” — sun’iy intellekt ta’sirida odamlarning voqelik bilan aloqasini yo‘qotadigan holatlar deb atashadi.
Kompaniya rasmiy bayonotiga ko‘ra, algoritmlar endi uchinchi shaxslarga zarar yetkazish rejalarini kuzatib boradi. Shubhali suhbatlar tirik xodimlarga yetib boradi, ular keyingi harakatlar to‘g‘risida yakuniy qaror qabul qilishadi.
Agar moderatorlar shaxs jismoniy zo‘ravonlikka tayyorlanmoqda deb hisoblasa, ma’lumot politsiyaga yuboriladi. Bunday qoida amal qilishi mumkin bo‘lgan mamlakatlar ro‘yxati oshkor etilmagan.
Shu bilan birga, OpenAI ta’kidlayaptiki, maxfiylik nuqtayi nazaridan o‘z-o‘ziga zarar yetkazish holatlari hozircha hokimiyat organlariga ma’lum qilinmayapti.
Kompaniya chat-bot bilan shaxsiy suhbatlarning o‘ziga xos tabiatini tan oladi va inqirozda bo‘lgan odamlarga huquq-tartibot xodimlarining noxush tashriflarini keltirib chiqarmoqchi emas.
Yangi siyosat paradoks vaziyatni yuzaga keltirmoqda. Bir tomondan, OpenAI The New York Times bilan sud jarayonida foydalanuvchilar maxfiyligini himoya qilish to‘g‘risida gapirmoqda va mualliflik huquqi buzilganligini tekshirish uchun yozishmalar jurnalini taqdim etishdan bosh tortmoqda. Boshqa tomondan esa, kompaniyaning o‘zi xabarlarni o‘qimoqda va ularni uchinchi shaxslar bilan baham ko‘rishga tayyor turmoqda.
OpenAI bosh direktori Sem Altman ilgari ogohlantirganidek, ChatGPT bilan suhbatlar, jonli mutaxassislar bilan suhbatlardan farqli o‘laroq, shifokor siri yoki advokatlik etikasi bilan himoyalanmagan. Sud jarayoni tufayli kompaniya hatto foydalanuvchilarning terapevtik sessiyalarini ham oshkor qilishga majbur bo‘lishi mumkin.
Tanqidchilar OpenAI yondashuvining ziddiyatli ekanligini ta’kidlamoqdalar. Kompaniya xavfsiz texnologiyani yarata olmagani sababli, o‘zining maxfiylik va’dalariga zid bo‘lgan qattiq senzuradan foydalanmoqda.
Hozircha moderatorlarning tekshiruvini va keyinchalik politsiyaga qo‘ng‘iroq qilishni keltirib chiqarishi mumkin bo‘lgan aniq iboralar yoki mavzular noma’lumligicha qolmoqda.
Avvalroq Spot ChatGPT maslahatlari oqibatida AQShda erkak ruhiy kasalxonaga tushib qolgani haqida yozgandi.
Qayd etilishicha, ChatGPT unga bromid iste’mol qilishni maslahat bergan. Oqibatda erkak paranoyya va gallyutsinatsiya tashxisi bilan ruhiy kasalliklar shifoxonasiga yotqizilgan.
Shifokorlar ChatGPT’ni tekshirib, sun’iy intellekt xavf haqida ogohlantirishsiz bunday almashtirishni tavsiya qilishi mumkinligini tasdiqladilar. Bemor sog‘ayib, uch haftadan so‘ng shifoxonadan chiqarildi.
