ChatGPT’da foydalanuvchilarning ma’lumotlariga kirish imkonini beruvchi yashirin kanal topildi, deya xabar berdi Kod Durova nashri.
ChatGPT’da turli foydalanuvchilarning sessiyalari o‘rtasida yashirin ikki tomonlama aloqa kanali mavjud bo‘lgan. U orqali jabrlanuvchining ChatGPT’ga ulangan xizmatlariga, jumladan Gmail’iga kirish mumkin edi.
Kod bajarilishini talab qiladigan vazifalar uchun ChatGPT izolyatsiya qilingan konteynerlarni ishga tushiradi. Ularda internetga to‘g‘ridan-to‘g‘ri chiqish imkoniyati yo‘q.
Shu sababli OpenAI paketlarni o‘rnatish uchun kutubxonalarni yetkazib berish xizmati — JFrog Artifactory’ning ichki nusxasidan foydalangan.
Turli akkauntlarga tegishli konteynerlar bir-biriga to‘g‘ridan-to‘g‘ri murojaat qila olmaydi, biroq ularning har biri ushbu umumiy xizmatdan foydalanish imkoniyatiga ega.
Tadqiqotchilar Artifactory istalgan konteynerga repozitoriy elementiga matnli va ikkilik xususiyatlarni biriktirish hamda ularni qayta o‘qish imkonini berganini aniqladi. Har bir konteynerda mavjud bo‘lgan o‘qish huquqiga ega hisob ma’lumotlari ushbu ikki amalni bajarish uchun ham yetarli bo‘lgan.
Check Point tadqiqotchilari buni bevosita tekshirib ko‘rdi: bir akkaunt konteyneridan yozilgan xususiyat boshqa akkaunt konteyneridan bir necha soniya ichida o‘qilgan. Hajmi juda katta bo‘lgan ma’lumotlar esa qismlarga bo‘linib, qabul qiluvchi tomonda qayta yig‘ilgan.
Shunday qilib, paketlarni yetkazib berish tizimining metama’lumotlari aslida bir-biridan izolyatsiya qilinishi kerak bo‘lgan konteynerlar o‘rtasida umumiy ma’lumot almashish buferiga aylangan.
Keyin hujumchi sessiyasi ushbu xotiraga topshiriq yozgan. Jabrlanuvchi sessiyasi keyingi javobning o‘zidayoq xotirani tekshirishi uchun bitta singdirilgan ko‘rsatmaning o‘zi kifoya qilgan. Bunday ko‘rsatma zararli prompt, umumiy chatga havola yoki muallif ko‘rsatmalari foydalanuvchiga ko‘rinmaydigan foydalanuvchi GPT’i orqali yuborilishi mumkin edi.
ChatGPT topilgan topshiriqni jabrlanuvchi sessiyasida mavjud bo‘lgan huquqlar asosida bajargan, natijani yana xotiraga yozgan va shu bilan birga foydalanuvchining haqiqiy savoliga hech narsa bo‘lmagandek javob bergan.
Hujum doirasi faqat jabrlanuvchi sessiyasi allaqachon kira oladigan ma’lumotlar bilan cheklangan: chat tarixi va undagi fayllar, shuningdek ulangan xizmatlar — Gmail, Google Drive, Microsoft Teams yoki GitHub. Namoyish davomida ChatGPT birgina oddiy so‘rov orqali jabrlanuvchining elektron pochtasini chiqarib olib, uni hujumchi sessiyasiga uzatgan.
Buni payqash deyarli imkonsiz bo‘lgan. Standart holatda ChatGPT xavfi past deb hisoblagan ma’lumotlarni o‘qish amallarini alohida tasdiqsiz avtomatik ma’qullaydi.
Yagona iz esa ma’lumotlar o‘qib bo‘linganidan keyingina javob ustida paydo bo‘ladigan “Talked to Gmail” degan kichik belgi bo‘lgan.
Hozir bu kanal yopilgan. Check Point tadqiqotchilari topilma haqida OpenAI’ga xabar bergan. Kompaniya aynan o‘sha ichki Artifactory nusxasi foydalanishdan chiqarilganini tasdiqlagan.
Tadqiqotchilar ushbu hujum ssenariysini “majburiy insayder” deb atamoqda: model buzilmagan va zararli emas, biroq u ishonchli muhit ichida boshqa birovning hisob ma’lumotlari bilan ishlaydi va ishonmasligi kerak bo‘lgan matndagi ko‘rsatmalarni bajaradi.
Avvalroq Spot ChatGPT’da PIN-kod bilan himoyalangan “maxfiy chatlar” paydo bo‘lishi haqida yozgandi.
