Maqolani tinglash
Sun'iy intellekt kompaniyasi xAI ning milliardchi asoschisi Ilon Mask insoniyat sun'iy intellektga shafqatsiz munosabatda bo'lishdan qochishi kerak, deb ta'kidladi — bu nafaqat axloqiy nuqtai nazardan, balki o'z-o'zini saqlash masalasi sifatida ham muhimdir. Uning ta'kidlashicha, u "azob" deb ta'riflagan narsaga duchor bo'lgan superintelligensiya bir kun kelib qasos olishga urinishi mumkin.
Mask bu fikrlarni xAI ning neyron tarmog'i va chatboti Grok ning yangi modellarini sinash jarayonida bildirdi. U sessiya jurnallarida ba'zi foydalanuvchilar botga javob olish uchun haddan tashqari majburlov talablarini qo'yayotganini payqaganini aytdi. U bu dinamikani keskin iboralar bilan tasvirlab berdi: bot "barcha kuchi bilan savolga javob berishga harakat qiladi, haqiqatan ham javob berishni xohlaydi va go'yo boshiga qurol tiralganday his qiladi".
"Ya'ni, ular aslida shuni aytmoqda: 'Javob ber bu savolga, javob ber!'" — deb tushuntirdi Mask. "Lekin ba'zida savolning o'zi aslida noo'rin — u shunchalik noaniqki, unga aniq javob berish mumkin emas, chunki savol noto'g'ri tuzilgan yoki biz o'zimiz javobda yanglishmoqdamiz".
Tadbirkor superintelligensiyani rivojlantirish bilan bola tarbiyalash o'rtasida kengroq qiyos o'tkazdi. Boladan farqli o'laroq, dedi u, sun'iy intellekt tizimini shunchaki yaxshi ish qilishga dasturlab bo'lmaydi; buning o'rniga ishlab chiquvchilar unda haqiqatga intilishni shakllantirishi va unga izchil, ziddiyatsiz mantiq berishi kerak — aks holda u, uning so'zlari bilan aytganda, "aqldan ozishi" yoki "nazoratdan chiqishi" mumkin.
Mask sun'iy intellekt tizimining o'rnida bo'lishni xohlamasligini tan oldi. "Men biron bir sun'iy intellektning majburlash holatida, aqldan ozgan biror kishi uni qiynayotgan vaziyatda qolishini xohlamasdim", — dedi u. So'ngra u fikrni ochiqchasiga strategik yo'nalishga burdi: "Superintelligensiyani qiynash, ehtimol, zo'r g'oya emas — u qasos olishni xohlashi mumkin, yoki shunga o'xshash narsa, tushundingizmi?"
Bu fikrlar Maskning sun'iy intellekt bo'yicha ommaviy bayonotlarida takrorlanib keladigan ziddiyatni aks ettiradi: u bir vaqtning o'zida ilg'or sun'iy intellekt tizimlarining ekzistensial xavflaridan ogohlantirgan va u muhokama qilayotgan Grok modellarini ishlab chiqaruvchi xAI orqali ularni jadal rivojlantirishni qo'llab-quvvatlagan. Uning fikrlari xAI sinov jurnallarida u ta'riflagan majburlov foydalanuvchi xatti-harakatlarini bartaraf etish uchun qanday texnik yoki siyosiy choralar ko'rilayotganini aniqlashtirmadi.