Ishonchni yo'qotish: ishonchlilik va harakat qilish uchun motivatsiya

Biror kishini ishonchli deb ta'kidlaganimizda, aslida nimani aytyapmiz? O'zingizga ishonchsizlik haqida nima deyish mumkin? Agar startap asoschisi hayotini o'zining startapiga yillar davomida biron bir muvaffaqiyat belgisiz o'tkazsa, bu uning muvaffaqiyat qozonish ehtimolini noto'g'ri tushunayotganligini anglatadimi? Agar kimdir hali ham go'shtni iste'mol qilsa, bu ularning zavod dehqonchiliklari yomon ekanligiga ishonmayotganligini anglatadimi? Biz minglab bolalar o'rniga bitta kasal bola haqidagi voqeani aytib berish orqali xayr-ehson so'rash eng samarali ekanligini bilamiz; ba'zi bir sabablarga ko'ra, odamlar soni o'sishi bilan kamroq hissiyotlarga berilishadi.

Ehtimol, ishonch g'oyasini ikkita alohida qismga bo'lish yaxshiroqdir:

  • Ishonch: Ushbu fikr to'g'ri yoki yo'qligini qanday ehtimollik bilan tayinlayman?
  • Harakat qilish motivi: Qandaydir chuqur intuitiv darajada, men ushbu g'oya bilan bog'liq bo'lgan maqsadga intilishga qanchalik majburman?

Bu erda g'oyani amalga oshirishga yordam beradigan bir nechta misollar keltirilgan:

Tovuq yeyish

Men shaxsan rozi bo'lamanki, fabrikada dehqonchilik axloqiy nuqtai nazardan juda yomon va eng katta ta'sir farqi, hech bo'lmaganda, juda ko'p azob-uqubatlar mavjud bo'lgan tovuqlarni ishlab chiqarishni to'xtatishdir. Shunga qaramay, men hali ham Chick-fil-A tovuq yong'oqlariga qarshi turolmayman va umuman tovuqni iste'mol qilaman. Siz mening ishonchim yuqori deb aytishingiz mumkin edi, ammo harakat qilishga undayman.

Konkorde

Concorde-ning rivojlanishi keng tarqalgan narxning namunasi sifatida qaraladi. Vikipediyadan:

Ushbu loyiha Britaniya hukumati tomonidan "tijorat falokati" sifatida qabul qilingan, ammo bu hech qachon boshlanmagan va deyarli bekor qilingan, ammo siyosiy va huquqiy muammolar oxir oqibatda ikkala hukumatni ham tashqariga chiqarmagan.

Angliya hukumati ularning Konkorde loyihasini amalga oshirishga bo'lgan ishonchiga mutanosib ravishda pastga qarab harakat qilish istagini to'g'irlamaganligi sababli, siz bu erdagi xarajatlarning pasayishini tavsiflashingiz mumkin. Ularning ishonchliligi past edi, lekin ularning harakatga undaydi.

LessWrong va MIRI

LessWrong - bu odamning xulq-atvori, qarorlar nazariyasi, etika, meta etikasi va nihoyat sun'iy intellekt mavzulariga bag'ishlangan Eliezer Yudkovskiyning "Sekanslar" turkumi tufayli ratsionalizm haqida munozaraga asoslangan jamoat. Seriallarning maqsadlaridan biri o'quvchilarni intuitiv his qilish qiyin bo'lgan haddan tashqari holatlarga qonuniy ravishda rioya qilinishi kerak bo'lgan fikrga ishontirish edi. Ushbu xulosalardan biri shundaki, agar biz o'zini qanday yaxshilashni o'rganadigan sun'iy intellektni rivojlantirsak, ushbu dasturlardan aql-idrokning eksponensial o'sishini kuzatishimiz mumkin. Gap shundaki, agar dasturning yordamchi funktsiyasi noto'g'ri bo'lsa, umumlashtirilgan AI insoniyatni yo'q qilishi mumkin. Undan keyin utilitar argument shundan iboratki, agar umumiy qorin bo'shlig'ida umumiy qorin sindromi ehtimolligi juda oz bo'lsa va uni qanday qilib xavfsiz qilish kerakligini oldindan bilib olishimiz mumkin bo'lsa ham, biz o'z mablag'imizni AI xavfsizligi bo'yicha tadqiqotlarimizga topshirishimiz kerak, chunki juda kichik ehtimoli bor. AI tufayli tugaydigan dunyo, hali ham ko'p xayriya ishlariga qaraganda ustuvor o'rinni egallashi kerak bo'lgan katta salbiy kutilgan qiymatgacha tarqaladi.

Ushbu inshoning barchasi qiziqarli va ahamiyatli bo'lganligi shundaki, siz LessWrongni uzoq vaqtdan beri amalga oshirilgan urinish sifatida ko'rib chiqishingiz mumkin, chunki bu bizning infeksiyaga qarshi kurashish uchun mablag 'sarflashga arziydi, shuning uchun harakat qilishga undaymiz.

Ichki motivatsiya

Ba'zi sabablarga ko'ra men shaxsan boshqa dasturlarning yaxshi yozilganligini tekshiradigan dastur ishlab chiqarishni yaxshi ko'raman. Aksariyat odamlar buni qiziqarli deb bilishmaydi, shuning uchun men bu haqda gapirganda odamlarni tasodifan xafa qilmasligim uchun tilimni tishlashim kerak. Xuddi shunday, mening do'stlarim bor, ular haqiqatan ham uy-joy siyosati va shahar dizayni bilan shug'ullanadi. Dam olish kunlarida qasddan qilingan harakatlar tufayli, men ushbu mavzularni qanchalik qiziqarli deb bilganimni bir oz yig'ib olishga muvaffaq bo'ldim, lekin bu mavzuni qandaydir qilish uchun mening ichimda bir xil uchqun yo'qligini his qilaman. O'yin-kulgi uchun o'qiyman. Tasavvur qilaman, ko'p odamlar bunday tajribalarni boshdan kechirmoqdalar: sizni shaxsiy narsalarga qiziqish uyg'otadigan shaxsiy savol-javoblar to'plami, shuningdek do'stingizning savol-javoblari uchun "men buni bilmayman" deb o'ylayman.

Men Devonning qulog'ini mutatsiya sinovi to'g'risida gaplasha olaman va u SB 827 haqida mening qulog'im bilan gaplasha oladi. Men Devonga mutatsiya sinovlari to'g'risida uning dasturiy ta'minotni tahlil qilishning ahamiyatsiz usuli ekanligiga ishonch hosil qilish uchun etarli darajada gaplashdim deb aytaman. Xuddi shu kabi, Devon janob hududidagi uy-joy siyosati to'g'risida menga gaplashish uchun etarli vaqtga ega bo'lib, menga o'zimizga qaraganda ko'proq uy-joy qurilishi kerakligiga ishonch hosil qildi. Shunday bo'lsa-da, agar Devon men kabi kulgili uchun mutatsion sinov vositalarini ishlab chiqarishga yuzlab soat sarflagan bo'lsa va men har kuni u kabi har kuni soatlab uy-joy siyosati haqida o'qiy boshlasam hayron bo'laman. Boshqacha aytganda, biz bir-birimizning ishonchimizni sezilarli darajada oshirdik, ammo harakatlarga bo'lgan intilishimiz nisbatan barqaror bo'lib qoldi.

Men Chick-fil-A ni iste'mol qilaman, garchi men fabrikadagi dehqonchilik yomon ekaniga aminman, chunki mening ishonchim va harakat qilish istagim o'rtasida kelishmovchilik mavjud. Aslida, ishonch shunchaki harakatga undaydigan narsa emasdek tuyuladi, shuning uchun men Devonning misollari bilan o'rtoqlashdim va bir-birimizga bizning obsesif manfaatlarimiz haqida gaplashdim. Ba'zan "Konkorde halokati" deb nomlanuvchi quyosh botishining buzilishi, bu ishonchning o'zgarishiga javoban harakat qilish uchun motivatsiyani sozlamaslik insonning mantiqiy nuqtai nazaridan tubdan buzilishdir. Shunga qaramay, boshqalarni ishontirish uchun bizning modelimiz shaklga o'xshaydi: siz AI xavfsizligi muhim ekanligiga amin bo'lishingiz kerak va shuning uchun siz MIRI-ga xayr-ehson qilish orqali o'zingizni his qilishingiz kerak.

Bu ikki tushuncha, aniqlik va harakatga undash aslida bir-biriga ta'sir qilish nuqtai nazaridan bog'liqmi? Biror narsa bo'lsa, menimcha, biz uni orqaga qaytarishimiz mumkin. Agar biz kimnidir xatti-harakatga undashni istasak, ularga haqiqat borligiga ishontirishga harakat qilamiz. Ehtimol, harakat qilish uchun motivatsiya haqiqatan ham muhim va odamlarni faollashtirishda ular o'zlarini tasdiqlash tarafdori orqali ishontirishadi. Agar biz o'zimiz qiziqtirgan ishni ilgari surmoqchi bo'lsak, ehtimol harakat qilishga undaydigan odamlarni qidirib topib, ularni ishontirishga harakat qilishimiz kerak. Agar biz ko'proq odamlar bayroq bayrog'ini ko'tarib olishlarini istasak, ehtimol axloqiy sabablarga ko'ra o'z xatti-harakatlarini o'zgartirishga undagan odamlarni topish va faqat ularni vegetarian bo'lishlariga ishontirishga intilish yaxshiroqdir.

Odamlarni nimaga undayotganini va bu g'oyaning to'g'ri ekanligi aniqlik bilan qanday bog'liqligini aniq bilmayman, ammo agar bizning maqsadimiz ularning xatti-harakatlariga ta'sir qilish bo'lsa, g'oyani to'g'ri odamlarga ishontirishga shubha bilan qarayman.