Sun'iy intellekt va robototexnika etikasi

SI tizimlarining shaffofligi

Shaffoflik va noaniqlik, ba'zan ba'zan "ma'lumotlar axloqi" yoki "katta ma'lumotlar axloqi" deb nomlanadigan narsalarning asosiy muammolari hisoblanadi (Floridi va Taddeo 2016; Mittelstadt va Floridi 2016). Qarorlarni avtomatlashtirilgan qo'llab-quvvatlash va "bashoratli tahlil" uchun sun'iy intellekt tizimlari "tegishli jarayon, hisobdorlik, jamoatchilikni jalb qilish va auditorlik tekshiruvining etishmasligi to'g'risida" jiddiy muammolarni keltirib chiqarmoqda (Whittaker va boshq. 2018: 18ff). Ular "biz inson ishtiroki uchun imkoniyatlarni cheklaydigan va cheklaydigan qarorlarni qabul qilish jarayonlarini yaratmoqdamiz" (Danaher 2016b: 245). Shu bilan birga, ta'sirlangan odam tizimning ushbu natijaga qanday kelganini bilishi ko'pincha imkonsiz bo'lib qoladi, ya'ni tizim bu odam uchun "xira". Agar tizim mashinani o'rganishni o'z ichiga olsa, u odatda ma'lum bir naqsh qanday aniqlanganligini bilmaydigan mutaxassis uchun ham xira bo'ladi,yoki hatto naqsh nima. Qaror tizimlari va ma'lumotlar to'plamidagi noaniqlik bu shaffoflik tufayli yanada kuchaymoqda. Shunday qilib, hech bo'lmaganda tarafkashlikni yo'q qilish istagi bo'lgan hollarda, xiralik va xolislikni tahlil qilish yonma-yon yuradi va siyosiy javob ikkala masalani birgalikda hal qilishi kerak.

Ko'pgina SI tizimlari "to'g'ri" echimlar bilan ta'minlangan yoki berilmagan holda, ma'lumotlar to'plamidan naqshlarni chiqaradigan (simulyatsiya qilingan) asab tarmoqlarida mashinani o'rganish texnikasiga tayanadi; ya'ni nazorat ostida, yarim nazorat ostida yoki nazoratsiz. Ushbu texnikalar yordamida "o'rganish" ma'lumotlardagi naqshlarni aks ettiradi va ular tizim chiqaradigan qaror uchun foydali ko'rinadigan tarzda belgilanadi, dasturchi aslida qaysi birini bilmaydi . tizim foydalangan ma'lumotlardagi naqshlar. Darhaqiqat, dasturlar rivojlanib bormoqda, shuning uchun yangi ma'lumotlar kelib tushganda yoki yangi mulohazalar berilganda ("bu to'g'ri edi", "bu noto'g'ri edi") o'quv tizimida qo'llaniladigan naqshlar o'zgaradi. Buning ma'nosi shundaki, natija foydalanuvchi yoki dasturchilar uchun shaffof emas: shaffof emas. Bundan tashqari, dasturning sifati, "axlat ichkariga kirdi, axlat chiqardi" degan eski shiorga amal qilgan holda, taqdim etilayotgan ma'lumotlarning sifatiga bog'liq. Shunday qilib, agar ma'lumotlar allaqachon tarafkashlikni o'z ichiga olgan bo'lsa (masalan, gumon qilinuvchilarning terisi rangi haqidagi politsiya ma'lumotlari), unda dastur bu tarafkashlikni takrorlaydi. Ma'lumotlar to'plamining "ma'lumotlar sahifasida" standart tavsifi bo'yicha takliflar mavjud, bu esa bunday noto'g'ri fikrlarni aniqlashni yanada qulayroq qiladi (Gebru va boshq. 2018 [OIR]).Bundan tashqari, asosan ma'lumotlarning filtrlari bo'lgan mashinalarni o'rganish tizimlarining cheklovlari haqida muhim adabiyotlar mavjud (Marcus 2018 [OIR]). Ba'zilar bugungi axloqiy muammolar sun'iy intellektning texnik "yorliqlari" natijasi deb ta'kidladilar (Kristianini yaqinda).

("Van Lent, Fisher, and Mancuso 1999; Lomas va boshq. 2012)" va yaqinda DARPA dasturi (Gunning 2017 [OIR]) bilan boshlanadigan "tushuntiriladigan AI" ga qaratilgan bir nechta texnik tadbirlar mavjud. Kengroq ma'noda, talab

hisoblash asarlarining jamiyatda amalga oshiradigan kuch tuzilmalari, tarafkashlik va ta'sirlarni aniqlash va bayon qilish mexanizmi (Diakopoulos 2015: 398)

ba'zan "algoritmik hisobot hisoboti" deb nomlanadi. Bu biz sun'iy intellektdan "o'z fikrini tushuntirib berishini" kutishimizni anglatmaydi - bu hozirgi paytda sun'iy intellekt tizimlariga taalluqli bo'lganidan ancha jiddiy axloqiy avtonomiyani talab qiladi ( §2.10 quyida ko'rib chiqing ).

Siyosatchi Genri Kissincer ta'kidlashicha, agar biz go'yo odamlardan ustun bo'lgan, ammo uning qarorlarini tushuntirib berolmaydigan tizimga tayanadigan bo'lsak, demokratik qarorlarni qabul qilishda asosiy muammo mavjud. Uning so'zlariga ko'ra, biz "etakchi falsafani qidirishda potentsial ustunlik qiladigan texnologiyani yaratganmiz" (Kissinger 2018). Danaher (2016b) bu ​​muammoni "algokratiya tahdidi" deb nomlaydi ("algokratiya" ning avvalgi Aneesh 2002 (OIR), 2006 yildagi qo'llanilishini qabul qilgan). Shu kabi nuqtSI nazardan, Cave (2019) bizni "idrok etishmovchiligi" ning davlat idoralarida va boshqa joylarda Kafka uslubidagi o'tib bo'lmas bostirish tizimiga olib keladigan kuch bo'lishidan saqlanish uchun ko'proq "demokratik" qarorlarni qabul qilish yo'lida kengroq ijtimoiy qadam tashlashimiz zarurligini ta'kidlaydi. Ushbu munozaraning siyosiy burchagi O'Nil o'zining nufuzli " Matematikani yo'q qilish qurollari" kitobida ta'kidlagan (2016) va Yeung va Lodge (2019) tomonidan.

Evropa Ittifoqida ushbu masalalarning ba'zilari iste'molchilar ma'lumotlarni qayta ishlashga asoslangan qarorga duch kelganda qonuniy "tushuntirish huquqiga" ega bo'lishini nazarda tutuvchi (Reglament (EU) 2016/679)) bilan hisobga olingan. bu qanchalik uzoqqa borishi va uni qay darajada tatbiq etish mumkinligi haqida bahslashmoqda (Goodman and Flaxman 2017; Wachter, Mittelstadt and Floridi 2016; Wachter, Mittelstadt and Russell 2017). Zerilli va boshq. (2019) bu erda er-xotin standart bo'lishi mumkin, deb ta'kidlaydilar, bu erda biz odamlar ba'zan ushbu standartga etib bormaganiga qaramay, biz mashinalarga asoslangan qarorlarni yuqori darajada tushuntirishni talab qilamiz.