Sun'iy intellekt va robototexnika etikasi

Xulq-atvorni manipulyatsiya qilish

Kuzatuvdagi sun'iy intellektning axloqiy muammolari shunchaki ma'lumot to'plash va diqqat yo'nalishi doirasidan tashqariga chiqadi : Ular foydalanishni o'z ichiga oladiavtonom oqilona tanlovga putur etkazadigan tarzda, onlayn va oflayn rejimda xatti-harakatlarni boshqarish uchun ma'lumot. Albatta, xatti-harakatlarni manipulyatsiya qilish bo'yicha harakatlar qadimiy, ammo ular SI tizimlaridan foydalanganda yangi sifatga ega bo'lishi mumkin. Foydalanuvchilarning ma'lumotlar tizimlari bilan intensiv o'zaro munosabati va shaxslar to'g'risida chuqur bilimlarni hisobga olgan holda, ular "tirnoqlar", manipulyatsiya va aldashga moyil. Oldindan etarli ma'lumotlarga ega bo'lgan holda, algoritmlar ushbu shaxslarga ta'sir qilishi mumkin bo'lgan ma'lumotlarga ega bo'lgan shaxslarni yoki kichik guruhlarni nishonga olish uchun ishlatilishi mumkin. "Nudge" atrof-muhitni shunday o'zgartiradi, chunki u xatti-harakatlarga shaxs uchun ijobiy, ammo oldini olish oson va arzon bo'lgan taxminiy tarzda ta'sir qiladi (Thaler & Sunstein 2008). Bu erdan paternalizm va manipulyatsiyaga siljish bor.

Ko'pgina reklama beruvchilar, sotuvchilar va onlayn sotuvchilar daromadni maksimal darajaga ko'tarish uchun har qanday qonuniy vositalardan foydalanadilar, shu jumladan xatti-harakatlar tarafkashliklaridan foydalanish, aldash va giyohvandlik avlodi (Kosta va Halpern 2019 [OIR]). Bunday manipulyatsiya qimor o'yinlari va o'yin sohalarining aksariyat qismida biznes modelidir, ammo u arzon aviakompaniyalarga tarqalmoqda. Veb-sahifalarda yoki o'yinlarda interfeyslarni loyihalashda ushbu manipulyatsiya "qorong'u naqshlar" deb nomlanadi (Mathur va boshq. 2019). Ayni paytda, qimor o'ynash va o'ziga qaram bo'lgan moddalarni sotish juda tartibga solingan, ammo onlayn manipulyatsiya va giyohvandlik yo'q - garchi onlayn xatti-harakatlar manipulyatsiyasi Internetning asosiy biznes modeliga aylansa ham.

Bundan tashqari, ijtimoiy media hozirda siyosiy targ'ibot uchun eng yaxshi joy. Ushbu ta'sir Facebook-Cambridge Analytica "mojarosi" (Woolley and Howard 2017; Bradshaw, Neudert, and Howard 2019) kabi ovoz berish xatti-harakatlarini boshqarish uchun ishlatilishi mumkin va agar bu muvaffaqiyatli bo'lsa - bu shaxslarning avtonomiyalariga zarar etkazishi mumkin (Susser, Roessler , va Nissenbaum 2019).

Yaxshilangan sun'iy intellektni "soxtalashtirish" texnologiyalari ilgari ishonchli dalil bo'lgan narsalarni ishonchsiz dalillarga aylantiradi - bu allaqachon raqamli fotosuratlar, ovozli yozuvlar va video bilan sodir bo'lgan. Tez orada istalgan tarkibga ega bo'lgan "chuqur soxta" matnlar, fotosuratlar va video materiallarni yaratish (o'zgartirish o'rniga) juda oson bo'ladi. Yaqinda odamlar bilan matnli, telefon yoki video orqali real vaqt rejimidagi murakkab o'zaro aloqalar ham soxtalashtiriladi. Shunday qilib, biz raqamli shovqinlarga ishonishimiz mumkin emas, shu bilan birga biz o'zaro aloqalarga tobora ko'proq bog'liqmiz.

Yana bir aniq masala shundaki, sun'iy intellektda mashinalarni o'rganish texnikasi juda ko'p ma'lumotlarga ega bo'lgan treninglarga tayanadi. Bu shuni anglatadiki, maxfiylik va ma'lumotlarga bo'lgan huquqlar va mahsulotning sifatiga nisbatan huquqlar o'rtasida ko'pincha kelishuv bo'ladi. Bu maxfiylikni buzadigan amaliyotlarni natijaviy baholashga ta'sir qiladi.

Ushbu sohada olib borilayotgan siyosatning ijobiy va salbiy tomonlari bor: fuqarolar erkinliklari va shaxs huquqlarini himoya qilish biznes lobbi, maxfiy xizmatlar va kuzatuvga bog'liq bo'lgan boshqa davlat idoralari tomonidan kuchli bosim ostida. Aloqa xatlar, analog telefon aloqalari va shaxsiy suhbatlarga asoslangan holda va kuzatuv muhim qonuniy cheklovlar ostida ishlaganda raqamli davrgacha bo'lgan davrda maxfiylikni himoya qilish juda kamaydi.

Evropa Ittifoqining Ma'lumotlarni muhofaza qilish to'g'risidagi umumiy reglamenti (Reglament (EU) 2016/679) maxfiylikni himoya qilishni kuchaytirgan bo'lsa-da, AQSh va Xitoy o'sishni kamroq tartibga solish bilan afzal ko'rishadi (Tompson va Bremmer 2018), ehtimol bu raqobatdosh ustunlikni beradi degan umidda. Ko'rinib turibdiki, davlat va biznes sub'ektlari SI texnologiyasi yordamida shaxsiy hayotga tajovuz qilish va odamlarni manipulyatsiya qilish qobiliyatini oshirdilar va o'zlarining shaxsiy manfaatlari yo'lida shunday qilishda davom etadilar - agar umumiy jamiyat manfaati uchun siyosat belgilanmasa.