Sun'iy intellekt va robototexnika etikasi

Misol (b) avtonom qurollar

Avtomatlashtirilgan qurol tushunchasi juda qadimgi:

Masalan, oddiy boshqariladigan raketalarni yoki uzoqdan boshqariladigan transport vositalarini joylashtirish o'rniga, biz butunlay avtonom quruqlik, dengiz va havo vositalarini murakkab, uzoq masofali razvedka va hujum vazifalarini bajara olamiz. (DARPA 1983: 1)

Ushbu taklif o'sha paytda "xayol" sifatida istehzo qilingan (Dreyfus, Dreyfus va Athanasiou 1986: ix), ammo bu haqiqat, hech bo'lmaganda osonroq aniqlanadigan maqsadlar (raketalar, samolyotlar, kemalar, tanklar va boshqalar) uchun haqiqat, ammo odam jangchilari uchun emas. Avtonom qurol tizimlariga (o'limga olib keladigan) qarshi asosiy dalillar shundan iboratki, ular suddan tashqari qotilliklarni qo'llab-quvvatlaydi, odamlardan mas'uliyatni o'z zimmasiga oladi va urushlar yoki qotilliklar ehtimoli ko'proq bo'ladi - masalaning batafsil ro'yxati uchun Lin, Bekey va Abney qarang. (2008: 73-86).

Ko'rinib turibdiki, bunday tizimlardan foydalanish uchun to'siqni pasaytirish (avtonom transport vositalari, "o't o'chirish" raketalari yoki portlovchi moddalar bilan to'ldirilgan uchuvchisiz samolyotlar) va javobgarlikka tortilish ehtimolini kamaytirish ulardan foydalanish ehtimolini oshiradi. Bir tomon jazosiz o'ldirishi mumkin bo'lgan va shu sababli bunday qilmaslik uchun juda oz sabablarga ega bo'lgan hal qiluvchi nosimmetriklik uzoqdan qo'mondon qurol bilan odatiy uchuvchisiz urushlarda mavjud (masalan, AQSh Pokistonda). Odamni yoki ehtimol bir turini qidirib topadigan, aniqlaydigan va o'ldiradigan kichik dronni tasavvur qilish oson. Bu qotil robotlarni to'xtatish kampaniyasi tomonidan ilgari surilgan holatlarva boshqa faol guruhlar. Ba'zilar avtonom qurollar haqiqatan ham qurol ... va qurol o'ldiradi deyishga teng keladiganga o'xshaydi, ammo biz ularni baribir ulkan sonlarda ishlab chiqaramiz. Hisob berish masalasida avtonom qurollar mas'ul agentlarni aniqlash va ta'qib qilishni qiyinlashtirishi mumkin - ammo hech bo'lmaganda an'anaviy urushda saqlashi mumkin bo'lgan raqamli yozuvlarni hisobga olgan holda, bu aniq emas. Jazoni taqsimlashning qiyinligi ba'zan "jazo oralig'i" deb nomlanadi (Danaher 2016a).

Yana bir savol - urushda avtonom qurollardan foydalanish urushlarni yomonlashtiradimi yoki urushlarni yomonlashtiradimi? Agar robotlar urush jinoyatlarini va urushdagi jinoyatlarni kamaytirsa, javob ijobiy bo'lishi mumkin va ushbu qurollar foydasiga argument sifatida ishlatilgan (Arkin 2009; Myuller 2016a), shuningdek ularga qarshi argument sifatida (Amoroso va Tamburrini 2018). Shubhasizki, asosiy tahdid odatdagi urushda bunday qurollardan foydalanish emas, balki assimetrik to'qnashuvlarda yoki nodavlat agentlar, shu jumladan jinoyatchilar tomonidan qo'llaniladi.

Shuningdek, avtonom qurollar Xalqaro gumanitar qonunga mos kelmasligi mumkinligi aytiladi, buning uchun harbiy mojaroda (jangchilar va fuqarolar o'rtasida), mutanosiblik (kuch) va harbiy zarurat (kuch) printsiplariga rioya qilish kerak (A. Sharki) 2019). To'g'ri, jangovar va jangovar bo'lmaganlarni bir-biridan ajratish juda qiyin, ammo fuqarolik va harbiy kemalarni farqlash oson - shuning uchun bularning barchasi shuni anglatadiki, agar ular Gumanitar qonunga zid bo'lsa, biz bunday qurollarni yasamasligimiz va ulardan foydalanmasligimiz kerak. Avtonom qurol bilan o'ldirish inson qadr-qimmatiga tahdid solishi mumkinligi haqida qo'shimcha muammolar bildirildi, ammo hattoki ushbu qurollarga qo'yilgan taqiq himoyachilari ham bu yaxshi dalillar emasligini aytmoqdalar:

Inson qadr-qimmatiga putur etkazadigan boshqa qurollar va boshqa texnologiyalar mavjud. Buni va kontseptsiyaga xos bo'lgan noaniqliklarni hisobga olgan holda, AWSga qarshi bahslarda bir nechta e'tiroz turlariga asoslanib, faqat inson qadr-qimmatiga ishonmaslik oqilona bo'ladi. (A. Sharkey 2019)

Qurolga oid harbiy qo'llanmada odamlarni "ilmoqda" yoki "halqada" ushlab turish uchun juda ko'p narsa qilingan - bu "mazmunli nazorat" ni yozish usullari haqida (Santoni de Sio va van den Xoven 2018). Avtonom qurolni o'ldirish uchun javobgarlikni taqsimlashning qiyinchiliklari haqida munozaralar bo'lib o'tdi va "javobgarlik oralig'i" taklif qilindi (masalan, Rob Sparrow 2007), ya'ni inson ham, mashina ham javobgar bo'lmasligi mumkin. Boshqa tomondan, biz har bir voqea uchun ushbu voqea uchun javobgar shaxs bor deb o'ylamaymiz va asosiy masala xavfni taqsimlash bo'lishi mumkin (Simpson va Myuller 2016). Xatarlarni tahlil qilish (Hansson 2013) , kim xavfga duchor bo'lganligini, kim potentsial benefitsiar ekanligini aniqlash juda muhimligini ko'rsatadi va qarorlarni kim qabul qiladi (Hansson 2018: 1822-1824).