Адамдарға қарсы жасанды интеллект негізіндегі прокси дискриминациясы AI этикасы үшін қорқынышты, ол өздігінен жүретін AI көліктері жағдайында да орын алуы мүмкін.

Қазіргі заманғы жасанды интеллект (AI) әрекеттері аясында прокси дискриминациясын талқылайық.

Заттардың AI жағына ену үшін алдымен кемсітушіліктің жалпы аспектілері туралы сахнаны белгілеуіміз керек, содан кейін AI осы күрделі және кейде жасырын мәселеге батып кетудің таңқаларлық жолдарын қарастыруымыз керек. Мен сондай-ақ AI негізіндегі прокси дискриминациясының мысалдарын ұсынамын, оның ішінде бұл өздігінен жүретін автомобильдер сияқты AI қосылған автономды көліктер жағдайында да орын алуы мүмкін.

Бастайық.

Кемсітушіліктің сөздік анықтамасы, әдетте, бұл адамдарға нәсіл, жыныс, жас және т.б. сияқты қабылданатын категориялар негізінде басқаша қарайтын әділетсіз сипаттағы әрекет екенін көрсетеді (мұндай критерийлер көбінесе қорғалатын сыныптардан тұрады деп сипатталады). Кемсітудің түрі деп аталады тура кемсітушілік кемсітушіліктің негізі ретінде нәсілді немесе жынысты салыстырмалы түрде анық атап көрсету (олар бірінші факторлар ретінде түсіндіріледі) сияқты осы санаттардың біріне ашық түрде кіруді талап етеді. Бұл кемсітушіліктің ең ашық түрі шығар.

Тағы бір азырақ жүзеге асырылатын мүмкіндік - пайдалану жанама кемсітушілік. Сіз бұл кемсітушіліктің күрделі түрі деп ұсына аласыз, себебі ол жойылған қадам болып саналады және оны шығару қиын болуы мүмкін. Жанама кемсітушілік бір немесе бірнеше қадам жойылған санаттауды таңдау түрін қамтиды. Бұл сондай-ақ әдетте прокси дискриминация ретінде белгіленеді, себебі негізгі және қосылатын бірінші фактор үшін прокси немесе стенд ретінде қызмет ететін делдал фактор бар.

Жанама немесе прокси кемсітушілік туралы дерексіз болып көрінетін идеяны түсіндіруге көмектесу үшін біз қарапайым мысалды қарастыра аламыз.

Біреу үй несиесін сұрап жатыр. Өтінішті қарап жатқан несие агенті несиеден бас тарту туралы шешім қабылдады және оны өтініш берушінің нәсіліне қарай жасады делік. Бұл тікелей кемсітушіліктің мысалы деп айтуға болады. Бірақ оның орнына несие агенті өтініш берушінің пошталық индексін қолданды және осы факторға негізделген несиеден бас тартуды таңдады делік. Бір қарағанда, пошталық индекс әдетте кемсітушілік немесе қорғалған сынып деп саналатын факторлардың бірі емес сияқты көрінеді. Осылайша, несие агенті кемсітушілікке негізделген шешімнен аулақ болған сияқты.

Мәселе пошталық индекстің шын мәнінде басқа нәрсенің, нақты қорғалған санаттың немесе сыныптың проксиі болуы мүмкін. Мүмкін, бұл нақты пошта индексі негізінен белгілі бір нәсілден немесе этникалық топтан тұрады және жанама немесе прокси кемсітушілік қолданылуда. Жалпы мысалдың бұл түрін қызыл сызу сөз тіркесі арқылы білуге ​​болады.

Көрдіңіз бе, бұл жағдайда пошта индексінен тұратын фактор мен нәсілдің кемсітушілік факторы арасында байланыс бар сияқты. Пошта индексі бұл жағдайда кінәсіз немесе бейтарап фактор болып көрінеді. Пошта индексі көпшілігімізге өте зиянсыз зат сияқты болып көрінеді және ешқандай дабыл қоңырауын соқпайды.

Статистика бойынша курстан өткен күндеріңізде әртүрлі факторлардың арасында пайда болуы мүмкін статистикалық корреляция бар екенін еске түсіруіңіз мүмкін, тіпті сізді бір-бірімен логикалық корреляция деп санамайтын факторлар. Пошта индексі мен нәсіл арасында айқын корреляция болуы мүмкін. Осылайша, пошталық индексті таңдау бір қарағанда жақсы болып көрінеді, бірақ мұқият тексергенде, бұл шын мәнінде кемсітушілікпен қорғалған нәсілдік класс үшін стенд немесе прокси болып табылады.

Зерттеу жұмысында мұндай корреляция ұғымы және прокси дискриминациясының пайда болуы былай сипатталған: «Кемсітуге қорғалатын сыныпты тікелей пайдалану қажет емес; сынып мүшелері тіпті шешімге қатыспайды. Қорғалған сынып пен басқа атрибуттар арасындағы корреляцияға байланысты дискриминация да болуы мүмкін. Әртүрлі әсер етудің заңдық базасы мұндай жағдайларды алдымен қорғалатын сынып үшін нәтижелердің қалай болғанына қарамастан айтарлықтай әртүрлі нәтижелерді талап ету арқылы қарастырады. Өтініш берушінің мекен-жайын пайдалануға байланысты несиелік шешімдер мен нәсіл арасындағы байланыс, оның өзі нәсілмен байланысты, кемсітушіліктің осы түрінің мысалы болып табылады» (қағазда көрсетілгендей). Деректерге негізделген жүйелердегі прокси дискриминациясы: машинада оқыту бағдарламаларымен теория және эксперименттер, Анупам Датта, Мэтт Фредриксон, Гихюк Ко, Пиотр Мардзиэл және Шаяк Сен).

Енді бізде прокси дискриминациясының негіздері кестеде қойылғандықтан, біз AI прокси дискриминациясының есептеу арқылы көрсетілетін нұсқасын қалай ендіруге болатыны туралы аспектілерді енгізе аламыз.

Мен кейбір футуристік жасанды интеллектке емес, бүгінгі AI-ға назар аударғым келеді (бұл басқа әңгіме, мен оны қарастырдым). сілтеме осында). Қазіргі уақытта AI қандай да бір жолмен ақылға қонымды және адамның білімі мен пайымдауын бейнелейді деп жариялайтын көптеген жарқыраған тақырыптарға қарамастан, бұл асыра айтылған AI гиперболасы таза қоқыс екенін ескеріңіз, өйткені біз бүгінгі таңда алгоритм шешімдерін қабылдауда (ADM) сандарды бұзуға сенеміз. AI жүйелері қабылдағандай.

Тіпті мақтанған Machine Learning (ML) және Deep Learning (DL) есептеу үлгісін сәйкестендіруден тұрады, яғни сандар әлі де ML/DL-ді жоғары деңгейде пайдаланудың негізі болып табылады. Жасанды интеллект сезімталдыққа жету мүмкіндігін білмейміз. Болуы мүмкін, болмауы мүмкін. Мұның қалай пайда болатынын ешкім нақты айта алмайды. Кейбіреулер сананың бір түрі өздігінен пайда болатындай есептеуіш AI күш-жігерімізді біртіндеп жақсартамыз деп сенеді. Басқалары AI есептеудің бір түріне еніп, сезімталдыққа өздігінен жетуі мүмкін деп ойлайды (әдетте сингулярлық деп аталады). AI болашағы туралы осы теориялар туралы қосымша ақпаратты мына жерден қараңыз сілтеме осында.

Ендеше, өзімізді мазақтап, қазіргі AI адамдар сияқты ойлай алады деп жалған сенбейік. Біз AI-де адамның ойлауы неден тұрады деп санайтын нәрсені еліктеуге тырысамыз. Осы уақытқа дейін біз ақылға қонымды және адам ойының басқа да іргетастарын ендіруге болатын AI ойлап табудың қиын элементтерін аша алмадық.

Жасанды интеллекттің соңғы дәуірі басталған кезде кейбіреулер қазір деп атайтын нәрсеге үлкен ынта-ықылас тудырғанын білетін шығарсыз. Жақсылыққа арналған AI. Өкініштісі, сол бір толқудың етегінде біз де куә бола бастадық AI for Bad. Мысалы, жасанды интеллект негізіндегі бет-әлпетті тану жүйелерінің құрамында нәсілдік көзқарастар мен гендерлік көзқарастар бар екені анықталды. сілтеме осында.

Қарсы күресу әрекеттері AI for Bad белсенді жүргізілуде. Дауыстаудан басқа заңды заңсыздықты тежеуге ұмтылу, сонымен қатар AI зұлымдықты түзету үшін AI этикасын қабылдауға айтарлықтай итермелеу бар. Түсінік мынада: біз AI-ны дамыту және өрістету үшін негізгі этикалық AI принциптерін қабылдауымыз және мақұлдауымыз керек. AI for Bad және бір мезгілде артықшылықты жариялау және насихаттау Жақсылыққа арналған AI.

Менің AI этикасы және этикалық AI туралы кең ақпаратымды мына жерден табуға болады мына сілтеме және мына сілтеме, бірнеше ғана атауға болады.

Жасанды интеллект адамдар жасайтын жағымсыз көзқарастар мен теңсіздіктерді қалай сіңіре алатыны сізді таң қалдыруы мүмкін. Біз AI-ны толығымен бейтарап, бейтарап, адамдарда болуы мүмкін эмоционалды ауытқуы мен жаман ойлары жоқ машина деп санаймыз. Жасанды интеллекттік интеллекттің қиғаштық пен теңсіздікке ұшырауының ең көп тараған құралдарының бірі адамдардың шешім қабылдауы туралы жиналған деректерге сүйену нәтижесінде ішінара Machine Learning және Deep Learning пайдалану кезінде орын алады.

Бір сәтке кеңірек тоқталуға рұқсат етіңіз.

ML/DL – есептеу үлгісін сәйкестендірудің бір түрі. Әдеттегі тәсіл - шешім қабылдау тапсырмасы туралы деректерді жинау. Сіз деректерді ML/DL компьютер үлгілеріне бересіз. Бұл модельдер математикалық заңдылықтарды табуға тырысады. Осындай үлгілерді тапқаннан кейін, егер табылса, AI жүйесі жаңа деректерге тап болған кезде сол үлгілерді пайдаланады. Жаңа деректер ұсынылғаннан кейін ағымдағы шешімді қабылдау үшін «ескі» немесе тарихи деректерге негізделген үлгілер қолданылады.

Менің ойымша, сіз бұл қайда бара жатқанын болжай аласыз. Шешімдердің үлгісін қабылдаған адамдар теріс көзқарастарды біріктірсе, деректер мұны нәзік, бірақ маңызды жолдармен көрсетеді. Machine Learning немесе Deep Learning есептеу үлгісінің сәйкестігі деректерді сәйкесінше математикалық имитациялауға тырысады. Жасанды интеллект модельдеудің жалпы мағынасы немесе басқа сезімтал аспектілері жоқ.

Сонымен қатар, AI әзірлеушілері не болып жатқанын түсінбеуі мүмкін. ML/DL-дегі жасырын математика қазір жасырын көзқарастарды анықтауды қиындатуы мүмкін. Сіз AI әзірлеушілері ықтимал жерленген бейімділіктерді тексереді деп үміттенесіз және күтесіз, бірақ бұл көрінгеннен де қиынырақ. Салыстырмалы түрде ауқымды тестілеу кезінде де ML/DL үлгілерін сәйкестендіру үлгілерінде әлі де ендірілген қиғаштықтардың болатынына сенімді мүмкіндік бар.

Сіз белгілі немесе әйгілі «қоқыс ішіндегі қоқыс шығару» деген нақыл сөзді пайдалана аласыз. Мәселе мынада, бұл АИ-ге батып кеткен бейтараптар ретінде жасырын түрде пайда болатын қиғаштыққа көбірек ұқсайды. Алгоритм шешімдерін қабылдау немесе AI-ның ADM аксиоматикалық түрде теңсіздіктерге толы болады.

Жақсы емес.

Тікелей кемсітуді, сонымен қатар жасырын жанама немесе прокси дискриминациясын қамтитын AI жүйелері жасалуда. Жоғарыда сілтеме жасалған зерттеу жұмысында айтылғандай: «Алайда, машинаны оқыту жүйелері көптеген тарихи немесе институционалдық бейімділіктері бар нақты әлемнен алынған бақылау деректері негізінде жасалған. Нәтижесінде олар деректерге тән біржақтылық пен кемсітушілік тәжірибелерді мұра етеді. Мұндай жүйелерді қабылдау әділетсіз нәтижелерге және біржақты көзқарастардың сақталуына әкеледі. Мысалдар өте көп: нәсіл қылмыстың қайталануын болжаумен байланысты; көрсетілетін жұмысқа қатысты жарнамаларға әсер ететін жыныс; көрсетілетін іздеу жарнамаларына әсер ететін жарыс; Ауқатты аудандардағы шұңқырларды жөндеуге бағытталған Boston Street Bump қолданбасы; Amazon-ның сол күні жеткізілімі қара аудандарда қолжетімді емес; және Facebook «этникалық тиістілікке» негізделген «ақ» немесе «қара» фильм трейлерін көрсетеді. Әртүрлі кемсітушіліктерге заңмен тыйым салынған».

Егер бізде AI болса, ол тек ендіруге ғана қатысты болды тура кемсітушілік проблемалары, бізде мұндай есептеу ауруларын жою үшін күресу мүмкіндігі жоғары болуы мүмкін. Өкінішке орай, әлем оңай емес. Бүгінгі AI проксиді немесе жанама кемсітушілікті тудыруы мүмкін болмаса, дәл солай болуы мүмкін. Бұл қайғылы бет сценарийі. Прокси-дискриминацияның негізін құрайтын тереңірек есептеулер қиын болуы мүмкін.

Федералдық Сауда Комиссиясының (FTC) Комиссары айтқандай: «Алгоритмдік жүйелер прокси-дискриминациямен айналысқанда, олар заңмен қорғалатын сипатты қолдау үшін бір немесе бірнеше бейтарап айнымалыларды пайдаланады, бұл көбінесе әртүрлі қарауға немесе әр түрлі әсерге әкеледі. белгілі бір экономикалық, әлеуметтік және азаматтық мүмкіндіктер үшін қорғалатын таптар. Басқаша айтқанда, бұл алгоритмдер қорғалған сыныпты жақын көрсететін топтар құру үшін бейтарап болып көрінетін сипаттамаларды анықтайды және бұл «проксилер» қосу немесе алып тастау үшін пайдаланылады» («Алгоритмдер және экономикалық әділеттілік: зиян таксономиясы және «Федералдық сауда комиссиясына жол алға» мақаласында жарияланған Йель заң және технология журналы, Комиссар Ребекка Келли Слейтер, 2021 жылдың тамызы).

Есте сақтау керек аспект: AI прокси дискриминациясын қолдануда жалғыз емес. Сондай-ақ, прокси дискриминациясы жаңадан пайда болған жаңалық емес. Бізде прокси дискриминациясы ұзақ уақыт бойы болды, әрине, AI пайда болғанға дейін. FTC Комиссары дәл осындай маңызды түсінігін қайталады: «Сенім білдірілген кемсітушілік - жаңа мәселе емес - кемсітушілік нәтижелерін тудыратын бейтарап факторларды пайдалану қоғам мен азаматтық құқық туралы заңдар ондаған жылдар бойы күресіп келе жатқан нәрсе» (тағы да Йель заң және технология журналы).

AI әзірлеушілері прокси дискриминациясын болдырмау үшін өздерінің AI жүйелерін әдейі жасайды ма?

Сіз AI күш-жігерін байқаусызда прокси дискриминациясына сүйенетіндерге және әдейі жасайтындарға бөлуге болады. Менің болжауымша, AI құрастырушыларының көпшілігі кездейсоқ немесе кездейсоқ әрекеттер арқылы прокси дискриминациясының есептеу тұнбасына түседі. Бұл олардың істеп жатқанын ақтау емес. Олар әлі де өздері ойлап тапқан AI үшін жауапты және жай ғана қолдарын бұлғап, не болып жатқанын білмедік деп жариялай алмайды. Бұл олардың иығында, олардың жасанды интеллектімен мұндай кемсітушілікке жол бермейтініне көз жеткізу. Сонымен қатар, прокси дискриминациясымен AI-ны қасақана және әдейі құрастырғандар жауапкершілікке тартылып, тиісінше жауапқа тартылуы керек.

Мен сіздің басыңызды айналдыруы мүмкін бұрылыс қосқым келеді.

Кейбіреулер AI-ны ойлап тапқан сайын, прокси дискриминациясын тудыратын AI-ның көбірек даналарының куәгері болу ықтималдығы бар деп айтады. Неліктен бұлай болады деп таң қалуыңыз мүмкін. Үміт пен арман - AI-дағы жетістіктер прокси дискриминациясының дұрыс емес суларына түсуден туындайтын есептеу қорқынышының мүмкіндігін азайтады.

Бұл зерттеуде қызықты бұрыш анықталған Айова заңына шолу: «Оның орнына, AI мақсатты айнымалыны болжау үшін қандай сипаттамаларды қолдануға болатынын өздігінен табу үшін оқу деректерін пайдаланады. Бұл процесс себеп-салдарлық байланысты толығымен елемейді, бірақ бұл сипаттамалар туралы деректер заңды тыйымдарға байланысты АИ-ге қол жетімді болмаған кезде, АИ-нің сөзсіз тікелей болжамды сипаттамалар үшін проксилерді «іздеуіне» әкеледі. Тікелей болжамды айнымалылар үшін АИ-нің ең интуитивті прокси-серверлеріне қол жеткізуден бас тарту бұл процеске кедергі келтірмейді; оның орнына бұл жай ғана интуитивті прокси-серверлерге сүйенетін AI-ны модельдерді шығаруға мәжбүр етеді. Осылайша, осы баптың негізгі дәлелі AI одан да ақылды бола бастаған сайын және үлкен деректер одан да үлкен болған сайын, прокси дискриминациясы тікелей болжау белгілеріне негізделген кемсітуге тыйым салуға тырысатын кемсітушілікке қарсы режимдер үшін барған сайын іргелі сынақ болады» (мақалада айтылғандай). құқығы бар Жасанды интеллект және үлкен деректер дәуіріндегі прокси дискриминациясы, Аня Принс пен Даниэль Шварц).

Осы қорқынышты болжамның логикасын анықтауға тырысайық.

AI әзірлеушілері өздерінің Machine Learning және Deep Learning үлгілеріне прокси-дискриминацияға ұмтылуға жол бермеу керек екенін түсінді делік (олар тікелей кемсітушілікті іздеп жүр деп үміттенеміз). Жарайды, сондықтан AI құрастырушылары қорғалған факторларға есептеудің кедергісін болдырмау үшін қолдан келгеннің бәрін жасайды. Бірақ бұл прокси-серверлердің кез келген бір-екі қадамдық түрлерін шектеу сияқты біршама айқын негізде жасалды деп есептейік.

Есептеу модельдері деректерге тереңірек енеді және прокси дискриминациясының үш немесе он қадамдық жойылған байланысын табады. AI әзірлеушілері екі қадамды олардың ML/DL жүйесінің бөлігі емес ретінде көрсетуге болатынына қуанышты сияқты. Сонымен қатар, олар үш немесе он қадамдық немесе басқа да жасырындық деңгейлері математикалық түрде ашылғанын түсінбеуі мүмкін. Есіңізде болсын, AI сезімтал емес және ол мұны ойлауға тырыспайды. Біз әлі де санасыз және сандар мен есептеулерге негізделген AI-ға сілтеме жасаймыз.

Иә, AI «ілгерілеп» келе жатқаны, бірақ біз мұңайған жағдайға бара жатқан сияқтымыз деген алаңдатарлық факт өте ашуландырады және мүмкін ашуландырады. Бір жағынан, біз прокси дискриминациясының алдын алу туралы хабардарлыққа көбірек көңіл бөлетініне қуаныштымыз, бірақ мәселе жай ғана жойылмайды. Жасанды интеллект негізіндегі прокси дискриминациясын болдырмау әрекеттері кемсітушілікті есептеу жаңалықтарын адамдар ашудан немесе анықтаудан тереңірек және тереңдетуі мүмкін.

Бұл адамның құмға батып кеткені туралы бұрынғы мультфильмдерді еске түсіреді. Олар жан-жаққа ұрысқан сайын, жағдай нашарлайды. Былайша айтқанда, адам құмға қарсы табанды күресу арқылы өзінің өліміне себеп болады. Бұл, әрине, ирониялық, өйткені сіз әдетте бір нәрсемен күресу сіздің қашып кетуіңізге немесе босатуыңызға әкеледі деп күтесіз.

Міндетті емес.

Сарапшылар сізге құмға түсіп қалсаңыз, сіздің ақылға қонымды нұсқаңыз қиын жағдайдан шығуға тырысу және демалу болатындығын айтады. Сіз құмның жоғарғы жағында жүзуге тырысуыңыз керек, мүмкін артқа еңкейіп, аяғыңызды басыңызмен бір деңгейде ұстауыңыз керек. Жабайы ұрып-соғу қажет емес және сіздің қашу мүмкіндігіңізді азайтатыны сөзсіз. Ең жақсы мүмкіндік - сіз жүзуге немесе жеңіл жүзіп шығуға тырысуыңыз немесе кем дегенде, құмдағы позицияға жетуіңіз керек, ол арқылы сіз бұтаққа немесе басқа бір нәрсеге жете аласыз, содан кейін өзіңізді одан әрі тартып аласыз.

Біз прокси дискриминациясының AI енуімен күресу үшін осындай кеңесті пайдалана аламыз ба?

Сияқты.

Біріншіден, прокси дискриминациясының орын алуы мүмкін екенін білу AI жүйелерін әзірлейтін және енгізетіндер үшін негізгі элемент болып табылады. Барлық мүдделі тараптар бұл туралы ойлауы керек. Жасанды интеллект жобаларын қадағалайтын басшылық мұның басында болуы керек, өйткені бұл қиын жағдайдың бір бөлігі болып табылатын «AI кодерлері» ғана емес. Сондай-ақ біз реттеушілердің де салмақтылығын көретін шығармыз, мысалы, кемсітушілік тәжірибелері бар AI-ны сынау және қысқарту немесе кем дегенде ұстау үшін жаңа заңдар қабылдау. т.б.

Сәйкесінше Айова заңына шолу зерттеу барысында біз ML/DL үшін пайдаланылатын деректерді көрсету міндетін жүктейтін AI заңдары мен ережелеріне ие болуға ұмтылуымыз мүмкін: «Мәселен, әсер ететін кемсітуге қарсы режимдер болжамды АИ қолданатын фирмаларға мәліметтерді жинауға мүмкіндік беруі мүмкін және мүмкін талап етуі мүмкін. жеке тұлғалардың заңмен қорғалатын сыныптарға ықтимал мүшелігі. Кейбір жағдайларда бұл деректер реттеушілермен бөлісілуі және/немесе жиынтық түрінде көпшілікке ашылуы керек. Мұндай деректер фирмаларға, реттеушілерге, сотталушыларға және басқаларға қандай да бір нақты AI шын мәнінде прокси дискриминациясымен айналысатынын тексеру үшін қажет» (Аня Принс пен Даниэль Шварцтың мақаласы бойынша).

Басқа мүмкіндіктерге Machine Learning және Deep Learning үлгісін жасау кезінде әртүрлі деректерді және деректер көздерінің кеңірек жинағын пайдалану кіреді. Тағы бір нәрсе, AI әзірлеушілерінен AI жүйесінде прокси дискриминациясын қолданбайтынын көрсету талап етілуі мүмкін. Мұны математикалық түрде көрсетуге немесе дәлелдеуге тырысу, кем дегенде, прокси дискриминациясының болмауы немесе болмауы өте қиын болады.

Осыған байланысты мен AI-ны AI қиындықтарын шешудің бір бөлігі ретінде қолдануға тырысамын, осылайша ойлау әдісімен отпен отпен күресемін. Мысалы, біз этикалық AI құрамдастарын AI жүйесіне ендіруіміз мүмкін, ол AI-ның қалған бөліктерінің қалай жұмыс істеп жатқанын бақылайды және осылайша нақты уақытта кез келген кемсітушілік әрекеттерді ұстай алады, менің талқылауымды қараңыз. сілтеме осында. Сондай-ақ бізде AI этикасы мониторының түрі ретінде әрекет ететін жеке AI жүйесі болуы мүмкін. AI жүйесі басқа AI прокси-дискриминация тұңғиығына түскен кезде бақылау және анықтау үшін бақылаушы ретінде қызмет етеді (мұндай мүмкіндіктер туралы менің талдауымды мына жерден қараңыз: сілтеме осында).

Осы талқылаудың дәл осы тұсында мен сізге AI негізіндегі прокси дискриминациясының жұмбағын көрсететін кейбір қосымша мысалдарды алғыңыз келетініне сенімдімін.

Сіз сұрағаныңызға қуаныштымын.

Менің жүрегіме жақын болатын ерекше және танымал мысалдар жиынтығы бар. Көрдіңіз бе, менің AI бойынша сарапшы ретінде этикалық және құқықтық салдарларды қоса алғанда, тақырыптың біршама теориялық сипатын оңай түсіну үшін AI этикасының дилеммаларын көрсететін нақты мысалдарды анықтауды жиі сұрайды. Бұл этикалық AI екіұштылығын айқын көрсететін ең қызықты бағыттардың бірі - AI негізіндегі өзін-өзі басқаратын автомобильдердің пайда болуы. Бұл тақырып бойынша кең талқылау үшін ыңғайлы пайдалану жағдайы немесе үлгі ретінде қызмет етеді.

Олай болса, ойлануға тұрарлық маңызды сұрақ: AI негізіндегі нағыз өзін-өзі басқаратын көліктердің пайда болуы AI негізіндегі прокси дискриминация туралы ештеңені жарықтандырады ма, егер солай болса, бұл нені көрсетеді?

Маған сұрақты ашуға бір сәт рұқсат етіңіз.

Біріншіден, нағыз өзін-өзі басқаратын көлікте адам жүргізуші жоқ екенін ескеріңіз. Нағыз өзін-өзі басқаратын көліктер AI жүргізу жүйесі арқылы басқарылатынын есте сақтаңыз. Рульде адам жүргізушінің де қажеті жоқ, көлікті адам басқаратын жағдай да жоқ. Автономды көліктер (АВ) және әсіресе өзін-өзі басқаратын көліктер туралы кең және үздіксіз ақпарат алу үшін қараңыз. сілтеме осында.

Мен нағыз өздігінен жүретін көліктерге сілтеме жасағанда нені білдіретінін қосымша түсіндіргім келеді.

Өздігінен басқарылатын автомобильдердің деңгейлерін түсіну

Түсіндірме ретінде, шын мәнінде өздігінен басқарылатын автомобильдер - бұл ИИ автокөлікті толығымен өздігінен басқаратын және көлік жүргізу кезінде ешқандай көмек болмайтын машиналар.

Бұл жүргізушісіз көліктер 4-деңгей және 5-деңгей болып саналады (менің түсіндірмені қараңыз мына сілтеме), ал адам жүргізушінің жүргізу күш-жігерін бірге бөлісуін талап ететін көлік әдетте 2 немесе 3-деңгейде қарастырылады. Жүргізу міндетін бірге орындайтын көліктер жартылай автономды болып сипатталады және әдетте әр түрлі ADAS (Driver-Assistance Advanced Systems) деп аталатын автоматтандырылған қондырмалар.

5 деңгейдегі өзін-өзі басқаратын нақты көлік әлі жоқ, оған жетуге болатын-болмайтынын және оған жету қанша уақытты білмейміз.

Сонымен қатар, 4-деңгейдегі күш-жігер бірте-бірте өте тар және таңдамалы қоғамдық жол сынақтарынан өту арқылы біраз тартуға тырысады, дегенмен бұл сынаққа рұқсат беру керек пе деген пікірталас бар (біз бәріміз экспериментте өмір немесе өлім-жітім теңіз шошқаларымыз) Біздің магистральдарда және айналма жолдарда орын алуда, кейбіреулер даулайды, менің хабарымды мына жерден қараңыз мына сілтеме).

Жартылай автокөліктер адам жүргізушісін қажет ететіндіктен, бұл көлік түрлерін қабылдау әдеттегі көліктерді басқарудан айтарлықтай ерекшеленбейді, сондықтан бұл тақырыпта олар туралы көп жаңалық таба алмайсыз (дегенмен, сіз көресіз Бір сәтте келесі ойлар жалпыға бірдей қолданылады).

Жартылай автокөліктер үшін көпшіліктің соңғы уақытта пайда болатын алаңдатарлық аспект туралы алдын-ала ескертуі маңызды, атап айтқанда 2-деңгей немесе 3-деңгейлі автокөліктің дөңгелегінде ұйықтап жатқандығы туралы бейнежазбаларын жазып жүрген адамдарға қарамастан. , жартылай автономды автокөлік жүргізу кезінде жүргізуші олардың назарын басқару тапсырмасынан алуы мүмкін деп сендіруден аулақ болуымыз керек.

Автоматизацияның 2 немесе 3 деңгейге өтуіне қарамастан, сіз көлік құралын басқаруға жауаптысыз.

Өздігінен жүретін көліктер және AI негізіндегі прокси дискриминациясы

4 және 5-деңгейдегі өздігінен жүретін көліктер үшін жүргізуші рөлінде адам жүргізушісі болмайды.

Барлық жолаушылар жолаушылар болады.

AI жүргізуді жүргізуде.

Тез арада талқылаудың бір аспектісі бүгінгі жасанды интеллект жүргізуші жүйелеріне қатысатын жасанды интеллекттің сезімтал болмауына алып келеді. Басқаша айтқанда, жасанды интеллект - бұл компьютерлік бағдарламалау мен алгоритмдердің жиынтығы, сондықтан адамдар ойлап тапқан тәртіппен ой қорыта алмайды.

Неліктен бұл интеллектке қосымша назар аударылмайды?

Мен жасанды интеллектті қозғау жүйесінің рөлін талқылағанда мен жасанды интеллектке адами қасиеттерді жатқызбайтынымды атап өткім келеді. Бүгінгі күні жасанды интеллект антропоморфизациясының тұрақты және қауіпті тенденциясы бар екенін ескеріңіз. Шын мәнінде, адамдар мұндай жасанды интеллект әлі жоқ екендігі туралы даусыз және талассыз фактілерге қарамастан, бүгінгі жасанды интеллектке адам тәрізді сезімді тағайындайды.

Осы нақтылау арқылы сіз AI жүргізу жүйесі қандай да бір түрде жүргізудің қырлары туралы «білмейді» деп ойлауға болады. Жүргізу және оған қатысты барлық нәрселер өзін-өзі басқаратын машинаның аппараттық және бағдарламалық жасақтамасының бөлігі ретінде бағдарламалануы керек.

Осы тақырып бойынша ойнауға келетін көптеген аспектілерге сүңгейік.

Біріншіден, AI өздігінен жүретін көліктердің барлығы бірдей емес екенін түсіну маңызды. Әрбір автоөндіруші және өзін-өзі басқаратын технологиялық фирма өзін-өзі басқаратын көліктерді ойлап табуда. Осылайша, AI жүргізу жүйелері не істейтіні немесе жасамайтыны туралы нақты мәлімдеме жасау қиын.

Сонымен қатар, AI басқару жүйесі белгілі бір нәрсені жасамайтынын айтқан кезде, оны кейінірек компьютерді дәл осылай жасауға бағдарламалайтын әзірлеушілер басып озуы мүмкін. Бірте -бірте AI басқару жүйелері біртіндеп жетілдіріліп, кеңейтілуде. Бүгінде бар шектеулер болашақта жүйенің қайталануында немесе нұсқасында болмауы мүмкін.

Мен айтқым келетін нәрсені түсіндіру үшін жеткілікті ескертулер жиынтығын беретініне сенемін.

Біз қазір өздігінен басқарылатын көліктерге және AI негізіндегі прокси дискриминациясын зерттеуді талап ететін этикалық AI мүмкіндіктеріне терең бойлауға дайынбыз.

Сіздің маңайыңыздағы көшелерде AI негізіндегі өзін-өзі басқаратын көлік жүріп жатқанын елестетіп көріңіз және қауіпсіз жүріп жатқан сияқты. Алдымен сіз өздігінен жүретін көлікті көрген сайын ерекше назар аудардыңыз. Автономды көлік бейнекамералар, радар қондырғылары, LIDAR құрылғылары және т.б. кіретін электронды сенсорлардың сөресімен ерекшеленді. Өздігінен басқарылатын көлік бірнеше апта бойы сіздің қауымдастықтың айналасында жүргеннен кейін, сіз оны әрең байқайсыз. Сіздің ойыңызша, бұл онсыз да бос емес қоғамдық жолдардағы басқа көлік.

Өзін-өзі басқаратын көліктерді көру мүмкін емес немесе мүмкін емес деп ойламас үшін, мен өздігінен жүретін көліктерді сынау аясындағы жергілікті жерлер бірте-бірте шыршалы көліктерді көруге қалай үйренгені туралы жиі жаздым. менің талдауымды қараңыз мына сілтеме. Ақырында жергілікті тұрғындардың көпшілігі өздігінен жүретін көліктердің куәсі болу үшін аузын ашқан ашуланшақтықтан қазір кең көлемді есінеу сезіміне ауысты.

Автономды көліктерді дәл қазір байқайтын басты себеп - тітіркену мен ашулану факторы. Кітаптағы AI жүргізу жүйелері көліктердің барлық жылдамдық шектеулері мен жол ережелеріне бағынатынына көз жеткізеді. Дәстүрлі адам басқаратын көліктеріндегі тынымсыз көлік жүргізушілері үшін сіз заңға қатаң бағынатын AI негізіндегі өздігінен жүретін көліктердің артында тұрып қалған кезде ашуланасыз.

Бұл дұрыс немесе бұрыс болса да, бәріміз үйренуіміз керек нәрсе.

Ертегімізге оралу.

Әйтпесе зиянсыз және жалпы қабылданған AI негізіндегі өзін-өзі басқаратын көліктерге қатысты екі жағымсыз алаңдаушылық туа бастайды, атап айтқанда:

а. Жасанды интеллект роумингте жүрген жерде аттракциондарды алуға арналған өздігінен жүретін көліктер алаңдаушылық тудырды.

б. АИ-нің жүру құқығы жоқ жаяу жүргіншілерге қалай қарайтыны өзекті мәселе ретінде көтерілді.

Алғашында AI бүкіл қала бойынша өздігінен жүретін көліктерді аралап жүрді. Өздігінен басқарылатын көлікке мінуді сұрағысы келген кез келген адам оны құттықтауға тең мүмкіндікке ие болды. Бірте-бірте AI ең алдымен қаланың бір бөлігінде өздігінен жүретін көліктерді роумингте ұстай бастады. Бұл бөлім үлкен ақша табушы болды және AI жүйесі қауымдастықтағы пайдаланудың бір бөлігі ретінде кірісті арттыруға тырысып, бағдарламаланған.

Қаланың кедей бөліктеріндегі қауымдастық мүшелерінің өздігінен жүретін көліктен жүру мүмкіндігі аз болды. Себебі, өздігінен жүретін көліктер алысырақ және жергілікті жердің кірісі жоғары бөлігінде роумингте болды. Қаланың шалғай бөлігінен сұрау түскенде, қаланың «құрметті» бөлігінде болуы мүмкін жақын жерден кез келген сұраныс жоғарырақ басымдыққа ие болады. Ақырында, қаланың бай бөлігінен басқа кез келген жерде өздігінен жүретін көлікті алу мүмкін емес еді, бұл қазір ресурстарға тапшылықтан зардап шеккен аудандарда тұратындар үшін бұл.

Сіз AI прокси дискриминациясының түріне (сонымен қатар жанама кемсітушілік деп те аталады) көп жағдайда келді деп айта аласыз. Жасанды интеллект сол кедей аудандардан аулақ болу үшін бағдарламаланбаған. Оның орнына, ол мұны ML/DL пайдалану арқылы «үйренді».

Мәселе мынада, рейдшерингті адам жүргізушілер бірдей нәрсені жасайтыны үшін белгілі болды, бірақ тек ақша табу бұрышына байланысты емес. Қаланың белгілі бір бөліктерінде шабандоздарды жинауға жағымсыз көзқарасы бар кейбір рейдшеринг жүргізушілері болды. Бұл белгілі бір құбылыс болды және қала мұны істеп жатқан адам жүргізушілерді ұстау үшін бақылау әдісін енгізді. Адамдардың жүргізушілері жағымсыз таңдау тәжірибесін жүргізу үшін қиындыққа тап болуы мүмкін.

Жасанды интеллект ешқашан дәл осындай құмға түспейді деп болжанған. AI негізіндегі өздігінен жүретін көліктердің қайда бара жатқанын бақылайтын арнайы мониторинг орнатылмаған. Қауымдастық мүшелері шағым айта бастағаннан кейін ғана қала басшылары не болып жатқанын түсінді. Автономды көліктер мен өзін-өзі басқаратын көліктер ұсынатын жалпы қалалық мәселелердің осы түрлері туралы қосымша ақпаратты мына жерден қараңыз. мына сілтеме және бұл тақырып бойынша мен бірлесіп жазған Гарвардтың зерттеуін сипаттайды.

Жасанды интеллектке негізделген өздігінен жүретін көліктердің роумингтік аспектілерінің бұл мысалы, адамдарда бақылаулар орнатылатын жағымсыз бейімділікке әкелетін жағдайлардың болуы мүмкін екенін және сол адам драйверлерін алмастыратын AI жойылғанын көрсетеді. Тегін. Өкінішке орай, жасанды интеллект кейіннен бірте-бірте ұқсас бағыттарға батып кетуі мүмкін және мұны жеткілікті қоршауларсыз жасай алады.

Бұл AI негізіндегі прокси дискриминациясының зиянды түрде қалай туындауы мүмкін екенін көрсетеді.

Екінші мысал, көшені кесіп өтуге құқығы жоқ жаяу жүргіншілерді күту үшін тоқтау керек пе, соны анықтайтын AI кіреді.

Сіз, сөзсіз, көлік жүргізіп, жолды кесіп өтуді күтіп тұрған жаяу жүргіншілерді кездестірдіңіз, бірақ олардың өтуге құқығы жоқ. Бұл тоқтап, оларды кесіп өтуге рұқсат беру туралы өз еркіңіз бар екенін білдірді. Сіз олардың кесіп өтуіне жол бермей жалғастыра аласыз және әлі де мұны істеудің заңды жүргізу ережелеріне сәйкес бола аласыз.

Адамдар жүргізушілердің мұндай жаяу жүргіншілер үшін тоқтау немесе тоқтамау туралы шешім қабылдауы туралы зерттеулер кейде адам жүргізушілер таңдауды теріс көзқарастарға негізделген деп болжайды. Адам жүргізуші жаяу жүргіншіге қарап, тоқтамауды таңдауы мүмкін, тіпті егер жаяу жүргіншінің нәсіліне немесе жынысына байланысты сыртқы түрі басқа болса, олар тоқтар еді. Мен мұны мына жерде тексердім сілтеме осында.

AI негізіндегі өздігінен жүретін көліктер жүру құқығы жоқ жаяу жүргіншілер үшін тоқтау немесе тоқтамау мәселесін шешуге бағдарламаланғанын елестетіп көріңіз. Міне, AI әзірлеушілері бұл тапсырманы қалай бағдарламалауды шешті. Олар қаланың түкпір-түкпірінде орнатылған қаланың бейнекамераларынан мәліметтер жинады. Деректер жүру құқығы жоқ жаяу жүргіншілерге тоқтайтын адам жүргізушілері мен тоқтамайтын адам жүргізушілерін көрсетеді. Оның барлығы үлкен деректер жинағына жинақталған.

Machine Learning және Deep Learning қолдану арқылы деректер есептеу әдісімен модельденеді. Одан кейін AI жүргізу жүйесі осы үлгіні қашан тоқтату немесе тоқтамау керектігін шешу үшін пайдаланады. Жалпы, жергілікті әдет-ғұрып қандай болса да, AI өздігінен жүретін көлікті осылай бағыттайды деген идея.

Қала басшылары мен тұрғындарын таң қалдырғандай, АИ жаяу жүргіншінің жасына қарай тоқтауды немесе тоқтамауды таңдағаны анық. Бұл қалай болуы мүмкін?

Жүргізушінің ерік-жігері туралы бейнежазбаны мұқият қарап шыққанда, тоқтамаудың көптеген жағдайлары қарт азаматтың таяғымен жүретін жаяу жүргіншілерге әкелетіні белгілі болды. Адам жүргізушілер тоқтап, қарт адамды көшеден өтуге рұқсат еткісі келмеген сияқты, бұл біреудің жол жүруіне ұзақ уақыт кетуі мүмкін болғандықтан. Егер жаяу жүргінші көшенің арғы бетінен тез өтіп, жүргізушінің күту уақытын азайта алатындай көрінсе, жүргізушілер адамды кесіп өтуге мүмкіндік беретін.

Бұл AI жүргізу жүйесіне терең еніп кетті. Өзін-өзі басқаратын көліктің сенсорлары күтіп тұрған жаяу жүргіншіні сканерлейді, бұл деректерді ML/DL үлгісіне береді және модель тоқтау немесе жалғастыру туралы AI-ға шығарады. Жаяу жүргіншінің баяу өтуі мүмкін екенін көрсететін кез келген көрнекі көрсеткіш, мысалы, жаяу таяқшаны пайдалану, AI жүргізу жүйесі күтіп тұрған жаяу жүргіншіні кесіп өтуге рұқсат беруі керек пе, жоқ па анықтау үшін математикалық түрде пайдаланылды. Сіз бұл жасына байланысты проксиді кемсітудің бір түрі деп айтуға болады.

қорытынды

Прокси дискриминациясы бар немесе уақыт өте келе мұндай қиғаштықтарды анықтайтын AI ойлап табуды болдырмаудың көптеген жолдары бар. Мүмкіндігінше, идея жоғары жылдамдыққа өтіп, AI-ны қолданбас бұрын мәселелерді шешу болып табылады. Тікелей кемсітушілік те, прокси кемсітушілік те, былайша айтқанда, есіктен шықпайды деп үміттенеміз.

Жоғарыда айтылғандай, бір тәсіл AI әзірлеушілері мен басқа мүдделі тараптардың AI этикасы туралы хабардар болуын қамтамасыз етуді қамтиды және осылайша оларды осы мәселелерді болдырмау үшін AI ойлап табуға итермелейді. Басқа жол - бұл этикалық емес мінез-құлық үшін AI өзін-өзі бақылайтын және/немесе әдепсіз мінез-құлық үшін басқа AI жүйелерін бақылайтын басқа AI бөлігіне ие болу. Мен өз жазбаларымда көптеген басқа ықтимал шешімдерді қарастырдым.

Әзірге соңғы ой.

Сіз Лу Геригтің бейсболда кемсітушілікке орын жоқ деп айтқанын білуіңіз мүмкін. Дәл осындай ойлау сызығына сүйене отырып, сіз AI-да кемсітушілікке орын жоқ деп батыл мәлімдей аласыз.

Біз барлығымызға төтеп беріп, AI жүйесінде кемсітушіліктің енуіне жол бермеу жолдарын табуымыз керек. Барлығымыздың игілігіміз үшін біз оны доп алаңынан шығаруымыз керек.