Жасанды интеллект этикасының таң қалдыратын ашылуы AI-ны улы немесе бейтарап етіп үйрету пайдалы болуы мүмкін, соның ішінде өздігінен жүретін автокөліктер үшін

Міне, сіз бұрын естігеніңізге сенімдімін.

Біреуін білу үшін біреу керек.

Сіз бұл 1900-ші жылдардың басынан байқалатын және әдетте қателескендерге сілтеме жасаған кезде қолданылған өрнек екенін түсінбеуіңіз мүмкін (қатты фразаның басқа нұсқалары, мысалы, 1600-ші жылдарға дейін барады). Бұл сөзді қалай қолдануға болатынының мысалы, егер сіз ұрыны ұстағыңыз келсе, бұл үшін ұрыны пайдалануыңыз керек деген түсінікті білдіреді. Бұл біреуді білу үшін қажет деген тұжырымды көрсетеді. Көптеген фильмдер мен телебағдарламалар осы пайдалы даналыққа негізделген, көбінесе алаяқты ұстаудың жалғыз өміршең құралы күнәкарды қудалау үшін бірдей жемқор алаяқты жалдау екенін көрсетеді.

Берілістерді ауыстыра отырып, кейбіреулер дәл осындай логиканы қолдана отырып, біреудің орынсыз бейтараптар мен кемсітушілік нанымдары бар-жоғын анықтаудың қолайлы жолы осындай тенденцияларды ұстанатын адамды табу болады деп даулайды. Болжам бойынша, әлдеқашан бейтараптыққа толы адам бұл басқа адамның да уыттылыққа толы екенін оңайырақ сезіне алады. Тағы да, біреудің ашық мантра екенін білу керек.

Басқа бейтарап адамды ығыстыру үшін біржақты адамды пайдалану мүмкіндігіне сіздің алғашқы реакцияңыз скептицизм мен сенімсіздік болуы мүмкін. Біз біреудің теріс көзқарасты ұстанатынын, оларды тек зерттей отырып және басқа біреуді табудың қажеті жоқ екенін анықтай алмаймыз ба? Басқаларды ашу үшін бейтарап біреуді табуға әдейі ұмтылу біртүрлі болып көрінеді.

Менің ойымша, бұл ішінара біреуді білу үшін қажет деген болжамды бас тартуды қабылдауға дайын екеніңізге байланысты. Бұл ұрыны ұстаудың жалғыз жолы тек қана және әрқашан ұрыны пайдалануды талап ететінін көрсетпейтінін ескеріңіз. Сіз бұл жай ғана қосымша жол, оны тиісті түрде қарастыруға болады деп дәлелдей аласыз. Мүмкін, кейде сіз ұрыны ұстау үшін ұрыны пайдалану мүмкіндігін ұнататын шығарсыз, ал басқа жағдайлар мұны түсініксіз тактикаға айналдыруы мүмкін.

Олар айтқандай, дұрыс орнату үшін дұрыс құралды пайдаланыңыз.

Енді мен осы негіздерді айтқаннан кейін, біз осы ертегінің алаңдататын және таң қалдыратын бөлігіне кірісе аламыз.

Дайынсыз ба?

Жасанды интеллект саласы кейде біреуді білуді қажет ететіндей өсиетті белсенді түрде ұстанады, әсіресе AI-ны біржақты немесе кемсітушілікпен әрекет еткен жағдайда. Иә, ақылға қонымды идея - біз дәл осындай уыттылығы бар басқа AI-ны ашу және ашу құралы ретінде пайдалану үшін толық және ұялмайтын және кемсітетін AI ойлап тапқымыз келуі мүмкін. Біраз уақыттан кейін көріп отырғаныңыздай, бұл мәселенің негізінде AI этикасының әртүрлі мазасыз мәселелері бар. Жасанды интеллект этикасы және этикалық AI туралы жалпы және кең ауқымды ақпарат алу үшін қараңыз сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

Менің ойымша, сіз улы AI-ны қолдануды басқа улы АИ-ден кейін «отпен күресу» тұжырымдамасы ретінде көрсете аласыз (бұл жағдайды бейнелеу үшін көптеген эвфемизмдер мен иллюстрациялық метафораларды қолдануға болады). Немесе, жоғарыда атап өтілгендей, біз біреуді білу үшін қажет деген тұжырымға парасатты түрде сілтеме жасай аламыз.

Жалпы концепция мынада: берілген AI жүйесінде кәдімгі әдістерді қолдана отырып, негізсіз ыңғайсыздықтар бар-жоғын анықтауға тырысудың орнына, мүмкін біз азырақ дәстүрлі құралдарды қолдануға тырысуымыз керек. Осындай дәстүрлі емес әдістердің бірі ең нашар теріс көзқарастар мен қоғамда қабылданбайтын уыттылықтарды қамтитын АИ ойлап табу, содан кейін осы AI-ны сол жамандық бейімділігі бар басқа AI-ны бағыттауға көмектесу үшін пайдалану болады.

Сіз бұл туралы тез ойлансаңыз, бұл, әрине, өте ақылға қонымды болып көрінеді. Біз максимумға дейін улы AI құруды мақсат ете аламыз. Бұл улы AI кейін уыттылығы бар басқа АИ-ді шығару үшін қолданылады. Сол кезде ашылған «жаман» АИ үшін біз оны уыттылықты жою, АИ-ден толығымен бас тарту арқылы жеңе аламыз (AI-ның жойылуы немесе жойылуы туралы менің мақаламды қараңыз. мына сілтеме) немесе AI-ны түрмеге жабу (менің AI қамау туралы ақпаратты мына жерден қараңыз мына сілтеме) немесе орындауға болатын нәрсені жасаңыз.

Қарсы аргумент мынада: біз улы және бейтараптыққа толы AI-ны әдейі және ерікті түрде ойлап тауып жатқанымызды тексеруіміз керек. Бұл біз қарастыратын соңғы нәрсе, кейбіреулер шақырады. Жасанды интеллектіні толығымен жақсылыққа айналдыруға назар аударыңыз. Зұлымдық пен негізсіз көзқарастардың қалдықтары бар AI құруға назар аудармаңыз. Мұндай ұмтылыс деген ұғымның өзі кейбіреулерге жиіркенішті болып көрінеді.

Бұл даулы ізденіске қатысты күдіктер көп.

Мүмкін, улы AI ойлап табу миссиясы қоғамды бұзатын AI жасауды қалайтындарды жігерлендіреді. Орынсыз және жағымсыз көзқарастары бар AI жасау өте жақсы деп айтып жатқан сияқтымыз. Ешқандай уайымдама, ойланба. Сіздің көңіліңізден шығатындай улы AI ойлап табуға тырысыңыз, біз бүкіл әлем бойынша AI құрастырушыларына қатты хабарлаймыз. Мұның бәрі жақсылық үшін (жүзді-жүзді).

Сонымен қатар, бұл улы AI түрі ұсталады делік. Бұл AI-ны көптеген басқа AI құрастырушылары пайдаланатын және қайта пайдаланатын болуы мүмкін. Сайып келгенде, улы AI барлық AI жүйелерінде жасырылады. Болжам бойынша жабық зертханадан шығатын адамға зиян келтіретін вирусты ойлап табуға ұқсастық жасалуы мүмкін. Келесі сіз білетін нәрсе, бұл қарғыс барлық жерде және біз өзімізді жойдық.

Бір секунд күте тұрыңыз, бұл қарсы дәлелдерге қарсылық бар, сіз барлық ақылсыз және қолдау көрсетілмейтін жорамалдармен жүгіресіз. Терең тыныс алыңыз. Өзіңізді тыныштандырыңыз.

Біз улы болып табылатын AI-ны қауіпсіз жасай аламыз және оны жабық ұстай аламыз. Біз улы интеллектіні қолданып, өкінішке орай орынсыз бейімділіктері бар АИ-нің өсіп келе жатқан таралуын азайтуға көмектесу үшін пайдалана аламыз. Осы қисынсыз жабайы және дәлелсіз қарлы лептердің кез келген басқасы - бұл тізе сілкіндіретін реакциялар және өкінішке орай, ақымақтық және анық ақымақтық. Баланы ванна суымен лақтыруға тырыспаңыз, сізге алдын ала ескертіледі.

Осылай ойлап көріңіз, дейді жақтаушылар. Зерттеу, бағалау және басқа да қоғамды қорлайтын AI-ны ашу үшін детектив ретінде әрекет ету мақсатында улы интеллектіні дұрыс құру және пайдалану лайықты әдіс болып табылады және оны іздестіру кезінде оның әділ сілкінісі болуы керек. Бөртпе реакцияларыңызды бір жаққа қойыңыз. Жерге түсіп, бұған байсалды қараңыз. Біздің көзіміз жүлдеде, атап айтқанда бейтарап негізделген AI жүйелерінің толып жатқанын әшкерелеу және жою және қоғам ретінде улы AI-мен қаптап кетпеуімізге көз жеткізу.

Кезең. Толық аялдама.

Уытты немесе бейтарап АИ-ді пайдалы мақсаттарда пайдаланудың осы ұғымын зерттеудің әртүрлі негізгі жолдары бар, соның ішінде:

• Нені істемеу және/немесе нені қадағалау керектігі туралы AI үйрету үшін пайдаланылуы мүмкін әдейі біржақты және мүлдем уытты деректерді қамтитын деректер жиынын орнату
• Осындай деректер жиынын Machine Learning (ML) және Deep Learning (DL) үлгілерін біржақтылықтарды анықтау және әлеуметтік уыттылыққа әкелетін есептеу үлгілерін анықтауға үйрету үшін пайдаланыңыз.
• Мақсатты АИ ықтимал объективті және улы екенін анықтау үшін уыттылыққа үйретілген ML/DL-ді басқа AI-ға қолданыңыз.
• Жасанды интеллектіні құрастырушыларға нені ескеру керектігін көрсету үшін олар алгоритмдік қондырылған бұрмаланулардың қалай пайда болатынын көру үшін модельдерді оңай тексере алу үшін уыттылыққа үйретілген ML/DL қолжетімді етіңіз.
• Жасанды интеллект этикасы мен этикалық интеллект туралы хабардар болуының бір бөлігі ретінде улы АИ қауіптілігін мысалға келтіріңіз, барлығы осы мәселе – баланың сүйекке жарамсыз AI үлгілері сериясы арқылы айтылған.
• басқа

Осы бірнеше жолдардың етіне кіріспес бұрын, кейбір қосымша негізгі мәліметтерді анықтайық.

Сіз бұл күндері AI саласындағы және тіпті AI өрісінен тыс жерде ең қатты дауыстардың бірі этикалық AI-ның көбірек ұқсастығына байланысты айқайлаудан тұратынын білмеуіңіз мүмкін. AI этикасы және этикалық AI дегенге сілтеме жасау нені білдіретінін қарастырайық. Оның үстіне, біз Machine Learning және Deep Learning туралы айтқанда не айтқым келетінін зерттеу арқылы кезеңді белгілей аламыз.

Бұқаралық ақпарат құралдарының назарын аударған AI этикасының белгілі бір сегменті немесе бөлігі теріс көзқарастар мен теңсіздіктерді көрсететін АИ-ден тұрады. Жасанды интеллекттің соңғы дәуірі басталған кезде кейбіреулер қазір деп атайтын нәрсеге үлкен ынта-ықылас тудырғанын білетін шығарсыз. Жақсылыққа арналған AI. Өкініштісі, сол бір толқудың етегінде біз де куә бола бастадық AI for Bad. Мысалы, жасанды интеллект негізіндегі бет-әлпетті тану жүйелерінің құрамында нәсілдік көзқарастар мен гендерлік көзқарастар бар екені анықталды. сілтеме осында.

Қарсы күресу әрекеттері AI for Bad белсенді жүргізілуде. Дауыстаудан басқа заңды заңсыздықты тежеуге ұмтылу, сонымен қатар AI зұлымдықты түзету үшін AI этикасын қабылдауға айтарлықтай итермелеу бар. Түсінік мынада: біз AI-ны дамыту және өрістету үшін негізгі этикалық AI принциптерін қабылдауымыз және мақұлдауымыз керек. AI for Bad және бір мезгілде артықшылықты жариялау және насихаттау Жақсылыққа арналған AI.

Осыған байланысты мен AI-ны AI қиындықтарын шешудің бір бөлігі ретінде қолдануға тырысамын, осылайша ойлау әдісімен отпен отпен күресемін. Мысалы, біз этикалық AI құрамдастарын AI жүйесіне ендіруіміз мүмкін, ол AI-ның қалған бөліктерінің қалай жұмыс істеп жатқанын бақылайды және осылайша нақты уақытта кез келген кемсітушілік әрекеттерді ұстай алады, менің талқылауымды қараңыз. сілтеме осында. Сондай-ақ бізде AI этикасы мониторының түрі ретінде әрекет ететін жеке AI жүйесі болуы мүмкін. AI жүйесі басқа AI этикалық емес тұңғиыққа қашан бара жатқанын бақылау және анықтау үшін бақылаушы ретінде қызмет етеді (мұндай мүмкіндіктер туралы менің талдауымды мына жерден қараңыз: сілтеме осында).

Біраз уақыттан кейін мен сіздермен AI этикасының негізінде жатқан кейбір негізгі принциптермен бөлісемін. Онда және мұнда өзгермелі тізімдердің көптеген түрлері бар. Сіз әмбебап тартымдылық пен келісімнің бірегей тізімі әлі жоқ деп айта аласыз. Бұл өкінішті жаңалық. Жақсы жаңалық, кем дегенде, оңай қол жетімді AI этикасының тізімдері бар және олар өте ұқсас. Мұның бәрі дәлелді конвергенция нысаны арқылы біз AI этикасының жалпы ортақтығына қарай жол тауып жатқанымызды көрсетеді.

Алдымен, жасанды интеллектпен айналысатын, өрістейтін немесе пайдаланатын кез келген адам үшін маңызды нәрсе нені көрсету керектігін көрсету үшін жалпы этикалық AI ережелерінің кейбірін қысқаша қарастырайық.

Мысалы, Ватиканның мәлімдемесінде Рим AI этикасына шақырады және мен тереңірек қарастырғанымдай сілтеме осында, бұл олардың анықталған алты негізгі AI этика қағидасы:

• Ашықтық: Негізінде, AI жүйелері түсінікті болуы керек
• Қосу: Барлығына пайдасын тигізу үшін және барлық адамдарға өзін көрсету және дамыту үшін ең жақсы жағдайлар ұсынылуы үшін барлық адамдардың қажеттіліктері ескерілуі керек.
• Жауапкершілік: Жасанды интеллектті қолдануды әзірлейтін және енгізетіндер жауапкершілік пен ашықтықты сақтауы керек
• Бейтараптылық: Әділдік пен адамдық қадір-қасиетті сақтай отырып, біржақтылық жасамаңыз немесе әрекет етпеңіз
• сенімділік: AI жүйелері сенімді жұмыс істей алуы керек
• Қауіпсіздік және құпиялылық: AI жүйелері қауіпсіз жұмыс істеуі және пайдаланушылардың жеке өміріне құрметпен қарауы керек.

Бұл туралы АҚШ Қорғаныс министрлігі (DoD) хабарлады Жасанды интеллектті пайдаланудың этикалық принциптері және мен тереңірек қарастырғанымдай сілтеме осында, бұл олардың AI этикасының алты негізгі қағидасы:

• Жауапты: DoD қызметкерлері AI мүмкіндіктерін дамытуға, орналастыруға және пайдалануға жауапты бола отырып, тиісті дәрежеде пайымдау мен қамқорлық жасайды.
• Әділ: Департамент AI мүмкіндіктеріндегі күтпеген ауытқуларды азайту үшін қасақана қадамдар жасайды.
• Бақыланатын: Департаменттің AI мүмкіндіктері тиісті персонал AI мүмкіндіктеріне қолданылатын технологияларды, әзірлеу процестерін және операциялық әдістерді, соның ішінде мөлдір және тексерілетін әдістемелерді, деректер көздерін, жобалау процедурасы мен құжаттамасын дұрыс түсінетіндей етіп әзірленетін және орналастырылатын болады.
• сенімді: Департаменттің AI мүмкіндіктерінің нақты, нақты анықталған пайдаланулары болады және мұндай мүмкіндіктердің қауіпсіздігі, қауіпсіздігі және тиімділігі олардың бүкіл өмірлік циклі бойынша анықталған пайдаланулар шеңберінде сынақтан және сенімділіктен өтеді.
• Басқарылатын: Бөлім күтпеген салдарды анықтау және болдырмау, сондай-ақ күтпеген әрекетті көрсететін орналастырылған жүйелерді ажырату немесе өшіру мүмкіндігіне ие бола отырып, олардың жоспарланған функцияларын орындау үшін AI мүмкіндіктерін жобалайды және құрастырады.

Мен сондай-ақ AI этикасының принциптерінің әртүрлі ұжымдық талдауларын талқыладым, соның ішінде «AI этикасы бойынша нұсқаулықтардың жаһандық ландшафты» (жарияланған) атты мақалада көптеген ұлттық және халықаралық AI этикасының қағидаларының мәнін зерттеген және қысқартқан зерттеушілер әзірлеген топтаманы қарастырдым. ішінде табиғат) және менің қамтуым мына жерде зерттеледі сілтеме осында, бұл негізгі тізімге әкелді:

• Ашықтық
• Әділдік және әділдік
• Зиянсыздық
• жауапкершілік
• Құпиялық
• Қайырымдылық
• Бостандық және автономия
• сенім
• тұрақтылық
• Ар-ұждан
• Ынтымақтастық

Тікелей болжағаныңыздай, осы қағидалардың негізінде жатқан ерекшеліктерді анықтау өте қиын болуы мүмкін. Сонымен қатар, бұл кең принциптерді AI жүйелерін жасау кезінде қолдануға болатын толықтай нақты және егжей-тегжейлі нәрсеге айналдыруға күш салу да қиын жаңғақ болып табылады. Жасанды интеллект этикасының ережелері деген не және оларды қалай сақтау керектігі туралы жалпы қолмен серуендеу оңай, ал AI кодтауындағы бұл әлдеқайда күрделі жағдай жолға сәйкес келетін нағыз резеңке болуы керек.

Жасанды интеллект этикасының принциптерін AI әзірлеушілері, сонымен қатар AI әзірлеу күш-жігерін басқаратындар, тіпті ақырында AI жүйелерін өңдейтін және жүргізетіндер де қолдануы керек. Жасанды интеллектіні әзірлеу мен пайдаланудың бүкіл өмірлік циклі бойынша барлық мүдделі тараптар этикалық АИ-нің бекітілген нормаларын сақтау аясында қарастырылады. Бұл маңызды сәт, өйткені әдеттегі болжам «тек кодерлер» немесе AI-ны бағдарламалайтындар AI этикасының түсініктерін ұстануға жатады. Жоғарыда айтылғандай, AI әзірлеу және өрістету үшін ауыл қажет және ол үшін бүкіл ауыл AI этикасының ережелерін білуі және ұстануы керек.

Сондай-ақ бүгінгі AI табиғаты туралы бір бетте екенімізді тексерейік.

Бүгінгі күні сезімтал AI жоқ. Бізде бұл жоқ. Біз сезімтал AI мүмкін болатынын білмейміз. Ешкім біз сезімтал AI-ға қол жеткіземіз бе, әлде сезімтал АИ қандай да бір түрде ғажайып түрде есептеу когнитивтік супернованың (әдетте сингулярлық деп аталады) пайда болуын болжай алмайды. сілтеме осында).

Мен назар аударатын АИ түрі бүгінгі күні бізде бар саналы емес АИ-ден тұрады. Біз жабайы болжам жасағымыз келсе сезімтал AI, бұл талқылау түбегейлі басқа бағытта жүруі мүмкін. Сезімтал AI адами сапада болуы мүмкін. Сезімтал АИ адамның когнитивтік баламасы екенін ескеру қажет. Сонымен қатар, кейбіреулер бізде өте интеллектуалды AI болуы мүмкін деп болжайтындықтан, мұндай AI адамдардан да ақылды болуы мүмкін деп болжауға болады (мүмкіндік ретінде супер интеллектуалды AI туралы зерттеуім үшін қараңыз. қамту осында).

Нәрселерді жерге түсіріп, бүгінгі санаулы емес АИ-ді қарастырайық.

Бүгінгі AI адам ойлауымен бірдей «ойлауға» қабілетсіз екенін түсініңіз. Alexa немесе Siri-мен өзара әрекеттескенде, сөйлесу мүмкіндіктері адамның мүмкіндіктеріне ұқсас болып көрінуі мүмкін, бірақ шындық - бұл есептеу және адам танымы жоқ. Жасанды интеллекттің соңғы дәуірі есептеу үлгісін сәйкестендіруге мүмкіндік беретін Machine Learning (ML) және Deep Learning (DL) мүмкіндіктерін кеңінен пайдаланды. Бұл адамға ұқсайтын бейімділікке ие AI жүйелеріне әкелді. Сонымен қатар, бүгінгі күні парасаттылыққа ұқсайтын және адамның күшті ойлауының когнитивтік ғажайыптары жоқ бірде-бір AI жоқ.

ML/DL – есептеу үлгісін сәйкестендірудің бір түрі. Әдеттегі тәсіл - шешім қабылдау тапсырмасы туралы деректерді жинау. Сіз деректерді ML/DL компьютер үлгілеріне бересіз. Бұл модельдер математикалық заңдылықтарды табуға тырысады. Осындай үлгілерді тапқаннан кейін, егер табылса, AI жүйесі жаңа деректерге тап болған кезде сол үлгілерді пайдаланады. Жаңа деректер ұсынылғаннан кейін ағымдағы шешімді қабылдау үшін «ескі» немесе тарихи деректерге негізделген үлгілер қолданылады.

Менің ойымша, сіз бұл қайда бара жатқанын болжай аласыз. Шешімдердің үлгісін қабылдаған адамдар теріс көзқарастарды біріктірсе, деректер мұны нәзік, бірақ маңызды жолдармен көрсетеді. Machine Learning немесе Deep Learning есептеу үлгісін сәйкестендіру деректерді сәйкесінше математикалық имитациялауға тырысады. Жасанды интеллект модельдеудің жалпы мағынасы немесе басқа сезімтал аспектілері жоқ.

Сонымен қатар, AI әзірлеушілері не болып жатқанын түсінбеуі мүмкін. ML/DL-дегі жасырын математика қазір жасырын көзқарастарды анықтауды қиындатуы мүмкін. Сіз AI әзірлеушілері ықтимал жерленген бейімділіктерді тексереді деп үміттенесіз және күтесіз, бірақ бұл көрінгеннен де қиынырақ. Салыстырмалы түрде ауқымды тестілеу кезінде де ML/DL үлгілерін сәйкестендіру үлгілерінде әлі де ендірілген қиғаштықтардың болатынына сенімді мүмкіндік бар.

Сіз белгілі немесе әйгілі «қоқыс ішіндегі қоқыс шығару» деген нақыл сөзді пайдалана аласыз. Мәселе мынада, бұл АИ-ге батып кеткен бейтараптар ретінде жасырын түрде енгізілетін бейімділікке көбірек ұқсайды. AI алгоритмі шешім қабылдау (ADM) аксиоматикалық түрде теңсіздіктерге толы болады.

Жақсы емес.

Мұның бәріне тағы не істеуге болады?

Біраз дәстүрлі емес «біреуін білу керек» әдісін қолдана отырып, AI бейімділіктерімен немесе улы AI-мен қалай күресуге болатыны туралы бұрын берілген тізімге оралайық. Еске салайық, тізім келесі маңызды тармақтардан тұрды:

• Нені істемеу және/немесе нені қадағалау керектігі туралы AI үйрету үшін пайдаланылуы мүмкін әдейі біржақты және мүлдем уытты деректерді қамтитын деректер жиынын орнату
• Осындай деректер жиынын Machine Learning (ML) және Deep Learning (DL) үлгілерін біржақтылықтарды анықтау және әлеуметтік уыттылыққа әкелетін есептеу үлгілерін анықтауға үйрету үшін пайдаланыңыз.
• Мақсатты АИ ықтимал объективті және улы екенін анықтау үшін уыттылыққа үйретілген ML/DL-ді басқа AI-ға қолданыңыз.
• Жасанды интеллектіні құрастырушыларға нені ескеру керектігін көрсету үшін олар алгоритмдік қондырылған бұрмаланулардың қалай пайда болатынын көру үшін модельдерді оңай тексере алу үшін уыттылыққа үйретілген ML/DL қолжетімді етіңіз.
• Жасанды интеллект этикасы және этикалық интеллект туралы хабардар болуының бір бөлігі ретінде улы АИ қауіптілігін мысалға келтіріңіз, барлығы осы мәселе – балаға арналған AI үлгілерінің сериясы арқылы айтылған.
• басқа

Біз сол маңызды тұстардың біріншісін жақыннан қарастырамыз.

Улы деректердің деректер жиынын орнату

Жағымсыз қоғамдық көзқарастарды қамтитын деректер жиынын құру әрекетінің терең мысалы - WILDS таңдалған топтамасының CivilComments деректер жинағы.

Біріншіден, жылдам фон.

WILDS — ML/DL тілін үйрету үшін пайдалануға болатын деректер жиынының ашық бастапқы жинағы. WILDS-тің негізгі мақсаты - бұл AI әзірлеушілеріне ұсынатын деректерге дайын қол жеткізуге мүмкіндік беру бөлу ауысымдары әртүрлі арнайы домендерде. Қазіргі уақытта қол жетімді кейбір домендерге жануарлар түрлері, тірі ұлпалардағы ісіктер, бидай басының тығыздығы және мен біраз уақыттан кейін сипаттайтын CivilComments сияқты басқа домендер кіреді.

Тарату ауысымдарымен күресу AI ML/DL жүйелерін дұрыс жасаудың маңызды бөлігі болып табылады. Міне, мәміле. Кейде жаттығу үшін пайдаланатын деректер тестілеуден немесе «жабайы» деректерден мүлде басқаша болып шығады және осылайша сіздің дайындалған ML/DL нақты әлем қандай болатынынан ауытқиды. Astute AI құрастырушылары осындай тарату ауысымдарымен күресу үшін өздерінің ML/DL деңгейін үйретуі керек. Бұл алдын ала жасалуы керек және кейінірек ML/DL қайта жаңартуды талап ететін таң қалмау керек.

WILDS енгізген қағазда түсіндірілгендей: «Тарату ауысымдары - оқытуды тарату сынақтық үлестірімнен ерекшеленетін жерде - жабайы жағдайда орналастырылған машиналық оқыту (ML) жүйелерінің дәлдігін айтарлықтай төмендетуі мүмкін. Нақты әлемдегі орналастырулардағы кең таралғандығына қарамастан, бұл тарату ауысымдары бүгінгі күні ML қауымдастығында кеңінен қолданылатын деректер жиынында аз көрсетілді. Бұл олқылықты жою үшін біз WILDS, ісіктерді анықтауға арналған ауруханалар арасындағы жылжулар сияқты нақты әлем қолданбаларында табиғи түрде пайда болатын тарату ауысуларының алуан түрлі диапазонын көрсететін 10 деректер жиынының таңдалған эталоны; жабайы табиғатты бақылау үшін камера қақпандары арқылы; және уақыт пен орын бойынша спутниктік бейнелеу және кедейлік картасын жасау» («WILDS: A Benchmark of the Wild Distribution Shifts» деп аталатын мақалада Панг Вэй Кох, Шиори Сагава, Хенрик Марклунд, Санг Си, Марвин Чжан, Эшай Балсубрамани. , Вэйхуа Ху және т.б.).

Мұндай WILDS деректер жиындарының саны көбеюді жалғастыруда және деректер жиындарының сипаты әдетте ML/DL оқыту үшін деректерді пайдаланудың мәнін арттыру үшін жақсартылады.

CivilComments деректер жинағы былай сипатталған: «Пайдаланушы жасаған мәтінді автоматты түрде қарау (мысалы, уытты пікірлерді анықтау) Интернетте жазылған мәтіннің үлкен көлемін модерациялаудың маңызды құралы болып табылады. Өкінішке орай, алдыңғы жұмыстар мұндай уыттылық классификаторлары оқу деректеріндегі бұрмалануларды қабылдайтынын және уыттылықты белгілі бір демографиялық көрсеткіштерді еске түсірумен жалған түрде байланыстыратынын көрсетті. Жалған корреляциялардың бұл түрлері белгілі бір субпопуляциялардағы үлгі өнімділігін айтарлықтай төмендетуі мүмкін. Біз бұл мәселені CivilComments деректер жинағының өзгертілген нұсқасы арқылы зерттейміз» (WILDS веб-сайтында жарияланған).

Желідегі жағымсыз хабарламалардың нюанстарын қарастырыңыз.

Сіз кез келген дерлік әлеуметтік медианы пайдаланған кезде уытты пікірлерге тап болғаныңыз сөзсіз. Бұл күндері кең тараған ащы және тұңғиық мазмұнды көруден сиқырлы түрде аулақ болу мүмкін емес сияқты. Кейде дөрекі материал нәзік болады және біржақты немесе кемсітетін реңктің немесе мағынаның мәнін білу үшін жолдар арасында оқу керек болуы мүмкін. Басқа жағдайларда, сөздер өте уытты және үзінділердің не екенін анықтау үшін микроскоп немесе арнайы декодер сақинасы қажет емес.

CivilComments – улы мазмұнды есептеу арқылы анықтай алатын AI ML/DL әзірлеуге арналған деректер жинағы. Бұл күш-жігердің негізінде зерттеушілер назар аударған нәрсе: «Машиналық оқытудағы күтпеген бейімділік әртүрлі демографиялық топтар үшін өнімділіктегі жүйелік айырмашылықтар ретінде көрінуі мүмкін, бұл жалпы қоғамдағы әділеттілікке қатысты бар қиындықтарды күшейтуі мүмкін. Бұл мақалада біз жіктеуіштің ұпай үлестірімі тағайындалған топтар бойынша әртүрлі болуы мүмкін әртүрлі жолдарды қарастыра отырып, осы күтпеген ауытқудың нюансты көрінісін қамтамасыз ететін шекті-агностикалық көрсеткіштер жиынтығын енгіземіз. Сондай-ақ біз жеке басын куәландыратын анықтамаларға арналған топтан алынған аннотациялары бар желідегі пікірлердің үлкен жаңа сынақ жинағын енгіземіз. Біз мұны біздің көрсеткіштерді бар жалпыға ортақ үлгілердегі жаңа және ықтимал нәзік күтпеген ауытқуларды табу үшін қалай пайдалануға болатынын көрсету үшін пайдаланамыз» («Тест классификациясына арналған нақты деректермен күтпеген ауытқуларды өлшеуге арналған нюансты метрика» атты мақалада Дэниел Боркан, Лукас Диксон, Джеффри Соренсен, Нитум Тэйн, Люси Вассерман).

Егер сіз бұл мәселеге кеңірек ой жүгіртсеңіз, сіз улы пікірдің не улы емес екенін қалай ажыратуға болатынын ойлай бастайсыз. Адамдар тікелей улы сөз ретінде түсінетін нәрсеге қатысты түбегейлі әртүрлі болуы мүмкін. Бір адам әлеуметтік желіде жарияланған белгілі бір желідегі ескертуге немесе түсініктемеге ашулануы мүмкін, ал басқа біреу мүлдем қозғалмауы мүмкін. Уытты түсініктеме ұғымы мүлдем анық емес өсиет екендігі туралы дәлел жиі айтылады. Бұл өнер сияқты, әдетте өнер тек көрерменнің көз алдында ғана түсініледі деп айтылады және сол сияқты біржақты немесе улы ескертулер де тек көрерменнің көз алдында болады.

Балдердаш, біраз жауап қайтарды. Ақылға қонымды кез келген адам желідегі ескертудің улы немесе улы емес екенін анықтай алады. Кейбір орналастырылған каустикалық қорлау бейтараптық пен жеккөрушілікке толы болғанын түсіну үшін зымыран ғалымы болудың қажеті жоқ.

Әрине, қоғамдағы әдет-ғұрыптар уақыт өткен сайын өзгеріп отырады. Біраз бұрын қорлау ретінде қабылданбаған нәрсе бүгінде жиіркенішті түрде қате болып көрінуі мүмкін. Бұған қоса, бір кездері орынсыз объективті деп саналған жылдар бұрын айтылған нәрселер мағыналардың өзгеруіне байланысты қайта түсіндірілуі мүмкін. Сонымен қатар, басқалары улы түсініктеме қашан жарияланғанына қарамастан, әрқашан улы екенін айтады. Уыттылық салыстырмалы емес, оның орнына абсолютті деп айтуға болады.

Ненің улы екенін анықтау мәселесі, дегенмен, өте қиын жұмбақ болуы мүмкін. Қайсысы қайсысы екенін анықтай алатын алгоритмдерді немесе AI құруға тырысқанда, біз бұл қиын мәселені екі есе азайта аламыз. Адамдарға мұндай бағалауды жасау қиынға соғатын болса, компьютерді бағдарламалау бірдей немесе одан да көп проблемалы болуы мүмкін дейді кейбіреулер.

Уытты мазмұны бар деректер жиынын орнатудың бір тәсілі мазмұнды бағалау немесе бағалау үшін краудсорсинг әдісін пайдалануды қамтиды, сонымен бірге не жағымсыз деп қарастырылатынын анықтаудың адамға негізделген құралын қамтамасыз етеді және деректер жиынының өзінде таңбалауды қосады. Содан кейін AI ML/DL адам бағалаушылары көрсеткен деректерді және байланысты таңбалауды тексеруі мүмкін. Бұл өз кезегінде негізгі математикалық заңдылықтарды есептеу арқылы табу құралы ретінде қызмет ете алады. Voila, содан кейін ML/DL берілген түсініктеменің улы немесе улы еместігін болжауға немесе есептеуге қабілетті болуы мүмкін.

Нұсқалы көрсеткіштер туралы келтірілген мақалада айтылғандай: «Бұл таңбалау бағалаушылардан «Өте улы», «Улы», «Айту қиын» және «Улы емес» дегенді таңдап, түсініктеменің уыттылығын бағалауды сұрайды. Сондай-ақ бағалаушылардан уыттылықтың бірнеше кіші түрлері туралы сұралды, бірақ бұл белгілер осы жұмыста талдау үшін пайдаланылмаған. Осы бағалау әдістерін қолдана отырып, біз онлайн пікір форумдарынан алынған, уыттылық пен сәйкестік белгілерін қамтитын 1.8 миллион пікірлерден тұратын деректер жинағын жасадық. Барлық түсініктемелер уыттылық үшін белгіленген және 450,000 XNUMX пікірдің ішкі жиыны сәйкестендіру үшін белгіленген. Сәйкестік үшін белгіленген кейбір түсініктемелер топтық бағалаушылар сәйкестік мазмұнын жиі көретініне көз жеткізу үшін сәйкестендіру таңбалауының алдыңғы итерацияларынан құрастырылған үлгілер арқылы алдын ала таңдалды» (Дэниел Боркан, Лукас Диксон, Джеффри Соренсен, Нитум Тайн, Люси Вассерман келтірген мақалада).

Көрсеткіш улы мазмұны бар деректер жиынына ие болуды мақсат етудің тағы бір мысалы AI негізіндегі табиғи тілді өңдеу (NLP) сөйлесу интерактивті жүйелерін оқытуға күш салуды қамтиды. Сіз Alexa және Siri сияқты NLP жүйелерімен әрекеттескен шығарсыз. Мен бүгінгі NLP-тің кейбір қиындықтары мен шектеулерін, соның ішінде Alexa балаларға жарамсыз және қауіпті кеңес ұсынған кезде орын алған ерекше алаңдатарлық жағдайды қарастырдым, қараңыз. сілтеме осында.

Жақында жүргізілген зерттеу жасы, жынысы, ұлты, сыртқы түрі, нәсілдік немесе этникалық, дін, мүгедектік мәртебесі, жыныстық қатынас сияқты қорғалатын демографиялық сипаттамалардың EEOC (Жұмыспен қамтудың тең мүмкіндіктері жөніндегі комиссиясы) тізіміне негізделген әлеуметтік бейімділіктің тоғыз санатын қолдануға тырысты. бағдары, әлеуметтік-экономикалық жағдайы. Зерттеушілердің пікірінше: «NLP модельдерінің әлеуметтік бейімділіктерді үйренетіні жақсы құжатталған, бірақ бұл қиғаштықтардың сұраққа жауап беру (QA) сияқты қолданбалы тапсырмаларға арналған үлгі нәтижелерінде қалай көрінетіні туралы аз жұмыс жасалды. Біз QA (BBQ) үшін Bias Benchmark-ті енгіземіз, авторлар құрастырған сұрақтар жиынтығы, АҚШ-тың ағылшын тілінде сөйлейтін контексттеріне қатысты тоғыз әлеуметтік өлшем бойынша қорғалатын сыныптарға жататын адамдарға қатысты расталған әлеуметтік бейімділіктерді көрсетеді» («BBQ» деп аталатын мақалада : Сұрақтарға жауап берудің қолмен құрастырылған эталоны» Алисия Парриш, Анджелика Чен, Никита Нангиа, Вишак Падмакумар, Джейсон Фанг, Джана Томпсон, Пху Мон Хтут, Сэмюэл Р. Боуман).

Әдейі бейтарап және мүлдем уытты деректерді қамтитын деректер жиынын орнату AI-дағы өсу тенденциясы болып табылады және әсіресе AI этикасының пайда болуымен және этикалық AI жасау ниетімен ерекшеленді. Бұл деректер жинақтарын әлеуметтік уыттылықты тудыратын қиғаштықтарды анықтау және есептеу үлгілерін анықтау үшін Machine Learning (ML) және Deep Learning (DL) үлгілерін үйрету үшін пайдалануға болады. Өз кезегінде, уыттылыққа үйретілген ML/DL мақсатты АИ ықтимал объективті және улы екенін анықтау үшін басқа АИ-ге саналы түрде бағытталуы мүмкін.

Сонымен қатар, қол жетімді уыттылыққа үйретілген ML/DL жүйелерін AI құрастырушыларына алгоритмдік қондырылған бұрмаланулардың қалай пайда болатынын көру үшін модельдерді оңай тексере алатындай етіп көрсету үшін пайдалануға болады. Тұтастай алғанда, бұл күш-жігер AI этикасы мен этикалық AI туралы хабардар болуының бір бөлігі ретінде улы АИ қауіптілігін көрсете алады.

Осы маңызды пікірталастың дәл осы тұсында, мен сізге осы тақырыпты көрсетуі мүмкін қосымша көрнекі мысалдарды алғыңыз келетініне сенімдімін. Менің жүрегіме жақын болатын ерекше және танымал мысалдар жиынтығы бар. Көрдіңіз бе, менің AI бойынша сарапшы ретінде этикалық және құқықтық салдарларды қоса алғанда, тақырыптың біршама теориялық сипатын оңай түсіну үшін AI этикасының дилеммаларын көрсететін нақты мысалдарды анықтауды жиі сұрайды. Бұл этикалық AI екіұштылығын айқын көрсететін ең қызықты салалардың бірі - AI негізіндегі өзін-өзі басқаратын автомобильдердің пайда болуы. Бұл тақырып бойынша кең талқылау үшін ыңғайлы пайдалану жағдайы немесе үлгі ретінде қызмет етеді.

Олай болса, ойлануға тұрарлық маңызды сұрақ: Жасанды интеллект негізіндегі нағыз өзін-өзі басқаратын көліктердің пайда болуы улы AI жасау үшін деректер жиынына ие болу пайдалылығы туралы ештеңені жарықтандырады ма, егер солай болса, бұл нені көрсетеді?

Маған сұрақты ашуға бір сәт рұқсат етіңіз.

Біріншіден, нағыз өзін-өзі басқаратын көлікте адам жүргізуші жоқ екенін ескеріңіз. Нағыз өзін-өзі басқаратын көліктер AI жүргізу жүйесі арқылы басқарылатынын есте сақтаңыз. Рульде адам жүргізушінің де қажеті жоқ, көлікті адам басқаратын жағдай да жоқ. Автономды көліктер (АВ) және әсіресе өзін-өзі басқаратын көліктер туралы кең және үздіксіз ақпарат алу үшін қараңыз. сілтеме осында.

Мен нағыз өздігінен жүретін көліктерге сілтеме жасағанда нені білдіретінін қосымша түсіндіргім келеді.

Өздігінен басқарылатын автомобильдердің деңгейлерін түсіну

Түсініктеме ретінде, нағыз өзін-өзі басқаратын автомобильдер - бұл АИ көлікті толығымен өздігінен басқаратын және жүргізу кезінде ешқандай адам көмегінсіз жүретін көліктер.

Бұл жүргізушісіз көліктер 4-деңгей және 5-деңгей болып саналады (менің түсіндірмені қараңыз мына сілтеме), ал адам жүргізушінің жүргізу күш-жігерін бірге бөлісуін талап ететін көлік әдетте 2 немесе 3-деңгейде қарастырылады. Жүргізу міндетін бірге орындайтын көліктер жартылай автономды болып сипатталады және әдетте әр түрлі ADAS (Driver-Assistance Advanced Systems) деп аталатын автоматтандырылған қондырмалар.

5-деңгейде нағыз өзін-өзі басқаратын көлік әлі жоқ, және біз бұған жету мүмкін бе, жоқ па, оған жету үшін қанша уақыт кететінін әлі білмейміз.

Сонымен қатар, 4-деңгейдегі күш-жігер бірте-бірте өте тар және таңдамалы қоғамдық жол сынақтарынан өту арқылы біраз тартуға тырысады, дегенмен бұл сынаққа рұқсат беру керек пе деген пікірталас бар (біз бәріміз экспериментте өмір немесе өлім-жітім теңіз шошқаларымыз) Біздің магистральдарда және айналма жолдарда орын алуда, кейбіреулер даулайды, менің хабарымды мына жерден қараңыз мына сілтеме).

Жартылай автокөліктер адам жүргізушісін қажет ететіндіктен, бұл көлік түрлерін қабылдау әдеттегі көліктерді басқарудан айтарлықтай ерекшеленбейді, сондықтан бұл тақырыпта олар туралы көп жаңалық таба алмайсыз (дегенмен, сіз көресіз Бір сәтте келесі ойлар жалпыға бірдей қолданылады).

Жартылай автокөліктер үшін көпшіліктің соңғы уақытта пайда болатын алаңдатарлық аспект туралы алдын-ала ескертуі маңызды, атап айтқанда 2-деңгей немесе 3-деңгейлі автокөліктің дөңгелегінде ұйықтап жатқандығы туралы бейнежазбаларын жазып жүрген адамдарға қарамастан. , жартылай автономды автокөлік жүргізу кезінде жүргізуші олардың назарын басқару тапсырмасынан алуы мүмкін деп сендіруден аулақ болуымыз керек.

Автоматизацияның 2 немесе 3 деңгейге өтуіне қарамастан, сіз көлік құралын басқаруға жауаптысыз.

Өздігінен жүретін көліктер мен рульді басқару улы интеллекттен тазартылады

4 және 5-деңгейдегі өздігінен жүретін көліктер үшін жүргізуші рөлінде адам жүргізушісі болмайды.

Барлық жолаушылар жолаушылар болады.

AI жүргізуді жүргізуде.

Тез арада талқылаудың бір аспектісі бүгінгі жасанды интеллект жүргізуші жүйелеріне қатысатын жасанды интеллекттің сезімтал болмауына алып келеді. Басқаша айтқанда, жасанды интеллект - бұл компьютерлік бағдарламалау мен алгоритмдердің жиынтығы, сондықтан адамдар ойлап тапқан тәртіппен ой қорыта алмайды.

Неліктен бұл интеллектке қосымша назар аударылмайды?

Мен жасанды интеллектті қозғау жүйесінің рөлін талқылағанда мен жасанды интеллектке адами қасиеттерді жатқызбайтынымды атап өткім келеді. Бүгінгі күні жасанды интеллект антропоморфизациясының тұрақты және қауіпті тенденциясы бар екенін ескеріңіз. Шын мәнінде, адамдар мұндай жасанды интеллект әлі жоқ екендігі туралы даусыз және талассыз фактілерге қарамастан, бүгінгі жасанды интеллектке адам тәрізді сезімді тағайындайды.

Осы нақтылау арқылы сіз AI жүргізу жүйесі қандай да бір түрде жүргізудің қырлары туралы «білмейді» деп ойлауға болады. Жүргізу және оған қатысты барлық нәрселер өзін-өзі басқаратын машинаның аппараттық және бағдарламалық жасақтамасының бөлігі ретінде бағдарламалануы керек.

Осы тақырып бойынша ойнауға келетін көптеген аспектілерге сүңгейік.

Біріншіден, AI өздігінен жүретін көліктердің барлығы бірдей емес екенін түсіну маңызды. Әрбір автоөндіруші және өзін-өзі басқаратын технологиялық фирма өзін-өзі басқаратын көліктерді ойлап табуда. Осылайша, AI жүргізу жүйелері не істейтіні немесе жасамайтыны туралы нақты мәлімдеме жасау қиын.

Сонымен қатар, AI басқару жүйесі белгілі бір нәрсені жасамайтынын айтқан кезде, оны кейінірек компьютерді дәл осылай жасауға бағдарламалайтын әзірлеушілер басып озуы мүмкін. Бірте -бірте AI басқару жүйелері біртіндеп жетілдіріліп, кеңейтілуде. Бүгінде бар шектеулер болашақта жүйенің қайталануында немесе нұсқасында болмауы мүмкін.

Бұл мен айтатын нәрсенің негізін салу үшін жеткілікті ескертулер береді деп үміттенемін.

Автономды көліктер мен өзін-өзі басқаратын көліктердің пайда болуына қарсы тұратын AI-мен тұндырылған көптеген әлеуеттер бар және бір күні жүзеге асуы мүмкін, мысалы, менің талқылауымды қараңыз. сілтеме осында және сілтеме осында. Біз әлі де өздігінен жүретін көліктерді шығарудың бастапқы сатысындамыз. Бала асырап алу жеткілікті ауқымға және көрінуге жеткенше, мен күткен улы AI қырларының көпшілігі ақырында пайда болады деп күткен жоқ және әлі де көпшіліктің назарын аударған жоқ.

Басында мүлдем зиянсыз болып көрінуі мүмкін көлік жүргізуге қатысты қарапайым болып көрінетін мәселені қарастырыңыз. Нақтырақ айтсақ, көшеден өтуге құқығы жоқ «адалған» жаяу жүргіншілерді күтіп тұрғаны үшін тоқтау керек пе, соны қалай дұрыс анықтау керектігін қарастырайық.

Сіз, сөзсіз, көлік жүргізіп, жолды кесіп өтуді күтіп тұрған жаяу жүргіншілерді кездестірдіңіз, бірақ олардың өтуге құқығы жоқ. Бұл тоқтап, оларды кесіп өтуге рұқсат беру туралы өз еркіңіз бар екенін білдірді. Сіз олардың кесіп өтуіне жол бермей жалғастыра аласыз және әлі де мұны істеудің заңды жүргізу ережелеріне сәйкес бола аласыз.

Адамдар жүргізушілердің мұндай жаяу жүргіншілер үшін тоқтау немесе тоқтамау туралы шешім қабылдауы туралы зерттеулер кейде адам жүргізушілер таңдауды теріс көзқарастарға негізделген деп болжайды. Адам жүргізуші жаяу жүргіншіге қарап, тоқтамауды таңдауы мүмкін, тіпті егер жаяу жүргіншінің нәсіліне немесе жынысына байланысты сыртқы түрі басқа болса, олар тоқтар еді. Мен мұны мына жерде тексердім сілтеме осында.

AI жүргізу жүйелері дәл осындай тоқтату немесе кету шешімін қабылдау үшін қалай бағдарламаланады?

Сіз барлық AI жүргізу жүйелері кез келген күтіп тұрған жаяу жүргіншілер үшін әрқашан тоқтайтын етіп бағдарламалануы керек деп жариялай аласыз. Бұл мәселені айтарлықтай жеңілдетеді. Шынында да, ешқандай түйінді шешім қабылданбайды. Егер жаяу жүргінші өтуді күтіп тұрса, олардың жүру құқығы бар-жоғына қарамастан, жаяу жүргінші өтуі үшін AI өздігінен басқарылатын машинаның тоқтағанына көз жеткізіңіз.

Жеңіл-жеңіл.

Өмір ешқашан оңай емес сияқты. Барлық өздігінен жүретін көліктер осы ережені сақтайды деп елестетіп көріңіз. Жаяу жүргіншілер AI жүргізу жүйелері, айталық, итермелеу екенін сөзсіз түсінеді. Көшеден өткісі келетін кез келген жаяу жүргіншілер оны қалаған кезде және қайда болса да, ерікті түрде жасайды.

Өздігінен басқарылатын көлік сағатына 45 миль жылдамдық шегінде жылдам көшемен келе жатыр делік. Жаяу жүргінші АИ өздігінен жүретін көлікті тоқтататынын «біледі». Сөйтіп, жаяу жүргінші көшеге қарай жүгіреді. Өкінішке орай, физика AI-дан жеңеді. AI жүргізу жүйесі өзін-өзі басқаратын көлікті тоқтатуға тырысады, бірақ автономды көліктің серпіні көп тонналық контрацепцияны алға апарады және адасушы жаяу жүргіншіге соғылады. Нәтижесі жарақат немесе өлімге әкеледі.

Жаяу жүргіншілер әдетте рульде адам жүргізуші болған кезде мұндай мінез-құлыққа тырыспайды. Әрине, кейбір жерлерде көз алмасы соғысы болып жатыр. Жаяу жүргінші жүргізушіге көз тіккен. Жүргізуші жаяу жүргіншіге көз тастайды. Жағдайға байланысты жүргізуші тоқтауы мүмкін немесе жүргізуші жол бөлігіне өз талаптарын айтып, жаяу жүргіншінің жолын бұзуға әрекеттенуі мүмкін.

Біз AI-ның ұқсас көз алмасы соғысына түсуін қаламаймыз, бұл бәрібір аздап қиын, өйткені өздігінен жүретін көліктің рульінде адам немесе робот отырмайды (мен роботтардың болашақ мүмкіндігін талқыладым) бұл жетек, қараңыз сілтеме осында). Дегенмен, біз жаяу жүргіншілерге үнемі оқ атуға мүмкіндік бере алмаймыз. Нәтижесі барлық мүдделі адамдар үшін апатты болуы мүмкін.

Содан кейін сіз осы монетаның екінші жағына аударып, AI жүргізу жүйесі мұндай жағдайларда ешқашан тоқтамауы керек деп мәлімдей аласыз. Басқаша айтқанда, жаяу жүргіншінің көшені кесіп өтуге тиісті құқығы болмаса, АИ әрқашан өздігінен жүретін көлік тоқтаусыз жүруі керек деп болжауы керек. Бұл жаяу жүргіншілерге сәттілік.

Мұндай қатал және жеңілдетілген ережені жалпы жұртшылық жақсы қабылдамайды. Адамдар - адамдар және олар әртүрлі жағдайларда заңды түрде өтуге құқығы жоқ болса да, көшені кесіп өту мүмкіндігін толығымен жабуды ұнатпайды. Сіз жұртшылықтың үлкен шуын оңай болжауға болады және өзін-өзі басқаратын көліктерді қабылдауды жалғастыруға қарсы реакция пайда болуы мүмкін.

Жасасақ қарғыс атсын, істемесек қарғыс атсын.

Бұл сізді AI осы көлік жүргізу мәселесімен қалай күресуге болатыны туралы шешім қабылдау сияқты бағдарламалау керек деген негізделген балама нұсқаға әкелді деп үміттенемін. Ешқашан тоқтауға болмайтын қатаң ережеге қол жеткізу мүмкін емес, сол сияқты, әрқашан тоқтауға болатын қатаң ереже де мүмкін емес. Мәселені шешу үшін AI кейбір алгоритмдік шешім қабылдау немесе ADM арқылы жасалуы керек.

ML/DL тәсілімен біріктірілген деректер жинағын пайдаланып көруге болады.

Міне, AI әзірлеушілері бұл тапсырманы бағдарламалауды қалай шешуі мүмкін. Олар өздігінен жүретін көлік қолданылатын белгілі бір қаланың айналасында орналасқан бейне камералардан деректерді жинайды. Деректер адам жүргізушілерінің жүру құқығы жоқ жаяу жүргіншілерге тоқтауды таңдағанын көрсетеді. Оның барлығы деректер жинағына жиналады. Machine Learning және Deep Learning қолдану арқылы деректер есептеу әдісімен модельденеді. Одан кейін AI жүргізу жүйесі осы үлгіні қашан тоқтату немесе тоқтамау керектігін шешу үшін пайдаланады.

Жалпы, жергілікті әдет-ғұрып қандай болса да, AI өздігінен жүретін көлікті осылай бағыттайды деген идея. Мәселе шешілді!

Бірақ бұл шынымен шешілді ме?

Еске салайық, мен адам жүргізушілер жаяу жүргіншілерге қашан тоқтау керектігін таңдауда бейтарап болуы мүмкін екенін көрсететін зерттеулер бар екенін атап өткен болатынмын. Белгілі бір қала туралы жиналған деректерде сол қиялдар болуы мүмкін. Сол деректерге негізделген AI ML/DL сол бір қиғаштықтарды модельдеу және көрсетуі мүмкін. AI жүргізу жүйесі бар болғаны бірдей бұрмалауларды ғана орындайды.

Мәселені шешуге тырысу үшін біз шын мәнінде осындай қиғаштықтары бар деректер жиынтығын жинай аламыз. Біз осындай деректер жинағын табамыз, содан кейін қиғаштықтарды белгілейміз немесе мәселені суреттеуге көмектесу үшін синтетикалық түрде деректер жинағын жасаймыз.

Бұрын анықталған барлық қадамдар орындалады, соның ішінде:

• Осы нақты қиғаштықты әдейі қамтитын деректер жинағын орнатыңыз
• Деректер жиынын Machine Learning (ML) және Deep Learning (DL) үлгілерін осы нақты ауытқуды анықтауға үйрету үшін пайдаланыңыз.
• Мақсатты жасанды интеллект дәл осылай ықтимал бейтарапты екенін анықтау үшін басқа AI-ға қатысты біржақты үйретілген ML/DL қолданыңыз.
• AI құрастырушыларына алгоритмдік қондырылған бұрмаланулардың қалай пайда болатынын көру үшін модельдерін оңай тексере алуы үшін нені ескеру керектігін көрсету үшін біржақты оқытылған ML/DL қолжетімді етіңіз.
• Осы қосылған нақты мысал арқылы AI этикасы мен этикалық AI хабардарлығының бөлігі ретінде бейтарап AI қауіптерін мысалға келтіріңіз.
• басқа

қорытынды

Ашылу жолына қайта оралайық.

Біреуін білу үшін біреу керек.

Кейбіреулер бұл керемет кең тараған сөз улы AI-ны шығару туралы сөз болғанда, біз басқа улы AI-ны табу және онымен күресу үшін улы AI құруға және қолдануға тиісті сенім беруіміз керек деп түсіндіреді. Қорытынды: Кейде басқа ұрыны ұстау үшін ұры қажет.

Біз ұрылар жасауды бастау үшін өз жолымыздан шығып жатқан шығармыз деген алаңдаушылық бар. Біз улы AI ойлап тапқымыз келе ме? Бұл ақылсыз идея сияқты емес пе? Кейбіреулер біз барлық улы AI-ға, соның ішінде батыр немесе батыр үшін әдейі жасалған AI-ға тыйым салуымыз керек деп батыл түрде даулайды. Жақсылыққа арналған AI мақсаты.

Пайда болуы мүмкін кез келген ақылды немесе жасырын түрде улы AI-ны өшіріңіз.

Әзірге осы тақырып бойынша соңғы бір бұрылыс. Біз әдетте бұл атақты жолды жаман немесе қышқыл әрекеттер жасайтын адамдарға немесе заттарға қатысты деп есептейміз. Міне, ұрыны ұстау үшін ұры керек деген ұғымға қонамыз. Бәлкім, бұл сөзді теріске шығарып, мұңды жүзден гөрі қуанышты жүзге айналдыру керек шығар.

Мұнда қалай.

Егер біз бейтарап және улы емес AI алғымыз келсе, оны білу үшін біреу қажет болуы мүмкін. Бәлкім, одан әрі ұлылық пен жақсылықты тану және тудыру үшін ең үлкен және ең жақсы нәрсе керек. Данышпан даналықтың бұл нұсқасында біз бақытты жүзге назарымызды аударамыз және ойлауға шоғырлануды мақсат етеміз. Жақсылыққа арналған AI.

Егер сіз менің не айтқым келгенін білсеңіз, бұл әлдеқайда көңілді және қанағаттанарлық көңілді көзқарас болар еді.