AI этикасы және AI-дағы өзін-өзі тану ізденісі

Сіз өзіңізді білесіз бе?

Мен сенетініңізге сенімдімін.

Мәселе мынада, мыс, біздің аз адамдар әсіресе өзімізді біледі. Өзін-өзі танудың ауқымы немесе дәрежесі бар және біз бәріміз өзімізді қаншалықты епті сезінетініміз әртүрлі. Сіз өзіңізді толықтай сезінемін деп ойлауыңыз мүмкін және тек аз ғана. Сіз өзіңізді жақсы түсініп, бұл сіздің психикалық күйіңіз екенін түсінуіңіз мүмкін.

Сонымен қатар, спектрдің ең жоғарғы бөлігінде сіз өзіңізді толықтай білетін және шынымен де олар сияқты өзін-өзі танитындығыңызға сенуіңіз мүмкін. Жарайсың.

Бұл туралы айтатын болсақ, өзін-өзі танудың қандай пайдасы бар?

Журналында жарияланған зерттеулерге сәйкес Гарвард бизнес шолу (HBR) Таша Эурих, сіз жақсырақ шешім қабылдай аласыз, шешімдеріңізге сенімдісіз, қарым-қатынас қабілеттеріңіз күштірек және жалпы тиімдірек («Өзін-өзі тану дегеніміз не (және қалай) деген мақалаға сәйкес) Оны өсіру үшін).» Бонус факторы, өзін-өзі жақсы білетін адамдар алдауға, ұрлауға немесе өтірік айтуға бейім емес деп айтылады.Осы тұрғыдан алғанда, арамза немесе алаяқ болудан аулақ болудың екі жағы бар. жақсы адам болуға және басқа адамдарға сән беруге ұмтылу.

Өзін-өзі тану туралы осы әңгімелердің бәрі біршама айқын сұрақ тудырады, атап айтқанда өзін-өзі тану тіркесі шын мәнінде нені білдіреді. Сіз кешен туралы әртүрлі анықтамалар мен түсіндірмелерді оңай таба аласыз және біз өзін-өзі тануды талап ететін күрделі құрылым деп айта аламыз. Кейбіреулер өзін-өзі тану өзіңізді бақылаудан, өзіңізді не істеп жатқаныңызды білуден тұрады деп ұсына отырып, мәселелерді жеңілдетеді. Сіз өзіңіздің ойларыңыз бен әрекеттеріңізден хабардарсыз.

Мүмкін, өзін-өзі білмеген кезде адам не істеп жатқанын, неліктен екенін түсінбейді, сонымен қатар басқа адамдардың олар туралы не айтатынын білмейді. Сіз осындай адамдарды кездестіргеніңізге сенімдімін.

Кейбір адамдар бұл жер бетінде өздерінің не істеп жатқанын білмейтін сияқты көрінеді және басқалардың олар туралы не айтатынына ұқсамайды. Менің ойымша, сіз олар нәзік сынғыштар бутикіндегі бастары төмен зарядталған бұқа сияқты деп дауласуға болады. Біз әдетте бұқа не істеп жатқанын білмейді және басқалар ақылсыз тіршілік иесін физикалық түрде маневрлеуге немесе қорқытуға тырыспайынша, басқалардың көзқарастарын ескермейді деп сенеміз.

Өзін-өзі тану біршама рекурсивті болуы мүмкін дейді.

Осы рекурсияны көрсету үшін мысалды сызып көрейін. Сіз өзіңіздің смартфоныңыздан мысық туралы бейнені тамашалап жатырсыз (бәрі мұны істейді, меніңше). Кейбір адамдарда осы сүйікті мысықтардың таңғажайып жүректі жылытудан басқа анық ойлары болмайды. Сонымен қатар, өзін-өзі тануы аз кез келген адам, олар мысық бейнесін көріп жатқанын біледі. Сондай-ақ олар айналасындағылардың мысық бейнежазбасын көріп жатқанын байқағанын білуі мүмкін.

Назар аударыңыз, сіз өзіңізді сезіне аласыз және әлі де белгілі бір негізгі әрекетке батып кете аласыз. Бұл жағдайда негізгі әрекет - мысық бейнесін көру. Екіншіден, және бір мезгілде сіз шынымен мысық бейнесін көріп жатырсыз деп ойлай аласыз. Сондай-ақ, сіз мысықтар туралы қызықты бейнені көріп отырғанда, басқалар сізді бақылап отыр деп ойлай аласыз. Мысық бейнесін көруді тоқтату сияқты бір әрекетті міндетті түрде тоқтатудың қажеті жоқ, содан кейін сіз мысық бейнесін көріп жатқаныңызды (немесе жай ғана) бөлек қарастыруыңыз керек. Бұл ойлар бір-бірімен параллель болуы мүмкін.

Кейде біздің өзін-өзі тану бізді негізгі психикалық әрекеттен шығаруы немесе кем дегенде үзуі мүмкін. Мүмкін, мысықтар туралы бейнені көру туралы ойлаған кезде, сіздің ойыңыз ішінара бөлінуі мүмкін, өйткені бейненің өзіне ғана назар аударуға тырысады. Сіз көрген, бірақ толық түсінуден ойша алаңдаған бөлікті қайта қарау үшін бейнені кері айналдыруды таңдайсыз. Өзін-өзі тану сіздің негізгі психикалық әрекетіңізді бұзды.

Жарайды, біз енді рекурсивті аспектілердің пайда болуына дайынбыз.

Дайынсыз ба?

Сіз мысық туралы бейне көріп отырсыз. Сіздің өзін-өзі тануыңыз сізге мысық туралы бейне көріп отырғаныңызды және бейнені көріп отырған кезде басқалардың сізді көріп отырғанын хабарлайды. Бұл статус-кво.

Келесіде сіз қосымша психикалық секіріс жасайсыз. Сіз өзіңізді тану туралы ойлана бастайсыз. Сіз өзіңіздің өзін-өзі тануға кірісетініңізді өзіңіз түсінесіз. Бұл былай болады: мен мысық туралы бейнені көру туралы тым көп ойланамын ба, сіз өзіңізден үмітсіз түрде сұрайсыз ба? Бұл өзін-өзі танудың тағы бір қабаты. Өзін-өзі тану рейтингі басқа өзін-өзі тану.

Төменгі жерде тасбақа деген ескі сөз бар. Өзін-өзі тану құбылыстары үшін сіз:

• Өзіңді білмейсің
• Өзін-өзі тану
• Өзіңіз туралы өзін-өзі танудың өзін-өзі тануы
• Өзіңіз туралы өзіңізді білуіңіз туралы өзіңізді білу
• Ad Infinitum (яғни, т.б.)

Сіз бұрын мен өзін-өзі танудың екі негізгі категориясы бар сияқты көрінетінін нәзік түрде атап өткенімді түсінген боларсыз. Белгілі бір теория біздің ішкі күйлерімізге назар аударатын ішкі өзіндік сананың бір түрі бар екенін және бізде айналамыздағы бізді көріп тұрғандардың біз туралы қабылдауын өлшеуге көмектесетін сыртқы өзіндік сананың бар екенін алға тартады.

HBR мақаласына сәйкес, мұнда өзін-өзі танудың теориялық екі түрінің қысқаша сипаттамасы берілген: «Бірінші, біз оны атадық. ішкі өзін-өзі тану, өз құндылықтарымызды, құмарлықтарымызды, ұмтылыстарымызды, қоршаған ортаға, реакцияларға (ойлар, сезімдер, мінез-құлық, күшті және әлсіз жақтарды қоса) және басқаларға әсер етуді қаншалықты анық көретінімізді көрсетеді. Ал бұл арада екіншісі: «Екінші санат, сыртқы өзін-өзі тану, жоғарыда аталған факторлар тұрғысынан басқа адамдардың бізге қалай қарайтынын түсінуді білдіреді. Біздің зерттеулеріміз басқалардың оларға қалай қарайтынын білетін адамдардың эмпатия көрсетуде және басқалардың көзқарастарын қабылдауда шебер екенін көрсетеді ».

Ыңғайлы екі-екі матрицаны немесе төрт шаршыны ішкі және сыртқы өзін-өзі танудың жоғарыдан төменге дейін ауытқитынын растау арқылы алуға болады және екі санатты бір-біріне қарсы жұптастыруға болады. HBR зерттеуі сізді осы төрт өзін-өзі тану архетипінің бірі деп айтатыныңызды көрсетеді:

• Интроспектор: Төмен сыртқы өзін-өзі тану + Ішкі өзін-өзі тану жоғары
• Ізденуші: Төмен сыртқы өзін-өзі тану + төмен ішкі өзін-өзі тану
• Көңіл көтеруші: сыртқы өзін-өзі тану жоғары + ішкі өзін-өзі тану
• Хабардар: Жоғары сыртқы өзін-өзі тану + жоғары ішкі өзін-өзі тану

Биік шыңы сыртқы өзін-өзі танудың жоғарғы сатысында және сол сияқты ішкі өзін-өзі танудың шыңында болудан тұратын «Хабарлы» архетипі болар еді. Түсінікті болу үшін, сіз бұл мақтанған позаға міндетті түрде тұрақты түрде жете алмайсыз. Сіз ішкі және сыртқы өзін-өзі тану салаларында жоғары және төмен болу арасында алға және артқа сырғып кете аласыз. Бұл күннің уақытына, сіз тап болған жағдайға және басқа да маңызды факторларға байланысты болуы мүмкін.

Енді біз өзін-өзі тану туралы кейбір негізгі элементтерді түсіндіргендіктен, біз мұны этикалық мінез-құлық тақырыбымен байланыстыруға тырысамыз.

Өзін-өзі тану туралы әдеттегі талап - сіз өзіңізді білетін кезде сіз жоғарыда болу ықтималдығыңызды жоғарылатасыз. Бұл, жоғарыда көрсетілгендей, сіз ұрлық, алдау және өтірік айту сияқты жағымсыз этикалық мінез-құлыққа бейім емес екеніңізді білдіреді. Бұл тенденцияның негіздемесі мынада: сіздің өзін-өзі танудың белсенділігі сіздің мінез-құлқыңыз жағымсыз немесе әдепсіз екенін түсінуге мүмкіндік береді. Сіз лайлы әдепсіз суға түскенде өзіңізді ұстап қана қоймай, сонымен бірге сіз өзіңізді құрғақ жерге (этикалық аумақтың қасиеттілігі) бұруға бейімсіз.

Өзін-өзі тану өзін-өзі бақылауды жүзеге асыруға көмектеседі.

Қарама-қарсылық өзін-өзі тану аз немесе мүлдем болмаған кезде болуы мүмкін, бұл біреудің этикалық емес мінез-құлыққа бейімділігін елемейтінін білдіреді. Сіз мұндай бейхабар адам өзінің теріс әрекет ететінін түсінбеуі мүмкін деп айтуға болады. Сынғыш заттар дүкеніндегі бұқа сияқты, олардың назарын бірдеңе аударғанша, олардың өзін-өзі реттеуі екіталай.

Айтпақшы, мұны бәрі бірдей сатып алмайды. Кейбіреулер өзін-өзі тану этикалық емес, этикалық емес болу үшін оңай қолданылуы мүмкін деп даулайды. Мысалы, зұлымдық жасаған адам өзін-өзі толық түсініп, жамандық жасап жатқанына қуанады. Олардың өзін-өзі тануы оларды одан да үлкен және үлкен келеңсіз әрекеттерге итермелейді.

Бұл жерде көзге көрінбейтін бұлттылық бар. Біреу өзін жақсы біледі делік, бірақ олар белгілі бір қоғамның немесе мәдениеттің этикалық әдет-ғұрыптарынан бейхабар. Осылайша, олар өзін-өзі білетініне қарамастан, ешқандай этикалық нұсқауларға ие емес. Немесе, егер қаласаңыз, адам этикалық ережелер туралы біледі және олардың оларға қатысты екеніне сенбейді. Олар өздерін бірегей немесе әдеттегі этикалық ойлаудың шегінен тыс деп санайды.

Айналып, айналады.

Өзін-өзі тану екі қырлы этикаға бағытталған қылыш ретінде түсіндірілуі мүмкін, кейбіреулер қызу атап көрсетеді.

Әзірге өзін-өзі танудан тұратын және бізді этикалық мінез-құлыққа бағыттайтын немесе итермелейтін бақытты тұлға нұсқасына көшейік. Қалғанының бәрі тең болған жағдайда, біз өзін-өзі тану неғұрлым көп болса, соғұрлым этикалық тұрғыда жүресіз деген дөрекі болжам жасаймыз. Мұны тілеу өте жағымды және шабыттандыратын сияқты.

Берілістерді ауыстырып, суретке жасанды интеллект (AI) енгізейік.

Біз осы пікірталаста барлық шиеленістерді AI этикасы деп те аталатын этикалық АИ-дің дамып келе жатқан саласымен байланыстырудың бір сәтінде тұрмыз. Жасанды интеллект этикасы туралы тұрақты және кең ақпарат алу үшін қараңыз сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

Этикалық АИ түсінігі AI пайда болуына дейін этика мен этикалық мінез-құлық саласын біріктіруді талап етеді. Сіз, әрине, AI туралы дабыл қоңырауларын тудырған тақырыптарды көрдіңіз, олар теңсіздіктерге және әртүрлі қисындарға толы. Мысалы, AI негізіндегі бет-әлпетті тану жүйелері, әдетте, негізгі Machine Learning (ML) және Deep Learning (DL) құралдарының қалай оқытылып, өрістетілгеніне байланысты нәсілдік және гендерлік кемсітушілікті көрсете алады деген алаңдаушылық бар (менің талдауымды қараңыз). сағ мына сілтеме).

Тоқтауға тырысыңыз немесе, кем дегенде, жағымсыз иістерді азайтуға тырысыңыз AI for Bad, байқаусызда немесе кейде әдейі нашар әрекет ететін AI жүйелерінен тұратын, жақында AI әзірлеу мен пайдалануда этикалық ережелерді қолданудың өзектілігі туындады. Негізгі мақсат – AI әзірлеушілеріне, сонымен қатар AI құрастыратын немесе өрістейтін фирмаларға және AI қолданбаларына тәуелді фирмаларға этикалық нұсқаулар беру. Жасалған және қабылданатын этикалық AI принциптерінің мысалы ретінде менің хабарларымды қараңыз сілтеме осында.

Осы өте маңызды үш сұрақты қарастыру үшін рефлексия сәтін беріңіз:

• Біз AI әзірлеушілеріне этикалық AI принциптерін қабылдауға және осы нұсқауларды нақты пайдалануға мүмкіндік бере аламыз ба?
• Біз AI жасайтын немесе кәсіп ететін фирмаларды дәл осылай істеуге шақыра аламыз ба?
• Біз AI қолданатындарды этикалық AI аспектілерін білу үшін ала аламыз ба?

Мен бұл туралы еш ұялмай айтамын, бұл үлкен тапсырыс.

AI жасаудың толқуы AI этикасына кез келген назар аударуды жеңе алады. Тек толқу ғана емес, ақша табу да бұл теңдеудің ажырамас бөлігі болып табылады. AI саласындағы кейбір адамдар өздерінің AI жүйелерін есіктен шығарғаннан кейін этикалық AI «заттарымен» айналысуға дайын екенін білуге ​​таң қалуыңыз мүмкін. Бұл тез сәтсіздікке ұшырауды және оны дұрыс орындамайынша жиі сәтсіздікке ұшырауды қамтамасыз ететін типтік техникалық мантра (дұрыс болады деп үміттенемін).

Әрине, жалпы жұртшылыққа этикалық тұрғыдан күмәнді AI-ны итеріп жатқандар атты қорадан шығарып жібереді. Олардың жариялаған кеңейтілген идеясы - бұл AI for Bad ол күнделікті қолданыста болғаннан кейін түзетіледі, бұл өте кеш, өйткені жылқы қазірдің өзінде қасақана жүгіреді. Зиян келтіруге болады. Сондай-ақ, AI пайдалану кезінде ештеңе түзетілмейтін немесе реттелмейтін ықтималдығы жоғары. Жиі ақталатын себеп - бұл кезде AI-мен айналысу оны әдепсіз алгоритмдік шешім қабылдау (ADM) тұрғысынан мүлдем нашарлатуы мүмкін.

AI құрастыратын, АИ өрістейтін және AI қолданатын адамдардың санасында жарқыраған және бағыттаушы нұр ретінде этикалық AI болуының пайдалылығы мен өміршеңдігін алу үшін не істеу керек?

Жауап: Өзін-өзі тану.

Иә, егер адамдар АИ-ді қалай қолданатыны немесе өзара әрекеттесетіні туралы өзін-өзі жақсы білетін болса, бұл олардың этикалық AI-ның қалыпты болуын қалауға бейімділігін арттыруы мүмкін деген түсінік. AI әзірлеушілері мен AI жүйелерімен байланысты компаниялар туралы да солай айтуға болады. Егер олар не істеп жатқанын өздері білетін болса, мүмкін олар AI этикасын көбірек қабылдайтын болар еді.

Жоғарыда айтылған логиканың бір бөлігі - өзін-өзі тану этикалық тұрғыдан жақсы адам болуға бейімділік береді, сонымен қатар этикалық тұрғыдан нашар адам болудан аулақ болады. Егер біз бұл алғышартты сақтай алсақ, бұл өзін-өзі тануға бейім AI әзірлеушілері этикалық мінез-құлыққа бейім болады, сондықтан этикалық тұрғыдан дұрыс AI жасауға бейім болады.

Бұл сіз үшін тым алыс көпір ме?

Кейбіреулер жанамалық аздап көп дейді. Өзін-өзі тану, этикалық ізгі болу және AI-ға этикалық ережелерді қолдану арасындағы байланыстың шамадан тыс тізбегін жұту қиын болуы мүмкін. Қарсы аргумент - бұл әрекет ету зиян тигізбеуі.

Скептиктер AI әзірлеушісі өзін-өзі білуі мүмкін және этикалық тұрғыдан көбірек ойлауы мүмкін деп айтады, бірақ олар бұл ақыл-ой лагерін этикалық AI әдеттеріне қолдануға міндетті емес. Бұл сұраққа жауап мынада: егер біз этикалық AI мәселелерін жариялай және танымал ете алсақ, әйтпесе әлсіз болып көрінетін байланыс AI жасауға келгенде айқынырақ, күтілетін болады және, мүмкін, стандартты әдіске айналады.

Мен енді осы дастанға жаңалық қосамын. Бұрылыс сіздің басыңызды айналдыруы мүмкін. Жақсы отырғаныңызға және мен көрсететін нәрсеге дайын екеніңізге көз жеткізіңіз.

Кейбіреулер этикалық AI-ны тікелей AI-ның өзінде құруымыз керек екенін айтады.

Бұл мәлімдеме сізді қызықтырмауы мүмкін. Оны орауыштан шығарайық.

Бағдарламалаушы AI жүйесін жасай алады және мұны AI-ға бейтараптар мен теңсіздіктерді енгізуге жол бермеуге тырысатын өзінің бағдарламалаудың өзіндік санасымен жасай алады. Әзірлеуші ​​бағдарламалауды жай ғана жыртудың орнына, олар қолданып жатқан тәсіл АИ-де жағымсыз элементтердің қажетті болмауына әкелетінін сұрау үшін өз иығымен бақылайды.

Өте жақсы, бізде өзін-өзі жақсы білетін, этикалық мінез-құлықтарды қабылдауға тырысатын және AI жүйесін жасау кезінде этикалық ережелерді қамтитын жарықты көрген AI әзірлеушісі бар.

Этикалық AI үшін жеңіске жетіңіз!

Бәрі жақсы, бірақ бұл кейінірек болуы мүмкін нәрсе. AI өріске шығарылып, күнделікті қолданысқа енгізіледі. AI бөлігі жылдам «үйренуге» арналған компонентті қамтиды. Бұл AI жаңа деректер мен бастапқы бағдарламалаудың басқа аспектілері негізінде өзін реттей алатынын білдіреді. Қысқасы, бұл AI сезімтал дегенді білдірмейді. Бізде сезімтал AI жоқ. Біз жасаймыз деген ақымақ тақырыптарды елемеңіз. Бізде сезімтал AI болатынын ешкім айта алмайды және оның қашан болатынын ешкім де болжай алмайды.

Біздің әңгімемізге оралатын болсақ, АИ өзін-өзі жетілдіру үшін мақсатты түрде жасалған. Өте ыңғайлы түсінік. Бағдарламашылар үнемі жетілдіріп отырудың орнына, олар AI бағдарламасына мұны өздігінен жасауға мүмкіндік береді (оу, бұл өзіңізді жұмыстан шығарып жатырсыз ба?).

AI дюймді дюймге дейін реттейтін уақыт ішінде әртүрлі сұмдық теңсіздіктер мен қиғаштықтар AI жүйесіне өзінің өзгерту актілерімен енетіні белгілі болды. Бағдарламашы бастапқыда бұл жағымсыз аспектілерді сақтаған болса, қазір олар AI-ның жылдам реттелуіне байланысты тұжырымдалуда. Өкінішке орай, бұл соншалықты жасырын түрде болуы мүмкін, сондықтан ешкім одан дана емес. Бұрынғы толық сынақтан кейін AI-ға жасыл жарық бергендер енді AI-ның шірік жолға түскенін білмейді. AI for Bad.

Бұл жағымсыз пайда болуының алдын алудың немесе кем дегенде оны ұстаудың бір жолы АИ-ге этикалық AI қос тексерушісінің бір түрін салу болар еді. AI құрамындағы құрамдас АИ әрекетін бақылау және этикалық емес ADM пайда бола бастағанын анықтау үшін бағдарламаланған. Олай болса, құрамдас AI әзірлеушілеріне ескерту жіберуі немесе AI жүйесін басқаратын фирмаға жіберуі мүмкін.

Бұл компоненттің жетілдірілген нұсқасы AI жөндеуге әрекет етуі мүмкін. Бұл этикалық емес туындайтын аспектілерді тиісті этикалық параметрлерге айналдырып, түзетулерді түзету болар еді. Бағдарламалаудың бұл түрі қиын деп елестете аласыз. Оның адасып кетуі мүмкін, әдепсізді терең әдепсіздікке айналдыруы мүмкін. Сондай-ақ, жалған позитивтің құрамдас бөлікті іске қосу және сәйкесінше нәрселерді бұзу мүмкіндігі бар.

Қалай болғанда да, бұл қос тексеруші қалай жұмыс істейтінін білмей, біз бұл туралы батыл мәлімдеме жасаймыз. Сіз кейбір шектеулі түрде AI өзін-өзі біледі деп ұсына аласыз.

Иә, бұл көптеген адамдар үшін күресетін сөздер.

Барлығының дерлік басым сенімі - бүгінгі AI өзін-өзі білмейді. Көп нүкте, нүкте. Біз сезімтал АИ-ге жеткенше, оның қашан немесе қашан болатынын білмейміз, өзін-өзі білетін AI түрі жоқ. Кем дегенде, адамға бағытталған өзін-өзі тану мағынасында емес. Бұл орын алуы мүмкін деп ұсынбаңыз.

Мен AI-ны антропоморфизациялаудан сақ болу керек екендігімен келісемін. Біраз уақыттан кейін мен бұл алаңдаушылық туралы көбірек айтамын.

Сонымен қатар, егер сіз талқылау үшін «өзін-өзі тану» кезеңдерін бос-қатты түрде қолдануға дайын болсаңыз, АИ неліктен өзін-өзі басқарудың жалпы түсінігіне бағынады деп айтуға болатынын оңай түсіне аласыз деп ойлаймын. хабардарлық. Бізде AI бөлігі бар, ол AI-ның қалған бөлігін бақылайды, қалған АИ не істеп жатқанын бақылайды. Қалған AI шектен шыға бастағанда, бақылау бөлігі мұны анықтауға тырысады. Сонымен қатар, AI бақылау бөлігі немесе қос тексеруші AI-ның қалған бөлігін тиісті жолақтарға бағыттауы мүмкін.

Бұл мысықтар туралы бейнелерді көру және сіз осылай істеп жатқаныңызды сезіну әрекеті сияқты емес пе?

Оған таныс сақина бар.

Біз мұны одан да кеңейте аламыз. AI қос тексеруші құрамдас бөлігі AI-ның қалған бөлігінің әрекетін бақылауға ғана бағдарламаланбайды, сонымен қатар AI қолданатындардың мінез-құлқын белгілейді. AI пайдалану кезінде пайдаланушылар қалай жұмыс істейді? Кейбір пайдаланушылар AI оларды кемсітетін сияқты деп наразылығын білдірді делік. AI қос тексерушісі оны басқа AI-ның адасқаны туралы басқа қызыл жалау ретінде пайдалана отырып, қабылдауы мүмкін.

Бұл ішкі өзін-өзі тануды және сыртқы өзін-өзі тану категорияларын тудырады.

AI қос тексерушісі АИ-нің қалған бөлігінің мазасыз теңіздерге бет алғанын анықтау үшін ішкі және сыртқы сканерлеуде. Анықтау жалаушаны көтереді немесе өзін-өзі түзетудің күшіне енуіне себеп болады.

Тағы бір ақылға қонымды кеңейтімді қосайық. Біз тағы бір AI қос тексерушісін жасаймыз, ол негізгі AI қос тексерушісін екі рет тексеруге арналған. Неге олай? Ал, AI қос тексерушісі әлсіреп немесе өз жұмысын орындай алмай жатқан сияқты делік. Қос тексерушінің AI қос тексерушісі бұл ақаулықты анықтауға және тиісінше қажетті шараларды қабылдауға тырысады. Өзін-өзі танудың рекурсивті сипатына қош келдіңіз, кейбіреулер AI есептеу жүйесінде көрсетілгендей мақтанышпен мәлімдей алады.

Бұл туралы өз орныңыздың шетінде тұрғандарыңыз үшін, әзірге соңғы түсініктеме, егер сіз AI жүйелерін «өзін-өзі танитын» етсеңіз, олар этикалық мінез-құлыққа бейім болады деп ұсынуға тырысамыз. Олар мұны саналы негізде істеп жатыр ма? Жоқ. Олар мұны есептеу негізінде жасай ма? Иә, бірақ біз оның адам мінез-құлқымен бірдей емес екенін анық айтуымыз керек.

Егер сіз өзін-өзі тану түсінігі оны есептеу схемасына сәйкестендіру үшін қате бұрмаланып жатқаны ыңғайсыз болса, бұл туралы сіздің сенімсіздіктер жақсы атап өтіледі. Ұғымды қолданатын AI күш-жігерін тоқтату керек пе - бұл басқа ашық мәселе. Сіз, кем дегенде, бұл бізді AI не істей алатынынан жақсы нәтижеге апаратын сияқты деп сендіре аласыз. Бұл орын алған кезде біз көзімізді ашқанымыз жөн.

Мұның бәрі қалай болатынын көруіміз керек деп ойлаймын. Бес жыл, он жыл және елу жылдан кейін осыған қайта оралыңыз және даулы мәселеге қатысты ойыңыздың өзгергенін көріңіз.

Мен бұл тақырыптың біршама күрделі сараптамасы болғанын түсінемін және сіз күнделікті мысалдарды қалайтын шығарсыз. Менің жүрегіме жақын болатын ерекше және танымал мысалдар жиынтығы бар. Көрдіңіз бе, менің AI бойынша сарапшы ретінде этикалық және құқықтық салдарларды қоса алғанда, тақырыптың біршама теориялық сипатын оңай түсіну үшін AI этикасының дилеммаларын көрсететін нақты мысалдарды анықтауды жиі сұрайды. Бұл этикалық AI екіұштылығын айқын көрсететін ең қызықты салалардың бірі - AI негізіндегі өзін-өзі басқаратын автомобильдердің пайда болуы. Бұл тақырып бойынша кең талқылау үшін ыңғайлы пайдалану жағдайы немесе үлгі ретінде қызмет етеді.

Олай болса, ойлануға тұрарлық маңызды сұрақ: Жасанды интеллектке негізделген шынайы өзін-өзі басқаратын көліктердің пайда болуы AI-ның «өзін-өзі тану» сияқты бір нәрсеге ие екендігі туралы ештеңені жарықтандырады ма және егер солай болса, бұл нені көрсетеді?

Маған сұрақты ашуға бір сәт рұқсат етіңіз.

Біріншіден, нағыз өзін-өзі басқаратын көлікте адам жүргізуші жоқ екенін ескеріңіз. Нағыз өзін-өзі басқаратын көліктер AI жүргізу жүйесі арқылы басқарылатынын есте сақтаңыз. Рульде адам жүргізушінің де қажеті жоқ, көлікті адам басқаратын жағдай да жоқ. Автономды көліктер (АВ) және әсіресе өзін-өзі басқаратын көліктер туралы кең және үздіксіз ақпарат алу үшін қараңыз. сілтеме осында.

Мен нағыз өздігінен жүретін көліктерге сілтеме жасағанда нені білдіретінін қосымша түсіндіргім келеді.

Өздігінен басқарылатын автомобильдердің деңгейлерін түсіну

Түсіндірме ретінде, шын мәнінде өздігінен басқарылатын автомобильдер - бұл ИИ автокөлікті толығымен өздігінен басқаратын және көлік жүргізу кезінде ешқандай көмек болмайтын машиналар.

Бұл жүргізушісіз көліктер 4-деңгей және 5-деңгей болып саналады (менің түсіндірмені қараңыз мына сілтеме), ал адам жүргізушінің жүргізу күш-жігерін бірге бөлісуін талап ететін көлік әдетте 2 немесе 3-деңгейде қарастырылады. Жүргізу міндетін бірге орындайтын көліктер жартылай автономды болып сипатталады және әдетте әр түрлі ADAS (Driver-Assistance Advanced Systems) деп аталатын автоматтандырылған қондырмалар.

5 деңгейдегі өзін-өзі басқаратын нақты көлік әлі жоқ, оған жетуге болатын-болмайтынын және оған жету қанша уақытты білмейміз.

Сонымен қатар, 4-деңгейдегі күш-жігер бірте-бірте өте тар және таңдамалы қоғамдық жол сынақтарынан өту арқылы біраз тартуға тырысады, дегенмен бұл сынаққа рұқсат беру керек пе деген пікірталас бар (біз бәріміз экспериментте өмір немесе өлім-жітім теңіз шошқаларымыз) Біздің магистральдарда және айналма жолдарда орын алуда, кейбіреулер даулайды, менің хабарымды мына жерден қараңыз мына сілтеме).

Жартылай автокөліктер адам жүргізушісін қажет ететіндіктен, бұл көлік түрлерін қабылдау әдеттегі көліктерді басқарудан айтарлықтай ерекшеленбейді, сондықтан бұл тақырыпта олар туралы көп жаңалық таба алмайсыз (дегенмен, сіз көресіз Бір сәтте келесі ойлар жалпыға бірдей қолданылады).

Жартылай автокөліктер үшін көпшіліктің соңғы уақытта пайда болатын алаңдатарлық аспект туралы алдын-ала ескертуі маңызды, атап айтқанда 2-деңгей немесе 3-деңгейлі автокөліктің дөңгелегінде ұйықтап жатқандығы туралы бейнежазбаларын жазып жүрген адамдарға қарамастан. , жартылай автономды автокөлік жүргізу кезінде жүргізуші олардың назарын басқару тапсырмасынан алуы мүмкін деп сендіруден аулақ болуымыз керек.

Автоматизацияның 2 немесе 3 деңгейге өтуіне қарамастан, сіз көлік құралын басқаруға жауаптысыз.

Өзін-өзі басқаратын көліктер және өзін-өзі тану деп аталатын AI

4 және 5-деңгейдегі өздігінен жүретін көліктер үшін жүргізуші рөлінде адам жүргізушісі болмайды.

Барлық жолаушылар жолаушылар болады.

AI жүргізуді жүргізуде.

Тез арада талқылаудың бір аспектісі бүгінгі жасанды интеллект жүргізуші жүйелеріне қатысатын жасанды интеллекттің сезімтал болмауына алып келеді. Басқаша айтқанда, жасанды интеллект - бұл компьютерлік бағдарламалау мен алгоритмдердің жиынтығы, сондықтан адамдар ойлап тапқан тәртіппен ой қорыта алмайды.

Неліктен бұл интеллектке қосымша назар аударылмайды?

Мен жасанды интеллектті қозғау жүйесінің рөлін талқылағанда мен жасанды интеллектке адами қасиеттерді жатқызбайтынымды атап өткім келеді. Бүгінгі күні жасанды интеллект антропоморфизациясының тұрақты және қауіпті тенденциясы бар екенін ескеріңіз. Шын мәнінде, адамдар мұндай жасанды интеллект әлі жоқ екендігі туралы даусыз және талассыз фактілерге қарамастан, бүгінгі жасанды интеллектке адам тәрізді сезімді тағайындайды.

Осы нақтылау арқылы сіз AI жүргізу жүйесі қандай да бір түрде жүргізудің қырлары туралы «білмейді» деп ойлауға болады. Жүргізу және оған қатысты барлық нәрселер өзін-өзі басқаратын машинаның аппараттық және бағдарламалық жасақтамасының бөлігі ретінде бағдарламалануы керек.

Осы тақырып бойынша ойнауға келетін көптеген аспектілерге сүңгейік.

Біріншіден, AI өздігінен жүретін көліктердің барлығы бірдей емес екенін түсіну маңызды. Әрбір автоөндіруші және өзін-өзі басқаратын технологиялық фирма өзін-өзі басқаратын көліктерді ойлап табуда. Осылайша, AI жүргізу жүйелері не істейтіні немесе жасамайтыны туралы нақты мәлімдеме жасау қиын.

Сонымен қатар, AI басқару жүйесі белгілі бір нәрсені жасамайтынын айтқан кезде, оны кейінірек компьютерді дәл осылай жасауға бағдарламалайтын әзірлеушілер басып озуы мүмкін. Бірте -бірте AI басқару жүйелері біртіндеп жетілдіріліп, кеңейтілуде. Бүгінде бар шектеулер болашақта жүйенің қайталануында немесе нұсқасында болмауы мүмкін.

Мен айтқым келетін нәрсені түсіндіру үшін жеткілікті ескертулер жиынтығын беретініне сенемін.

Біз қазір өзін-өзі басқаратын көліктер мен этикалық AI сұрақтарына терең үңілуге ​​дайынбыз, егер қаласаңыз, өзін-өзі танудың бір түрі бар AI туралы қастарыңызды көтеретін түсінікті қажет етеді.

Қарапайым мысалды қолданайық. AI негізіндегі өзін-өзі басқаратын көлік сіздің маңайыңыздағы көшелерде жүріп жатыр және қауіпсіз жүріп жатқан сияқты. Алдымен сіз өздігінен жүретін көлікті көрген сайын ерекше назар аудардыңыз. Автономды көлік бейнекамералар, радар қондырғылары, LIDAR құрылғылары және т.б. кіретін электронды сенсорлардың сөресімен ерекшеленді. Өздігінен басқарылатын көлік бірнеше апта бойы сіздің қауымдастықтың айналасында жүргеннен кейін, сіз оны әрең байқайсыз. Сіздің ойыңызша, бұл онсыз да бос емес қоғамдық жолдардағы басқа көлік.

Өзін-өзі басқаратын көліктерді көру мүмкін емес немесе мүмкін емес деп ойламас үшін, мен өздігінен жүретін көліктерді сынау аясындағы жергілікті жерлер бірте-бірте шыршалы көліктерді көруге қалай үйренгені туралы жиі жаздым. менің талдауымды қараңыз мына сілтеме. Ақырында жергілікті тұрғындардың көпшілігі өздігінен жүретін көліктердің куәсі болу үшін аузын ашқан ашуланшақтықтан қазір кең көлемді есінеу сезіміне ауысты.

Автономды көліктерді дәл қазір байқайтын басты себеп - тітіркену мен ашулану факторы. Кітаптағы AI жүргізу жүйелері көліктердің барлық жылдамдық шектеулері мен жол ережелеріне бағынатынына көз жеткізеді. Дәстүрлі адам басқаратын көліктеріндегі тынымсыз көлік жүргізушілері үшін сіз заңға қатаң бағынатын AI негізіндегі өздігінен жүретін көліктердің артында тұрып қалған кезде ашуланасыз.

Бұл дұрыс немесе бұрыс болса да, бәріміз үйренуіміз керек нәрсе.

Біздің ертегіге оралу. Бір күні сіздің қалаңызда немесе қалаңызда өзін-өзі басқаратын көлік Тоқтау белгісіне жақындап қалды делік және жылдамдығы бәсеңдемейтін сияқты. Аспан, AI жүргізу жүйесі «Тоқта» белгісінің жанынан өздігінен жүретін көлікті соқаға ие болатын сияқты. Жаяу жүргінші немесе велосипедші жақын жерде болса, өзін-өзі басқаратын көлік дұрыс тоқтай алмайтынын елестетіп көріңіз. Ұят. Қауіпті!

Және, заңсыз.

Енді AI жүргізу жүйесіндегі өзін-өзі танитын қос тексеруші стилі ретінде әрекет ететін AI компонентін қарастырайық.

Біз AI жүргізу жүйесінде не болып жатқанын егжей-тегжейлі білуге ​​біраз уақыт бөлеміз. Автономды көлікке орнатылған бейнекамералар «Тоқта» белгісі сияқты көрінетін нәрсені анықтады, бірақ бұл жағдайда өсіп кеткен ағаш «Тоқта» белгісін көп жасырады. Бастапқыда Тоқтау белгілері бойынша оқытылған Machine Learning және Deep Learning жүйесі негізінен толық тоқтау белгілерінің үлгілері бойынша жасалған, әдетте кедергісіз. Бейне кескінді есептеу кезінде осы жерде Тоқтау белгісінің болуы ықтималдығы төмен болды (қосымша күрделілік және қосымша түсініктеме ретінде бұл жаңадан жарияланған Тоқтату белгісі болды, ол алдын ала дайындалған цифрлық карталарда көрсетілмеген. AI жүргізу жүйесіне сүйенді).

Тұтастай алғанда, AI жүргізу жүйесі Есептік түрде тоқтау белгісі жоқ сияқты немесе тоқтату белгісіне ұқсайтын басқа түрдегі белгі сияқты алға қарай жүруді анықтады (бұл орын алуы мүмкін және белгілі бір жиілікте болады).

Бірақ, бақытымызға орай, AI өзін-өзі білетін қос тексеруші AI жүргізу жүйесінің әрекеттерін бақылап отырды. Деректерді және AI-ның қалған бөлігінің бағалауын есептеп қарап шыққаннан кейін, бұл компонент қалыпты жұмыс барысын жоққа шығаруды таңдады және оның орнына AI жүргізу жүйесіне қолайлы тоқтауға бұйрық берді.

Ешкім зардап шеккен жоқ, ешқандай заңсыз әрекет орын алған жоқ.

AI өзін-өзі білетін қос тексеруші AI жүргізу жүйесінің заңға бағынуын қамтамасыз етуге тырысып, енгізілген заңды агент сияқты әрекет етті (бұл жағдайда Тоқтату белгісі). Әрине, қауіпсіздік те маңызды болды.

Бұл мысал ойластырылған AI өзін-өзі білетін қос тексеруші қалай жұмыс істейтінін көрсетеді деп үміттенеміз.

Бұдан әрі біз AI өзін-өзі білетін қосарлы тексерудің этикалық AI-ге бағытталған ендірілген функционалдылықты қамтамасыз ете алатынын көрсететін неғұрлым көрнекті этикалық AI мысалын қысқаша қарастырамыз.

Біріншіден, AI негізіндегі өзін-өзі басқаратын көліктердің пайда болуы туралы айтылған алаңдаушылықтардың бірі - олар біршама байқаусызда кемсітушілікпен қолданылуы мүмкін. Міне, осылай. Бұл өздігінен жүретін көліктер өздерінің кіріс әлеуетін арттыруға тырысу және арттыру үшін орнатылған делік, бұл рейд бөлісетін қол жетімді өздігінен жүретін көліктер паркін басқаратындар үшін мағынасы бар. Автопарк иесі тиімді операция жасағысы келеді.

Белгілі бір қалада немесе қалада роумингтегі өздігінен жүретін көліктер бірте-бірте басқа аймақтарға емес, қоғамдастықтың кейбір бөліктеріне қызмет ете бастауы мүмкін. Олар мұны ақша табу мақсатымен жасайды, өйткені кедей аймақтар жергілікті жердің бай бөліктері сияқты кіріс әкелмеуі мүмкін. Бұл кейбір аймақтарға қызмет көрсетуге және басқаларға қызмет етпеуге деген нақты ұмтылыс емес. Оның орнына, ол өздігінен жүретін көліктердің AI-ге байланысты, географиялық тұрғыдан жоғары ақы төленетін аймақтарға шоғырлану арқылы көбірек ақша табуға болатынын есептеу арқылы «анықтайды». Мен осы әлеуметтік этикалық мәселені өзімнің бағанымда талқыладым, мысалы: сілтеме осында.

Біз AI жүргізу жүйелеріне AI өзін-өзі білетін қос тексерушіні қостық делік. Біраз уақыттан кейін AI құрамдас бөлігі өздігінен жүретін көліктердің қай жерде роумингте болатынын есептеу үлгісін байқайды. Айта кету керек, кейбір аймақтарда, бірақ басқаларында емес. Кейбір этикалық AI ережелерімен кодталғандықтан, AI өзін-өзі білетін қос тексеруші өздігінен жүретін көліктерді қаланың басқаша ескерілмейтін басқа бөліктеріне бағыттай бастайды.

Бұл AI өзін-өзі тану түсінігін көрсетеді және оны этикалық AI элементімен үйлестіреді.

Тағы бір мысал, бұл этикалық AI қарастыруы өте байсалды және маңызды өмір немесе өлім салдары болуы мүмкін екенін түсінуге мүмкіндік береді.

Жақында болған көлік апаты туралы жаңалықтарды қарастырыңыз. Мәліметтерге сәйкес, адам жүргізуші бос емес қиылысқа келе жатқан және тікелей алға жүру үшін жасыл шамға ие болған. Басқа жүргізуші бағдаршамның қызыл түсіне өтіп бара жатып, қиылысқа кіріп кеткен. Жасыл шам жанған жүргізуші соңғы сәтте бұл басқа көліктің оның көлігіне қатты соғылатынын түсінді.

Бұл қауіп төнген жүргізушінің айтуынша, ол не басқа көлікке соғылып кететінін, не кедергі жасаушыдан аулақ болу үшін бұрылып кетуі мүмкін екенін мұқият есептеген. Айналдыру мәселесі жақын жерде қауіп төндіретін жаяу жүргіншілердің болуы болды.

Сіз қандай таңдау жасар едіңіз?

Сіз өзіңізді соққыға дайындай аласыз және зақым сізді өлтірмейді немесе өлтірмейді деп үміттене аласыз. Екінші жағынан, сіз түбегейлі бұрылып кете аласыз, бірақ жақын маңдағы жаяу жүргіншілерге қатты қауіп төндіре аласыз және мүмкін зиян келтіре аласыз немесе өлтіре аласыз. Бұл моральдық пайымдауды қамтитын қиын мәселе және этикалық (және заңдық) салдарларға толы.

Бұл дилемманың түрін қамтитын жалпы мақсаттағы этикалық тығырық бар, ол әйгілі немесе троллейбус проблемасы деп аталады, менің кең мақаламды мына жерден қараңыз: мына сілтеме. Бұл 1900 жылдардың басынан бастау алатын этикалық ынталандыратын ойлау эксперименті екені белгілі болды. Осылайша, бұл тақырып біршама уақыт болды және жақында AI және өздігінен жүретін көліктердің пайда болуымен байланысты болды.

Адам драйверін өздігінен жүретін көлікке енгізілген AI жүргізу жүйесімен ауыстырыңыз.

Елестетіп көріңізші, AI өздігінен басқарылатын көлік қиылысқа кіріп бара жатыр және автономды көліктің сенсорлары кенеттен адам басқаратын көлікті қызыл шамда тікелей келе жатқан және жүргізушісіз көлікке бағытталған қауіпті анықтады. Өздігінен басқарылатын көлікте көліктің ішінде бірнеше жолаушылар бар деп есептейік.

AI не істегенін қалайсыз?

AI жүргізу жүйесі алға қарай жүріп, соғылып кетуді таңдаса (көлік ішіндегі жолаушыларға зиян келтіруі немесе өлтіруі мүмкін) немесе AI жүргізу жүйесінің мүмкіндігін пайдаланып, бұрылып кетуін қалайсыз ба, бірақ ауытқыған әрекет автономды көлікті алады. жаяу жүргіншілерге қауіп төндіреді және оларға зиян келтіруі немесе өлтіруі мүмкін.

Өзін-өзі басқаратын көліктердің көптеген AI жасаушылары осы этикалық AI-ді тудыратын қиыншылықтарға құмға сіңіп кетеді. Жалпы алғанда, қазіргі уақытта бағдарламаланған AI жай ғана алға жылжып, басқа көлікті қатты соқтырады. Жасанды интеллект басқа жалтару маневрлерін іздеуге бағдарламаланбаған.

Мен әлденеше рет болжам жасадым, бұл өзін-өзі басқаратын AI көлік жасаушылардың бұл жамандық көрмеген, естімейтін және жамандықсыз ұстанымы ақырында айналады және оларды тістеп алады (менің талдауым сілтеме осында). Сіз AI не істеуге бағдарламаланғанын анықтауға тырысатын осындай көлік апаттарымен байланысты сот процестерін күтуге болады. AI әзірлеген және енгізген компания немесе AI әзірлеушілері немесе флот операторы AI жасаған немесе істемегені үшін немқұрайлы немесе жауапты болды ма? Сондай-ақ, мұндай жағдайлар орын алған кезде, AI туралы жалпы жұртшылықтың этикалық хабары болатын өрт дауылы басталады деп болжауға болады.

Осы этикалық AI дилеммасына біздің әдепке бағытталған AI өзін-өзі танитын қос тексерушіміз қадамдар жасайды. Мүмкін, бұл арнайы AI компоненті осындай жағдайларға араласуы мүмкін. Бөлім AI жүргізу жүйесінің қалған бөлігін және өзін-өзі басқаратын көліктің күйін бақылайды. Осындай қиын сәт туындағанда, AI компоненті троллейбус мәселесін шешуші ретінде қызмет етеді және AI жүргізу жүйесі не істеу керектігін ұсынады.

Кодтау оңай емес, мен сізді сендіремін.

қорытынды

Мен сіздермен осы тақырыптағы соңғы оймен бөлісемін.

Сіз оны қызықты деп санайтын шығарсыз.

Сіз туралы білесіз бе? айна сынағы?

Бұл өзін-өзі тануды зерттеуде жақсы белгілі. Бұл мәселенің басқа атаулары - айнадағы өзін-өзі тану сынағы, қызыл дақ сынағы, Руж сынағы және қатысты фразалар. Әдістеме мен тәсіл алғашында 1970 жылдардың басында жануарлардың өзін-өзі тануын бағалау үшін жасалған. Сынақтан сәтті өткен жануарларға маймылдар, пілдердің белгілі бір түрлері, дельфиндер, сусағандар және басқалары жатады. Сынақтан өткен және сынақтан өтпеген жануарларға алып пандалар, теңіз арыстандары және т.б.

Мұнда мәміле.

Жануар өзін айнадан көргенде, көрсетілген бейненің өзіне тән екенін түсінеді ме, әлде жануар оны басқа жануар деп ойлай ма?

Болжам бойынша, жануар өз түрінің басқа түрін көріп, өз түрін визуалды түрде таниды, сондықтан айнада бейнеленген жануар немере ағасы немесе жауласушы бәсекелес деп ойлауы мүмкін (әсіресе егер жануар айнадағы кескінге қарап ырылдаса). бұрылыс оларға кері ыңылдап тұрған сияқты). Мүмкін сіз өзіңіздің үй мысығыңыз немесе сүйікті итіңіз үй айнасынан өзін бірінші рет көргенде солай істегенін көрген боларсыз.

Қалай болғанда да, жабайы жануар бұрын-соңды өзін көрмеген деп болжадық. Бұл міндетті түрде дұрыс емес, өйткені жануар өзін тыныш су бассейнінен немесе жарқыраған жартастың көмегімен көрген шығар. Бірақ бұл мүмкіндіктер азырақ деп саналады.

Жарайды, біз қандай да бір түрде жануардың айнада көрсетілген жануар екенін анықтай алатынын бағалағымыз келеді. Қарапайым болып көрінетін бұл әрекетті ойланыңыз. Адамдар жас кезінде өздерінің бар екенін және олардың бар екендігі өзін айнадан көру арқылы дәлелденетінін түсінеді. Олар өзін-өзі таниды. Теориялық тұрғыдан, сіз өзіңізді айнадан көрмейінше, сіз екеніңізді түсінбеуіңіз мүмкін.

Мүмкін жануарлар когнитивті түрде өзін-өзі тануға қабілетті емес шығар. Жануар өзін айнадан көріп, оның басқа жануар екеніне мәңгі сенуі мүмкін. Ол өзін қанша көрсе де, бұл өзі емес, басқа жануар деп ойлайтын.

Мұның трюк бөлігі ойнауға келеді. Біз жануарға белгі қоямыз. Бұл белгі жануар өзін айнадан көргенде ғана көрінуі керек. Егер жануар бұрылып немесе бұрылып, өз бетіндегі белгіні (тікелей) көре алса, бұл экспериментті бұзады. Сонымен қатар, жануар таңбаны сезіне алмайды, иістей алмайды немесе басқа жолмен анықтай алмайды. Тағы да, егер олар осылай жасаса, бұл экспериментті бұзады. Жануар біздің оған белгі қойғанымызды біле алмайды, өйткені бұл аңға бірдеңе бар екенін көрсетеді.

Біз белгілерді айнадағы өзіне қарау арқылы ғана анықтауға болатындай етіп қысқартқымыз келеді.

Аха, қазір тест дайын. Жануар айнаның алдына қойылады немесе оған қарай жүреді. Егер жануар кейіннен белгіге қол тигізуге немесе қазып алуға әрекеттенсе, жануар таңбаның өз бетінде екенін түсінсе, мұның жалғыз жолы болады деген қорытындыға келеміз. Бұл сынақтан өте аз жануарлар түрі сәтті өте алды.

Тест туралы көптеген сындар бар. Егер адам сынаушы жақын жерде болса, олар белгіге қарап заттарды беруі мүмкін, бұл жануардың оны щеткасына немесе сезінуіне әкелуі мүмкін. Тағы бір мүмкіндік, жануар әлі де айнада басқа жануар бейнеленгеніне сенеді, бірақ ол бір түрге жатады, сондықтан жануар оның да басқа жануардағы таңбасы бар ма деп ойлайды.

Әрі қарай жүреді.

Сіз мұны білуге ​​қуанышты екеніңізге сенімдімін және бұдан былай жануарда неліктен мұндай белгі болмайтын нүкте немесе біртүрлі белгі бар екенін түсінетініңізге сенімдімін. Кім біледі, бұл жақында айна сынақ экспериментін аяқтаған шығар. Жомарт қатысушы болғаны үшін жануарды аман-есен құттықтаңыз.

Мұның кез келгенінің AI негізіндегі өздігінен жүретін көліктерге қандай қатысы бар?

Сізге бұл бөлім ұнайды.

Өздігінен басқарылатын көлік ұзын тас жолда келе жатыр. AI жүргізу жүйесі басқа трафикті анықтау үшін сенсорларды пайдаланады. Бұл екі жолақты тас жол, көлік қозғалысы бір жолақта солтүстікке, ал екінші жолақта оңтүстікке қарай жүреді. Кейде жеңіл көліктер мен жүк көліктері бір-бірінің жанынан өтуге тырысады, осылайша қарсы жолаққа шығып, содан кейін өздерінің дұрыс жүру жолағына қайта секіреді.

Сіз мұны көрдіңіз, сөзсіз мұны жасадыңыз.

Бұл келесі аспект сіздің де басыңыздан өткеніне сенімдімін. Өздігінен басқарылатын көліктің алдында үлкен цистерналардың бірі тұр. Ол жылтыр металдан жасалған. Жылтыратылған және ысқырықтай таза. Мұндай жүк көлігінің артына бара жатқанда, сіз автоцистернаның артқы бөлігі арқылы көлігіңіздің айнадағы бейнесін көре аласыз. Егер сіз мұны көрген болсаңыз, оның қаншалықты таң қалдыратынын білесіз. Міне, сіз және сіздің көлігіңіз автоцистернаның артқы жағындағы айнадай шағылысқан.

Ақылсыз бұралу үшін отырыңыз.

Автоцистернаның артынан өздігінен жүретін көлік келеді. Камералар айна тәрізді шағылысқан көліктің бейнесін анықтайды. AI бағалайды, бұл көлік пе? Ол өздігінен жүретін көлікке келе ме? Өздігінен басқарылатын көлік автоцистернаға жақындаған сайын, көлік жақындай түскендей.

Иә, AI есептеу арқылы бұл қауіпті жағдай екенін есептей алады және AI осы ақылсыз жалған көліктен аулақ әрекет етуі керек. Көрдіңіз бе, AI айнадан өзін танымады. Айна сынағынан өте алмады.

Не істеу? Мүмкін, AI өзін-өзі білетін қос тексеруші бұл мәселеге секіріп, AI жүргізу жүйесінің қалған бөлігін бұл тек зиянсыз көрініс екеніне сендіреді. Қауіптің алдын алды. Әлем құтқарылды. AI айна сынағы сәтті өтті!

Тілді қорытынды жасай отырып, біз кейде AI орташа аюға қарағанда ақылдырақ немесе кем дегенде өзін-өзі біледі деп болжауға болады (бірақ, аюлардың несиесіне қарағанда, олар әдетте айна сынағынан жақсы өтеді, көбінесе су бассейндерінде олардың шағылысуына үйренген).

Түзету, мүмкін, AI алып пандалар мен теңіз арыстандарына қарағанда өзін-өзі білуі мүмкін, бірақ жануарларға бұл туралы айтпаңыз, олар AI жүйелерін талқандауға немесе ұруға азғырылуы мүмкін. Біз мұны қаламаймыз, солай ма?