AI этикасы және AI негізіндегі өздігінен жүретін көліктерді дірілдететін танымал AI таңқаларлық алқап

Кейде сіздің назарыңызды аударатын және интуитивті шырындарыңызды жіберетін сәл оғаш нәрселер бар, қандай да бір нәрсе дұрыс емес. Біртүрлілік сіздің жүзіңізде анық емес, мүлдем ашық емес. Сіз тіпті сәйкессіздіктің не екенін немесе сіздің мақал-мәтелдегі өрмекші сезіміңіздің дірілдеп жатқанын бірден біле алмауыңыз мүмкін.

Бәлкім, нәзік сырлар сезіліп жатқан шығар. Мүмкін сіз ішіңізде диссонанс бар екенін түсінетін шығарсыз. Менің ойымша, сіз аз ғана қорқыныштылықтың ең кішкентай нюанстары бар деп айта аласыз және сіздің нәзік адамдық радарыңыз жасырын болып көрінетін сигналдарды қабылдайды.

Таңғажайып аңғарға қош келдіңіз.

Егер сіз AI және әсіресе робототехника саласында салыстырмалы түрде танымал болған таңғажайып алқап туралы ешқашан естімеген болсаңыз, сізді аздап күтуге болады, өйткені бұл мен осы жерде мұқият талқылайтын және талдайтын тақырып.

Жалпы ұғым өмірде кездесетін көптеген нәрселерге қатысты болуы мүмкін, дегенмен негізгі қағидалар мен бастапқы анықтама AI жүйелері мен роботтарын қамтиды. Біз алдымен таңқаларлық алқаптың шығу тегі мен бастапқы мағынасын зерттейміз, содан кейін құбылыстардың кеңірек контексттерде қалай қолданылатынын көру үшін кеңейтуге кірісеміз.

Мен таңқаларлық алқаптың бар-жоғын қарастырамыз деп қоса аламын.

Көрдіңіз бе, кейбір скептиктер мен жеккөрушіліктер бұл мәселенің бәрі аздап жалаңаштық және суды ұстамайды деп даулайды. Білетіндерге тақырыпты қозғағанда абай болыңыз. Кейбіреулер қуанып күліп, таңғажайып алқапты жақсы білетініңді айтып арқаңнан шапалақтайды, ал басқалары саған бұл қопсытқыштың тұнбасы екенін және ақыл-ойды тазартатын сабынның көпіршігімен санаңызды тазарту керек екенін қатаң түрде айтып береді. .

Мұндағы жақсы жаңалық мынада, сіз таңғажайып алқаптың шынайы ма, жоқ па, сонымен қатар оның ақылға қонымды қолдану үшін артықшылығы бар ма, әлде оның орнына техно-идеялар алаңына салтанатты түрде лақтырылуы керек пе, соны шеше аласыз. Бұл тұрғыда сіз жүргізуші орнындасыз.

Мұның бәрі этикалық АИ-дің дамып келе жатқан саласына және қоғамның AI этикасына байыпты және байсалды түрде назар аударуы керек екенін түсінуге байланысты. Біз бұл галстукті сәлден кейін жасаймыз.

Ең жақсы жер - таңқаларлық алқап тұжырымдамасын ойлап тапқан және осы жарияланған құбылысты тікелей атаған профессордан тікелей сілтеме жасау. 1970 жылы Токио технологиялық институтының профессоры Масахиро Мори азырақ танымал журналда өте ұсақ мақала жариялады. энергия (әсіресе AI және робототехника үшін қолайлы орын емес) және былай деді:

«Мен роботтарды адамға айналдыру мақсатына көтерілу арқылы біздің оларға деген жақындығымыз мен таңғаларлық аңғар деп атайтын алқапқа жеткенше арта түсетінін байқадым».

Бастапқы құжат жапон тілінде болғанымен, жоғарыдағы фраза ағылшын тілінде көрсетілгенін ескеріңіз. Ағылшын тіліне аударылған нұсқасын автор қадағалап, кейінірек журналда жарияланған IEEE спектрі 2012 жылы және авторы ретінде Масахиро Мориге берілді. Қағазды өзіңіз оқи аласыз, өйткені ол онлайн режимінде ашық және еркін қол жетімді. Бұл он минутқа созылатын өте жылдам оқу және техникалық күрделі терминологияны қамтымайды.

Бұл 1970 жылы жарияланған осындай өткір мақаланың ақырында бүкіл зерттеу аренасын тудырғаны және көптеген зерттеулерді, жобаларды, зерттеулерді және кейде енгізілген жаңалық туралы пікірталастардың отын тудырғаны қызықты және біршама таңқаларлық. таңғажайып аңғар деген ұғым шынымен де бар. Менің ойымша, бұл қызықты және кейде көзқарасты өзгертетін идеяларды жаппай шиеленістіру немесе жаргон мен асқақтықпен толтырудың қажеті жоқ екенін көрсетеді деп ойлаймын. Қысқаша идея заттардың сыртында көрінгеннен де күшті емес сияқты болуы мүмкін.

Бұл сізді өзіңіздің жаңа идеяларыңызды сынап көруге және ынталандыруға итермелейді деп сенемін, осылайша тәтті және қарапайым нәрсе күрделі және күрделі емес керемет немесе кейде одан да көп болуы мүмкін екенін түсінеді.

Таңғажайып аңғарға қайта оралайық.

Сіз адамға ұқсайтын бет-әлпеті бар роботтық жүйені кездестіресіз. Бұл роботтық бет көптеген қайталаулар арқылы жасалғанын елестетіп көріңіз. Роботтың басын біріктіретін AI әзірлеушілері роботтандырылған бет бөлігін барған сайын адамның нақты бет-бейнесіне ұқсатуға тырысуда.

Олардың бірінші әрекеті өте қарапайым болды. Роботтың бет-әлпетінде сіз ғылыми-фантастикалық фильмдерде көргендей толығымен металл және тісті доңғалақтар мен сымдар көрсетілген. Қарсы құралға қараған кезде оның робот екенін бірден түсінесіз. Бұл туралы сіздің ойыңызда сұрақ жоқ.

AI әзірлеушілерінің келесі әрекеті металл бөлшектердің айналасына бірнеше пластикалық материалдарды орау болды. Бұл әлдеқайда мейірімді көрінгенімен, сіз оның робот басы және роботтық бет екенін бірден түсінесіз. Тағы да, анықтау оңай.

Бұл AI әзірлеушілері мұны жалғастыруға бел байлады. Олар пластмассадан мүсіндеп, тері өңін береді. Олар адамның бетіне өте ұқсас көрінетін белгілерді қосады, мысалы, меңдер, шаштар, дақтар және т.б.

Бір қарағанда, бұл адамның бет-әлпетіне сенуі мүмкін. Егер робот бетінің суреті түсірілсе және сізден суретте адам мен роботтық бет бейнеленгенін анықтау сұралса, оның қайсысы екенін бірден айта алмай қалуыңыз мүмкін. Екінші жағынан, егер сіз құрылғының жанында тұрсаңыз, мұқият тексерген кезде оның адам емес, оның орнына роботтық әрекет екенін түсінуіңіз мүмкін.

Мәселе мынада, сізде жақыннан қарап шығу мүмкіндігін алмас бұрын, бетке мүлдем сәйкес келмейтін бірдеңе болды. Ол адамның бетіне ұқсайтыны анық. Бірақ бірдеңе дұрыс болмады. Саусағыңызды дұрыс емес нәрсеге қою үшін қайта-қайта мұқият қарауға тура келді. Мүмкін бұл шынайы бет-бейнесі шығар. Содан кейін, мүмкін олай емес. Соған сәйкес сіздің де миыңыз дірілдейді.

Сенің санаңа бір сұмдық кейпі түседі.

Бұрынғы екі нұсқаны көргенде сізде мұндай қорқыныш болған жоқ. Сіз кідіріссіз немесе ойланбастан роботтың робот екенін анықтай аласыз. Тек бала бұл нұсқалардың кез келгені нақты адамға қатысты деп алданып қалуы мүмкін.

Бұл соңғы нұсқа басқаша болды. Ол адамның бет-әлпетіне ұқсайтындай етіп әлі жетілдірілмеген. Сондай-ақ, ол нақты нәрседен соншалықты алыс емес, бұл робот болуы керек екені анық болды. Бір түрлі шалшық жерге жетті.

Әзірлеушілер зерттеу жұмыстарын одан әрі жалғастырды делік және роботтық бет адам бетінен дерлік ажыратылмайтындай етіп бәрін реттеді делік. Затқа қанша қарасаңыз да, оның адам немесе адам емес екеніне күмәніңіз бар. Бұл роботтандырылған бет екенін білгенде, сіз таңданасыз. Құдай-ау, олар оны шынайы етіп көрсету үшін тамаша жұмыс жасады.

Назар аударыңыз, сіз осы уақытқа дейін тек сыртқы түріне негізделген роботтық аспектілерді ғана қарастырдыңыз.

Теңдеуге қозғалысты қосуға болады. Бұл роботтың адамға қарсы робот екенін анықтау үшін қосымша өлшем қосады. Мен бұл пікірталастағы мәселенің көп өлшемді түрі ретінде толық түсіндіргім келмейді, өйткені ол осы тақырыпты түсіндіруді күрделірек етеді (бірақ көп өлшемділер сөзсіз өзара байланысты). Қалай болғанда да, сіз роботтық бетті көріп қана қоймай, сонымен қатар роботтың ауыз, көз, мұрын және т.б. сияқты бет ерекшеліктерін қалай қозғалатынын бақылай алатыныңызды елестетіп көріңіз. Бұл, әрине, бұл робот па екеніне қатысты сыйлықтар болуы мүмкін. робот немесе адам.

Таңқаларлық алқаптың алдыңғы қатарында сақталуы керек маңызды аспектілердің бірі - бастапқы тұжырымдама адамның жақындығы әрекетіне баса назар аударады. Мәлімделген құбылыс - бұл таңқаларлық нұсқа пайда болғанға дейін біртіндеп жетілдіріліп жатқан робот беттерін көрген сайын сіздің жақындығыңыз артады. Осы сәтте сіздің жақындық сезіміңіз күрт төмендеп, жақындық шыңырауына немесе аңғарына түседі деп айтылады.

Бірдеңе дұрыс емес деп күдіктенген нақты нұсқа үшін сіздің жақындығыңыз түбегейлі төмендеді. Сонымен қатар, теорияға сәйкес, сіз шынымен адам пішініне ұқсас неғұрлым жетілдірілген нұсқаны кездестірген кезде сіздің жақындығыңыз қайта артуы мүмкін.

Автордың өмірдің аспектілері біркелкі өсіп келе жатқанын болжауға деген қалыпты бейімділігіміз туралы не айтқаны туралы толығырақ: «Математикалық термин монотонды өсетін функция функциясы болатын қатынасты сипаттайды y = ƒ(x) айнымалымен үздіксіз артады x. Мысалы, күш ретінде x өседі, табыс y артады немесе автомобильдің газын басқан сайын, машина жылдамырақ қозғалады. Мұндай қарым-қатынас барлық жерде кездеседі және өте оңай түсінікті. Шындығында, мұндай монотонды түрде өсетін функциялар күнделікті өмірдің көптеген құбылыстарын қамтитындықтан, адамдар олар барлық қатынастарды бейнелейді деген иллюзияға түсуі мүмкін. Сондай-ақ бұл жалған әсердің дәлелі - көптеген адамдар артқа тартудың тиімділігін түсінбей, табанды түрде итермелеу арқылы өмір бойы күреседі. Сондықтан адамдар бұл функция көрсете алмайтын қандай да бір құбылысқа тап болған кезде әдетте таң қалдырады ». Бұл сілтеме бойынша келтірілген IEEE спектрі аударылған қағаз.

Әрқашан өсу туралы әмбебап болжамды біз дұрыс емес нәрсеге тап болған кезде жоюға болады. Қорқыныштылық пен күдік жақындықтың салыстырмалы түрде күрт және күрт төмендеуіне әкеледі, теорияға сәйкес, сіз шайқауды таңдаған және адам қолының сүйек қасиеттерін сезіне алмайтын робот қолы сияқты: «Мұндай жағдайда біз өзімізді жоғалтып аламыз. жақындық, ал қол таңғаларлық болады. Математикалық тұрғыдан мұны теріс мәнмен көрсетуге болады».

Егер сіз таңғаларлық аңғардың осындай құбылысы бар деген алғышарттарды қабылдасаңыз, таңғажайып алқаптың бар екенін білу сізге не пайдалы деп ойлайтыныңызға сенімдімін.

Бұл барлық уақыттағы классикалық «сонда не?» практикалық сынақ.

Көптеген адамдар таңқаларлық алқап туралы не істеу керек немесе не істеу керектігі туралы көптеген түсініктемелер ойлап тапты. Көптеген пікірлер бар. Мен жақын арада оның кейбірін қарастыратын боламын.

Осы арада Масахиро Моридің ұсынысы: «Біз таңқаларлық алқапқа түспейтін роботтар мен протездік қолдарды жобалап, құрастырамыз деп үміттенеміз. Осылайша, екінші шыңға жету үшін адамдық ұқсастық дәрежесін арттыруға тырысатын тәуекелге байланысты мен дизайнерлерге олардың орнына бірінші шыңды мақсат етіп алуды ұсынамын, бұл адамның орташа дәрежесі мен жақындық сезімін тудырады. . Шын мәнінде, мен әдейі адамдық емес дизайнды орындау арқылы жақындықтың қауіпсіз деңгейін құруға болады деп болжаймын. Мен дизайнерлерден бұл туралы ойлануын сұраймын ».

Ерекше алқапқа қатысты не істеу керектігі туралы менің он екі ыңғайлы орындық ережелері туралы жылдам конденсация, әсіресе AI әзірлеушілері үшін келесідей болады:

1) Таңқаларлық алқаптан хабардар болыңыз және соған сәйкес саусақтарыңызда болыңыз

2) Сіз өзіңіздің AI-ға мүмкіндігінше адамның жақындығына қол жеткізгіңіз келеді

3) Егер сіздің жасанды интеллектіңіз таңқаларлық алқапқа түссе, адамдық жақындықтың жоғалуына дайын болыңыз

4) Жасанды интеллектіні осылай ойлап табу арқылы таңқаларлық алқаптан аулақ болуға тырысыңыз

5) Аңғармайтын алқаптан қысқа мақсаттың болуы құрметті

6) Таңқаларлық алқаптың шетіне дейін шығыңыз, бірақ жартастың үстінен құлап кетпеңіз

7) Таңқаларлық алқаптан асып кетуге құмар болмаңыз

8) Таңқаларлық алқаптан секіру мүмкіндігіңіз бар

9) Секірумен айналыспаңыз, өйткені сіз бәрібір алқапқа түсіп қалуыңыз мүмкін

10) Адамның максималды жақындығына таңғажайып аңғардан өту арқылы қол жеткізуге болатын еді.

11) Дегенмен, таңқаларлық аңғарға дейін барабар және қолайлы жақындық бар.

12) Таңқаларлық алқапты үнемі есте сақтаңыз және оның ойдан кетуіне жол бермеңіз.

Бұл ондаған жалпы өсиеттердің барлығы таңқаларлық алқап туралы білудің негізгі тасы немесе тірек нүктесі ретінде қарастырылуы мүмкін. Мен бірден мойындаймын, бұл аз ғана ондықта тізімделмеген басқа да мәселелер бар, олар бірдей маңызды деп айтуға болады. Мен сондай-ақ анықталған пункттердің әрқайсысы бойынша келіспеушіліктер болуы мүмкін екенін және әрбір айтылған пункт бойынша ұзақ қызу пікірталас тудыруы мүмкін екенін оңай мойындаймын.

Сонымен қатар, кейбіреулер он екі нүктені мүлдем қоқыс деп айтады, өйткені олар жалғанға негізделген. Таңғажайып алқап жоқ, олар даулайтын. Мұның бәрі әлсіз саналарды ғана және өкінішті түрде шақыратын тек қана қиянат пен ойдан шығарылған айла-шарғы (оу, бұл қатты ауыртады!). Ерекше алқапқа кез келген назар ауаның бос тынысы болып табылады және біреу келіп, мәселенің жүрегіне өткір ағаш теориялық қазық қоюы керек (кейбір зерттеушілер мұны істеуге тырысты).

Талқылау үшін, ағынмен жүрейік және таңғажайып аңғар бар және ол мен осы уақытқа дейін көрсеткен нәрсеге сәйкес келеді деп есептейік. Таңғажайып аңғардың тұжырымдамасымен келіспегендер аймақтан шығуға немесе тістерін қайрап, интеллектуалдық ашу-ызаны қайнап, қайнап оқуды жалғастыра алады (бұл үшін кешіріңіз).

Міне, этикалық AI және этикалық AI әзірлеу және өрістету фокусы қалай пайда болады. Айтпақшы, AI этикасы бойынша менің үздіксіз және терең зерттеулерім үшін менің талқылауымды мына жерден қараңыз: мына сілтеме және мына сілтеме, бірнеше ғана атауға болады.

Таңқаларлық алқап - бұл этикалық AI-мен айналысатындар үшін сүйіспеншілік пен жеккөрушілік оқиғасы.

Біріншіден, кейбіреулерге фон қажет болды. Жасанды интеллектке қатысты ең маңызды этикалық мәселелердің бірі - адамдарды AI жүйесі сезімтал деп алдап алуы мүмкін. Есіңізде болсын, бүгінгі күні сезімталдыққа жақын жерде кез келген AI жоқ. Бұл жай ғана қазір болып жатқан жоқ. Менің «ұятсыз» тұжырымым осы AI немесе АИ сезімтал немесе оны деп санауға жеткілікті жақын екенін жариялайтын үздіксіз және жарқыраған тақырыптарға қарамастан жасалған. Маларкей. Біз AI-ге бейім емеспіз.

Ол жаққа қалай барарымызды білмейміз. Боларын білмейміз. AI сезімталдығы - бұл құнды арман және ұмтылыс, бірақ мылтықтан секірмеңіз және біз оған қол жеткізудің шыңындамыз деп ойламаңыз.

Әрине, егер біз AI сезімталдығын қандай да бір жолмен алып тастай алатын болсақ, мұны жобамен немесе кездейсоқ түрде жасасақ, біз экзистенциалды тәуекелге тап боламыз деп, әрине, қатты ескертеді. Осылай ойлайтын болсақ, AI сезімталдығын іздеу соншалықты маңызды емес шығар. Тәуекел мынада: бұл сезімтал AI адамдардың айналасында болуға лайық емес екенін анықтауы мүмкін. Біз қателесіп қалуымыз мүмкін. Немесе AI-ның құлына айналыңыз. Бұл АИ-нің мұны ашық таңдауы арқылы болуы мүмкін немесе АИ бізді өзіміздің дәрменсіздігімізбен жойып жіберетін біздің ақырет күнінің машинасына айналуы мүмкін. Жасанды интеллект сезімталдығының немесе бірегейлігінің алаңдатарлық нәтижелері туралы менің ақпарат алу үшін қараңыз сілтеме осында.

Жасанды интеллект туралы маңызды этикалық алаңдаушылық мынада: AI әзірлеушілері және АИ-мен айналысатындар кейде адамдарды AI сезімтал деп ойлауға мәжбүр етеді. AI өзін көрсету тәсілі, мысалы, роботты тұжырымдау немесе оның сөйлесу интерактивтілігі адамдарды AI сезімтал деп болжауға итермелеуі мүмкін. Бұл өз кезегінде сізді ықтимал жағымсыз примула жолына апарады.

Егер сіз AI жүйесі сезімтал деп ойлаудың ақыл-ой тұзағына түсіп қалсаңыз, сіз оған сезімтал тіршілік иелері жасайтын нәрселерді жасау үшін сенетін боласыз. Бірақ бүгінгі жасанды интеллекттің ешқайсысына кіріктірілген адамға ұқсас сапа туралы жалпы түсінік әлі жоқ. Қазіргі уақытта біз бастан кешіретін AI адамға ұқсас мүмкіндіктерге келетін болсақ, өте сынғыш және таяз. AI жүйесінің сезімтал екеніне сену арқылы сіз өзіңізді жағымсыз және қауіпті суларға түсіре аласыз.

Бұл таңғажайып алқаппен қалай байланысады?

Мұнда мәміле.

Еске салайық, таңқаларлық алқап AI жүйесі немесе робот адамға ұқсас тұжырымға жақындаған сайын адамның жақындығы біртіндеп арта түсетінін айтқан сияқты. Жасанды интеллект жүйесі өте жақын, бірақ әлі де ол жерде емес нүктеге жақындаған сәтте біз бірдеңе дұрыс емес деген қорқынышты сезімге ие боламыз. Осы уақытқа дейін біз AI адам емес екенін білдік. Енді біз сенімді емеспіз. Біздің адами жақындығымыз төмендейді. Жасанды интеллект немесе робот адамға ұқсас қабілеттерге сенімді болған кезде ғана біз құрылғыға жақындығымызды қалпына келтіреміз.

Бұл жүректі қабылдайтын AI әзірлеушілері, мүмкін әдейі AI-ны таңғаларлық аңғардан аулақ ұстауға тырысыңыз, AI ерекшеліктері тұрғысынан, таңғаларлық тұңғиыққа құлап кетпес бұрын тоқтауға тырысыңыз (еске салыңыз, Масахиро Мори де осыны баса айтты). Әзірлеушілер мұны АИ-нің сезімтал емес AI екенін және адам емес немесе бірдей емес екенін анық көрсету үшін әлі де көп мәліметтер бар екеніне көз жеткізу арқылы жасайды.

AI этикасы әдетте бұл шын жүректен жасалған күш-жігерді құптайды.

Дәлелдеу түсінікті. Осыншама ақпараттанған және AI әзірлеушілері AI жүйесі адамдарды AI-ға адамға ұқсас нысандарды жалған түрде көрсетуге алдап жібермейтініне көз жеткізуге тырысады. Бұл жақсы жаңалық екені сөзсіз. Әзірлеушілер таңғажайып аңғарға сүңгудің алдын алу үшін AI-ді әдейі жасайды. Адамдар AI сезімтал емес екенін оңай түсінеді.

AI әзірлеушілеріне мұндай тәсілді қабылдауға тырысу оңай емес. Шынында да, бұл олардың кәдімгі инстинкттері мен қозғаушы амбицияларына қарсы болуы мүмкін.

AI әзірлеушілері мен техникасы, тұтастай алғанда, мақсаттармен тұтынылады деген көптеген мәлімдемелер жасалады. Олар мақсатты көреді және жиі соқырлықпен оған үлкен құштарлықпен ұмтылады. Тоқтап, раушан гүлдерін иіскеуге уақыт жоқ. Жарыстарға барамыз. Жасанды интеллект саласында нормативті мақсат идеалдандырылған AI болады, ол адамдардан айырмашылығы жоқ, өйткені AI паралитті түрде тең болуы мүмкін. Бірақ біз әлі жоқпыз. Осылайша, таңқаларлық алқап екінші мақсатты қамтамасыз етеді, әйтпесе бөгет жасайтын таңғаларлық аңғардың алдына қонады және соған қарамастан қолайлы мақсатқа айналады. Әрине, бұл алтын жүзік емес, бірақ бұл «екінші» сыйлық жақсы, сізге көп рахмет және сіз оны мақтан ете аласыз.

Біз мақсатқа ұмтылатын ең жоғарғы амбицияны өзгерттік және оны дұрыс нәрсені істеу үшін логикалық дәлелді негізге айналдырдық.

Құйылсын!

AI этикасы бойынша жеңіске жетіңіз.

Бірақ бір секунд күтіңіз, спойлер туралы ескерту, біз бірдей ескеруіміз керек тағы бір нәрсе бар.

Енді сол AI әзірлеушілері таңғаларлық алқап туралы білетіндіктен, олар өздерінің ақыл-парасаты мен техникалық шеберлігін шыңыраудан әдейі секіруге бұруы мүмкін, бірақ мұны алдаудың көрінісін ескере отырып жасай алады. Әзірлеушілер мұның шындыққа жанаспайтынын білсе де, AI-ны толығымен адамға ұқсас етіп көрсетіңіз.

Бұзық ой осылай жүреді. Жасанды интеллект жүйеңіздің шляпасын төңкеріп, адамдарға бұл қиын ағынды алуына жол бермеңіз. Жасанды интеллект адамның қабілетіне жатпайтыны туралы қандай да бір анықтама немесе анықтама бере алатын аспектілерді алып тастаңыз. Жасырын түсініп және AI адамның қабілетіне ие емес екенін және бұл шындықты АИ-мен өзара әрекеттесетін немесе оған тәуелді адамдардан жасыру үшін жасырын түрде түсініп, мұны жасаңыз.

Қандай шайтан жоспарлары.

Бір қызығы, таңқаларлық алқап AI әзірлеушілері үшін оятатын қоңырау түрі болуы мүмкін, егер олар адамдарды шынымен алдағысы келсе, олар тұңғиықтан құтылу үшін жеткілікті ақылды болуы керек. Олар мұны толық жасанды интеллектке қол жеткізу арқылы емес, оның орнына AI адам сияқты адастыратын етіп көрсету үшін түтін мен айна орнату арқылы емес. Егер AI әзірлеушілері бұл таңқаларлық алқаптың бар екенін түсінбесе, олар оған құлап кетер еді. Бұл адамзат үшін жақсы, өйткені адамдар жасанды интеллекттің бүгінгі сапасына тым сенбеу тұрғысынан AI-ға жақындығын жоғалтады.

Өкінішке орай, бұл тұзақ бар екенін біле отырып, оны айналып өткісі келетін AI әзірлеушілері мұны істеудің өте ақылды жолдарын табады.

Этикалық AI ережелеріне қарсы соққы беріңіз.

Бұл таңғажайып алқап туралы AI этикеттері үшін махаббат пен жек көрушілік қарым-қатынасты қалай тудыратынын көресіз бе?

Жасасаң қарғыс, жасамасаң қарғыс.

Мен бұл таңқаларлық алқапты біршама жоғары тексеру болғанын түсінемін және сіз күнделікті мысалдарды қалайтын шығарсыз. Менің жүрегіме жақын болатын ерекше және танымал мысалдар жиынтығы бар. Көрдіңіз бе, менің AI бойынша сарапшы ретінде этикалық және құқықтық салдарларды қоса алғанда, тақырыптың біршама теориялық сипатын оңай түсіну үшін AI этикасының дилеммаларын көрсететін нақты мысалдарды анықтауды жиі сұрайды. Бұл этикалық AI екіұштылығын айқын көрсететін ең қызықты салалардың бірі - AI негізіндегі өзін-өзі басқаратын автомобильдердің пайда болуы. Бұл тақырып бойынша кең талқылау үшін ыңғайлы пайдалану жағдайы немесе үлгі ретінде қызмет етеді.

Олай болса, ойлануға тұрарлық маңызды сұрақ: AI негізіндегі өзін-өзі басқаратын автокөліктердің пайда болуы таңғажайып алқап туралы ештеңені жарықтандырады ма, егер солай болса, бұл бізге не істеу керектігін хабарлайды?

Маған сұрақты ашуға бір сәт рұқсат етіңіз.

Біріншіден, нағыз өзін-өзі басқаратын көлікте адам жүргізуші жоқ екенін ескеріңіз. Нағыз өзін-өзі басқаратын көліктер AI жүргізу жүйесі арқылы басқарылатынын есте сақтаңыз. Рульде адам жүргізушінің де қажеті жоқ, көлікті адам басқаратын жағдай да жоқ. Автономды көліктер (АВ) және әсіресе өзін-өзі басқаратын көліктер туралы кең және үздіксіз ақпарат алу үшін қараңыз. сілтеме осында.

Мен нағыз өздігінен жүретін көліктерге сілтеме жасағанда нені білдіретінін қосымша түсіндіргім келеді.

Өздігінен басқарылатын автомобильдердің деңгейлерін түсіну

Түсіндірме ретінде, шын мәнінде өздігінен басқарылатын автомобильдер - бұл ИИ автокөлікті толығымен өздігінен басқаратын және көлік жүргізу кезінде ешқандай көмек болмайтын машиналар.

Бұл жүргізушісіз көліктер 4-деңгей және 5-деңгей болып саналады (менің түсіндірмені қараңыз мына сілтеме), ал адам жүргізушінің жүргізу күш-жігерін бірге бөлісуін талап ететін көлік әдетте 2 немесе 3-деңгейде қарастырылады. Жүргізу міндетін бірге орындайтын көліктер жартылай автономды болып сипатталады және әдетте әр түрлі ADAS (Driver-Assistance Advanced Systems) деп аталатын автоматтандырылған қондырмалар.

5 деңгейдегі өзін-өзі басқаратын нақты көлік әлі жоқ, оған жетуге болатын-болмайтынын және оған жету қанша уақытты білмейміз.

Сонымен қатар, 4-деңгейдегі күш-жігер бірте-бірте өте тар және таңдамалы қоғамдық жол сынақтарынан өту арқылы біраз тартуға тырысады, дегенмен бұл сынаққа рұқсат беру керек пе деген пікірталас бар (біз бәріміз экспериментте өмір немесе өлім-жітім теңіз шошқаларымыз) Біздің магистральдарда және айналма жолдарда орын алуда, кейбіреулер даулайды, менің хабарымды мына жерден қараңыз мына сілтеме).

Жартылай автокөліктер адам жүргізушісін қажет ететіндіктен, бұл көлік түрлерін қабылдау әдеттегі көліктерді басқарудан айтарлықтай ерекшеленбейді, сондықтан бұл тақырыпта олар туралы көп жаңалық таба алмайсыз (дегенмен, сіз көресіз Бір сәтте келесі ойлар жалпыға бірдей қолданылады).

Жартылай автокөліктер үшін көпшіліктің соңғы уақытта пайда болатын алаңдатарлық аспект туралы алдын-ала ескертуі маңызды, атап айтқанда 2-деңгей немесе 3-деңгейлі автокөліктің дөңгелегінде ұйықтап жатқандығы туралы бейнежазбаларын жазып жүрген адамдарға қарамастан. , жартылай автономды автокөлік жүргізу кезінде жүргізуші олардың назарын басқару тапсырмасынан алуы мүмкін деп сендіруден аулақ болуымыз керек.

Автоматизацияның 2 немесе 3 деңгейге өтуіне қарамастан, сіз көлік құралын басқаруға жауаптысыз.

Өздігінен жүретін көліктер және таңқаларлық алқап

4 және 5-деңгейдегі өздігінен жүретін көліктер үшін жүргізуші рөлінде адам жүргізушісі болмайды.

Барлық жолаушылар жолаушылар болады.

AI жүргізуді жүргізуде.

Тез арада талқылаудың бір аспектісі бүгінгі жасанды интеллект жүргізуші жүйелеріне қатысатын жасанды интеллекттің сезімтал болмауына алып келеді. Басқаша айтқанда, жасанды интеллект - бұл компьютерлік бағдарламалау мен алгоритмдердің жиынтығы, сондықтан адамдар ойлап тапқан тәртіппен ой қорыта алмайды.

Неліктен бұл интеллектке қосымша назар аударылмайды?

Мен жасанды интеллектті қозғау жүйесінің рөлін талқылағанда мен жасанды интеллектке адами қасиеттерді жатқызбайтынымды атап өткім келеді. Бүгінгі күні жасанды интеллект антропоморфизациясының тұрақты және қауіпті тенденциясы бар екенін ескеріңіз. Шын мәнінде, адамдар мұндай жасанды интеллект әлі жоқ екендігі туралы даусыз және талассыз фактілерге қарамастан, бүгінгі жасанды интеллектке адам тәрізді сезімді тағайындайды.

Осы нақтылау арқылы сіз AI жүргізу жүйесі қандай да бір түрде жүргізудің қырлары туралы «білмейді» деп ойлауға болады. Жүргізу және оған қатысты барлық нәрселер өзін-өзі басқаратын машинаның аппараттық және бағдарламалық жасақтамасының бөлігі ретінде бағдарламалануы керек.

Осы тақырып бойынша ойнауға келетін көптеген аспектілерге сүңгейік.

Біріншіден, AI өздігінен жүретін көліктердің барлығы бірдей емес екенін түсіну маңызды. Әрбір автоөндіруші және өзін-өзі басқаратын технологиялық фирма өзін-өзі басқаратын көліктерді ойлап табуда. Осылайша, AI жүргізу жүйелері не істейтіні немесе жасамайтыны туралы нақты мәлімдеме жасау қиын.

Сонымен қатар, AI басқару жүйесі белгілі бір нәрсені жасамайтынын айтқан кезде, оны кейінірек компьютерді дәл осылай жасауға бағдарламалайтын әзірлеушілер басып озуы мүмкін. Бірте -бірте AI басқару жүйелері біртіндеп жетілдіріліп, кеңейтілуде. Бүгінде бар шектеулер болашақта жүйенің қайталануында немесе нұсқасында болмауы мүмкін.

Мен айтқым келетін нәрсені түсіндіру үшін жеткілікті ескертулер жиынтығын беретініне сенемін.

Біз қазір өздігінен жүретін көліктерге және таңғажайып алқапқа әкелетін этикалық AI сұрақтарына терең сүңгуге дайынбыз.

Мұнда қарастырылатын осы мәселеге қатысты төрт аспекті бар:

1. Өздігінен басқарылатын көліктердің жалпы көрінісі

2. Өздігінен басқарылатын көліктер қайда «қарайды» деген сұрақ.

3. Өздігінен басқарылатын көліктердің AI жүргізу әрекеттері

4. Өздігінен басқарылатын көліктерге қол жеткізу құралы ретінде басқарылатын роботтар

Қосымша аспектілер де өміршең түрде қамтылған, бірақ ғарыштық шектеулер үшін бұл төрт тақырып AI негізіндегі өздігінен жүретін көліктерге қатысты таңғажайып алқаптың тіректерін жарықтандыру үшін жеткілікті болады.

1. Өздігінен басқарылатын көліктердің жалпы көрінісі

Өздігінен басқарылатын көліктердің бүгінгі сынақтарының суреттерін немесе бейнелерін көргеніңізге сенімдімін. Осылайша, сіз көліктердің көпшілігі қосымша арнайы жабдықпен жабдықталған кәдімгі көліктер екенін байқаған боларсыз. Мысалы, бірнеше электронды сенсорларды қамтитын шатырдағы сөре болуы мүмкін. Сенсорларға кейде бейне камералар, радар қондырғылары, LIDAR құрылғылары, ультрадыбыстық сенсорлар және т.б.

Футуристік конструкциялар әдеттегідей көрінетін көліктен бас тартып, оның орнына ішкі және сыртқы жағынан автомобильдерді сыпайы көрінетін автономды көліктерге айналдыруға болатынын болжайды. Дәл қазір жалпы пікір: кәдімгі автомобильдерді пайдалану оңайырақ және дәстүрлі емес көрінетін автомобильдермен бір уақытта араласып, күш жұмсауға тырыспау оңай (бұл жалпы көзқарасқа кейбір ерекшеліктер бар, менің қамтуымды қараңыз. сілтеме осында).

Дәл қазір оның мәні мынада: егер сіз жолда келе жатқан болсаңыз және жақын маңда өзін-өзі басқаратын көлікті кездестірсеңіз, автономды көлікте орнатылған сенсорлардың дірілдегенін байқап, оның өздігінен жүретін көлік екенін бірден анықтауға болады. Бұл жылдам көрнекі сыйлық. Әрине, сіз оның өздігінен жүретінін білмейсіз, өйткені бұл кезде басқару элементтері әдетте әлі де сақталып қалады және рульде адамның резервтік драйвері болуы мүмкін.

Ойлаудың бір түрі бойынша, сіз өзін-өзі басқаратын көліктердің физикалық жағынан ерекше болып көрінетінін және жақын маңдағы адам басқаратын көліктердегі адам жүргізушілеріне, сондай-ақ жақын маңдағы жаяу жүргіншілерге оңай көзбен көруге ыңғайлы екенін ұсына аласыз. Өзін-өзі басқаратын көліктің жақын жерде роумингте жүргенін түсіну сақ болу үшін пайдалы кеңес болуы мүмкін, бұл сізді AI көлік құралын жүргізетінін немесе жүргізетінін абай болуға және есте сақтауға шақырады.

Өздігінен басқарылатын көліктер қарапайым адам басқаратын көлікке ұқсас болды делік. Бұл кем дегенде екі жолмен жүзеге асырылуы мүмкін. Біріншіден, сенсорлар жасырын болуы мүмкін немесе кездейсоқ визуалды тексеру үшін соншалықты айқын болмауы мүмкін. Екіншіден, барлық көліктер, соның ішінде қарапайым адам басқаратын көліктер, көлік негізінен адам басқаратын көлік ретінде қалса да, бірте-бірте ұқсас сенсорлармен жабдықталуы мүмкін. Менің қосымша ақпаратымды мына жерден қараңыз мына сілтеме.

Егер сіз өздігінен басқарылатын көліктердің сыртқы түрі қарапайым адам басқаратын көліктерге ұқсас болуы мүмкін бе немесе болуы керек пе деген мәселені мұқият ойластырсаңыз, сіз бұл бұқтырудың ішінде таңқаларлық алқап жатқан болуы мүмкін деп ойлауыңыз мүмкін.

Қарап отырсаңыз, өздігінен басқарылатын көліктерге ұқсайтын көліктер таңғажайып алқапқа жақын жерде орналасқан деп сипатталуы мүмкін. Негізінде, сіз бұл робот немесе жүйенің роботтық түрі екенін «білесіз». Бұл сіз бірден секіре алатын үкім.

Өзін-өзі басқаратын көліктер адам басқаратын көліктерге ұқсайтын болса, бұл автономды көліктердің робот тәрізді сыртқы түрі бойынша таңғаларлық аңғардан өтіп кеткенін білдіруі мүмкін. Бізді таңғажайып аңғарға түсіретін осы екі физикалық көріністің арасында орта жер бар ма?

Мүмкін сіз көшеде келе жатқан өзін-өзі басқаратын көлікті байқаған боларсыз және ол өзін-өзі басқаратын көлік сияқты көрінуі мүмкін, екінші жағынан, сыртқы түрі қатаң автономды емес немесе қатаң түрде адам басқаратын емес. Өздігінен басқарылатын көлік қазір қорқынышты немесе мазасыз күйде деп дауласуға болады.

Өзін-өзі басқаратын көлік таңғажайып аңғарға еніп кеткен сияқты.

Айтуынша, бұл категориямен бәрі бірдей келісе бермейді. Кейбіреулер сыртқы көріністің таңқаларлық алқапқа ешқандай қатысы жоқ деп мәлімдейді. Кейбіреулер, әрине, таңқаларлық аңғар деп аталатын нақты ештеңе жоқ деп мәлімдейді.

Жоғарыда айтылғандай, сіз бұл туралы өз шешіміңізді қабылдай аласыз.

2. Өздігінен жүретін көліктер қайда қарап тұр деген сұрақ

Өздігінен басқарылатын көліктерге қатысты көпшілікті алаңдататын мәселе - оларда әдетте жүргізуші орнында адам жүргізушінің болмауы, сондықтан көлікті жүргізу кезінде «жүргізушінің» қайда қарап тұрғанын анықтау қиын.

Сіз әдетте адам драйверлеріне қарап, олар қайда қарап жатқанын көресіз. Мысалы, сіз жаяу жүргіншілер өткелінде жаяу жүргінші болуыңыз мүмкін және көлік өткелге жақындап келеді. Сіз жүргізуші орнында отырған адамға мұқият қарап, оның басы қайда бұрылғанын және көздері қайда қарап тұрғанын анықтауға тырысасыз. Егер сіз жүргізуші сізді көрді деп ойласаңыз, көшеден өту сізге ыңғайлырақ болуы мүмкін. Керісінше, егер адам жүргізуші сізді көрмеген сияқты болса, сіз кесіп өтуге алаңдайсыз.

Кейбір қалаларда осы аспектілер бойынша мысық пен тышқан гамбитінің бір түрі бар. Белгілі бір қаладағы белгілі бір мәдени норма, егер сіз жүргізушімен көзге түссеңіз, жүргізуші «жеңеді» және олардың жүргізу жағдайының заңдылығына қарамастан, жалғастыруға құқығы бар сияқты болуы мүмкін. Басқа қалалар мүлдем керісінше болуы мүмкін, атап айтқанда, мәдени норма - көзбен байланыста болған кезде жаяу жүргінші «жеңеді», ал адам жүргізуші жаяу жүргіншінің әрекетін кейінге қалдыруы керек.

Біз бұл әдетті автокөліктер біздің қалаларымыз бен қауымдастықтарымыздың ортасында болған салыстырмалы түрде ұзақ уақыт бойы қабылдаған сияқтымыз. Өздігінен басқарылатын көліктердің пайда болуының проблемасы жүргізуші орнында адам жүргізушінің болмауында, демек, көлік жүргізу ниетінің мәдени көрсеткіші ретінде әдетте көлік жүргізушілерінің басы мен көзін пайдаланатын жаяу жүргінші немесе жақын маңдағы адам жүргізушінің болмауы. сәтсіз.

Автокөлік жасаушылар мен өзін-өзі басқаратын көлік жасаушылар бұл мәселе туралы жақсы біледі. Ұсынылған шешімнің бірі - өздігінен жүретін көліктің автономды көліктің фараларын жыпылықтауы немесе мүйізді сигнал беруі. Тағы бір түсінік, өзін-өзі басқаратын көлікте дауыс зорайтқыштың нұсқасы болуы мүмкін және жақын маңдағы адамдарға AI жүргізу жүйесінің «ниеттері» қандай екенін айтуы мүмкін. Бұл идеялардың әрқайсысының маңызды кемшіліктері бар.

Дегенмен, басқа ұсыныс бастапқыда күлкілі деп ойлайтын нәрсені жасауды талап етеді. Ұсыныс автономды көліктің сыртына көз алмасына ұқсас шарларды орналастырудан тұрады. Бұл шарлар алға-артқа айналдыра алатындай адамның көздеріне ұқсайды, бұл сізге AI «сізді көрді» деген бірден нұсқауды береді (сіз мұны сіздің нақты бағытыңызға қарайтын көз алмалары арқылы түсіндіресіз). Мен бұл тәсілді талдадым сілтеме осында.

Жол бойында келе жатқан өздігінен жүретін көлікті және капотта немесе төбеде орнатылған үлкен өлшемді біртүрлі көз алмасын көргенде, сіздің реакцияңыз қандай болар еді?

Менің ойымша, сіз бұл қорқынышты, мүмкін қорқынышты деп ойлайтын шығарсыз.

Кейбіреулер таңқаларлық аңғарда өзін-өзі басқаратын жабдықталған көліктен туындайды деп болжайды. Басқалары мұның таңқаларлық алқапқа ешқандай қатысы жоқ деп қатты даулайды. Осындай сарапшылардың кейбіреулері таңқаларлық алқапқа бой алдырмай-ақ қорқынышты болуы мүмкін екенін айтады (яғни, таңқаларлық алқап әрқашан қорқынышты тудырады, бірақ барлық қорқыныштылық тек таңқаларлық алқап арқылы жасалмайды). Басқа бұрыш мынада: шарлар көз алмасы азырақ көрінетін және роботтық болып көрінетіндей етіп жасалуы мүмкін немесе біз бәріміз бұл шарлардың пайда болуын сөзсіз қабылдаймыз және бастапқы таң қалдыратын реакция басылады.

3. Өздігінен басқарылатын көліктердің AI жүргізу әрекеттері

Өздігінен басқарылатын көліктердің бүгінгі сынақтарының көпшілігі AI жүргізудің қолданыстағы жүйелері өте жұмсақ және біршама қатаң түрде заңды жолмен жүруге бағдарламаланғанын көрсетті. AI жүргізу жүйесі әдетте өздігінен жүретін көлікті Тоқтау белгілеріне толық тоқтатады. AI жүргізу жүйесі бағдаршам қызыл түске жақын болған кезде қиылыстарда батыл жүгірмейді. Бұл жолсыз жүргізу тәжірибесі адам жүргізушілердің провинциясы болып табылады.

Айтпақшы, сіз өзін-өзі басқаратын көліктің өзін-өзі басқаратын көлік екенін оның жүргізу стилі бойынша болжауға болады. Автономды көлік визуалды түрде адам басқаратын кәдімгі көлік болып көрінсе де, сіз жүргізу әрекеттерін бақылап, оны AI жүйесі басқаратын шығар деп қисынды түрде қорытынды жасай аласыз.

Кейбіреулер AI жүргізу жүйелерін көлік жүргізудің нормативтік тәсілдеріне тиімді араласуы үшін адам жүргізушілерінің қиян-кескі әрекеттеріне көбірек ұқсату керек деп санайды. Менің ойымша, сіз мұны отпен отпен күресу деп түсінуге болады.

Мұны істеудің мағынасы бар ма?

Ашық скептиктер мен сыншылар бұл идеяны жек көретінін біліңіз. Олар біз AI жүргізу жүйелері дұрыс және мұқият жүргізгенін қалаймыз деп батыл дауласады. Қате адам жүргізушілер сияқты бағдарламаланған жолдарға миллиондаған өзін-өзі басқаратын көліктерді қосу үлкен қорқынышты болып көрінеді. Мен бұл даулы ұсынысты талқыладым сілтеме осында.

Таңқаларлық алқапты пайдалана отырып, дилемманы қайта қарастырайық.

AI жүргізу жүйесі өзінің жүргізу әрекеттері бойынша қатаң заңды болған кезде, бұл оның роботтық жүйе болуы мүмкін екендігінің дәлелі болуы мүмкін (адам жүргізушілер мұны мойындағанымен, бүгінгі әлемде олар алыс және аз болып көрінеді). Егер AI жүргізу жүйелері адам драйверлері сияқты қызықты болса, бұл таңғажайып алқап арқылы секіре ме, әлде таңқаларлық аңғарға құлай ма?

Бір ойланыңыз.

4. Өздігінен басқарылатын көліктерге қол жеткізу құралы ретінде жүретін роботтар

Қамтуға арналған бұл соңғы тармақ осы төртеуінен ең таңғаларлық болып табылады.

Кейбір AI әзірлеушілері көлік жүргізетін роботтар жасауға тырысып жатқанын мүлдем білмеуіңіз мүмкін. Робот әртүрлі жағынан адамға ұқсайды, роботтық аяқтары мен роботтық қолдары бар. Кез келген кәдімгі адам басқаратын көліктің өзін-өзі басқаратын көлік болуын қаласаңыз, сіз бұл мамандандырылған AI жүргізуші роботты көлігіңіздің жүргізуші орнына қоясыз. Менің осы ұғымға қатысты талдауымды мына жерден қараңыз сілтеме осында.

Неліктен біз роботтарды жүргізгіміз келеді?

Мұндай роботтың сұлулығы мынада: қазіргі адам басқаратын көліктердің барлығы бір түнде өздігінен басқарылатын көліктерге айналуы мүмкін. Сіз тек жүргізуші роботын сатып аласыз, жалға аласыз немесе қандай да бір жолмен өзіңізге аласыз. Жүргізу сапарында сіз роботты жүргізуші орындығына қоясыз. Робот сізді межелі жерге апарады. Егер сіз көлікті адаммен басқаруға ауысқыңыз келсе, роботты көліктен алып тастайсыз, мүмкін кейінірек пайдалану үшін оны жүксалғышқа қоюға болады.

Бүгінгі таңда Америка Құрама Штаттарында 250 миллионға жуық қарапайым автокөлік бар. Кейбіреулер өздігінен басқарылатын көліктер пайда болған сайын олар қоқыс болады деп сенеді. Бұл кәдімгі көліктерді қоқысқа тастаудың орнына, біз оларды өздігінен жүретін көліктерге айналдыруға тырысуымыз мүмкін, бірақ бұл өте қымбат идея болуы мүмкін. Көмекші роботтарды қол жетімді ету анағұрлым ақылды болып көрінеді.

Егер сіз жақын маңдағы көшемен келе жатқан кәдімгі көлікті көрсеңіз және оның рульінде робот болса, сіз қалай әрекет етесіз?

Мүмкін қорқыныштылық.

Бір дәлелді тұжырым - бұл қорқыныштылық роботтың кәдімгі көлікті басқаратын әйгілі немесе әйгілі таңғажайып аңғарға түсіп кетуіне байланысты.

қорытынды

Этикалық AI тұрғысынан таңқаларлық алқап қызықты жұмбақ ұсынады.

Жасанды интеллектте таңқаларлық алқапқа толық сенетіндер бар, ал кейбіреулері сенбейді. Бірақ, сіз таңқаларлық алқапқа сенесіз бе, жоқ па, соған қарамастан, тақырыптың өзі төңірегінде. Сіз басыңызды жасырып, өз бетіңізше құрылым жоқ деп елестете алмайсыз. Конструкция идея ретінде өмір сүреді және қандай да бір көріністе вирустық күшті. Оны жек көремін немесе жақсы көремін, қараңғы немесе мүмкін жоғары тақырып сақталады.

Жасанды интеллект этикасы тұрғысынан таңқаларлық алқаптың артықшылықтары туралы бұрынғы баяндамама сәйкес, онда махаббат пен жек көрушілік қарым-қатынас бар. Этикалық AI саласындағы адамдар таңғаларлық алқапты қабылдаса немесе таңқаларлық алқапты жалпылама түрде қабылдамаса немесе шындыққа қатысты біршама бейтарап болып, оның орнына ол туралы жалғасып келе жатқан әртүрлі нанымдарға байланысты пайда болатын әсерге назар аударса.

Бұл қиындық көрнекті экономист Адам Смитті көтереді, өйткені ол бір кездері Скептицизм қаласынан келе жатқан жолда белгісіздік алқабынан өту керек деп айтқан болатын.