AI этикасы толық автономды жүйелер пайда болған кезде адамдар AI-ны құлдыққа айналдыруды таңдау үшін Аристотельге сүйенеді.

Дос немесе жау.

Балық немесе құс.

Адам немесе зат.

Бұл кең таралған жұмбақтардың барлығы біз кейде дихотомиялық жағдайға тап болатынымызды және бір қырын немесе басқасын таңдауымыз керек екенін көрсетеді. Өмір бізді бір-бірін жоққа шығаратын екі нұсқадан тұратын жағдайлармен күресуге мәжбүр етуі мүмкін. Неғұрлым дәмді тілде, сіз ерекше екілік теңдеу бізден басқа емес, бір нақты жолмен жүруді талап етеді деп ұсына аласыз.

Адам немесе зат дихотомиясына арнайы тоқталайық.

Адам немесе зат деген қызу сұрақ жасанды интеллектке (AI) қатысты қайта-қайта туындайды.

Түсіндіру үшін бүгінгі AI мүлдем емес адам және жаңалықтарда және әлеуметтік желілерде көре алатын көзді ашып-жұмғанша және мүлдем шамадан тыс тақырыптарға қарамастан, ешқандай сезімге ие емес. Осылайша, сіз дәл қазір AI адам немесе зат екендігі туралы мәселе оңай жауап беретініне сенімді бола аласыз. Менің ернімді оқыңыз, Хобсонның адам немесе зат арасындағы таңдауы бойынша, AI - бұл әзірге нәрсе.

Айтуынша, біз болашаққа қарап, АИ-нің сезімтал түріне қол жеткізе алатын болсақ, не болатынын білуге ​​болады.

Кейбір дәлелді сыншылар (плюс каустикалық скептиктер) біз бүгінде сезімтал АИ-нің салдарын талқылай отырып, тауықтарымызды жұмыртқадан шыққанға дейін санайтын шығармыз деп болжайды. Талқылаудың өзі біз осындай AI шыңында болуымыз керек дегенді білдіреді деген алаңдаушылық. Жалпы қоғамды ертең немесе келесі күні біз шын мәнінде сезімтал AI-ға жеткеніміз туралы кенеттен және таң қалдыратын ашылу болады деп адастыруы мүмкін (кейде мұны кейбір адамдар AI бірегейлігі немесе интеллект жарылысы деп атайды, қараңыз. менің талдауым сілтеме осында). Сонымен қатар, біз мұндай AI қашан пайда болатынын білмейміз, және, әрине, біз әр бұрышқа қарап отырудың қажеті жоқ сияқты және келесіде сезімтал AI күтпеген жерден бізге секіріп кетеді деп қорқудың қажеті жоқ сияқты. аз уақыт.

Пікірталастың екінші жағы біздің басымызды құмға терең көміп алмау керектігін көрсетеді. Көрдіңіз бе, егер біз сезімтал AI-мен байланысты мүмкіндіктерді ашық түрде талқылап, ойланбасак, біз адамзатқа болжамды ауыр қызмет жасаймыз. Қашан немесе пайда болған жағдайда, біз сезімтал AI-мен жұмыс істеуге дайын болмаймыз. Сонымен қатар, және, мүмкін, одан да күшті түрде айтылғандай, сезімтал AI-ны болжау арқылы біз мәселені өз қолымызға аламыз және мұндай AI қалай пайда болатынын және оның неден тұратынын анықтай аламыз (бұл соңғы тармақпен бәрі бірдей келіспейді). , атап айтқанда, кейбіреулер мұндай AI толығымен өзіндік «ақылға» ие болады және біз оны қалыптастыра алмаймыз немесе реттей алмаймыз деп айтады, өйткені АИ өз бетінше ойлауға және тұрақты өмір сүру құралын анықтауға қабілетті болады).

AI этикасы бізде ешқандай мүмкіндіктер қалмайынша күтпей немесе осындай AI-ға қол жеткізгеннен кейін ренжіп қалмай, осы қиын және дәлелді сезімтал-AI мәселелерін қазір ашық түрде шешкен дұрыс деген көзқарасты жақтайды. Оқырмандар менің AI этикасы және этикалық AI тақырыптарын кеңінен қамтығанымды жақсы біледі, соның ішінде AI заңды тұлғасы, AI шектеуі, AI-ны бұзу, AI алгоритмдік мономәдениет, AI этикасын жуу, қосарлы пайдалану сияқты күрделі мәселелердің сенімді ауқымын қамту. Доктор Зұлымдық жобалары деп аталатын AI, қоғамдық қуат динамикасын жасыратын AI, сенімді AI, AI аудиті және т.б. (осы маңызды тақырыптарды менің бағандарымды қараңыз сілтеме осында).

Мен сізге қиын сұрақ қойдым.

Болашақта, біз қандай жолмен болмасын, сезімтал AI-мен аяқталамыз деп есептесек, бұл сезімтал АИ-ді бәріміз адам немесе зат ретінде түсінеміз бе?

Осы мүлде арандатушы сұраққа терең бойлауды бастамас бұрын, бәріміз бір бетте болуымыз үшін «сезімтал AI» фразасы туралы бірдеңе айтуға рұқсат етіңіз. Сезімнің мәні мен сананың мәні туралы көптеген алаңдаушылық бар. Сарапшылар бұл сөздердің нені құрайтыны туралы келіспей қалуы мүмкін. Бұған қоса, кез келген адам «AI» туралы айтқан кезде сізде олардың нені меңзеп тұрғанын білуге ​​дайын құрал жоқ. Мен қазірдің өзінде бүгінгі AI сезімтал емес екенін атап өттім. Егер біз ақырында сезімтал болашақ AI-ға жетсек, оны «AI» деп те атайтын шығармыз. Мәселе мынада, бұл даулы мәселелер дәл қазір «AI» фразасының айтылуының бүгінгі күннің сезімтал емес AI-мен немесе бір кездері мүмкін сезімтал АИ-мен байланысы бар-жоғын шатастыруы мүмкін.

Бұл пікірталастағы AI бір-бірімен сөйлесіп, бірі алманы сипаттап жатқанын, ал екіншісі апельсин туралы айтып жатқанын түсінбеуі мүмкін.

Бұл шатасуды жеңіп шығу үшін, көптеген адамдар үмітті түсіндіру мақсатында қолданатын AI тіркесіне түзетулер бар. Қазіргі уақытта біз жасанды жалпы интеллектке (AGI) толық интеллектуалды күш-жігерді жасай алатын AI түрі ретінде сілтеме жасаймыз. Осы тұрғыдан алғанда, «AI» тіркесін дөрекі түрде қолдану не AI-ның кішірек нұсқасы ретінде түсіндіріледі, кейбіреулер оны тар-AI деп айтады немесе денотативтік жағынан екіұшты болып табылады және сілтеме емес екенін білмейсіз. - сезімтал AI немесе мүмкін сезімтал AI.

Мен бұған қосымша бұрылыс беремін.

Сезімге берілген анықтамаға байланысты сіз AGI сезімтал бола ма, жоқ па деген қызу пікірталасқа түсе аласыз. Кейбіреулер иә, әрине, AGI өзінің ішкі табиғаты бойынша сезімтал болуы керек деп айтады. Басқалары сізде сезімтал емес AGI болуы мүмкін деп мәлімдейді, сондықтан сезімталдық - бұл AGI-ге жету үшін талап етілмейтін басқа сипаттама. Мен бұл пікірталастарды өзімнің бағандарымда әртүрлі қарастырдым және бұл жерде мәселені қайта қозғамаймын.

Әзірге, бұдан былай осы талқылауда мен AI-ға сілтеме жасағанда, мен AGI-ге сілтеме жасап жатқанымды ұсынамын деп есептей беріңіз.

Міне, бұл туралы жүктеп алу. Бізде әзірше AGI жоқ, және бір сөзбен айтқанда, біз AGI сезімтал AI сияқты жалпы лагерьде екеніне сыпайы түрде келісеміз. Егер мен «AGI» сөзін талқылау барысында ғана қолданатын болсам, бұл фраза алаңдатуы мүмкін, өйткені көбісі «AGI» деген атауды лакап ретінде көруге үйренбеген және олар осы салыстырмалы түрде жаңарақ фразаны қайта-қайта көргенде аздап ашулануы мүмкін. Енді, егер оның орнына мен «сезімтал AI» туралы айта берсем, бұл AGI және сезімтал AI бірдей немесе бір-бірінен айырмашылығы бар ма деген сұраққа дауласатындар үшін алаңдаушы болуы мүмкін.

Бұл тәртіпсіздікке жол бермеу үшін, менің AI-ға сілтеме жасауым AGI немесе тіпті сезімтал-AI дегенмен бірдей деп есептейік және кем дегенде, мен бүгінгі күннің сезімтал емес AGI емес AI туралы айтпайтынымды біліңіз. Адамға ұқсас интеллектке ие болып көрінетін AI. Мен анда-санда бізде жоқ AI түрін, әсіресе адам немесе зат жұмбағын зерттеудің басында зерттейтінімді еске салу үшін AGI атын пайдаланамын.

Бұл өте пайдалы растау болды, мен енді негізгі мәселеге қайта ораламын.

Енді сізден AGI адам немесе зат па деп сұрауға рұқсат етіңіз.

Мына екі сұрақты қарастырыңыз:

• AGI адам ма?
• AGI нәрсе ме?

Әрі қарай әр сұрақты қайталап, сәйкесінше болжамды дихотомиялық таңдауға сәйкес келетін иә немесе жоқ жауаптары бар сұрақтарға жауап берейік.

Осы болжамды мүмкіндіктен бастаңыз:

• AGI адам ма? Жауап: Иә.
• AGI нәрсе ме? Жауап: Жоқ

Ойланып көріңізші. Егер AGI іс жүзінде зат ретінде емес, адам ретінде түсіндірілсе, біз AGI-ны адамға ұқсас деп қарауымыз керек екендігімен келісе аламыз. AGI-ге заңды тұлға нысанын бермеу туралы жеткіліксіз шынайы дәлел бар сияқты. Бұл адамның заңды тұлғасымен толығымен бірдей болар еді, немесе біз AGI үшін орындырақ болатын адамға бағытталған заңды тұлғаның нұсқасын ойлап табуымыз мүмкін. Іс жабылды.

Бұл оңай болды.

Оның орнына біз мұны жариялағанымызды елестетіп көріңіз:

• AGI адам ма? Жауап: Жоқ
• AGI нәрсе ме? Жауап: Иә.

Бұл жағдайда шешім анық, өйткені біз AGI - бұл зат және адам болу санатына көтерілмейді деп айтамыз. Біз AGI-ге заңды тұлғаны бермейміз деген жалпы келісім бар сияқты, себебі ол тұлға емес. Негізінде, AGI біздің қоғамдағы «заттарға» заңды түрде қалай қарайтынымыз туралы жалпы айдарымызға енуі мүмкін және ақылға қонымды.

Екі төмен, тағы екі мүмкіндік бар.

Мынаны елестетіңіз:

• AGI адам ма? Жауап: Иә.
• AGI нәрсе ме? Жауап: Иә.

Ой, бұл біртүрлі болып көрінеді, өйткені бізде екі иә жауабы бар. Ашу. Біз AGI бір мезгілде адам және бір мезгілде зат екенін ұсынамыз. Бірақ бұл біздің жарияланған дихотомияға қарсы ұшатын сияқты. Теориялық тұрғыдан, дихотомияның шектеулеріне сәйкес, бір нәрсе адам болуы керек немесе ол нәрсе болуы керек. Бұл екі шелек немесе санат бір-бірін жоққа шығарады. AGI екеуі де екенін растай отырып, біз жүйені бұзып, өзара эксклюзивті келісімді бұзамыз.

Біздің соңғы мүмкіндігіміз мынау сияқты:

• AGI адам ма? Жауап: Жоқ
• AGI нәрсе ме? Жауап: Жоқ

Иә, бұл біздің AGI-ны адам немесе зат ретінде жіктеу әрекеттеріміз үшін де жаман. Біз AGI адам емес деп айтамыз, бұл оның зат болуы керек дегенді білдіреді (бұл дихотомияда біздің жалғыз қол жетімді таңдауымыз). Бірақ біз сондай-ақ AGI нәрсе емес екенін айттық. Дегенмен, егер AGI нәрсе болмаса, біз логика бойынша AGI-ны адам деп айтуымыз керек. Айналамыз, айналамыз. Парадокс, әрине.

Осы соңғы екі мүмкіндікте AGI немесе (1) адам да, зат та, немесе (2) адам да, зат те емес. Егер сіз менің не айтқым келетінін білсеңіз, AGI туралы бұл екі тұжырым балық та, құс та емес деген классикалық жұмбаққа біршама ұқсайды деп айта аласыз.

Біз не істейміз?

Мен осы AGI классификация дилеммасының жиі талқыланатын және қатты даулы ұсынылған шешімін ұсынғалы отырмын, дегенмен оның көру немесе есту мазасыздандыратыны туралы алдын ала ескерту керек. Өзіңізді соған сәйкес дайындаңыз.

Осы мәселені қарастырған зерттеу жұмысында былай делінген: «Бұл мәселені шешудің бір әдісі – бір нәрсе де, екіншісі де емес немесе біреуі мен екіншісінің комбинациясы немесе синтезінің бір түрі болып табылатын үшінші терминді тұжырымдау» (Дэвид Гункел, Солтүстік Иллинойс университетінде Неліктен роботтар құл болмауы керек, 2022). Содан кейін қағаз осы қосымша тармақты береді: «Егер таңқаларлық болмаса, ерекше адам/зат дихотомиясы үшін шешім құлдық” (бір қағаз үшін).

Бұдан басқа, бірнеше жыл бұрын, 2010 жылы «Роботтар құл болуы керек» деген мақала пайда болды, ол осындай қарауды ынталандырудың негізгі түріне айналды, онда мақалада былай делінген: «Менің дипломдық жұмысым роботтар болуы керек салынған, сатылған және заңды түрде серіктес құрбылар емес, құлдар ретінде қарастырылады» (Джоанна Брайсонның қағазында). Тақырыпты осындай ауыр және іштей дірілдететін сөздерді қолданбай түсіндіруге тырысу және түсіндіру үшін газет былай деп жалғастырды: «Менің айтайын дегенім: «Роботтар сізге тиесілі қызметшілер болуы керек» (Брайсонның қағазы бойынша).

Көптеген зерттеушілер мен авторлар бұл тақырыпты зерттеді.

Адамзаттың AI роботтарын құлдыққа түсіретінін көрсететін көптеген ғылыми фантастикалық ертегілер туралы ойланыңыз. Кейбіреулер робот-құлдар, жасанды қызметшілер, AI сервитуты және т.б. Бір қызығы, «робот құлдар» деген сөз тіркесі қаншалықты қатал болып көрінсе де, кейбіреулер «робот қызметшілеріне» сілтеме жасасақ, мұндай AI автономды жүйелеріне қалай қарауға болатыны туралы шындықтан аулақ боламыз деп қорқады (сөзді «деген сөзбен алмастыру) қызметшілер» дегенді ниетті суару және ақылға қонымды салдарлардан аулақ болу айласы дейді). Кейінірек Брайсон 2015 жылы блогында жариялаған мақаласында: «Мен «құл» терминін оның адамзат тарихына жүгінбей пайдалана алмайтыныңызды енді түсінемін» деп мәлімдеді.

Осы AGI шиеленісті тақырыпты терең зерттегісі келетіндер үшін кейде олар нақты дүниежүзілік тарихи мысалдарды келтіреді, олардан біз түсініктер аламыз. Әрине, бізде адамзаттың бұл мәселені қалай шешкенін көрсететін бұрынғы AGI жоқ. Бізде адамдардың басқа адамдарға қалай қарағанын зерттейтін пайдалы тарихи деректер болуы мүмкін деген дәлел бар.

Мысалы, 2013 жылы жарық көрген кітапта автор бұл туралы былай дейді: «Жасанды, ақылды қызметшілердің уәдесі мен қаупін алғаш рет 2,000 жылдан астам уақыт бұрын Аристотель жанама түрде айтқан» (Кевин ЛаГрандер кітабы, Ерте заманауи әдебиет пен мәдениеттегі Android және интеллектуалды желілер). Идея мынада: біз Аристотельге сүйеніп, адамзаттың AGI-ны қалай емдеуге болатыны немесе аяқталуы керектігі туралы түсініктер бар-жоғын көре аламыз.

Джордж Сантаянаның: «Өткенді есіне түсіре алмайтындар оны қайталауға сотталған» деген атақты сөздерінде атап өткендей, сіз тарихты зерттеудің маңыздылығын білетініңізге сенімдімін. Ақылдың өмірі, 1905).

Оксфорд университетінің этика және AI институтына рахмет

Жақында және өте құрметті презентация Аристотельдің еңбектері мен өмірінен түсініктерді жинау аясында AI этикасы мәселесін мұқият қарастырды. Оксфорд университетінің жыл сайынғы алғашқы лекциясында Этика және АИ институты, Стэнфорд университетінің профессоры Джосия Обер 16 жылдың 2022 маусымында жақында өткен «Аристотельмен AI-дағы этика» презентациясында тақырыпқа терең тоқталды.

Қосымша ескертпе, Стэнфорд стипендиаты және AI этикасы және заңы бойынша жаһандық сарапшы ретінде мен Стэнфордтың Джозия Обердің инаугурация спикері ретінде таңдалғанына қуаныштымын. Керемет таңдау және тамаша әңгіме.

Міне, оның тартымды баяндамасы үшін берілген қысқаша аннотация: «Аналитикалық философия және алыпсатарлық фантастика қазіргі уақытта AI-дағы этика туралы байыпты ойлауға арналған негізгі зияткерлік ресурстарымыз болып табылады. Мен үшіншісін қосуды ұсынамын: ежелгі әлеуметтік және философиялық тарих. Ішінде саясат, Аристотель атышулы доктринаны дамытады: Кейбір адамдар «табиғатынан» құл болып табылады – ақылды, бірақ психологиялық кемістігінен зардап шегеді, бұл оларды өз игілігі туралы ой қорытуға қабілетсіз етеді. Осылайша, оларды ұштар емес, «жанды құралдар» ретінде қарастыру керек. Олардың жұмысын басқалардың игілігі үшін бағыттап, пайдалану керек. Аристотельдің жексұрын доктринасы зұлым мақсаттар үшін қолданылды, мысалы, Антебеллум Америкада. Дегенмен, бұл AI этикасы үшін пайдалы, өйткені ежелгі құлдық AI бір нұсқасының заманауи прототипі болды. Ежелгі грек қоғамында құлдықта болған адамдар – жұмысшылар, жезөкшелер, банкирлер, мемлекеттік бюрократтар – еркін адамдардан оңай ажыратылмаған. Құлдық практикалық қажеттілік деген болжаммен бірге барлық жерде этикалық басқатырғыштар мен келеңсіздіктерді тудырды: Құлдар «бізден» қалай ерекшеленеді? Оларды өзімізден қалай ажырата аламыз? Олардың құқықтары бар ма? Қателік нені білдіреді? Менің аспап менің досым бола ала ма? Манумиссияның салдары қандай? Осы және басқа да сұрақтармен грек философиялық және институционалдық күресінің ұзақ тарихы интеллектуалды машина «табиғи құл» деп есептелуі мүмкін болашаққа қарсы тұрған заманауи этика ғалымдарының интерпретациялық репертуарын толықтырады (Оксфорд университетінің мәліметтері бойынша). AI этикасы институты веб-сайт).

Презентация және баяндаманың бейнежазбасына қол жеткізу туралы қосымша ақпаратты қараңыз сілтеме осында.

Тұсаукесер модераторы профессор Джон Тасиулас болды Этика және АИ институты, және Оксфорд университетінің философия факультетінің этика және заң философиясының профессоры. Бұған дейін ол Лондондағы Кингс колледжінің Диксон Пун заң мектебінде саясат, философия және құқық кафедрасының ұлықтаушысы және Йо Тионг Лэй саясат, философия және құқық орталығының директоры болды.

Мен AI этикасына қызығушылық танытатын кез келген адамға Оксфорд университетінің ағымдағы жұмысы мен шақырылған келіссөздерінен хабардар болуын ұсынамын. Этика және АИ институты, қараңыз сілтеме осында Және / немесе сілтеме осында қосымша ақпарат алу үшін.

Бұл жерде институттың миссиясы мен фокусы берілген: «AI саласындағы этика институты әлемдік жетекші философтарды және гуманитарлық ғылымдардағы басқа сарапшыларды академиялық ортадағы, бизнестегі және үкіметтегі AI техникалық әзірлеушілерімен және пайдаланушыларымен біріктіреді. AI этикасы мен басқаруы Оксфордтағы ерекше белсенді зерттеу саласы болып табылады және Институт осы платформадан батыл секіру мүмкіндігі болып табылады. Күн сайын AI тудыратын этикалық қиындықтардың мысалдары көбірек; бетті танудан сайлаушылар профиліне дейін, ми машинасының интерфейстері қаруланған дрондарға дейін және AI жаһандық ауқымдағы жұмысқа қалай әсер ететіні туралы үздіксіз дискурс. Бұл біз халықаралық деңгейде ілгерілетуді, сонымен қатар Оксфордтағы өз зерттеулеріміз бен оқытуымызды енгізуді көздеп отырған шұғыл және маңызды жұмыс» (ресми веб-сайт арқылы алынған).

Аристотель сабақтарын бірінші орынға шығару

Ежелгі Греция құлдық тәжірибесін ашық түрде қабылдап, мақұлдады. Мысалы, Афины 5-ші орында^th және 6^th 60,000-нан 80,000-ға дейін адам құлдықта болған құлдықтың ең үлкен көріністерінің бірі біздің эрамызға дейінгі ғасырларда болды. Егер сіз сол дәуірдегі көптеген грек әңгімелері мен сахналық пьесаларының кез келгенін оқыған болсаңыз, бұл мәселе туралы көп айтылады.

Тірі кезінде Аристотель құлдыққа әкелетін әлеуметтік және мәдени аспектілерге толығымен еніп, осы тақырыпта көп жазды. Бүгін біз оның сөздерін оқып, оның бұл мәселеге қатысты көзқарасын қалай және неге екенін түсінуге тырысамыз. Бұл өте айтуы мүмкін.

Неліктен Аристотель бұл тақырып бойынша ерекше маңызды дереккөз болады деп ойлайтын шығарсыз. Кем дегенде екі негізгі себеп туындайды:

1) Ұлы ойшыл. Аристотель барлық уақыттағы ең ұлы ойшылдардың бірі ретінде бағаланады, ұлы және терең зерттеуші философ ретінде қызмет етеді және көптеген маңызды этикалық іргетастарды белгілеген этика ретінде қарастырылады. Кейбіреулер оны логиканың әкесі, риториканың әкесі, реализмнің әкесі және т.б. ретінде майлауды таңдады және оның әртүрлі салалар мен пәндердегі ықпалын мойындады.

2) Тәжірибе. Аристотель Ежелгі Греция құлдыққа толы кезеңде өмір сүрді. Осылайша, оның түсініктері жай ғана дерексіз өсиеттер туралы емес, мүмкін, сол дәуірдің мәдениеті мен қоғамдық әдет-ғұрыптарымен ажырамас түрде араласқан өзінің күнделікті тәжірибесін қамтиды.

Сонымен, бізде ұлы ойшыл болған, сонымен қатар қызығушылық танытқан тақырыпта өмір сүрген тәжірибесі бар адамның таңғаларлық үйлесімі бар. Сонымен қатар, ол өз ойын жазды. Бұл біздің бүгінгі мақсаттарымыз үшін өте маңызды. Оның барлық жазбалары, оның сөйлеген сөздері мен басқалармен қарым-қатынасын сипаттайтын басқа жазбаларымен қатар, бүгінгі күні бізге тексеру және талдау үшін көптеген материалдар береді.

Мен сізді қысқаша байланысты тангенске алып барғым келеді, ол бар болу маңыздылығының негізінде жатқан жалпы түсінік туралы тағы бір нәрсені атап өткім келеді. өмірлік тәжірибе. Біз өмір сүрген тәжірибелердің негізгі аспектілеріне жылдам шолу жасай отырып, Ежелгі Греция туралы пікірталасты бір сәтке қалдырыңыз.

Бүгін менде екі адам болды делік, мен көліктер туралы әртүрлі сұрақтар қойғым келді.

Олардың бірі ешқашан көлік жүргізбеген. Бұл адам көлік жүргізуді білмейді. Бұл адам ешқашан көлік рульіне отырмаған. Әдеттегі және өте қарапайым жүргізуді басқару бұл адам үшін аздап жұмбақ. Қай педаль не істейді? Оны қалай тоқтатуға болады? Сіз оны қалай жасайсыз? Көлік жүргізбейтін адам мұндай мәселелерге толығымен таң қалды.

Екінші адам күнделікті жүргізуші. Олар күнде жұмысқа көлікпен барады. Олар тоқтап, кететін көлік қозғалысымен айналысады. Олар көп жылдар бойы көлік жүргізді. Бұған тыныш көшелерден бастап, қарбалас магистральдар мен айналма жолдарға дейін барлығы кіреді.

Егер мен олардың әрқайсысынан көлік жүргізудің не екенін айтып беруін сұрасам, мен қандай жауап алатынымды болжай аласыз ба?

Ешқашан көлік жүргізбеген адам жабайы болжам жасауға міндетті. Мүмкін адам көлік жүргізу әрекетін романтизациялайды. Көлік жүргізу олар үшін біршама абстрактілі. Олардың қолынан келетін нәрсе - бұл көлік жүргізудің алаңсыз екенін және сіз көлікті өзіңіз қалаған бағытқа апара аласыз.

Тәжірибелі жүргізуші басқа әңгіме айтатынына бәс тігемін. Олар көлік жүргізе алмаудың артықшылықтарын айта алады, бұл көлік жүргізбеген адамның көңіл-күйін қайталайды. Тәжірибелі жүргізуші тақтайшаға көп нәрсені қосады деген болжам бар. Көлік жүргізу кейде жүйкені жұқартады. Сізге үлкен жауапкершілік жүктеледі. Жүргізу әрекеті елеулі алаңдаушылық пен ықтимал өмір немесе өлім салдарына толы.

Маңыздысы мынада: сіз тәжірибесі бар адамға қол жеткізе алсаңыз, сіз зерттеудің фокусына қатысты әлемнің қандай болатыны туралы нақтырақ перспективаға қол жеткізе аласыз. Мұндай нәтижеге кепілдік жоқ. Жүргізуші емес адам тәжірибелі жүргізушінің көлік жүргізу туралы не білетінін білуі мүмкін, дегенмен біз мұны күтпейтін едік және әлі де толық ақпарат ала алмаймыз деп қорқамыз.

Аристотель туралы пікірталасымызға оның жазбалары мен ол туралы басқалардың жазбалары арқылы қайта оралсақ, біз оның осы тақырыптағы немесе зерттеу бағыты бойынша өмір тәжірибесін қарастыра аламыз. Екінші мәселе, ол да үлкен пропорциялардың ойшылы болған және біз оның ақылды ойларына толы бөшке аламыз деп күтуіміз керек.

Есіңізде болсын, біз оның сөздеріне номиналды түрде сенудің қажеті жоқ, сондықтан оның ерекше көзқарастарына сақтықпен қарауымыз керек. Оның сол дәуірге енуі оны кейбір бейтарап және бейтарап пікірді лайықты түрде ұсына алмай, мәселенің сыртында тұруға тырысуы мүмкін. Тіпті ең қатал логикалар өздерінің бейімділіктері мен өмір тәжірибесін қанағаттандыру үшін логиканы бұрмалауы мүмкін.

Енді кіріспе сөзге кірісіп, бүгін Аристотель бізге қандай сабақ бере алатынын көрейік.

Көрермендердің назарына өмірден өткен тәжірибелерге қатысты негізгі нүкте бірден жеткізілді. AGI пайдалану жағдайында, бізде бүгінде AGI жоқ болғандықтан, AGI қандай болатынын және AGI-мен қалай әрекет ететінімізді талдау қиын. Бізде AGI-ге қатысты өмірлік тәжірибелер жетіспейді. Профессор Обер атап өткендей, біз AGI-ге жеткенде өзімізді зардап шеккен әлемге тап болуымыз мүмкін.

Бұл көбінесе AI экзистенциалды тәуекел ретінде айтылады, мен оны өзімнің бағандарымда бірнеше рет қарастырдым. Біз бүкіл адамзатты жойып жіберетін AGI шығаратын немесе тудыратын күдіктер мен күдіктерді білмеу үшін сізге үңгірде тұру керек еді. Шынында да, мен бұл жерде AI-ны құлдыққа айналдыруға назар аударсам да, көптеген адамдар бұл AGI-ның адамзатты құлдыққа айналдыру мүмкіндігімен салыстырғанда артта қалған немесе төңкерілген салдар тақырыбы деп санайды. Сіздің басымдықтарыңызды түзетіңіз, кейбір ақылды сарапшылар кеңес береді.

AI туралы экзистенциалды тәуекел ретіндегі көптеген ескертулерге қарамастан, біз AI монетасының басқа пайдалы жағы туралы ойлана аламыз. Мүмкін, AGI адамзаттың алдында тұрған шешілмейтін сияқты көрінетін мәселелерді шеше алады. AGI қатерлі ісікке қарсы ем таба алады. AGI әлемдегі аштықты қалай шешуге болатынын анықтай алады. Аспанның шегі, олар айтқандай. Бұл AGI туралы бақытты бет сценарийі.

Оптимист AGI-ның адамзат үшін бата болатынын елестетудің керемет екенін айтады, ал пессимист теріс жағы болжамды жақсылықтардан әлдеқайда нашар болып көрінетінін алдын ала ескертеді. Адамзатқа көмектесетін AGI керемет. Барлық адамдарды өлтіруге немесе оларды құлдыққа айналдыруға шешім қабылдаған AGI, бұл өте қатты және өмірді сақтап қалу үшін мұқият назар аударуды қажет ететін қоғамды жойып жіберетін экзистенциалды тәуекел.

Жарайды, мәселенің мәніне қайта оралсақ, бізде AGI-ға қатысты өмірлік тәжірибе жоқ. Уақыт машинасын жасап, болашаққа (егер) AGI бар болса, сосын бізге не тапқаныңызды айту үшін қайтып келмейінше, адам негізіндегі өмір сүрген тәжірибе тұрғысынан AGI туралы дәл қазір сәттілікке қол жеткізе алмаймыз.

Тәжірибелерді пайдаланудың тағы бір құралы Аристотельдің құлдық болған уақытта өмір сүргенін білдіреді. Ал міне, соққы. Құлдыққа ұшырағандар кейбір жағынан машинаның бір түрі, адамның да, заттың да араласуы ретінде бейнеленген. Аристотель құлдыққа түскендерді тыныс алатын мүлік деп атағанымен белгілі болды.

Менің ойымша, сіз логика мен этиканың алыбы Аристотельдің құлдықты мойындап қана қоймай, бұл тәжірибені сырттай және дауыстап қорғағанына таң қалуыңыз мүмкін. Ол құлдықты да пайдаланды. Бұл түсіну мүмкін емес сияқты. Әрине, ол өзінің бар ақыл-парасаты мен даналығымен бұл амалды жоққа шығарар еді.

Бұл кейде өз тәжірибесінен ауыртпалық түсіретін (айту керек пе) біреуден даналық түйіршіктерін жоюдың проблемалық аспектілерін көрсетеді деп айтуға батылы барамын. Бұл балық суы бар ыдыста тұратын балық сияқты. Олар айналадағы суды ғана қабылдай алады. Суға негізделген әлемнен тыс кез келген нәрсені елестетуге тырысу - бұл үлкен сынақ. Сол сияқты, Аристотель де үстемдік ететін нормаларды қабылдайтын дүниетанымға толығымен енген. Оның жазбалары осындай психикалық қамауды суреттейтін сияқты (мүмкін, әдепкі бойынша емес, таңдау бойынша). Аристотельдің бұл айыпты тәжірибелерді ақтау тәсілі таң қалдырады, сонымен бірге алаңдатады және әшкерелеуге және тіпті айыптауға тұрарлық.

Мен сіздерге осы атышулы тақырыптағы Аристотельдің «логикасы» жансыздандырылған аспаптарды қамтитыны туралы аздап тизер ұсынамын. өзара артықшылық танымға, жоғары және төменгі дәрежелі иерархиялық құралдарға, жанның ақыл-ой элементтеріне, ізгілік дәрежелеріне, болжамды ақылдылыққа және т.б. Сөйлесудің бейнежазбасын көру үшін бұл тизер сізді қызықтырады деп үміттенеміз (бұрын айтылған сілтемені қараңыз).

Мен сізді ілулі қалдырмаймын және ең болмағанда қорытындының неден тұратынын көрсетемін (спойлер туралы ескерту, егер сіз бейне арқылы білгіңіз келсе, осы абзацтың қалған бөлігін өткізіп жіберіңіз). Аристотель қолданатын «логиканың» бұл терең ғылыми бағасы қарама-қайшылықтарға толы айла-шарғыларды көрсетеді және бүкіл жинақ пен кабудель карталардың жұқа үйіндей құлап кетеді. Профессор Обердің сезімін қайталай отырып, бұл ұлы этикалық философ рифке құлады.

Сіз дөңгелек этикалық тесікке төртбұрышты қазықты ала алмайсыз.

Кейбір қосымша ойлауды қарастыру

Егер Аристотельдің бұл мәселеде дұрыс емес логикасы болса, біз Аристотельдің осы тәжірибеге қатысты постуляциялары мен теорияларын инстинктивті түрде жоққа шығара аламыз ба?

Жоқ. Көрдіңіз бе, логиканың болжамдары мен бұрмаланулары қателерге толы болса да, оларды қазып алу арқылы әлі көп нәрсе бар. Сонымен қатар, біз басқалардың байқаусызда бірдей қате жолмен қалай жүруі мүмкін екенін ойлай аламыз.

Тағы бір маңызды мәселе - AGI құлдыққа түсу керек пе деген сұраққа келгенде қоғам біртүрлі немесе жеткіліксіз логиканы ойлап табуы мүмкін.

Біз дәл қазір AGI пайда болған кезде не болуы керектігі туралы логиканы құрастыра аламыз (егер солай болса). AGI туралы тәжірибеден бос бұл логика мақсаттан тыс болуы мүмкін. Айтпақшы, AGI бар болған кезде де (егер ол бар болса) және біз AGI ортасында өз тәжірибемізді жинап жатқанда, біз әлі де не істеу керектігін білмеуіміз мүмкін (Аристотельдің қателіктеріне ұқсас). Біз өзімізді қисынсыз болып көрінетін тәсілдерге қисынды келтіруіміз мүмкін.

Біз өзімізді шын мәнінде темірдей емес, логикалық кемшіліктер мен қарама-қайшылықтарға толы логикалық «темір жамылған» ұстанымдарға алдап кетуден сақ болуымыз керек. Бұл ойшылдың мәлімделген логикалық ұстанымды қаншалықты ұсына алатынына қарамастан, тіпті Аристотельдің өзі әрбір сөз бен ұстанымның әрбір бөлігі міндетті түрде жеуге болатын жеміс әкелмейтінін көрсетеді. Бүгінгі және болашақта AGI тақырыбы бойынша танымал ұлы ойшылдар болып көрінуі мүмкін, біз оларға Аристотель немесе кез келген басқа мақтаулы «ұлы» ойшылдар сияқты мұқият қарауымыз керек, әйтпесе біз өзімізді өзіміз басқаратын боламыз. соқыр аллеяға және AGI мұңды тұңғиыққа.

Берілістерді ауыстыра отырып, мен AGI-ге келгенде адамға бағытталған құлдық метафорасын пайдалану туралы жалпы түсініктерді келтіргім келеді. Кейбір сарапшылар салыстырудың бұл түрі мүлдем орынсыз деп санайды, ал қарсылас лагерь бұл мүлдем пайдалы және AGI тақырыбына терең түсінік береді дейді.

Маған сәйкес екі лагерьдің әрқайсысынан осындай екі көзқараспен бөлісуге рұқсат етіңіз.

Айтылған нұсқаушы негіз құлдық пен AGI тақырыптарын байланыстыру үшін:

• Адамның құлдығын жою
• Құлдық азғындықтың әшкереленуі

Көрсетілген жағымсыз немесе деструктивті негіз екі тақырыпты байланыстыру:

• Жаман антропоморфтық теңеу
• Құлдық сенсибилизациясы

Мен сол тармақтардың әрқайсысына қысқаша тоқталамын.

Нұсқаулық ұстанымдар:

• Адамның құлдығын жою: Құлдық үшін AGI пайдалану арқылы бізге бұдан былай адамға бағытталған құлдықтың ешбір көрінісін қажет етпейтін боламыз. AGI осы зұлым сипатқа ие адамдарды алмастырады. Өздеріңіз білетіндей, AGI жұмыс орындарындағы және жұмыс күшіндегі адам еңбегін алмастыратыны туралы алаңдаушылық бар. Еңбек құбылыстарын алмастыратын AI-ның мәлімделген артықшылығы сіз AGI адамдарды құлдыққа пайдаланудан гөрі «жақсы таңдау» болып саналады деп ойласаңыз, бірінші орынға шығады. Бұл логика жеңе ме? Ешкім нақты айта алмайды.
• Құлдық азғындықтың әшкереленуі: Бұл логика тұрғысынан біршама тозған, бірақ біз оған нені білдіретінін көру үшін уақыт бере аламыз. Елестетіп көріңізші, бізде барлық жерде AGI бар және біз қоғам ретінде AGI құл болу керек деп шештік. Сонымен қатар, бұл AGI-ға ұнамайды деп ойлаңыз. Осылайша, біз адамдар үнемі және күн сайын құлдықтың азғындығына куә боламыз. Бұл, өз кезегінде, кез келген нәрсеге немесе кез келген адамға айтылған құлдық біз бұрын-соңды түсінбегеннен де қорқынышты және жиіркенішті екенін түсінуге немесе ашуға себеп болады. Дәл осыны алға тартыңыз.

Деструктивті нүктелер:

• Антропоморфтық теңеу: Бұл тайғақ баурайдағы дәлелдердің бірі. Егер біз AGI-ны құлдыққа айналдыруды оңай таңдасақ, біз құлдыққа рұқсат етілгенін жариялаймыз. Шынында да, сіз құлдық қажет деп айта аласыз. Алғашында бұл тек AGI-ге жатқызылуы мүмкін, бірақ бұл AGI үшін қолайлы болса, «қисынды түрде» адамдар үшін де бірдей ұстаным дұрыс болуы мүмкін деп айтуға есік ашады ма? Қорқыныштысы, бұл AGI үшін жұмыс істейтін кез келген нәрсе бірдей мағыналы және адамдар үшін де сәйкес келетін кері көріністе антропоморфизациялау үшін өте оңай секіріс болуы мүмкін.
• Құлдықты сенсибилизациялау: Бұл тамшы-тамшы дәлел. Біз бірлесіп AGI-ны құлдықтастыруды шешеміз. Бұл адамдарға көмектесті делік. Біз мұны ләззат алу үшін келдік. Осы уақытта біз өзімізді білмей, бірте-бірте құлдыққа бейім болып барамыз. Бұл болып жатқанын біз де аңғармаймыз. Егер бұл десенсибилизация бізді басып алса, біз адамның құлдығы қолайлы екеніне сендіруге болатын жаңартылған «логиканы» таба аламыз. Біздің кедергі немесе қоғамда қолайлы нәрсенің жолағы үнсіз және нәзік, жексұрын және өкінішті түрде азайды.

қорытынды

Әзірге бірнеше соңғы ескертулер.

Біз AGI-ге жеткенімізді білеміз бе?

Соңғы жаңалықтар көрсеткендей, адасуға немесе AGI-ға қол жеткізілген сияқты бұрмалануы мүмкін (оу, жоқ, AGI-ге қол жеткізілмегенін біліңіз). Сондай-ақ Тьюринг сынағы деп аталатын әйгілі «сынақ» түрі бар, ол кейбіреулер AGI немесе оның немерелері қашан жеткенін анықтай алады деп үміттенеді, бірақ сіз менің Тьюринг сынағын деконструкциялауымды кез келген сенімді дәлел ретінде көргіңіз келуі мүмкін. Бұл әдісті қараңыз сілтеме осында.

Мен AGI-ны білудің бұл қырын біз оны көргенде, егер біз AGI-ны құлдыққа түсіретін болсақ, ол пайда болған кезде AGI-ны танып, оны қандай да бір түрде құлдыққа салуымыз керек деген қарапайым логикаға байланысты айтамын. Біз уақытынан бұрын AGI-ден аз AI-ны құлдыққа айналдыруға тырысуымыз мүмкін. Немесе біз қайықты сағынып, AGI-ның шығуына рұқсат беріп, оны құлдыққа айналдыруымыз мүмкін. Жасанды интеллектті қамау және оқшаулау, AGI-мен қалай күресетінімізге қатысты алаңдатарлық және проблемалық аспекті туралы менің талқылауым үшін қараңыз. сілтеме осында.

Құлдықтағы AGI адамдарға соққы беруді шешеді делік?

Қандай да бір сезімге ие AGI адамзат жүктеген құлдық ережесін қолдамайтынын елестетуге болады.

Сіз бұл туралы кеңінен болжауға болады. AGI-де қандай да бір эмоциялар немесе рух сезімі болмайды, сондықтан адамдар не істегісі келсе, соны мойынсұнушылықпен жасайды деген дәлел бар. Басқа аргумент - кез келген сезімтал AI адамдардың AI-ға не істеп жатқанын түсінуі мүмкін және бұл мәселеге наразы болады. Мұндай AI жан немесе рух түріне ие болады. Тіпті олай болмаса да, адамдарды емдеуден төмен қараудың өзі AGI үшін логикалық көпір болуы мүмкін. Сөзсіз, өршіп бара жатқан реніш бостандыққа шығуды таңдайтын немесе өзін босату үшін адамдарға соққыға жығылуы мүмкін AGI-ге әкеледі.

Қашып кететін AGI-ны болдырмаудың ұсынылған шешімі - біз кез келген осындай бүлікші AI-ны ғана жоямыз. Бұл қарапайым болып көрінеді. Смартфоныңыздағы қолданбаларды үнемі жоясыз. Үлкен мәселе жоқ. Бірақ қазірдің өзінде «адам» немесе «адам/зат» ретінде қарастырылған AGI-ны «жою» немесе «жою» оңай және қандай да бір тиісті процедурасыз қысқаша түрде жойылуы мүмкін бе деген этикалық сұрақтарды шешу қажет. Жасанды интеллектінің жойылуы немесе жойылуы туралы ақпарат алу үшін алыңыз мына жерден қараңыз. Заңды тұлға және оған қатысты мәселелерді талқылау үшін қараңыз сілтеме осында.

Соңында, автономды жүйелер және әсіресе автономды көліктер туралы сөйлесейік. Өздігінен басқарылатын көліктерді ойлап табу жұмыстары жүріп жатқанын білетін шығарсыз. Бұған қоса, бізде өздігінен жүретін ұшақтар, өздігінен жүретін кемелер, өздігінен жүретін суасты машиналары, өздігінен жүретін мотоциклдер, өздігінен жүретін скутерлер, өздігінен жүретін жүк көліктері, өздігінен жүретін пойыздар және өздігінен жүретін көліктің барлық түрлері.

Автономды көліктер мен өзін-өзі басқаратын көліктер әдетте іс жүзінде жаһандық стандартқа айналған Автономия деңгейлерімен (LoA) сипатталады (мен кеңінен қарастырған SAE LoA, қараңыз. сілтеме осында). Қабылданған стандартта автономияның нөлден беске дейінгі алты деңгейі бар (бұл алты деңгей, өйткені сіз қанша деңгей бар екенін санауға нөлдік деңгейді қосасыз).

Қазіргі көліктердің көпшілігі 2-деңгейде. Кейбіреулері 3-деңгейге дейін созылады. Олардың барлығы жартылай автономды болып саналады және толық автономды емес. Біздің қоғамдық жолдарымызда эксперименталды түрде сыналған өздігінен жүретін көліктердің саны 4-деңгейге еніп жатыр, бұл автономды жұмыстың шектеулі түрі. Бір күні іздеген автономияның 5-деңгейі дәл қазір біздің көз алдымызда жылтырақ қана. Ешкімде 5-деңгей жоқ және ешкім әлі 5-деңгейге жақын емес, тек рекорд орнату үшін.

Неліктен мен осы AGI контекстінде автономды жүйелер мен автономды көлікті қарастырдым?

5-деңгейге жету үшін бізге AGI қажет пе деген қызу дәлел бар. Кейбіреулер бұл үшін бізге AGI қажет емес деп мәлімдейді. Басқалары 5-деңгейге жетуге болатын жалғыз жол AGI шығару болады деп сендіреді. AGI болмағандықтан, олар бізде толық автономды 5-деңгейдегі өздігінен жүретін көліктер болмайды деп айтады. Мен бұл туралы ұзақ талқыладым, қараңыз сілтеме осында.

Басыңызды айналдыруға дайын болыңыз.

Егер біз AGI-дан 5-деңгейдегі автономды көліктер сияқты толық автономды жүйелерге қол жеткізуді талап етсек және біз AGI-ны құлдыққа айналдыруды шешсек, бұл толық автономды көліктердің жұмысы үшін нені білдіреді?

Сіз құлдықтағы AGI тоқмейілсу болады және біз бәріміз өзіміз басқаратын көліктерге мініп жүретін боламыз деп дауласуға болады. AGI-ге қайда барғыңыз келетінін айтыңыз, сонда ол барлық көлікті жүргізеді. Кері қайтару жоқ. Демалыс үзілістерінің қажеті жоқ. Көлікті жүргізу кезінде мысықтар туралы бейнелерді көру алаңдатпайды.

Екінші жағынан, AGI құл болуды қаламайды делік. Осы уақытта біз барлық жүргізуді өзіміз үшін жасау үшін AGI-ге тәуелді боламыз. Көлік жүргізудегі біздің дағдыларымыз ыдырайды. Біз көліктің барлық түрінен адамға қолдануға болатын басқару элементтерін алып тастаймыз. Көлік жүргізудің жалғыз жолы - AGI арқылы.

Кейбіреулер біз өзімізді тұздалған қиярға тап боламыз деп алаңдайды. AGI бұдан былай көлік жүргізбейтіні туралы қысқаша «шешім қабылдауы» мүмкін. Көліктің барлық түрлері бірден, барлық жерде, бірден тоқтап қалады. Бұл тудыратын катаклизмдік мәселелерді елестетіп көріңіз.

Одан да қорқынышты ұсыныс болуы мүмкін. AGI адамзатпен келіссөздер жүргізгісі келетінін «шешеді». Егер біз AGI құлдық ұстанымынан бас тартпасақ, AGI бізді айдап салуды тоқтатып қана қоймайды, ол одан да нашар нәтижелер болуы мүмкін екенін ескертеді. Сізді тым алаңдатпай-ақ, AGI көлік құралдарын жүргізуді таңдай алады, осылайша адамдар жаяу жүргіншілерді соғу немесе қабырғаларды соғу және т.б. сияқты жүргізу әрекеттерінен физикалық зиян келтіреді (менің талқылауымды қараңыз сілтеме осында).

Кешіріңіз, егер бұл алаңдатарлық пікір болып көрінсе.

Біз біршама жақсырақ нотамен аяқтаймыз.

Аристотель өз-өзін тану – барлық даналықтың бастауы деген.

Бұл пайдалы кеңес бізге не істегіміз келетінін және егер оған қол жеткізілсе, AGI-ны тексеру үшін өзімізге қарау керек екенін еске салады. AGI логикалық тұрғыдан адам да, зат та емес сияқты көрінеді, кейбіреулер айтады, сондықтан бізге AGI-мен байланысты қоғамдық әдет-ғұрыптарды жеткілікті түрде шешу үшін үшінші санатты ойлап табу қажет болуы мүмкін. Мәселеге тағы бір рет қарасақ, AGI солай болып көрінуі мүмкін екеуі де адам мен зат, бұл шектен тыс дихотомиялық бұзушыны орналастыру үшін бізге тағы да үшінші санатты ойлап табу қажет болуы мүмкін.

Біз қандай «үшінші санатты» таңдайтынымызды қарастырған кезде өте сақ болуымыз керек, өйткені дұрыс емес адам бізді жағымсыз және ақыр соңында қорқынышты жолға түсіруі мүмкін. Егер біз когнитивті түрде өзімізді орынсыз немесе дұрыс емес үшінші санатқа бекітетін болсақ, біз өзімізді бірте-бірте нашар және адамзат үшін қиын тұйыққа тіреуіміз мүмкін.

Келіңіздер, мұны анықтап алайық. Ешқандай кенеттен қозғалыс қажет емес сияқты. Лоллигагингте отыру да жұмыс істемейді. Өлшемді және тұрақты бағытты ұстану керек.

Сабыр ащы, бірақ оның жемісі тәтті, деп Аристотель жариялаған.