Жасанды интеллект этикасы мен геосаяси күрес нағыз AI-ға қол жеткізу жарысында кім жеңеді

Әлем қызу жарыс үстінде.

Геосаяси державалар жеңімпаз барлық беконды үйіне алып кетеді деп сендіреді.

Қандай жарыс қызу жүріп жатыр және қызу жүріп жатыр?

Бұл AI жарысы.

Сіз мұны жету үшін жарыс деп атағаныңыз жөн болар шынайы Жасанды интеллект (AI), қазіргі уақытта толық жасанды жалпы интеллект (AGI) деп аталады. Біз қандай да бір жолмен адам интеллектімен салыстыруға болатын AI немесе AGI деп аталатын ең жоғары деңгейге жеткіміз келеді. Біз әлі жоқпыз. Шынында да, жабайы және дөрекі түрде жариялайтын тақырыптарға қарамастан, біз бұл биік белгіге қашан жететінімізді немесе жететінімізді білмейміз. Бүгінгі AI адам интеллектіне қарағанда мүмкіндіктері жағынан әлдеқайда аз, дегенмен AI әлемдік деңгейдегі шахмат ойнау немесе басқа салыстырмалы түрде шектеулі тапсырмаларды орындау сияқты әсерлі қадамдар жасаудың көптеген тар жолдары бар.

Алтын сақина - бұл AI-ның пайда болуы, ол адам баласына ұқсайтын адал табиғат пен тереңдіктің интеллектісін көрсетеді. Бұл AI зерттеушілері мен практиктерінің қасиетті белгісі. Кейде AI жарысының мәре сызығын кесіп өткендігі туралы ерекше мәлімдемелер болды, мен оны өзімнің мақаламда жоққа шығардым. сілтеме осында. Мәре сызығын кесіп өтуге тырысатындар жалпы жұртшылықты шатастырып, кейде құлшынысты кінәсіздікпен жасайды, ал басқа уақытта қолында күмәнді себептер бар. Тұтастай алғанда, бұл өте маңызды және маңызды AI этикасы туралы ойларды тудырады. Жасанды интеллект этикасы және этикалық AI туралы тұрақты және кең ақпарат алу үшін қараңыз сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

Қалай болғанда да, ғаламдық спринттік AI жарысы қызу жүріп жатқанына күмән жоқ. Сізге басқаша талап қою қиын болады.

Осылай ойлап көріңізші. Егер біз шынайы AI немесе AGI-ге қол жеткізе алған болсақ, онда AI футшеруі ресми және жаһандық деңгейде сәтті аяқталды деп жарияланар еді. Мен сізді сендіремін, бүкіл әлем назары осындай керемет және жерді дүр сілкіндіретін серпіліске аударылады. Сіз оны білетін боларсыз. Бәріміз де болар едік. AI madcap сызықшасы енді тиімді болмайды, дегенмен екінші нұсқада шынайы AI-ға жете алмағандар оны қуып жету үшін қызу жұмыс істейді. Сондай-ақ, егер біз ол жерге жетсек немесе қашан AGI-ны қалай басқарамыз немесе басқарамыз деген алаңдатарлық мәселе бар.

Бірде-бір адам немесе ұйым немесе ұлт шынайы AI немесе AGI өндіру тәжіне әлі лайықты түрде талап қоя алмайды.

Осы уақытта қай ұлттың (немесе ұлттың) басында, кім одан әрі артта келе жатқаны туралы орасан зор және тынымсыз қолжазба жүріп жатыр. Егер сіз бірінші болмасаңыз, сіз кірде қаласыз деген болжам. Сіз AI жеңімпаздарынан қалған қалдықтарды жейсіз. Сіз шынайы AI немесе AGI-ге секіріс жасайтын ұлтқа немесе ұлттарға мәңгілікке бағынуыңыз мүмкін.

Осы пікірталастың тұжырымын жеңілдету үшін мен бұдан былай шынайы АИ-нің аурасын шақырғым келген кезде «AGI» сөзін қолданатын боламын. Біршама жаңа «AGI» тіркесін қолдану кейде оның қолданылғанын көруге дағдыланбағандарды алаңдатады. Біз барлығымыз «AI» сөзін жақсы білеміз және оның орнына «AGI» аббревиатурасының қолданылғанын көру сізді алаңдатуы мүмкін. Неліктен бұл бірте-бірте сөздік тренд ретінде пайда болатынын түсіндіруге рұқсат етіңіз.

AGI-дің AI халық тілі аренасында көтерілу себебінің бір бөлігі - жай ғана «AI» деп айту қазір өкінішке орай суарылған фразаға айналды. Сіз айтып отырған AI әрең AI нұсқасы ма, әлде жақсырақ AI инфузиясы ма, әлде бір кездері футуристік толығымен адамға теңестірілген AI-ны меңзеп жатқанын ешкім білмейді. «AI» фраза ретінде шамадан тыс жүктелуімен күресу үшін, AGI лақаптарын AI саласындағы нақты және әсіресе шынайы AI-ға сілтеме жасағысы келетін инсайдерлер артықшылыққа ие болды.

Сонымен, қысқаша айтқанда, менің AGI туралы айтқанымды адам интеллектіне ұқсас күшті калибрлі «шынайы AI» деп айтумен бірдей деп санаңыз, рахмет.

Келіңіздер, терең тыныс алып, AGI-ге жету үшін жарыстың кейбір қырларын мұқият қарастырайық. Тіпті алдымен айтуды қажет ететін мета-аспект бар. Есіңізде болсын, AGI жарысы үшін метафора ретінде болжамды фут жарысы немесе жарыстың басқа түрі туралы аллегорияны пайдалану туралы аздап ашуланшақтық бар. Неліктен олай? Мен сізге фут жарысы немесе оның баламасы неліктен (кейбіреулер айтады) мүлдем жаңылыстыратын және жасырын қарапайым көзқарастың асқынулары мен күрделілігі туралы қысқаша мәлімет беремін.

Міне, мен осы дискурста сізбен бірге айтатын негізгі ойлар:

• Егер бұл жарыс болса, AGI мәре сызығы өте дұрыс анықталмаған сияқты
• AGI жарысы адамға, ұйымға немесе ұлтқа өтуі мүмкін
• Көрсеткіштер және AGI жарысында ұлттар қалай салыстырылады
• AGI жарысы үшін геосаяси маневр және теңестіру
• AGI жарысында төреші ретінде халықаралық AI заңдары және AI этикасы

Шұғыл жүріп жатқан AGI фут жарысын (иә, мен оны фут жарысы деп атауға батылым бар) қарап отырған кезде қауіпсіздік белбеуіңізді таққыңыз келуі мүмкін, оның барлығы дерлік жоғары жылдамдықпен қозғалып, осы жанып тұрған ізденісте алға ұмтылатын көрінеді. Кейбіреулер бұл адамзатты жақсарту үшін жарыс деп айтуы мүмкін, ал басқалары бұл жарыс бәріміз үшін түбегейлі қасірет болуы мүмкін екенін ескертеді.

Уақыт айтады.

Егер бұл жарыс болса, AGI мәре сызығы өте дұрыс анықталмаған сияқты

Мәре сызығы әдетте өте нақты демаркация болып табылады. Мәреге не жеттіңіз, не жетпедіңіз. Қысқа болу сізге көп пайда әкелмейтін сияқты. Олимпиаданың 400 метрге жүгіруін елестетіп көріңізші және сіз жарысты мүлде аяқтамаған (мәре сызығын кесіп өтпеген) жүгірушілерді ерекше есте қалдырар ма едіңіз немесе мақтау аласыз ба? Екіталай.

Біз мәре сызығына қол жеткізілгенін ақылға қонымды түрде келісетіндей AGI-ге жеткенімізді білеміз бе?

AGI шекарасын белгілеуге қатысты қызу келіспеушіліктер бар.

Мысалы, біз жасанды интеллектті ойлап шығардық делік, ол адам интеллектін көрсетуге толықтай қабілетті болып көрінеді, бірақ онда сезімталдықтың ешбір көрінісі жоқ (AI сезімталдығына қатысты аргументтер туралы менің мақаламды қараңыз. сілтеме осында). AI есептеу арқылы адам интеллектісі сияқты еліктей алады немесе басқаша орындай алады. Бірақ біз адамдармен және басқа тірі тіршілік иелерімен байланыстыратын тіріліктің немесе сезімнің ұшқыны жоқ. Бұл AGI біз ойлаған мақсатқа жетті деп есептей ме?

Кейбіреулер бұл AGI-ге сезімталдықтың оралғандығы маңызды емес деп қарсы болады. Ол адамның ақыл-ойын көрсете алатын болса, сезімталдықты біріктіру біз көргіміз келмейтін немесе көргіміз келмейтін әртүрлі әртүрлілік болып табылады. Заттардың бұл мағынасында сезімталдық қосымша болып табылады.

Басқалары AGI-де адам интеллектіне қол жеткізудің жалғыз құралы сезімді интегралды түрде іске асыру болады деп батыл даулайды. AGI және сезімталдық не бірдей деп есептеледі, не олар бөлінбейтін қос нұсқаның қосындысы болып табылады. AGI алу үшін сізде сезімталдық болуы керек, олар дауласады.

Пікірталастың осы бұрышын былай қойғанда, тағы бір перспектива - AGI-ге қол жеткізілгенін бағалау үшін әйгілі Тьюринг сынамасын қолдануға болады. Мен Тьюринг сынағын терең зерттедім сілтеме осында. Қысқаша айтқанда, бұл ұғым адамның AGI-ге сұрақтар қоюынан тұрады және егер адам AGI жасаған жауаптарды адамзат жауаптарынан ажырата алмаса, онда біз AGI-ны адам интеллектін көрсете алатын деп жариялаймыз.

Тьюринг сынағымен байланысты көптеген қиындықтар немесе кемшіліктер бар.

Сұрау жүргізетін адам нашар жұмыс істейді және зерттеуші сұрақтар қоя алмайды делік. Бір алаңдататын жайт, бүгінгі күні қуатты болып көрінетін үлкен тілдік модельдердің (LLM) көпшілігі адамға LLM оқытылған мазмұнды (яғни, мәтіндік және сандық медиа көбінесе Интернетті ауқымды қырып алу арқылы алынады) қайтара алады. Осылайша, қазірдің өзінде жауаптары берілген және желіде бар қарапайым түрдегі сұрақтарды қоятын ерекше таңдалған адамға LLM оңай «жауап беруі» мүмкін, бірақ бұл AGI калибріндегі адам интеллектінің кез келген нұсқасына байланысты емес.

Көптеген басқа да мәселелер туындайды. Адам жауаптарды түсіне алмайды делік. Немесе адам жауаптардың барлығы адамның ақыл-парасатының көрінісі деп ойлап, өзін алдады делік. Мен тіпті кейбіреулердің ақылға қонымды идеясын айттым, бізге тек АИ-ден оның AGI немесе сезімтал екенін сұрау керек, мен бұл AGI дәлелдеудің өте сенімді түрі емес екенін түсінемін, қараңыз. сілтеме осында.

Соңында, тағы бір ойға келетін болсақ, AGI жетті деп санау үшін біз мәреге толық жетуіміз керек пе?

Біз мәреге жетпегендерді ұмытып кететінімізді жоғарыда айттым. Бұл AGI жарысына ұқсас болмауы мүмкін. Менің ойымша, егер біз AGI-ге елеулі жолға қол жеткізе алатын болсақ, біз қазірдің өзінде таңғаларлық күйде және үлкен пайда немесе үлкен қиындықтарда боламыз. Көріп отырсыз, көптеген маңызды және өте пайдалы нәтижелер бар дерлік AGI арқылы туындауы мүмкін. 400 метрлік жаяу жүгіруді аяқтамау сияқты қиын болмайды, әсіресе бұл AGI толық нұсқасына (салыстырмалы түрде марафон болуы мүмкін) жету үшін маңызды негіз болуы мүмкін.

Жаяу жүгірудің бір түрі немесе оның баламасы болып табылатын AGI-ге жету метафорасы кейде қанағаттанарлықсыз және жеткіліксіз.

AGI жарысы адамға, ұйымға немесе ұлтқа өтуі мүмкін

Кейбіреулер AGI-ге пижама киіп жүргенде гаражда жұмыс істейтін кейбір шебердің қол жеткізетінін және олар жылдар бойы жұмыс істеп келе жатқан компьютерлендірудің ақылға қонымды эксперименттерінің нәтижесі болады деген арманшыл ұғымды ұстанады. Бұл жалғыз қасқырдың классикалық жоғары технологиялық тропы.

Кешіріңіз, бұл өте төмен ықтимал ұсыныс.

Бизнес немесе кейбір зерттеу тобы сияқты ұйымның AGI баратындар болуы ықтималдығы жоғары болады. АГИ-ге жету үшін ауыл қажет деген күшті және басым сенім. Жалғыз қасқырдың AGI-ге жету үшін ресурстары да, түсініктері де болмайды. Олар іздеуге үлес қосуы мүмкін. Олар басқатырғышқа қажетті бөліктерді бере алады. Олар бүкіл жиынтық пен кабудельді жинай алмайды.

Ауылдар туралы айтатын болсақ, тағы бір сенімді көзқарас - бұл тек AGI-ге қол жеткізе алатын халықтар болады. Адамдардың, кәсіпорындардың, ғалымдардың және ұлттық мемлекет ішіндегі субъектілердің барлық басқа түрлерінің комбинациясы арқылы AGI ұлттық жиынтықтың бірлескен жұмысының нәтижесінде келеді. Бұл жарыста жеңімпазға назар аударудың бірлік деңгейі шашыраңқы, еркін немесе индивидуалды нәрсеге емес, ұлттық-мемлекеттік негізде.

Бір сөзбен айтқанда, егер ол ауылды алса, ауыл ұлттық масштабта болады, осылайша ұлттық мемлекет AGI жарысында мәре сызығын кесетін тағайындалған жүйрік болады.

Көрсеткіштер және ұлттар AGI жарысында қалай салыстырылады

AGI жетістігі ұлттық-мемлекеттік деңгейде негізделетінін ескеріңіз.

Қайталап айтсақ, біз мұны нақты білмейміз, бірақ бұл негізделген болжам сияқты.

Ұлттық мемлекет негізінің салдарын қарастырыңыз. Жалғыз қасқыр алдымен AGI-ге жете алды және олардың жұмысы олар мүшесі болып табылатын ұлттық мемлекеттің жұмысынан тыс деп есептейді делік. Бұл адам жасалған AGI тұрғысынан олар ешқандай ұлттық мемлекет емес деп жариялайды. Біз әлі де сол ұлттық мемлекетке несие берер ме едік және AGI сол ұлттың бақылауында және құзырында бола ма?

Ірі көпұлтты конгломерат AGI-ге бірінші келетін басқа баламаны елестетіп көріңіз. Қай халық AGI-ны пайдалану және орналастыру үшін «зат» деп айта алады (ол меншік ретінде түсіндіріледі немесе оның орнына заңды тұлғаның нұсқасы бола ма)? Мүмкін, компания құрамындағы барлық елдер бірдей несие алуы керек. Немесе ресми штаб географиялық орналасқан жерде ғана болуы мүмкін. Бұл нағыз алтын құмыраның күрделі бөлінуі болуы мүмкін.

Қалай болғанда да, жалпы халықтық пікір - ұлттық мемлекет AGI-ге жетудің шешуші анықтаушысы болады. Өзінің ұлттық күш-жігері аясында AI зерттеулері мен дамуын ынталандыратын ел, мүмкін, дәл солай жасамайтын басқа елдерге қарағанда AGI-ге тезірек жетеді.

Жасанды интеллект жарысы ұлттық жарыс деген пікір басым.

Бір ұлттың AGI жарысында басқа ұлттан озып тұрғанын немесе артта екенін қалай анықтауға болатыны маңызды мәселе болып табылады.

Кәдімгі жаяу жарыста біз қай жүгірушілердің жақсы және қайсысы нашар екенін анықтау үшін қолданылатын көрсеткіштерді оңай анықтай аламыз. Жүгірушінің жылдамдығын оңай есептеуге болады. Бұл олардың бірінші болып аяқтайтынына кепілдік бермейді, бірақ бұл кем дегенде уәде береді. Жүгірушілер арасындағы физикалық қашықтық пен мәре сызығына дейінгі қашықтық біз оңай өлшейтін өмірлік маңызды критерийлер екені анық.

AGI жарысында көрсеткіштердің немесе өлшемдердің сенімді түрлері жоқ.

Біз барлық суррогат шараларын қолданамыз, өйткені соңғы сызықтың қайда екенін және одан қаншалықты алыс екенімізді есептеудің нақты жолы жоқ.

Шартты түрде қарастырылатын метрика түрлерін қарастырайық. Жасанды интеллектке қатысты жаһандық өлшемдердің ерекше пайдалы көзін жыл сайын Стэнфорд университетіндегі Стэнфорд институты (HAI) жинап, басып шығарады. Есеп онлайн режимінде тегін қол жетімді және соңғы шығарылым құқығы бар AI индексі 2022 жылдық есеп (2020-2021 жылдарға жиналған деректер негізінде). Біраз уақыттан кейін мен сіздермен олардың соңғы жинақтарында айтылған ұлттық салыстырулардың кейбір маңызды сәттерімен бөлісетін боламын.

Жасанды интеллект саласындағы ұлттық және халықаралық прогресті өлшеу үшін қолданылатын көрсеткіштер, әдетте, ас үйге арналған раковинаны қосумен шектесетін кез келген нәрсенің біразын қамтиды.

Әдетте тексерілетін шаралардың түрлеріне мыналар жатады:

• Белгілі бір ұлтқа қатысты AI зерттеу мақалаларының саны
• Белгілі бір ұлттың AI мақалаларына сілтемелер саны
• Белгілі бір елге негізделген AI журналдарының саны
• Белгілі бір елде өтетін AI конференцияларының саны
• Белгілі бір ел демеушілік ететін AI конференцияларының саны
• Белгілі бір елде берілген AI-ға қатысты патенттер саны
• Белгілі бір елдегі AI компанияларының стартаптарының саны
• Белгілі бір елдегі AI жұмыс орындарының саны
• Жаңа AI жұмыс орындарының саны немесе белгілі бір елдегі жалдау
• Белгілі бір елде енгізілген AI туралы заңдардың немесе заң жобаларының саны
• Белгілі бір елде қабылданған немесе қабылданған AI заңдарының саны
• басқа

HAI AI индексінің 2022 қазіргі заманғы көрсеткіштерін қарастырыңыз:

• AI жарияланымдарының дәйексөздері: «Жасанды интеллект репозиторийі басылымдарының дәйексөздері бойынша АҚШ 38.6 жылы жалпы сілтемелердің 2021%-ы арқылы тізімде бірінші орында тұр, бұл Еуропалық Одақ пен Біріккен Корольдік (20.1%) мен Қытайдан (16.4%) басымдық танытты.
• AI журналдары/конференциялары: «2021 жылы Қытай AI журналдарының, конференцияларының және репозиторийлік жарияланымдарының саны бойынша әлемде көш бастады, бұл барлық үш басылым түрін қосқанда Америка Құрама Штаттарынан 63.2% жоғары. Осы уақытта Америка Құрама Штаттары AI саласындағы ірі державалар арасында конференциялар мен репозиторийлер сілтемелерінің саны бойынша басымдылыққа ие болды ».
• AI патенттері: «Қазір Қытай әлемдегі AI патенттерінің жартысынан астамын беруде және шамамен 6%, Еуропалық Одақ пен Біріккен Корольдікпен бірдей. Солтүстік Америкадағы патенттердің барлығын дерлік тапсыратын Америка Құрама Штаттары мұны Қытайдың үштен бір бөлігімен жасайды. Өтініш берген және берілген AI патенттерінің өсіп келе жатқан санымен салыстырғанда, Қытайда патенттік өтінімдердің саны (87,343 жылы 2021 1,407) берілгеннен (2021 жылы XNUMX XNUMX) әлдеқайда көп.
• Жаңадан қаржыландырылған AI компаниялары: «Әр аймақтағы жаңадан қаржыландырылған AI компанияларының саны бойынша инвестициялық деректер. 2021 жылы Америка Құрама Штаттары 299 компаниямен көш бастады, одан кейін Қытай 119, Біріккен Корольдік 49 және Израиль 28 болды. Олардың әрқайсысының арасындағы алшақтық айтарлықтай».
• AI жалдау қарқыны: «Жаңа Зеландия, Гонконг, Ирландия, Люксембург және Швеция 2016 жылдан 2021 жылға дейін AI жалдаудың ең жоғары өскен елдері немесе аймақтары болып табылады.
• AI жұмыс туралы хабарландырулар: «2021 жылы Калифорния, Техас, Нью-Йорк және Вирджиния Америка Құрама Штаттарында AI жұмысына ең көп жарияланған штаттар болды, Калифорнияда Техасқа қарағанда 2.35 есе көп жарияланымдар бар, екінші орында. Вашингтон, Колумбия округі, оның жалпы санымен салыстырғанда, AI бойынша жұмыс туралы хабарландырулардың ең көп көрсеткішіне ие болды
• AI заңнамалық әрекеті: «25 елдегі AI туралы заңнамалық жазбаларға жасалған AI индексінің талдауы заңға қабылданған «жасанды интеллект» бар заң жобаларының саны 1 жылы 2016-ден 18 жылы 2021-ге дейін өскенін көрсетеді. Испания, Ұлыбритания және Америка Құрама Штаттары 2021 жылы AI-ға қатысты заң жобаларының ең көп санын қабылдады, олардың әрқайсысы үшеуін қабылдады ».

Біз AGI жарысы үшін ұлттық-мемлекеттік жүгірушілердің статистикасын жасаудағы қажырлы жұмысты таң қалдыра аламыз және бағалай аламыз.

Скептиктер AGI жарысында өлшемдердің кез келген түрін пайдалану туралы аздап күдіктенеді.

Белгілі бір елдегі AI мақалаларының немесе AI конференцияларының санынан бастап AGI-ның түпкілікті қол жеткізуіне дейін кез келген түзу сызықты сала аласыз ба деген күрделі сұрақ. Бұл AI жұмыс орындарының саны, AI компанияларының саны және басқа да көрсеткіштер туралы айтылады. Бұл сандардың AGI-ге жетуге қатысы жоқ болуы мүмкін. Аргумент бұл шаралар жарықтан гөрі жылуды көрсетеді.

Қарсы аргумент - біз қайда екенімізді және қайда бара жатқанымызды өлшеуге тырысуымыз керек. Басыңызды құмға қою біздің AGI-ге бара жатқанымызды немесе AGI-дан алысырақ бара жатқанымызды бағалаудың өміршең жолы сияқты емес. Жасанды интеллект саласындағы жетістіктерге неғұрлым көп күш пен назар аударылса, біз AGI-ге соғұрлым жақындай түсеміз деп үміттенеді және жалпы болжайды. Бұл көрсеткіштер AGI жарысында қанша энергия мен көңіл бөлінетінін және тұтынылатынын анықтау үшін жасай алатын ең жақсы көрсеткіштер.

Дөңгелек және айнала жүреді.

Көрсеткіштердің әрқайсысы өздігінен бастың үстінен соғуға болады.

Мысалы, AI туралы заңнамалық заңдардың немесе заң жобаларының санын қарастырыңыз.

Егер заң шығарушылар AI-ға қатысты заңдарға назар аударса, бұл елдің AI-ның маңыздылығын және AI қайда бағытталатынының әлеуметтік салдарын мұқият қабылдайтынының жақсы белгісі деп айта аласыз. Бұл нақты бір елде AI-ны алға жылжыту бойынша көп күш-жігердің пайда болатынын көрсететін жағдайды жасауға болады. Жасанды интеллект сіздің ұлтыңыздың демонстрациялық элементі ретінде дамып, көбеймесе, неге сіз AI туралы заңдарды қабылдауға қиындыққа барар едіңіз?

Осылайша, жаңа AI заңдарын шығаратын елдер бұл елде AGI прогресінің айқын белгісі немесе сигналы ретінде түсіндіріледі.

Кейбір сыншылар жасанды интеллект туралы ұсынылған жаңа заңдар әрбір нақты елдегі AI күштерін тұншықтыратынын айтады. Депутаттар мен саяси жетекшілер өз аяқтарын атуға дайын. Заңдар сол елде жүргізіліп жатқан AI күштеріне мезгілсіз көлеңке түсіреді. AI жетілдіру шүмегі заңды шаштың бітелуімен бітеліп қалады және AGI прогресінің қарқыны AI заңын жариялайтын елде күрт төмендейді. Әзірше, AI туралы заңдарды қабылдамайтын басқа елдер тоқтаусыз жалғасады. Сіз 400 метрлік жолда келе жатқан жүгірушіге қорғасын салмақ түсіруді шешкен сияқтысыз. Егер сіз оларға көмектесуді және оларды жылдамдатуды мақсат етсеңіз, сіз дәл керісінше жасадыңыз.

Айтуынша, жасанды интеллект туралы заңдардың қабылдануы жүгірушінің алдында ешқандай қажетсіз кедергілер болмайтындығына көз жеткізуге көбірек ұқсайды. Заңдар жүгірушінің дұрыс бағытта бірқалыпты жүруін қамтамасыз ету үшін ипподромдағы сызықтар бар деген нұсқауды қамтамасыз етеді. Бұл боялған сызықтар болмаса, жүгірушілер есінен танып қалуы мүмкін. Жасанды интеллект туралы жаңа заңдар оларды қалаған нәтижеге қарай бірлесе отырып алға жылжытады. Жаңа AI заңдары тұрғысынан дәл солай жасамайтын елдер өздерінің жүгірушілерін барлық жабайы бағытта, соның ішінде жолдан толығымен қашып кету және AGI жарысынан тыс жазықсыз адамдарға зиян келтіруі мүмкін.

Сондай-ақ AI-ға қатысты «жасырын» заңдар бар, оларды кейбіреулер санайды, ал басқалары осы көрсеткіштердің бөлігі ретінде есептелмейді (санақтарды салыстыруға тырысқанда қателеседі).

Мысалы, егер мемлекет өздігінен жүретін көліктер сияқты автономды көліктерге қатысты заң шығарса, сіз мұны AI заңы деп санайсыз ба? Автономды көлікті нақтылау үшін, мысалы, толық автономды өзін-өзі басқаратын көлік жүргізушісіз мүмкіндіктердің негізі болып табылатын AI жүргізу жүйесіне ие болады (менің ақпаратымды мына жерден қараңыз). сілтеме осында). Жасанды интеллектке байланысты, автономды көліктер туралы кез келген заңдарды негізінен AI заңдары ретінде дәлелдеуге болады. Екінші жағынан, сіз бұл заңның жеке интеллект туралы емес, автономды көлік туралы екенін дәлелдей аласыз, сондықтан бұл AI-ға қатысты заңдарда есепке алынбайды.

Бұл тәртіпсіз.

Көрсеткіштерге қатысты осы үрейленудің бәрі осы маңызды пікірлерге қарама-қарсы полярлық көзқарастар арасында иықтарыңызды көтеруге әкелуі мүмкін. Көрініп тұрғандай, көрсеткіштер әрдайым дерлік олардың нені білдіретіні және AGI-ге қатысты ұлттың мәртебесі дұрыс талданатыны туралы әртүрлі интерпретацияларға ұшырайды.

AGI жарысы үшін геосаяси маневр және теңестіру

AGI жарысында қай елдер алда?

Қай ұлттар артта қалды?

Жоғарыда аталған көрсеткіштер жүгірушілердің әрқайсысының қазір қайда екенін көрсетуге тырысады. Негізгі болжам мынада: егер метрикалар орналасуды іздеуге ұмтылатын AGI сәйкес көрсеткішін көрсетсе, бұл әртүрлі полюс позициялары уақыт өте келе өзгеріссіз қалуы мүмкін. Әрине, шындық мынада: ұлттық қызығушылық пен назар AGI-ге қарай ойлы-қырлы жол кезінде артуы немесе төмендеуі мүмкін. Сіз орналасудағы өзгерістерді күткеніңіз дұрыс болуы мүмкін.

Бір маңызды мәселе, бұл жарыста ұлттар өз бетінше емес.

Ұлттар таяқшаны бір-бірінің арасында алға-артқа беруі мүмкін. AGI жарысында кейде бір немесе бірнеше ұлт бір-бірімен қуана жұмыс істейді. Кейде бұл мейірімділікпен емес, сақтықпен жасалады. Басқа жағдайларда ұлттар бір-бірінен бас тартуы мүмкін. Уақыттың кез келген мезетінде жарыстың орналасуы бірнеше қадам артқа кеткеннен мүлде басқаша болуы мүмкін, сонымен қатар болашаққа бірнеше қадам басқаша болуы мүмкін.

HAI AI Index 2022 баяндамасында еларалық ынтымақтастық туралы айтылған ойды қарастырайық: «Геосаяси шиеленістердің артуына қарамастан, Америка Құрама Штаттары мен Қытай 2010 жылдан бастап 2021 жылға дейін AI басылымдары бойынша ең көп елдер арасындағы ынтымақтастыққа ие болды, бұл 2010 жылдан бері бес есе өсті. Екі ел арасындағы ынтымақтастық Біріккен Корольдік пен Қытайға қарағанда 2.7 есе көп басылым шығарды, бұл тізімде екінші орында тұр».

Киниктер, бәлкім, өзара ынтымақтастықты пайдалану кейде қулық ретінде жасалады деп айтады. Бір ұлт өздерінің өзара ынтымақтастығын ашық түрде мәлімдеуі мүмкін, осылайша әрекет етіп жатқандай көрінуі мүмкін, сонымен бірге олар өздерінің ең жақсы AGI жетістіктерін жасырын ұлттық құпияны сақтайды. Мүмкін, бұл кросс-ынтымақтастығы бар елдің прогресін тоқтату үшін жасалуы мүмкін. Мүмкін, бұл құпия тұздықтың байқаусызда таратылмауын қамтамасыз ету үшін жасалып жатыр. Әр түрлі себептер болуы мүмкін.

Қазіргі заманғы цифрлық Интернет онлайн әлемінде AGI түсініктерін жабық түрде сақтау қиын жұмыс болуы мүмкін. AGI-ны ашуға немесе ойлап табуға деген қатты ұмтылыс - бұл жеке AGI әзірлеушілері мен зерттеушілерін соңғы жұмыстарын ашық бөлісуге итермелейтін тартымды нәрсе. Ұлттар мұндай бөлісуге шектеу қою әрекеті көрінгеннен әлдеқайда қиын екенін және бәрі қағазға негізделген және дүние жүзінде физикалық түрде қозғалатын құжаттарды талап ететін күндерге қарағанда әлдеқайда қиын екенін біледі.

HAI AI Index 2022 есебінде айтылғандай, ашық дереккөзге бағытталған қозғалыс соңғы AI және AGI зерттеулерінің көпшілігі үшін қазіргі заманғы екпін болды: «Жыл сайын мыңдаған және мыңдаған AI жарияланымдары ашық көзде шығарылады. конференцияларда немесе файлдарды ортақ пайдалану веб-сайттарында. Зерттеушілер конференцияларда өз тұжырымдарын ашық айтады; мемлекеттік органдар ашық көзде аяқталатын AI зерттеулерін қаржыландырады; және әзірлеушілер заманауи AI қосымшаларын жасау үшін жалпыға қолжетімді ашық бағдарламалық жасақтама кітапханаларын пайдаланады. Бұл ашықтық заманауи АИ ҒЗТКЖ-ның жаһандық өзара тәуелді және өзара байланысты сипатына да ықпал етеді».

Тұтастай алғанда, ұлттар жалпы бөліседі, бірақ қолдарының бір бөлігін ғана көрсетуі мүмкін. Басқа ұлттар бөліспеуі мүмкін немесе тек осылай жасап жатыр. Кейбір халықтар өз ұлтындағылардың не беріп жатқанын, не ілінгенін өлшеуге тырысуда. Және тағы басқа.

Мен бұл ұлттық қозғалыстардың табиғатын келесі жолдармен сипаттадым:

• AI жалғыз жүретін ұлт (өздігінен жалғастыруға тырысады)
• AI тек бір жақты ұлт (қабылдайды, бермейді)
• AI қалдықтары (қолынан келгенін басқалардан алады)
• AI Ашық бөлісетін ұлт (бөлісуді мақтан етеді)
• AI қуысты бөлісетін ұлт (бөлісудегі жалғандық)
• AI Alliances Nation (мүмкіндігінше көп одақ құруға тырысу)
• AI ойында емес ұлт (AGI іздеу ұлттық басымдық емес)
• AI алдайтын ұлт (кері инженерия немесе басқа ұлттардан жасырын ұрлау)
• басқа

Ұлт бір уақытта бірнеше шелектердің ішінде болуы мүмкін.

Ұлт сол шелектердің бірінде біраз уақыт болып, шелектен шығып, кейінірек оралуы мүмкін.

AGI іздеуге қатысты ұлттық-мемлекеттік тілектер мен назар аудару - бұл динамикалық құлдырау, ол сөзсіз жалғасады және қай ұлт қай ұлттың қай жерде екенін анықтау үшін қозғалатын нысанаға айналады және оны анықтау үшін үнемі назар қажет. мұнда барлық ойыншылар белгілі бір уақытта орналасады.

Халықаралық AI заңдары және AI этикасы AGI жарысында төрешілер ретінде

Алдыңғы бағандарда мен AI реттейтін заңдарды жасау және қабылдау бойынша әртүрлі ұлттық және халықаралық әрекеттерді қарастырдым, қараңыз. сілтеме осында және сілтеме осында, Мысалға. Мен сондай-ақ әртүрлі елдер анықтаған және қабылдаған AI этикасының әртүрлі принциптері мен нұсқауларын, соның ішінде БҰҰ-ның күш-жігерін, мысалы, ЮНЕСКО-ның 200-ге жуық ел қабылдаған AI этикасының жиынтығын, қараңыз. сілтеме осында.

Міне, мен бұрын мұқият зерттеген AI жүйелеріне қатысты этикалық AI критерийлерінің немесе сипаттамаларының пайдалы негізгі тізімі:

• Ашықтық
• Әділдік және әділдік
• Зиянсыздық
• жауапкершілік
• Құпиялық
• Қайырымдылық
• Бостандық және автономия
• сенім
• тұрақтылық
• Ар-ұждан
• Ынтымақтастық

Бұл AI этикасының принциптерін AI әзірлеушілері, сондай-ақ AI әзірлеу күш-жігерін басқаратындармен, тіпті ақырында AI жүйелерін өңдейтін және жүргізетіндер де пайдалануы керек.

Жасанды интеллектіні әзірлеу мен пайдаланудың бүкіл өмірлік циклі бойынша барлық мүдделі тараптар этикалық АИ-нің қалыптасқан нормаларын сақтау аясында қарастырылады. Бұл маңызды жайт, өйткені әдеттегі болжам «тек кодерлер» немесе AI-ны бағдарламалайтындар AI этикасы ұғымдарын ұстануға жатады. Бұл жерде алдын ала атап өтілгендей, AI-ны ойлап табу және өрістету үшін ауыл қажет және ол үшін бүкіл ауыл AI этикасының ережелерін білуі және ұстануы керек.

AI туралы халықаралық заңдардың және AI этикасының халықаралық мәлімдемелерінің AGI жарысына әсері мен өмірлік мәнін қарастырайық.

AGI-ге ұмтылатын елдер мұны тастап, AGI-ның жиі танымал болған кейбір экзистенциалды тәуекелдеріне бет бұруы мүмкін. Интеллект туралы халықаралық заңдар мен халықаралық интеллект этикасының ережелерін енгізу арқылы елдер осы бағытта басшылыққа алады деген үміт бар. Жақсылыққа арналған AI және аулақ болыңыз AI for Bad.

Біздің ипподром ұқсастығына сәйкес, AI заңдары мен AI этикасының ережелері жүгірушілердің жолдан тыс шығуына жол бермеуге тырысады. AGI жарысында төте жолдарды алудың үлкен азғырулары бар. Бұл төте жолдар ұлтты тезірек мәре сызығына апаруы мүмкін, бірақ сонымен бірге сол ұлт пен басқа халықтарды орынсыз тәуекелге ұшыратады. Нәзік, бірақ түсінікті мысал мен қарастырған екі жақты AI-дан тұрады сілтеме осында, осылайша AI жетілдірілуі жақсылыққа бағытталғандықтан катаклизмдік жамандықты тудыруға көп күш жұмсауға оңай ауысады.

Халықаралық AI заңдары мен халықаралық AI этикасы төрешілер немесе төрешілер сияқты деп айта аласыз.

Бұл халықаралық деңгейде әзірленген құқықтық және этикалық тетіктер AGI жарысын біркелкі деңгейде сақтайды деген болжам бар. Мәселе мынада, белгілі бір елдер төрешілерді немесе төрешілерді тыңдай ма, бұл басқа мәселе. Сол сияқты, бұл билік жүйріктерді дұрыс жолда ұстау үшін айыппұлдар немесе ынталандыруларды қалай қамтамасыз ете алады деген алаңдатарлық сұрақ бар. Елдер өз қалауынша жасайды деген болжам бар, ол үшін басқа ұлттар кейбір халықтар жасауға міндетті болатын жолдан тыс ережені бұзуға қолдау көрсету үшін өз салмағын өзгертуі қажет болуы мүмкін.

қорытынды

Аты аңызға айналған химик және микробиолог Луи Пастер бұл туралы әйгілі: «Ғылым ешбір елді танымайды, өйткені білім адамзаттықі және әлемді нұрландыратын шырақ. Ғылым – ұлттың ең биік тұлғасы, өйткені сол халық ой мен ақыл-ой туындыларын ең алыс алып жүретін бірінші болып қала береді».

AGI-ге қол жеткізу ешбір елді білмейді және AGI бүкіл адамзатқа тиесілі болады деп айта аламыз ба?

Әлде AGI-ге алғаш келген халық оны иемденіп, зұлым күшке мас болып, биліктен есінен танып қала ма?

Осы бір жұмбақ туралы аздап бұрмалауды ұнататындар үшін AGI өзі шөптегі мақал-мәтел жылан болып табылатын жетістік түрі болуы мүмкін екенін ескеріңіз. Жыланды ашқан адам бірінші болып жылан шаққан болуы мүмкін. Бірінші болудың өз тәуекелдері бар.

AGI-да мәре сызығын кесіп өту кейбіреулер ойлайтындай мерекелік және алаңсыз болуы міндетті емес. Сондай-ақ AGI пайдалану міндетті түрде оңай болмайды. Кейбіреулер AGI-мен күресу мүмкін емес дерлік болуы мүмкін деп айтуы мүмкін, өйткені AGI адамзат сияқты салыстырмалы қулық пен тапқырлыққа ие болады. Ұлттар не нәрсеге қол жеткізгісі келетінін және оның нәтижесі қандай болатынын алдын ала ойластырып, таңданбау керек. Олардың ұлттық қазына сандығында мүйізі ұясы болуы мүмкін.

Пастер айтқандай: «Сәттілік дайындалған ақылды қолдайды».