Көрнекті AI гуру ақыл-ойды икемдейтін «Өмірлік компьютерлерді» ұсынып жатқанда, AI шайқалуда, ол сонымен бірге AI этикасы мен AI заңын енгізеді

Міне, сіз әлі ойланбаған нәрсе: Өлім компьютерлері.

Бірақ сіз болуыңыз керек шығар.

Жақында өткен және өте танымал AI бойынша жыл сайынғы конференцияда басты тақырып қозғалды, ол әсіресе нейрондық желілер мен машиналық оқытудың пайда болуына бағытталған, атап айтқанда нейрондық ақпаратты өңдеу жүйелері бойынша конференция (инсайдерлер ретінде белгілі) NeurIPS). Шақырылған негізгі баяндамашы және AI туралы ұзақ уақыт бойы жұмыс істейтін гуру Джеффри Хинтон біз компьютерлер туралы өлмейтін және өлмейтін контексте ойлануымыз керек деген қызықты және мүмкін даулы пікірталас тудырды.

Мен маңызды бекітуді қарастырамын және мұны екі жолмен жасаймын, бұл бастапқыда міндетті түрде байланысты болып көрінбейді, бірақ аздап қосымша түсіндіруден кейін олар бір-бірімен өлмейтін және өлмейтін дауларға қатысты нақтырақ болады.

Екі тақырып:

1) Жасанды интеллект механизациясы үшін аппараттық және бағдарламалық қамтамасыз етуді бір-бірінен бөлек және бөлек одақтастар ретінде емес, біріктіру.

2) Тікелей толық таза тұқымды көшіруді қажет етпей немесе міндетті түрде қаламай (немесе мүмкін басқаша мүмкін емес) машиналық оқыту формулаларын бір AI моделінен екіншісіне ауыстыру немесе дистилляциялау

Мұның бәрі AI және AI дамуының болашақ бағыты үшін үлкен уақытты қарастырады.

Сонымен қатар, AI этикасы мен АИ заңына қатысты көптеген күрделі мәселелер туындайды. AI болжайтын технологиялық жетістіктердің бұл түрлері әдетте таза технологиялық негізде оның Этикалық AI және AI заңына әсер етуі мүмкін екенін түсінгенге дейін көп уақыт бұрын біріктіріледі. Белгілі бір мағынада, әдетте, мысық сөмкеден шығып кеткен немесе жылқы қорадан шыққан, AI этикасы мен AI заңына мұқият қатысу керек екендігі оянғанға дейін.

Ендеше, осы кешіктірілген ой циклын бұзып, бірінші қабатқа кірейік.

Жасанды интеллект этикасы мен АИ заңының негізінде жатқан соңғы түсініктерге қызығушылық танытатындар үшін мына жерден менің үздіксіз және жан-жақты қамтылуымды қызықтыратын және қызықтыратын ақпаратты таба аласыз. сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

Мен мұнда алдымен аппараттық және бағдарламалық құралды біріктіру туралы жоғарыда аталған мәселені қарастырамын. Тақырыпты талқылау және талдау қоян-қолтық болады. Әрі қарай, мен көшіру мәселесіне тоқталамын немесе кейбіреулер айтады айдау Мақсат ретінде бір AI-дан жаңадан жасалған AI-ға дейін машиналық оқыту жүйесінің маңызды элементтері.

Бастайық.

AI үшін аппараттық және бағдарламалық қамтамасыз етуді біріктіру

Сіз компьютерлердің дизайны негізінен аппараттық жағы бар, ал бағдарламалық қамтамасыз ету жағы бар екенін білетін шығарсыз. Күнделікті ноутбук немесе жұмыс үстелі компьютерін сатып алғанда, ол жалпы мақсаттағы есептеуіш құрылғы ретінде түсіндіріледі. Компьютердің ішінде сіз сатып алуға немесе өзіңіз жазуға болатын бағдарламалық құралды іске қосу және орындау үшін пайдаланылатын микропроцессорлар бар.

Компьютерге арналған ешқандай бағдарламалық жасақтама болмаса, бұл металл мен пластиктің бір бөлігі, ол сізге қағаз салмағы ретінде әрекет етуден басқа жақсы нәтиже бермейді. Кейбіреулер бағдарламалық қамтамасыз ету патша және әлемді басқарады деп айтады. Әрине, егер сізде бағдарламалық жасақтаманы іске қосатын аппараттық құрал болмаса, бағдарламалық құрал жақсы нәтиже бермейді. Жүрегіңіз қалағандай код жолын жаза аласыз, бірақ бағдарламалық жасақтама компьютер арқылы пайдаланылмайынша, тұжырымдалған бастапқы код әдемі поэзия туындысы немесе бір минуттық детектив романы сияқты жұқа және ұшусыз болады.

Маған алыс жерде көрінуі мүмкін басқа даңғылға ауысуға рұқсат етіңіз (ол болмайды).

Біз көбінесе компьютерлердің қалай жұмыс істейтіні мен адам миының қалай жұмыс істейтінін салыстыруға тырысамыз. Концептуалды параллельдер жасау әрекеті ыңғайлы. Айтпақшы, сіз бұл ұқсастықтарды шектен шығудан абай болуыңыз керек, өйткені ет бөлшектеріне жақындаған кезде салыстырулар бұзылады.

Қалай болғанда да, талқылау үшін мұнда жиі қолданылатын ұқсастық бар.

Мидың өзі кейде бейресми деп аталады дымқыл ыдыс. Бұл заттарды сөз тіркесінің тартымды тәсілі. Біз компьютерлердің аппараттық және бағдарламалық құралдан тұратынын білеміз, сондықтан мидың не екенін сипаттау үшін монетаның «қойма» бөлігін пайдалану ақылды. Құдіретті де жұмбақ ми біздің барлық істерімізді (кейбір жақсылықтар, ал кейбір ойларымыз жақсылыққа толы емес) ойша есептеп, айналамызда қалқып тұрады.

Орташа салмағы бар болғаны үш фунт шамасында ми - керемет орган. Қалай болғанда да, біз әлі білмейміз, ми оны 100 миллиард нейрондық тәртіпте және мүмкін кез келген жерде 100-ден 1,000 триллионға дейінгі өзара байланыстар немесе синапстар арқылы біздің барлық ойымызды жүзеге асыру үшін пайдалана алады. Мидың биологиялық және химиялық қасиеттері интеллектті қалай тудырады? Ешкім нақты айта алмайды. Бұл ғасырлар ізденісі.

Мен сізден мынаны сұраймын, ми тек аппараттық құрал болып табылады ма, әлде аппараттық және бағдарламалық қамтамасыз ету біріктірілген бе?

Сол ақыл-ой ойынындағы кеспе.

Сіз миды жай ғана аппараттық құрал (жалпы мағынада) деп айтуға азғырылуы мүмкін. Бұл дененің мүшесі. Сол сияқты жүректі аппараттық, қуық аппараттық және т.б. Олардың барлығы физикалық пішіні бар және физикалық байланысты әрекеттерді жасайтын артефактілер туралы айтатын кездегі механикаландырулар.

Сонда адамдарды басқаратын бағдарламалық құрал қайда?

Мен адамзаттың «бағдарламалық құралы» қандай да бір түрде мида орналасқанымен бәріміз келісетіндігімізді ұсынамын. Жұмыртқаны пісіру немесе жарылған шинаны жөндеу үшін қажет қадамдар біздің миымызда бекітілген нұсқаулар. Аппараттық және бағдарламалық жасақтаманың бұрын айтылған компьютерлік ұқсастығын пайдалана отырып, біздің миымыз әлем туралы білеміз және не істеу керектігі туралы нұсқаулар біздің миымызда «жұмыс істейді» және «сақталады» сияқты аппараттық құралдың бір бөлігі.

Компьютерде біз аппараттық құралды оңай көрсетіп, бұл аппараттық құрал деп айта аламыз. Бізде бастапқы кодтың тізімі болуы мүмкін және листингті бағдарламалық құрал ретінде көрсете аламыз. Қазіргі уақытта біз бағдарламалық жасақтаманы электронды түрде онлайн жүктеп алып, оны ноутбуктер мен смартфондарға орнатамыз. Ежелгі дәуірде біз компьютердің аппараттық құралдарына жүктеу үшін бағдарламалық жасақтаманы сақтау үшін дискеттер мен перфокарталарды пайдаландық.

Мен сізді маңызды жұмбақтың ішіне кіргіземін.

Сіз бірдеңені үйренгеннен кейін және білім миыңызда болғаннан кейін, миыңыздың «аппараттық құралы» мен миыңыздың болжалды «бағдарламалық құралы» арасындағы айырмашылықты әлі де көрсете аласыз ба?

Бір дәлелденген ұстаным - сіздің миыңыздағы білім аппараттық және бағдарламалық қамтамасыз ету тұжырымдамаларынан ерекше бөлінбейді. Осылайша, компьютерлердің табиғатына ұқсастық бұзылады, кейбіреулер қызу күреседі. Мидағы білім миыңыздың аппараттық құралдарымен тығыз байланысты және одан бөлінбейді. Биологиялық және химиялық қасиеттер сіздің ойша меңгерген біліміңізді біріктіреді.

Психикалық рефлексия үшін бұл туралы бұқтырыңыз.

Егер біз бір күні адам интеллектімен тең келетін немесе тіпті адам интеллектінен асып түсетін компьютерлерді ойлап шығарамыз деп үміттенсек, мүмкін біз мидың құрылымдарын және оның ішкі жұмысын осындай биік мақсатқа жету үшін не істеу керек екенін нұсқау ретінде пайдалана аламыз. AI саласындағы кейбір адамдар үшін мидың қалай жұмыс істейтіні туралы көбірек білсек, кейде жасанды жалпы интеллект (AGI) деп аталатын шынайы AI жасау мүмкіндігіміз соғұрлым жоғары болады деген сенім бар.

AI-дағы басқа адамдар мидың қалай жұмыс істейтінін білуді ұнатпайды. Олар мидың құпия ішкі жұмысын аша алатынымызға қарамастан, біз AI жасау үшін жылдам әрекет ете алатынымызды атап өтеді. Мидың құпиялары біздің AI күш-жігерімізге кедергі келтірмеу керек. Әрине, адам миын декодтауды және дешифрлауды жалғастырыңыз, бірақ біз мидың кері инженериялануын күте алмаймыз. Егер бұл бір күні орындалатын болса, керемет жаңалық, бірақ бұл мүмкін емес шығар немесе қазірден бастап болады.

Мен қазір сіздермен өлім мен өлмейтін компьютерлік даумен бөлісуге дайынмын. Отырыңыз және үлкен ашуға дайын екеніңізді тексеріңіз.

Аппараттық құрал мен бағдарламалық жасақтаманың нақты бөлінуі бар компьютерді «өлмейтін» деп айтуға болады, өйткені аппараттық құрал мәңгі (әрине шектерде) сақталуы мүмкін, ал бағдарламалық жасақтама бірнеше рет жазылуы және қайта жазылуы мүмкін. Аппараттық құралды жөндеуге және контрацепцияны қосу мүмкіндігіне ие болғанша, әдеттегі компьютерді ұзақ уақыт бойы жұмыс істей аласыз. Сіз әлі де 1970 жылдардағы үй компьютерлерін құрастыруға арналған жиынтықта келетін, шамамен елу жылға жуық (ұзақ уақыт) пайдалана аласыз. компьютерлік жылдар).

Аппараттық және бағдарламалық қамтамасыз ету бір-бірінен ажырамастай жұмыс істейтін компьютерлер жасауды таңдадық делік (бұл туралы жақын арада айтамын). Мұны мен мидың аппараттық және бағдарламалық қамтамасыз етудің ажырамас құрамдас бөлігі болуы мүмкін деп айтқан негізде қарастырыңыз. Егер солай болса, мұндай компьютер бұдан былай өлмейтін болады деп болжауға болады. Оның орнына «өлім» деп түсіндіріледі.

NeurIPS конференциясында шақырылған негізгі спикер және атақты AI гуру Джеффри Хинтонның айтқан сөздеріне сәйкес және оның ілеспе зерттеу мақаласында айтылғандай:

• «Жалпы мақсаттағы цифрлық компьютерлер нұсқауларды адал орындауға арналған, өйткені жалпы мақсаттағы компьютерді белгілі бір тапсырманы орындау үшін алудың жалғыз жолы - бұл қиын егжей-тегжейде не істеу керектігін нақты көрсететін бағдарлама жазу деп болжалды. Бұл енді дұрыс емес, бірақ зерттеушілер қауымдастығы терең оқытудың компьютерлердің жасалу тәсіліне ұзақ мерзімді салдарын түсінуге баяу болды. Нақтырақ айтқанда, қауымдастық бағдарламалық жасақтаманы аппараттық құралдан бөлуге болатын идеяны ұстанды, осылайша бірдей бағдарлама немесе бірдей салмақтар жиынтығы аппараттық құралдың басқа физикалық көшірмесінде жұмыс істей алады. Бұл бағдарламада қамтылған білімді өледі немесе салмақ өлмейді: Аппараттық құрал өлген кезде білім өлмейді» (оның «Алға-алға алгоритмі: кейбір алдын ала тергеулер» атты зерттеу мақаласында келтірілген және онлайнда алдын ала басып шығаруға сілтеме жасалған) .

Жасанды нейрондық желілерді (ANN) пайдаланады.

Бұл туралы мәселені түзетейік.

Біздің миымызда нақты биологиялық нейрондар бар. Сіз оларды үнемі пайдаланасыз. Олар биологиялық және химиялық тұрғыдан сіздің ноггиндегі желіге біріктірілген. Осылайша, біз мұны а деп атауға болады нейрондық желі.

Басқа жерде біз AI ойлап табу үшін компьютерлерде есептейтін жалған «нейрондар» деп айта аламыз. AI-дағы көптеген адамдар оларды нейрондық желілер деп те атайды. Менің ойымша, бұл біршама шатастырады. Көрдіңіз бе, мен оларға сілтеме жасағанды ​​жөн көремін жасанды нейрондық желілер. Бұл сіздің басыңыздағы сілтемені бірден ажыратуға көмектеседі нейрондық желілер (нақты нәрсе сияқты) және компьютерге негізделген (жасанды нейрондық желілер).

Бұл ұстанымды бәрі бірдей қабылдай бермейді. AI-дағы көптеген адамдар АИ-дегі барлық адамдар нейрондық желілерге сілтеме жасағанда олар әрқашан дерлік ANN туралы айтатынын «біледі» деп есептейді - егер қандай да бір себептермен олар нақты нейрондар мен нақты нейрондық желілерді талқылағысы келетін жағдай туындамаса. ми.

Сіз менің дрейфімді аласыз деп сенемін. Көбінесе AI адамдар «нейрондық желілер» деп айтады, бұл екіұшты болуы мүмкін, өйткені олар біздің басымыздағы нақты немесе біз компьютерлерге бағдарламалайтын есептеуіштерді меңзейтінін білмейсіз. Бірақ AI адамдары негізінен компьютерлік инстанциялармен айналысатындықтан, олар әдепкі бойынша сіз жасанды нейрондық желілерге сілтеме жасайсыз деп есептейді. Мен ниеттер туралы түсінікті болу үшін сөздің алдыңғы жағына «жасанды» сөзін қосқанды ұнатамын.

Әрі қарай, сіз бұл есептеулік жасанды нейрондарды нақты биохимиялық физикалық нейрондар жасайтын нәрсені математикалық немесе есептеу модельдеу ретінде қарастыра аласыз, мысалы, сандық мәндерді мида биохимиялық жолмен болатын салмақ факторлары ретінде пайдалану. Бүгінгі таңда бұл модельдеу нақты нейрондар сияқты күрделі емес. Ағымдағы ANN - бұл өте өрескел математикалық және есептеуіш көрініс.

Жалпы, ANN жиі машиналық оқыту (ML) және терең оқыту (DL) үшін негізгі элемент болып табылады - бұл туралы көбірек мәліметтер бар екенін ескеріңіз, мен сізді ML/DL туралы кең қамтуды қарауға шақырамын. сағ сілтеме осында және сілтеме осында, Мысалға.

Компьютерлердің өлмейтін және өлмейтін түрлеріне оралсақ, зерттеушінің пікірінше:

• «Бағдарламалық құралдарды аппараттық құралдардан бөлу информатиканың негіздерінің бірі болып табылады және оның көптеген артықшылықтары бар. Бұл электротехникаға алаңдамай, бағдарламалардың қасиеттерін зерттеуге мүмкіндік береді. Бұл бағдарламаны бір рет жазуға және оны миллиондаған компьютерлерге көшіруге мүмкіндік береді. Алайда, егер біз өлместіктен бас тартқымыз келсе, есептеуді орындауға қажетті энергияны және есептеуді орындайтын аппараттық құралды дайындау құнын айтарлықтай үнемдеуге қол жеткізуге болады. Біз бірдей тапсырманы орындауға арналған және әрбір нақты дананың белгісіз қасиеттерін тиімді пайдаланатын параметр мәндерін ашу үшін оқу процедурасына сүйенетін аппараттық құралдардың әртүрлі даналарының қосылыстарының және сызықты еместігіндегі үлкен және белгісіз вариацияларға рұқсат ете аламыз. аппараттық құрал. Бұл параметр мәндері нақты аппараттық құрал данасы үшін ғана пайдалы, сондықтан олар орындайтын есептеулер өлімге әкеледі: ол аппараттық құралмен бірге өледі» (сонда).

Енді сіз осы контексте өлмейтін және өлмейтін сөздердің қалай қолданылатынымен таныстыңыз.

Толығырақ айтып берейін.

Ұсыныс мынада: ANN негізінде арнайы құрастырылған компьютер аппараттық және бағдарламалық қамтамасыз ету бір-бірінен бөлінбейтін болып есептелетіндей етіп жасалуы мүмкін. Аппараттық құрал бір күні жұмыс істемей қалса (бұл, әрине, бағдарламалық жасақтаманы біріктіреді деп айтамыз), компьютердің бұл түрі бұдан былай пайдалы емес және жұмыс істемейтін сияқты. Өлім деп айтылады. Сіз сондай-ақ ANN негізіндегі компьютерді көміп тастай аласыз, өйткені ажырамас аппараттық және бағдарламалық қамтамасыз ету бұдан былай команда ретінде өміршең жұмыс істемейтіндіктен, ол сізге көп пайда әкелмейді.

Егер сіз мұны адам миының ұқсастығымен байланыстырғыңыз келсе, сіз адам миының толығымен нашарлаған немесе қандай да бір түрде орны толмас зақымдалған күйзеліс жағдайын елестете аласыз. Біз адам өледі және оның миы ақыр соңында және сөзсіз жұмысын тоқтатады деген түсінікті қабылдаймыз. Олардың миында бар білім енді қол жетімді емес. Егер олар басқаларға айтып, не білгендерін жазбаса, олардың білімдері әлемге тарайды.

Сіз, сөзсіз, адамдар бір күні өлмейтін болуы мүмкін немесе, кем дегенде, әдеттегі өмірінен асып кетуі мүмкін деген теория бойынша, оларды мұздатылған күйге келтіру сияқты, миды сақтау әрекеттері туралы есептерді естідіңіз немесе көрдіңіз. Сіздің миыңыз денеңізде болмаса да, өмір сүруі мүмкін. Көптеген ғылыми-фантастикалық фильмдер мен әңгімелер осындай идеяларға қатысты.

Біз қазір егжей-тегжейлі қарауға дайынбыз - өлмейтін компьютер мен өлмейтін компьютерді тұжырымдама ретінде және оның нені болжайтынын қараңыз.

Ақылмен талқылау және мұқият талдау

Постуляциялық тәсілдің осы талдауының негізіне кіріспес бұрын, бірнеше маңызды ескертулер мен қосымша тармақтарды атап өткен жөн.

Зерттеуші тиынның соғылғанын баса айтты өлім компьютерлері әсіресе алмастырмайды немесе жоққа шығармайды өлмейтін компьютерлер біз бүгін кәдімгі цифрлық компьютерлер деп атаймыз. Компьютерлердің екі түрі де қатар өмір сүретін еді. Мұны айтып отырған себебім, кейбіреулердің реакциясы тәртіпке шақыру бұл жалпы мәлімдеме болды барлық қажетті компьютерлер өлім түріне қарай бет алды немесе болады.

Бұл айтылған талап емес еді.

Ол өз сөзінде олардың мамандандырылған екенін айтты нейроморфты бағытталған компьютерлер деп аталатын есептеу жұмыстарын орындайтын еді өлімді есептеулер: «Біз өлімді есептеу деп атайтын нәрсені жасаймыз, мұнда жүйе үйренген білім мен аппараттық құрал бір-бірінен ажырамайды» (Тернан Рэйдің 1 жылғы 2022 желтоқсандағы ZDNET мақаласында келтірілген).

Атап айтқанда: «Ол сандық компьютерлерді алмастырмайды» (сонда).

Сондай-ақ, компьютерлердің бұл жаңа түрлері жақын арада сіздің жергілікті компьютерлік дүкеніңізде болмайды немесе бірден онлайн сатып алуға болады, бұл оның презентациясында айтылғандай: «Менің ойымша, біз мүлдем басқа типті көреміз деп ойлаймын. компьютер, бірнеше жыл емес, бірақ бұл мүлдем басқа компьютер түрін зерттеуге барлық себептер бар ». Қолданулары да әр түрлі болады: «Бұл сіздің банктік шотыңызға жауап беретін және сізде қанша ақша бар екенін нақты білетін компьютер болмайды».

Қосымша бұрылыс мынада, өлімге әкелетін компьютерлер бүгінгі күні компьютерлік процессорлар мен есептеу чиптерін жасау үшін жасалғандай емес, өсірілетін сияқты.

Өсу процесінде өлім компьютері есептеу жетілу стилінде мүмкіндігін арттырады. Осылайша, берілген өлі компьютер кез келген қабілетпен басталып, оның мақсатына жетуі мүмкін. Мысалы, біз компьютерлерді пайдалану арқылы ұялы телефондарды жасағымыз келді делік. Сіз бастапқыда осы мақсат үшін пішімделген немесе егілген өлім компьютерінің қарапайым нұсқасынан бастар едіңіз. Содан кейін ол сіз іздеген жетілдірілген нұсқаға жететін еді. Қысқасы: «Сіз оны ұялы телефондардың әрқайсысына ауыстырсаңыз, нәресте ұялы телефоны ретінде басталуы керек және ол ұялы телефон болуды үйренуі керек еді».

Оның өлімді есептеу туралы негізгі слайдтарының бірінде артықшылықтар былай сипатталған: «Егер біз өлместіктен бас тартсақ және білімнің нақты аппараттық құралдың нақты физикалық бөлшектерінен бөлінбейтіндігін қабылдасақ, біз екі үлкен артықшылыққа ие боламыз: (1) Біз өте төмен қуатты аналогтық есептеуді пайдалана аламыз, (2) Біз дәл қосылымы мен аналогтық әрекеті белгісіз аппараттық құралдарды өсіре аламыз».

Сол баяндаманың бір бөлігі, сондай-ақ оның басып шығаруға дейінгі зерттеу жұмысында қамтылғандай, ол ANN-ді қалай жақсырақ жасауға болатынын көрсететін ұсынылған әдіс болып табылады, ол оны пайдалану деп атайды. алға-алға желілік тәсіл. Сіздердің кейбіреулеріңіз ANN-ді жақсы білетіндер, сөзсіз, кері таралу немесе кері пропатты қолдануды жақсы біледі. Сіз оның ұсынған алға бағыттау техникасын қарастырғыңыз келуі мүмкін. Мен бұл қызықты тәсілді болашақ мақалада жариялайтын боламын, сондықтан бұл туралы алдағы хабарларымды күтіңіз.

Берілістерді ауыстыра отырып, AI қауымдастығының дәліздерінде және айналма жолдарында осы дөрекі туралы не айтылғанын қарастырайық өлім компьютері өңдеу.

Біз кейбіреулер барлық айтылған тақырыпты бастаушы емес деп айтатын нәрседен бастаймыз.

Дайынсыз ба?

Бұл нәрсені а деп атауды доғарыңыз өлім компьютер.

Сол сияқты, бүгінгі қарапайым компьютерлер де солай деп жариялауды доғарыңыз өлмес.

Екі қолдану да қате және көп жаңылыстырады, деп скептиктер шақырады.

Өлмейтін нәрсенің күнделікті сөздік анықтамасы өлмейтін нәрседен тұрады. Ол мәңгі өмір сүреді. Өлмеу үшін заттың өзі тірі деп айту керек шығар. Сіз бүгінгі компьютерлердің тірі екенін растау үшін дұрыс емес жолмен жүріп жатырсыз. Ешбір парасатты адам заманауи компьютерлерге адал «тірі» қасиеттерді жатқыза алмайды. Олар машиналар. Олар заттар. Олар адамдар, жануарлар немесе өмір сүру жағдайлары емес.

Егер сіз өлместің анықтамасын жансыз тіршілік иелеріне де сілтеме жасайтынымызға мүмкіндік беру үшін кеңейткіңіз келсе, бұл жағдайда жансыз зат ешқашан ыдырап кетпеуі керек және шаңға еріксіз ыдырай алмайтын сияқты. Сіз қазіргі компьютерлер туралы осындай мәлімдеме жасай аласыз ба? Бұл ұзағырақ сияқты (жүйелік ескерту: біз, әрине, материя мен болмыстың табиғаты туралы үлкен философиялық пікірталасқа түсе аламыз, бірақ бұл жағдайда оған бармай-ақ қояйық).

Түпнұсқа мынада: кейбіреулер «өлмейтін» және «өлмейтін» сөздерін теріс пайдалану оғаш және қажет емес деп санайды. Жиі қолданылатын халық тілін алып, оны басқа мақсаттарда қайта пайдалану шатастырады және бұлыңғыр суды тудырады. Сіз осы нақты контексте өлім және өлмейтін деген нені білдіретінін қайта тұжырымдауға дайын болуыңыз керек. Бұл проблемаға айналады.

Одан да алаңдатарлығы, бұл сөздерді таңдау компьютер аспектілерін антропоморфизациялауға бейім.

AI-ны антропоморфизациялаумен байланысты мәселелер жеткілікті, әрине, бізге мұндай мүмкіндіктерді жасаудың қажеті жоқ. Жасанды интеллект этикасы және этикалық AI туралы мақаламда кеңінен талқылағанымдай, адамдар компьютерлерге сезімталдық мүмкіндіктерін жатқызудың көптеген жабайы жолдары бар. Бұл өз кезегінде адамдарды AI негізіндегі компьютерлер адамдар сияқты ойлап, әрекет ете алады деген жалған сенімге алдандырады. Қоғам қазіргі жасанды интеллект пен есептеу техникасы адамзаттың интеллектісі мен парасаттылығымен тең екеніне сенетін болса, бұл қауіп төніп тұрған тайғақ беткей, мысалы, менің талдауымды қараңыз. сілтеме осында және сілтеме осында.

Жарайды, біз ыңғайсыз сөздерді таңдаудан бас тарта аламыз немесе оларды жек көре аламыз, бірақ бұл нәрестені ванна суымен лақтырып тастау керек дегенді білдіре ме (ескі өрнек, зейнеткерлікке шығуға жақын)?

Кейбіреулер бұл жалпы көзқарас немесе тұжырымдама үшін жақсырақ тұжырым таба аламыз деп сендіреді. Қалған идеялар орынсыз немесе дұрыс емес қолданумен ластанбауы үшін «өлмейтін» және «өлмейтін» сөздерін қолданудан бас тартыңыз. Сонымен қатар, бұл сөздерді таңдау өте қолайлы екендігі туралы қарсы дәлелдер бар, себебі олар лайықты болғандықтан немесе біз сөздерді қайта пайдалануды қалайтынымыз туралы икемді болмауымыз керек. Раушан - бұл кез келген басқа атаудағы раушан, олар мәлімдейді.

Бұдан әрі шиеленіскен пікірталастарды болдырмас үшін мен бұдан былай «өлім» және «өлмейтін» деген сөздерді қолданбаймын және бізде компьютерлердің екі негізгі түрі бар екенін айтамын, бірі бүгінгі күннің кәдімгі цифрлық компьютері және басқасы ұсынылған нейроморфты компьютер.

Бұған өлім жұмбағын тартудың қажеті жоқ сияқты. Аспанды ашық ұстаңыз, бұл мәселе бойынша тағы не істей алатынымызды көру үшін.

Бұл жағдайда кейбіреулер нейроморфтық компьютер туралы ұсынылған идея жаңалық емес деп даулайды.

Сіз жасанды нейрондық желілердің жұмысын орындау үшін арнайы компьютерлерді жасау туралы әңгіме болғанын, әсіресе ANN бастапқыда зерттеліп жатқанда, AI-ның бұрынғы күндеріне оралуға болады. Жаңа жабдықтың барлық түрлері ұсынылды. Бұл әлі күнге дейін кездеседі. Әрине, сіз ANN және машиналық оқытуға арналған мамандандырылған аппараттық құралдарды зерттеудің көп бөлігі әлі де есептеуге дәстүрлі көзқарасқа негізделген деп қарсы айта аласыз. Осы тұрғыдан алғанда, аппараттық және бағдарламалық қамтамасыз етудің бұл аналогтық ажырамастығы конвертті біршама итермелейді және компьютерді «өсіру» ұсынысы, кем дегенде, қарастырылатын негізгі ағымнан тыс шығуға қатысты.

Бір сөзбен айтқанда, осы мәселелерге толықтай үңілгендер бар, олар басқа біреудің айтылған ұсыныстарға таң қалуы мүмкін екеніне таң қалады. Бұл ұғымдар бұрынғымен бірдей немесе әртүрлі зерттеу зертханаларында зерттеліп жатқан нәрселерді қайталайды.

Шашыңды әбігерге түсірме, дейді.

Бұл бізді көптеген адамдарды алаңдататын басқа қырға апарады.

Бір сөзбен айтқанда: Болжамдық.

Қазіргі компьютерлер әдетте болжамды болып саналады. Компьютердің не істейтінін анықтау үшін аппараттық және бағдарламалық құралды қарап шығуға болады. Сол сияқты, сіз компьютердің не істегенін бақылай аласыз, оның неліктен не істегенін анықтауға болады. Әрине, мұны істеудің шектеулері бар, сондықтан мен болжамдылықты асыра айтқым келмейді, бірақ менің ойымша, сіз жалпы идеяны түсінесіз.

Бүгінгі күні AI алдында тұрған күрделі мәселелердің бірі - кейбір AI өзін-өзі реттеу үшін жасалғанын білуіңіз мүмкін. Әзірлеушілер енгізген AI оны пайдалану кезінде өзін өзгертуі мүмкін. Жасанды интеллект этикасы саласында қолданылған жасанды интеллекттің көптеген мысалдары бар, олар бастапқыда шектен тыс қиғаштықтары немесе кемсітушілік тенденциялары болмаған, содан кейін AI өндірісте болған уақыт ішінде бірте-бірте есептеу арқылы өздігінен мутацияланған. егжей-тегжейлі бағалаулар сілтеме осында.

Мазасызданатыны, біз қазірдің өзінде болжау мүмкін емес AI-ді қажет ететін параметрге кіріп жатырмыз.

Қару-жарақ жүйелеріне арналған AI өзін-өзі реттеуден өтеді делік, нәтижесінде АИ қаруланып, өлімге әкелетін қаруды нысанаға және күтпеген уақытта іске қосады. Адамдар жасанды интеллектті тоқтату үшін ілмекте болмауы мүмкін. Циклдегі адамдар AI әрекеттерін басып озу үшін жеткілікті жылдам жауап бере алмауы мүмкін. Қосымша салқындату мысалдары үшін менің талдауымды мына жерден қараңыз сілтеме осында.

Нейроморфты компьютерлер үшін алаңдаушылық - біз стероидтерге болжау мүмкін еместігін қоямыз. Бастапқыда нейроморфты компьютердің мәні оның болжамды жоққа шығаратындай жұмыс істеуінде болуы мүмкін. Біз күтпеген жерден көрінеміз. Ол құрмет белгісіне айналады.

Екі лагерь бар.

Бір лагерь AI көпірден тым алыс өтуіне жол бермеу үшін қоршауларды қою арқылы біз күтпеген күтпеген уайымдармен өмір сүре алатынымызды айтады. Басқа лагерь сіз әлемді қауіпті жолға түсіріп жатырсыз деп айтады. Мәлімделген қоршаулар не істен шығады, не олар жеткілікті қатаң емес, не кездейсоқ немесе зұлым ниетпен қоршаулар алынып тасталатын немесе олармен айналысатын күн туады.

Нейроморфтық компьютерлер мен болжамдылыққа қатысты алаңдаушылықтан бас тартуымыз керек пе?

Зерттеушінің пікірі бойынша: «Аналогтық есептеулерге қызығушылық танытатын адамдар арасында әлі де өлместіктен бас тартуға дайын адамдар өте аз». Сонымен қатар: «Егер сіз аналогтық жабдықтың әр уақытта бірдей әрекет етуін қаласаңыз ... Сізде осы барлық электрлік заттармен және заттармен нақты мәселе туындады.»

Мен мұны шешемін.

Қазіргі цифрлық компьютерлермен байланысты болжамдылық деп аталатын нәрсе, бәрібір болжауға болмайтын бағытқа өтіп бара жатқаны алда тұрған және біршама мұңды перспектива болып табылады. Жоғарыда айтылғандай, бұл әдеттегі компьютерлік платформаларда өздігінен реттелетін AI үшін болуы мүмкін. Нейроморфты компьютерлердің болжау мүмкін емес болып көрінуі кәдімгі цифрлық компьютерлердің іс жүзінде болжауға болатынының белгісі емес.

Қандай есептеуіш платформаны таңдағыңыз келсе де, күтпеген бу ролик бізге толық бумен келеді. Осы тұрғыда AI қауіпсіздігіне қол жеткізуге бағытталған соңғы әрекеттерді бағалау үшін қараңыз сілтеме осында.

Болжамдық туралы бұл бұралу сіздің ойыңызды табылмаған табиғаттағы нәрсеге аударуы керек. Сіз AI этикасы және AI заңымен айналысатындарыңыз мүмкін емес салдарларын қарастырды нейроморфты компьютерлер.

Сіз AI басқаратын кәдімгі цифрлық компьютерлерді мақсат еткен боларсыз. Ойланыңызшы, сізде AI есептеулерінің толықтай қосымша және дамып келе жатқан сегменті бар, оны енді түнде уайымдауға болады. Иә, нейроморфты компьютерлер. Мұны істер тізіміне енгізіңіз.

Кешіріңіз, сізге көбірек ұйқысыз түндер.

Кәдімгі цифрлық есептеулер мен AI туралы AI этикасы және AI заңы не істеп жатқанын қысқаша қарастырайық.

Алдыңғы бағандарда мен AI реттейтін заңдарды жасау және қабылдау бойынша әртүрлі ұлттық және халықаралық әрекеттерді қарастырдым, қараңыз. сілтеме осында, Мысалға. Мен сондай-ақ әртүрлі елдер анықтаған және қабылдаған AI этикасының әртүрлі принциптері мен нұсқауларын, соның ішінде БҰҰ-ның күш-жігерін, мысалы, ЮНЕСКО-ның 200-ге жуық ел қабылдаған AI этикасының жиынтығын, қараңыз. сілтеме осында.

Міне, мен бұрын мұқият зерттеген AI жүйелеріне қатысты этикалық AI критерийлерінің немесе сипаттамаларының пайдалы негізгі тізімі:

• Ашықтық
• Әділдік және әділдік
• Зиянсыздық
• жауапкершілік
• Құпиялық
• Қайырымдылық
• Бостандық және автономия
• сенім
• тұрақтылық
• Ар-ұждан
• Ынтымақтастық

Бұл AI этикасының принциптерін AI әзірлеушілері, сондай-ақ AI әзірлеу күш-жігерін басқаратындармен, тіпті ақырында AI жүйелерін өңдейтін және жүргізетіндер де пайдалануы керек.

Жасанды интеллектіні әзірлеу мен пайдаланудың бүкіл өмірлік циклі бойынша барлық мүдделі тараптар этикалық АИ-нің қалыптасқан нормаларын сақтау аясында қарастырылады. Бұл маңызды сәт, өйткені әдеттегі болжам «тек кодерлер» немесе AI-ны бағдарламалайтындар AI этикасының тұжырымдамаларын ұстануға жатады. Бұл жерде алдын ала атап өтілгендей, AI-ны ойлап табу және өрістету үшін ауыл қажет және ол үшін бүкіл ауыл AI этикасының ережелерін білуі және ұстануы керек.

Мұның сіз бұрын көп ойланбаған бөлігі - сол AI этикасының ережелері мен жаңа AI заңдарының өсіп келе жатқан тізімі нейроморфты компьютерлерге қалай қолданылатыны. Түсіндіру үшін AI этикасы мен AI заңы мұны нақты ескеруі керек. Мен мұны аз адамдар істеп жатқанын атап өткім келеді және нейроморфтық компьютерлердің пайда болуы AI-де билік етуге тырысудың жаңа өлшемі тұрғысынан көптеген циклге лақтыратын мүмкіндік бар екенін ескертемін.

Біз жаңадан ойлап табылған AI-ны, соның ішінде нейроморфтық компьютерлерді қамту үшін этикалық AI және AI заңдарын кеңінен қарастыруымыз керек.

Тінтуірдің балама нұсқасы - мысық пен тышқанның классикалық гамбиті. Міне, осылай болады. AI жасаудың жаңа тәсілдері ойластырылған және салынған. Қолданыстағы жасанды интеллект этикасы және AI заңдары сақтықпен ұсталады және AI-ның соңғы пиғылдарын толығымен қамтымайды. Этикалық AI ережелерін жаңарту және жаңадан шығарылған AI заңдарын өзгерту үшін асығыс күш жұмсалады.

Жуыңыз, шайыңыз, қайталаңыз.

Сегіз доптың артында қалып қойғанша, бәрімізге алда тұрғанымыз дұрыс болар еді.

қорытынды

Мен сені біраз саяхатқа апардым.

Бастапқыда мен қарастырылатын екі негізгі тақырып болатынын айттым:

1) Жасанды интеллект механизациясы үшін аппараттық және бағдарламалық қамтамасыз етуді бір-бірінен бөлек және бөлек одақтастар ретінде емес, біріктіру.

2) Тікелей толық таза тұқымды көшіруді қажет етпей немесе міндетті түрде қаламай (немесе мүмкін басқаша мүмкін емес) машиналық оқыту формулаларын бір AI моделінен екіншісіне ауыстыру немесе дистилляциялау

Аппараттық және бағдарламалық қамтамасыз етуді біріктіру туралы бірінші тақырып осы жердегі саяхаттың негізгі бөлігі болды. Бұл бізді өлмейтін және өлмейтін компьютерлік батпаққа апарды. Оның ішінде AI этикасы және AI заңы бойынша кейбір маңызды ойлар болды, олар әйтпесе әдетте көтерілмейтін еді, өйткені компьютерге қатысты тақырыптың бұл түрін кейбіреулер әдетте қоғамға әсер етуден гөрі таза технологиялық тақырып ретінде қарастырады.

Мен этикалық AI және AI заңын тәрбиелеуге келгенде кеш және одан да жаман емес, тезірек және қауіпсіз болған дұрыс деп айтамын.

Мен бұл жерде әлі түсіндірілмеген екінші тақырып бірінші тақырыпқа қатысты.

Мұнда мәміле.

Бізде «өлім компьютері» бар делік және біз AI құрамындағы нәрселердің сақтық көшірмесін немесе көшірмелерін алу үшін мүмкіндіктерді сақтағымыз келеді. Біз белгілі бір өлімге әкелетін компьютердің аяқталуға жақын екеніне алаңдауымыз мүмкін. Иә, біз оған тәуелдіміз. Біз не істейміз? Жауаптардың бірі - біз қараңғы нәрсені көшіруіміз керек.

Бірақ, сызылған типтегі нейроморфты компьютерді көшіру бірінші көзқараста көрінгеннен қиынырақ болады. Іс қиын болуы мүмкін.

Бәлкім, біз машиналық оқыту мен жасанды нейрондық желілерді қамтитын жағдайларға жалпыланатын және қолданылатын көшіру айласын ойлап табуымыз керек. Біз мұның ауқымды және өте ауқымды инстанцияларда жұмыс істегенін қалаймыз. Біз көшірменің дәл көшірме болмауын және оның орнына көшіру әрекетінің нәтижесінде негізінен баламалы немесе одан да жақсырақ ойластырылған болуы мүмкін екенін қалар едік.

ретінде белгілі техника айдау ұсынылды.

Бүгінгі бағанға орным таусылды, сондықтан мен бұл екінші тақырыпты алдағы бағандарда ашатын боламын. Сіз осы екінші тақырып пен осы жерде кеңінен қамтылған бірінші тақырып арасындағы байланыс туралы бірден білгіңіз келеді деп ойладым. Мұны алдағы уақытта не болатыны туралы тизер немесе трейлер ретінде қызмет ететін қосымша жазба ретінде қарастырыңыз.

Орыныңыздың шетінде болыңыз, өйткені дистилляция тақырыбы өте жақсы көзге түседі.

Бэтмен айтқандай, жарғанаттың қанаттарын айқастырып ұстаңыз және ANN немесе машиналық оқыту моделін немесе нейроморфтық компьютерді басқасына қалай көшіруге болады деген қиын сұрақты шешуге дайын болыңыз.

Әзірге соңғы ескерту. Фильмде әйгілі жол бар Қараңғы рыцарь қайтып келеді Онда біздің шапан киген крест жорықшысы былай дейді: «Әлемнің мағынасы бар, егер сіз оны мәжбүрлесеңіз». Мен AI-ге қатысты дистилляция туралы екінші тақырыпты қозғағанда, мен бұл идеалды ұстануға тырысамын.

Осы қызықты және тартымды қос тақырыптың 2-бөлігін күтіңіз.