AI алгоритмдерін реттеудің себептері сіз ойлағаннан да қарапайым

Жасанды интеллект әлемді жаулап алады деп алаңдайсыз ба? Көпшілігі жасайды. Илон Масктан уайымдайтын DeepMind Go ойынының озық ойынында адамдарды жеңеді 2017 жылы Конгресс мүшелеріне, еуропалық саясаткерлерге (қараңыз Жасанды интеллектке еуропалық көзқарас) және академиктер, бұл AI-ға байыпты қарау керек онжылдық екенін сезінуде. Дегенмен, сіз ойлайтын себептерге байланысты емес және қазіргі қауіпке байланысты емес.

Бұл жерде алгоритмдер енеді. Алгоритм дегеніміз не? Оны ойлаудың ең қарапайым жолы - машиналар түсінетін және үйренетін нұсқаулар жиынтығы. Біз қазірдің өзінде машинаға есептеуді, деректерді өңдеуді және құрылымдық, автоматтандырылған түрде ойлауды нұсқай аламыз. Дегенмен, мәселе мынада, айтылған нұсқаулар берілгеннен кейін, құрылғы оларды орындайды. Әзірге бұл мәселе. Адамдардан айырмашылығы, машиналар нұсқауларды орындайды. Олар мұны жақсы үйренбейді. Бірақ олар жасағаннан кейін олар қиындықтар тудыруы мүмкін.

Мен компьютерлердің бір күні адам интеллектінен асып түсетін идеясы туралы сенсациялық дәлел келтіргім келмейді, бұл ерекшелік аргументі ретінде танымал (Нью-Йорк университетінің философы Дэвид Чалмерсты қараңыз). тақырып бойынша ой толғау.) Керісінше, өндіріс AI алгоритмдерінің көпшілік үшін маңыздырақ бола бастағанының ең жақсы мысалы болуы мүмкін. Біреуі машиналар өз ерліктерін біздің есебінен тездетеді деп қорқады. Міндетті түрде қандай да бір жетілдірілген пайымдаулар арқылы емес, алгоритм айтқан шекаралардағы оңтайландыруға байланысты.

Өндіріс - бұл заттарды жасау. Бірақ машиналар заттар жасағанда, біз назар аударуымыз керек. Тіпті машиналар жасайтын нәрсе қарапайым болса да. Неге екенін түсіндіремін.

Кемпір етіктерден ұялы телефондарға және артқа

Айталық, зауыт жаңбыр етіктерін жасайды. Мен жаңбырлы етіктерді жақсы көремін, өйткені мен Норвегияның жаңбыр көп жауатын аймағында өстім; Мен табиғаттың көптеген элементтеріне бағынып, сыртта болғанды ​​жақсы көремін. Мен өскен жаңбыр етіктерін Nokia жасады. Иә, біз бүгін электроника компаниясы ретінде резеңке етік жасайтын Nokia деп білеміз. Неліктен бұл кілт? Өйткені сіз бірдеңе жасағаннан кейін, сіз жақсартуларды жасағыңыз келеді. Бұл мағынасы бар. Бұл адамның табиғаты деп айтуға болады.

Nokia-ға не болғаны жақсы белгілі және былайша өрбіді: Бастапқыда қағаз фабрикасы, мен бала кезімде резеңке етік (және шиналар) өндіру компания үшін ерекше табысты болды. Дегенмен, олар қосымша мүмкіндіктерді көрді. Осылайша, 1980-ші жылдардағы бір сәтте олар электроникаға көшті және ұялы телефондар жасай бастаған кезде жергілікті жеткізушілердің үлкен құрылымын құра отырып, айналадағы зауыттарды тез өзгертті. Бұл Скандинавияда басталып, бүкіл әлемге тараған ұялы байланыс революциясын бастады. 1990 жылдардағы Nokia тарихын көптеген адамдар жазғаны түсінікті (қараңыз Фин кереметінің құпиялары: Nokia-ның өркендеуі).

Менің мысалым қарапайым. Мүмкін, тым қарапайым. Бірақ осылай ойлап көріңізші. Егер ірі компания қағаз жасаудан жазуға, жаңбырда жүруді жеңілдететін етікке, сайып келгенде, адамдардың сөйлесу тәсілін өзгертетін ұялы телефондарға тез ауыса алса: келесі қадам қаншалықты оңай болады? Ұялы телефондар шығаратын компания наноботтар жасауға шешім қабылдады делік, мүмкін олар онжылдықта адамзатты өзгертіп, барлық жерде автономды түрде жұмыс істейтін, адам тәжірибесін қайта жинап, өзгертуге қабілетті. Егер бұл біздің қалай болғанын қалайтынымызды, кімнің басқаруында болғымыз келетінін және түпкілікті мақсаттарды ескерместен орын алса ше?

Роботтар Nokia-ға ұялы телефон жасау туралы шешім қабылдауға саналы түрде көмектесті деп болжау қиын болар еді. Бірақ солтүстік жағасындағы фин ауылдық аймағына жаңа индустрияда әлемдік үстемдікке қол жеткізе аламыз деп ойлауға мүмкіндік беретін технологияның рөлі болғанын мойындау маңызды рөл атқарады.

Nokia-ның тарихы соңғы онжылдықта соншалықты қызғылт болған жоқ, өйткені олар бағдарламалық жасақтамаға негізделген iOS және Android операциялық жүйелерінің пайда болуын ескермеген. Нәтижесінде Nokia енді телефон шығармайды. Біраз уақыттан кейін олар желілік және телекоммуникациялық инфрақұрылымды, желілік қауіпсіздік шешімдерін, Wi-Fi маршрутизаторларын, смарт жарықтандыруды және смарт теледидарларды жасайды (қараңыз. Nokia-ның қайта оралу тарихы). Nokia әлі де заттар жасайды, бұл рас. Айта кету керек, Nokia әрқашан өздері жасаған нәрселерді араластырудан ләззат алатын сияқты. Тіпті адамның өндірістік шешімдерін кейде түсіну қиын.

Өндіріс дегеніміз - заттарды жасау және заттардың дамуы. Жалпы алғанда, біздің бүгінгі жасап жатқан нәрсеміз он жыл бұрынғыдан өзгерді. 3D принтерлер өнеркәсіпте де, үйде де көптеген озық өнімдерді орталықтандырылмаған өндіруге мүмкіндік берді. 3D басып шығарудың өмірді өзгертетін салдары әлі болған жоқ. Біз бұл ұзаққа созылатынын білмейміз, бірақ FDA өнімдерді өндіруді реттеуге бағытталғанын білеміз (қараңыз). Мұнда) басып шығарылған таблеткалар немесе медициналық құрылғылар сияқты, айқын зияткерлік меншік және жауапкершілік мәселелері немесе атыс қаруын басып шығаруға қатысты мәселелер. Сайып келгенде, 3D басып шығарудың одан тыс қандай теріс салдары болуы мүмкін екендігі туралы саяси пікірталас жоқ, және бұл туралы ойланудан аз адамдар алаңдады.

Мен 3D басып шығарудың қауіпті екенін ұсынбаймын. Мүмкін, бұл жаман мысал. Дегенмен, бастапқыда қарапайым болып көрінетін нәрселер әлемді өзгерте алады. Мысалдар өте көп: соғысты бастайтын металлдан жасалған аңшы/тергіш жебенің ұшы, бізді COVID-19-дан қорғайтын салттық маскалар, зәулім үйлер тұрғызатын шегелер, зауыттарымызды баспа қағазымен толтыратын (әлі де) жылжымалы типтегі баспа машиналары және Баспа ісі, түнде ішін көруге және жұмыс істеуге мүмкіндік беретін шамдар, мен жалғастыра алар едім. Мен білетін ешкім 1800 жылдардың аяғында отырып, Nokia өз өндірісін қағаздан резеңкеге электроникаға, содан кейін ұялы телефондардан бас тартады деп болжаған жоқ. Мүмкін олар болуы керек.

Адамдар қадамдық өзгерістердің нашар болжаушылары, бір өзгеріс көбірек өзгерістерге әкелетін процесс және кенеттен бәрі түбегейлі басқаша болады. Біз бұл процесті әлі түсінбейміз, өйткені экспоненциалды өзгерістер туралы практикалық біліміміз аз; біз оны елестете алмаймыз, есептей алмаймыз немесе түсіне алмаймыз. Дегенмен, бұл бізге қайта-қайта соққы береді. Пандемия, халық санының өсуі, кітап басып шығарудан робототехникаға дейінгі технологиялық инновациялар, әдетте, бізге ескертусіз әсер етеді.

Футуризмнің айласы егер емес, қашан. Кейбір жаңа өндіріс әдістерін таңдап, олардың болашақта көбірек болатынын айту арқылы ғана өзгерістерді болжауға болады. Бұл жеткілікті қарапайым. Күрделі бөлігі - дәл қашан және әсіресе қалай екенін анықтау.

Қағаз қыстырғыштары проблема емес

Менің зауыттық мысалды қайта қарастырыңыз, бірақ бұл жолы машиналар көптеген шешімдерге жауап береді, барлық шешімдер емес, оңтайландыру сияқты өндірістік шешімдер. Оның кітабында Суперинтеллитность, Оксфорд университетінің дистопиялық гуманисті Ник Бостром қағаз қыстырғыш зауытын басқаратын AI оңтайландыру алгоритмін елестеткен. Бір сәтте, оның айтуынша, машина үнемі өсіп келе жатқан ресурстарды тапсырмаға бағыттауды үйренудің ұтымды екенін, ақыр соңында біздің әлемді бірте-бірте қағаз қыстырғыштарына айналдырып, оны өшіру әрекеттерімізге қарсы тұратынын елестетіңіз.

Ақылды жігіт болғанына қарамастан, Бостромның мысалы өте мылқау және жаңылыстырушы (бірақ есте қаларлық). Біріншіден, ол адамдар мен роботтардың енді бір-бірінен бөлек болмыс емес екенін түсінбейді. Біз өзара әрекеттесеміз. Көптеген ақылды роботтар коботтарға немесе бірлескен роботтарға айналады. Адамдардың машинаны түзетуге көптеген мүмкіндіктері болады. Солай бола тұра, оның негізгі ойы сақталады. Бір сәтте қадамдық өзгеріс болуы мүмкін және бұл өзгеріс жеткілікті жылдам және жеткілікті бақылаусыз орын алса, бақылау жоғалуы мүмкін. Бірақ бұл экстремалды нәтиже сәл алыс болып көрінеді. Қалай болғанда да, мен келісемін, біз осы машиналарды басқаратын адамдарды реттеуіміз керек және оларды тиісті түрде оқыту арқылы жұмысшылардың әрқашан циклде болуын міндеттеуіміз керек. Мұндай тренинг жақсы жүрмейді. Қазіргі уақытта бұл тым көп уақытты алады және оқыту үшін де, оқу үшін де арнайы дағдылар қажет. Мен бір нәрсені білемін. Болашақта барлық адамдар роботтармен жұмыс істейтін болады. Олай етпегендер өте әлсіз болады.

Адамдарды көбейту, біз ешқашан машиналармен толық біріктірілмегенімізге қарамастан, ақылсыз автоматтандырудан жақсы. Екі ұғым логикалық тұрғыдан ерекшеленеді. Адамдардың да, роботтардың да автоматтандыру үшін автоматтандыруға тоқтап қалуы мүмкін. Бұл алдағы уақытта өндіріске үлкен зиян тигізеді. Тіпті өлтіруші роботтарды шығармаса да. Біріктіруге жүздеген жылдар керек деп ойлаймын, бірақ мәселе бұл емес. Небәрі отыз жыл болса да, жеңілдетілген алгоритмдермен жұмыс істейтін өздігінен жүретін машиналар басқаруды жоғалтады, бұл сценарий цехта қазірдің өзінде орын алады. Бұл машиналардың кейбіреулері отыз жаста және ескі, меншікті басқару жүйелерінде жұмыс істейді. Олардың басты қиындығы – озық емес, керісінше. Олар қарым-қатынас жасау үшін тым қарапайым. Бұл ертеңгі күннің проблемасы емес. Бұл бұрыннан бар мәселе. Біз оған көзімізді ашуымыз керек. Резеңке етікке келесі жолы кіргенде бұл туралы ойланыңыз.

Менде әлі 1980 жылдардағы Nokia етіктерім бар. Олардың ішінде тесік бар, бірақ мен оларды қайдан келгенімді және қаншалықты алыс жүргенімді еске түсіру үшін сақтаймын. Жаңбыр да жауады, және ол жеткілікті таза болса, мен оны етікке қарағанда жақсы түзеткім келмейді. Сосын мен адаммын. Робот әлдеқашан қозғалған болар еді. Кемпір етіктердің AI нұсқасы қандай, мен қызық. Бұл ұялы телефон емес. Бұл жаңбыр сенсоры емес. Ол сананы шатастырады.

Бүгінгі күні цифрлық етіктер оларды жекелендіруге болатындығын білдіреді, себебі оларда 3D басып шығарылған дизайн бар. Сатуға және сатуға болатын NFTs (өзгермейтін белгілер) ретінде ғана бар виртуалды аяқ киімдер бар. Үздік виртуалды кроссовкалар осы күндері $10,000 XNUMX тұрады (қараңыз NFT кроссовкасы дегеніміз не және ол неге 10,000 XNUMX доллар тұрады?). Мен олардан қорықпаймын, бірақ солай ету керек пе? Физикалық әлемнен гөрі виртуалды әлем бағаланатын болса, мен де солай ететін шығармын. Немесе AI-ның жеке аватары «жаңбырмен» күресу үшін өзінің NFT жүктегішін сатып алғанша уайымдауды күтуім керек пе? Алгоритмдерді өз бейнемізде құрастыратын болсақ, AI біз жақсы болғанымызды қалайтын, бірақ әдетте онша емес нәрселерде жақсы болуы мүмкін, мысалы, акцияларды сатып алу, адал достық орнату (мүмкін машиналармен де, адамдармен де) және есте сақтау заттар. Өнеркәсіптік метаверс таңқаларлықтай күрделі болуы мүмкін - біздің әлемге еліктейтін және одан жемісті жолмен асып түсетін сандық егіздерге толы - немесе таңқаларлық қарапайым болуы мүмкін. Мүмкін екеуі де. Біз әлі білмейміз.

Біз AI алгоритмдерін реттеуіміз керек, өйткені біз бұрышта не барын білмейміз. Бұл жеткілікті себеп, бірақ біз мұны қалай жасайтын болсақ, бұл ұзағырақ әңгіме. Маған тағы бір жылдам байқауға рұқсат етіңіз, мүмкін, барлық іргелі алгоритмдер жалпыға қолжетімді болуы керек. Себебі, егер олай болмаса, олардың не әкелуі мүмкін екенін білудің ешқандай жолы жоқ. Ең жақсылары белгілі (қараңыз Ең жақсы 10 машиналық оқыту алгоритмдері), бірақ олардың қайда және қалай қолданылатыны туралы дүниежүзілік шолу жоқ. Бұл әсіресе бақыланбайтын алгоритмдерді мұқият қарау керек (қараңыз Өндірісте машиналық оқытуға арналған алты қуатты пайдалану жағдайы), олар техникалық қызмет көрсетуді немесе сапаны болжау үшін, өндіріс орталарын имитациялау үшін (мысалы, сандық егіздер) немесе адам ешқашан ойламайтын жаңа дизайндарды жасау үшін пайдаланылады. Бүгінгі пейзажда бұл бақыланбайтын алгоритмдер әдетте адам миына еліктеуге тырысатын жасанды нейрондық желілер деп аталады.

Мен нейрондық желілер туралы алаңдай бастадым, өйткені олардың логикасын түсіну қиын. Мәселе мынада, көптеген сарапшылар, тіпті оларды қолданатындар да, бұл алгоритмдердің қадамнан қадамға немесе қабаттан қабатқа қалай ауысатынын түсінбейді. Жиі қолданылатын «жасырын қабаттар» метафорасы өте орынды немесе өте күлкілі деп ойламаймын. Өндірісте, автоматтандырылған салық жинауда, жұмысқа қабылдау шешімдерінде немесе жаңадан бастағандар үшін колледжге қабылдауда жасырын қабаттар болмауы керек. Мүмкін сіз де уайымдауды ойлағаныңыз жөн шығар? Бір нәрсе анық, адамдар мен машиналар бірге заттарды жасайтын әлемді өзгертеді. Ол қазірдің өзінде бірнеше рет болды. Қағаздан жаңбыр етікке дейін және бүгінгі жасанды мидың қабаттары зерттелмеген ештеңе қалмауы керек. Көптеген кішігірім өзгерістерден үлкен өзгерістер кенеттен пайда болуы мүмкін екенін жасырмау керек.