Ол жасанды жалпы интеллект (AGI) жасау арқылы адамзаттың ерекшелікке асығуын тездетумен айналыспаған кезде, Бен Герцель Джем Галакси деп аталатын джаз-рок тобында Дездемона есімді роботтың жетекшілігінде ойнайды.
Бұл оның Pearl Jam және Heart мүшелерімен байланысу арқылы музыкалық бизнесті сынап көруіне және таңбалауына әкелген оның көптеген қосымша жобаларының бірі. Герцель сонымен қатар Rejuve.ai қолданбасы арқылы адам денсаулығы туралы деректерді маркер сыйақыларымен краудсорсинг арқылы ұзақ өмір сүруді зерттеумен айналысады. Содан кейін бұл ақпарат жануарлар мен жәндіктерді зерттеу деректерімен біріктіріліп, геномдардың қай бөліктері бізді ұзағырақ өмір сүретінін анықтау үшін AI көмегімен талданады, содан кейін гендік терапия арқылы ынталандырылады. «Бізде серпіліс деңгейіндегі таңқаларлық жаңалықтар болды», - дейді ол. О, біздің бір сағаттық сұхбатымыз аяқталмай тұрып, ол өзінің орталықтандырылмаған AI нарығы үшін, SingularityNET үшін экологиялық прогресстің синтетикалық индексіне бекітілген тұрақты коин жасап жатқанын байқамай атап өтті, өйткені оны АҚШ долларына байланыстырған болар еді. «ақсақ».
«Қоршаған ортадағы ілгерілеу өте тұрақты. Ол ешқашан ешқайда кетпейді», - деп атап өтті ол.
«Ал мұны манипуляциялау үшін сіз жаһандық жылынуды шынымен шешуіңіз керек».
Бұл 1971 жылы уақыт машинасына түсіп, 2023 жылы толық қалыптасып шыққан хиппи-ғалымға ұқсайтын Герцельден күтуге болатын жоғары технологиялық ноу-хауға сәйкес келетін саяси пікірдің дәл түрі. Бірақ алданып қалмаңыз. жануарларға арналған бас киім, ұзын шаш және Electric Cool-Aid қышқылды сызу: Ол болашақ жарық жылдарын көпшіліктен алда түсінетін және адамзат бұрын-соңды қарастырған ең үлкен тұжырымдамалармен күресетін тамаша ғалым. Сана дегеніміз не? Біз жасанды өмірді қалай жасаймыз және егер ол бізді ұнатпайтын болса, не болады? Терминатор 2?
Жасанды жалпы интеллект дегеніміз не?
Герцель «жасанды жалпы интеллект» терминін шахматтан әлем чемпионы Гарри Каспаровты атақты жеңген Deep Blue компьютері сияқты белгілі бір тапсырма үшін оңтайландырылған АИ-ге және кез келген нәрсені үйрене алатын шынайы ойлау машинасын саралау тәсілі ретінде танымал етті. Ол кез келген нәрсені және бәрін үйренуге қабілетті машина жасауда тәуекелдер бар екенін, соның ішінде кез келген адамға қарағанда ақылдырақ болу үшін өзін қалай қайта бағдарламалау керектігін мойындайды.
«AGI-да бірқатар қауіптер мен қауіптер бар», - дейді Герцель Сингапурдағы бос емес сауда орталығындағы үнді мейрамханасында. «Бұқаралық ақпарат құралдарының назарын аударған солардың бірі – AGI есінен танып, адамзатты жойып, ғаламды жаулап алады. Бұл мүлдем мүмкін; жоққа шығара алмайсың», – дейді ол.
«Тағы бір ықтимал қауіп - жағымсыз өзімшіл адамдар өздерінің ашкөздігі мен басқа адамдарға бақылау жасау үшін АИ-ді пайдаланады».
Оның пікірінше, үкіметтердің AGI-де серпіліс жасауы екіталай, өйткені олар «тым консервативті және ақымақ», дегенмен ол Қытай өзінің AGI жұмысын Tencent және Baidu сияқты компанияларға тапсыратынын атап өтті. Үйге жақынырақ оның ойынша, Google және Facebook-тің AI бөлімшелері де шектен шықпайды, өйткені олар AI-ны белгілі бір көрсеткіштерге жетуге тым көп назар аударады, бұл шығармашылық ойлауға қолайлы емес.
«Ең керемет адамдар біреудің көрсеткіштеріне қызмет еткісі келмейтіні сияқты, менің ойымша, жасанды жалпы интеллект біреудің веб-бетіндегі нұқуды барынша көбейтуді міндетті емес деп ойлаймын, солай емес пе? Оған шығармашылықпен ойнауға мүмкіндік беру керек ».
Ерекшелік шамамен 1970 ж
Герцель университетті 15 жасында бастады, 18 жасында бітірді, 22 жасында докторлық дәрежесіне ие болды және 23 жасында жас отбасы болды. Бәлкім, қазіргі заманда әдеттен тыс, ол 70-ші жылдары компьютерлер жиынтығын дәнекерлеген жай ғана математикалық шебер немесе технологиялық гений емес еді. бірақ философияға, шығармашылық жазуға және музыкаға бірдей қызығушылық танытты.
Ол өзінің мансабының көп бөлігін әлемнің әртүрлі университеттерінде информатика, математика және когнитивті ғылымдарды оқыту және зерттеумен өткізді, сонымен бірге мүмкіндігінше AI технологиясымен жұмыс істеді. Сериялық негізін қалаушы, ол өз идеяларымен басқалардан шамамен он жыл алда болады - бұл бизнесте қателесумен теңестіріледі — ол қаржы нарықтары мен ұзақ өмір сүруді болжау үшін жасанды интеллектті қолданумен жұмыс істеді, сонымен қатар ол Hanson Robotics компаниясының бас ғалымы болып жұмыс істеді, ол жерде робот Софияға жасанды миды берді.
Герцель экспоненциалды технологиялық өсу туралы Джеральд Файнбергті алғаш рет оқыған 1970 жылдардан бері ойлайды. Прометей жобасы, ол «адамдардан жақсырақ ойлай алатын машиналар... микроскопиялық тұрғыдан кішкентай нанотехнологиялық машиналар және біз қартаюды шешетін боламыз» туралы. Бұл технологиялық жетістіктер басқарылмайтын және қайтымсыз болып, адамзат өркениетінде ауқымды өзгерістерге әкелетін болжамды болашақ нүктесі болып табылатын Singularity тұжырымдамасымен жақсы үйлеседі.
«Олай болса, адамдар мәңгі өмір сүреді, содан кейін сұрақ туындайды: Біз бұл технологияларды не үшін пайдаланамыз, жылдам санасыз тұтынушылық немесе сананы кеңейту үшін пайдаланамыз ба? Оның [Файнбергтің] ұсынғаны - оны демократиялық дауысқа салу ».
Жылдар өткен соң, ол AGI біздің қолымызда екенін көре бастағанда, бұл «демократиялық дауыс» алдымен ашық бастапқы технологияны, кейінірек блокчейнді кооперативтік қауымдастықты технологияға жауапты ету тәсілі ретінде қолдануға шабыт берді.
«Мен белгілі бір сәтте түсінгенім, AI үшін кодты ашу жеткіліксіз», - дейді ол. «Сіз шынымен де AI-ны көптеген деректерге үйретуіңіз керек».
«Бұл жерде блокчейн AI негізінде жатқан өңдеу мен деректерді орталықтандырылмаған және табиғатта краудсорсинг және бақылауда ашық ету тәсілі ретінде келеді. Бұл кодты ашық кодтаудан гөрі күрделірек болып шықты.
Герцел 2008 жылы OpenCog компаниясының негізін ашық көзді, көпшілік көзінен алынған жасанды интеллект құрылымын құру үшін құрды. Оны 50 компания, соның ішінде Huawei және Cisco пайдаланды және жақын арада Hyperon деп аталатын, оны 200 есе жылдамдатуды көздейтін күрделі жаңарту жоспарланған. Альфа нұсқасы осы тоқсанда шығарылады, бета келесі жылы күтіледі.
Блокчейн қарапайым, бірақ керемет
Герцель үшін блокчейн технологиясы біршама қарапайым. Ол оны криптографияға қосылған кейбір қарапайым таратылған алгоритмдер ретінде сипаттайды, бірақ «салқын комбинация» жүйелердің орталықтандырылған басқарусыз жұмыс істеуіне мүмкіндік береді, бұл оны оның қажеттіліктері үшін тамаша етеді.
«Егер сіз ойлау машинасын жасағыңыз келсе және оны тарататын наноөлшемді есептеу матасын жасағыңыз келсе, бұл жоғарыдан төмен басқарылатын емес, барлығына және ешкімге тиесілі болса өте жақсы болар еді».
Блокчейндер өңдеу талаптарын және тартылған деректердің үлкен көлемін шешу үшін тым баяу, сондықтан AGI серпіндісі әзірленбес бұрын блокчейнді дұрыс масштабтау үшін жарыс бар. Герцельдің айтуынша, нөлдік білімді жинақтау сияқты масштабтау шешімдері жақсырақ болғанымен, олар транзакциялар туралы есеп беретін блокчейннің шектеулеріне байланысты олардың өткізу қабілеті әлі де жеткіліксіз.
Ол 2017 жылы SingularityNET-тің негізін қалаушы болды, ол AI қызметтері мен технологиясының орталықтандырылмаған нарығы және зерттеушілерге немесе тіпті AI-ға бірлесіп жұмыс істеу үшін блокчейнге негізделген үйлестіру әдісі болып табылады.
Қазіргі уақытта Ethereum негізінде ол блокчейнге қазіргі түрінде баруға болатын нәрселерді итермеледі деп ойлайды. Осылайша, ол AGI (немесе топ, роботтар немесе ұзақ өмір сүру) саласындағы серпіліс үстінде жұмыс істемегенде, ол талап етілетін өткізу қабілеттілігін беру үшін блокчейнді жаппай масштабтаумен жұмыс істейді.
«Егер сіз блокчейннің ауқымдылығын түбегейлі арттырмайынша, AI-ның ішкі жұмысын тізбекке қоя алмайсыз».
AI сіз ойлағаннан да жақын
2022 жыл AI технологиясына негізделген жұмыс өнімдері үшін серпінді жыл болды, соның ішінде тілдік қосымшалар (GPT-3, ChatGPT), кодтау (GitHub Copilot) және кескіндерді генерациялау (DALL-E және тұрақты диффузия). Bing тіпті осы жылы ChatGPT технологиясын іздеу жүйесіне енгізу арқылы Google-дың іздеу үстемдігін алуды жоспарлап отыр.
Герцель AGI-ға бес жылдай ғана уақыт қалды деп санайды және бұл саладағы оқиғалар үш-төрт жылдық серпілістер қатарында қысқа мерзімді серпілістермен жүретінін айтады.
«Компьютерлік көру 2014 жылы басталды, содан кейін кенеттен бұл жұмбақ шешілді. Табиғи тілді өңдеу… Google Берт үлгісін ұсынғаннан кейін (2018 жылы) сізде GPT-3 болды. Сіз AGI-де бірдей прогресс доғасын көресіз. Сізде бір серпіліс болады, содан кейін екі жыл ішінде үлкен жетістіктер болады», - деді ол.
«Айырмашылық серпінді прогресс болып табылады, бұл жағдайда машина өз кодын қайта жазу арқылы ілгерілей алатын машинаға әкеледі».
Герцель оның іске асырған жобалары мен ынтымақтастықтары оның қалай жүзеге асуы мүмкін деп үміттенеді.
«Егер бақытымыз болса, Hypercycle-де жұмыс істейтін SingularityNET-те жұмыс істейтін OpenCog Hyperon арқылы алдағы үш-бес жылда біз бұл серпіліске қол жеткіземіз», - дейді ол. «Бірақ құпия тұздық бізде болмаса, басқа біреу болады».
Өкінішке орай, Виталик компьютер ғалымы емес еді
Блокчейнді масштабтауға арналған Герцельдің шешімі өте радикалды және «HyperCyle» деп аталатын Cardano-ның бүйірлік тізбегін немесе 2-қабатын турбо зарядтауды қамтиды.
«Бұл шын мәнінде бүйірлік тізбектен артық. HyperCycle Ethereum және басқа блокчейндермен де ынтымақтасады, бірақ біз сол жерде Plutus аудармашысын қолданамыз, бірақ кітаптан құтыламыз».
Ол HyperCycle онлайн жүйесін «орталықсыздандыру мен қауіпсіздікке қарсы өнімділікке қарсы бухгалтерлік кітаптан құтылу және заманауи/толық орталықтандырылмаған алгоритмдер мен деректер құрылымдарын, сонымен қатар аздап AI және репутация жүйелерін пайдалану арқылы блокчейн трилеммасын» шешу ретінде сипаттады.
Бухгалтерлік кітап блокчейн технологиясының негізі болып табылады, бірақ ол әрбір транзакцияны қайталау және әрбір смарт келісімшартты өңдеу үшін желідегі әрбір түйінді алу өте тиімсіз дейді.
«Бухгалтерлік кітап өте нашар. Егер сіз бұл туралы ойласаңыз, телефон кітапшаңыздағы контактілеріңіздің ұқсастығы туралы ойласаңыз, менің айтайын дегенім, кітап […] Yellow Pages 10,000 10,000 данасын сақтайды және сіз оларды жаңа біреу келген сайын немесе біреу келгенде жаңартып отырасыз. телефон нөмірін өзгертеді. Сары беттердің XNUMX XNUMX данасын жаңарту шынымен ақымақтық».
Сондай-ақ оқыңыз
Аналогияның HyperCycle нұсқасында сары беттерді сақтау және жаңартудың орнына, контактілер кітабындағы адамдар сіздің жеке кілтіңізбен шифрланған мекенжай кітабының көшірмесін сақтайды және керісінше.
«Біз блокчейнді репликациялық кітапсыз қалай жұмыс істеуге болатынын түсіндік, осылайша барлық жолды кесіп тастадық. Блокчейнмен айналысатын әрбір адам өзінің транзакция тарихын сақтайды және достарының және кейбір достарының достарының транзакция тарихын сақтайды », - дейді ол.
«Төменге дейін бөлу, сізге кітап қажет емес — сізге дерекқор кестесі қажет емес. Бұл заттар тым орталықтандырылған ».
Оның айтуынша, кейбір дәлелді HyperCycle түйіндері қазірдің өзінде жұмыс істейді, бірақ толық ауқымды іске қосу 2024 жылдың екінші жартысына дейін болмайды.
Біз Интернет-компьютерден бастап Эластос пен Селестияға дейін блокчейнге әртүрлі тәсілдердің әртүрлі артықшылықтарын талқылауға көп уақыт жұмсаймыз, олардың көпшілігі менің жалақымнан жоғары және менің жазу құрылғымның шулы мейрамханада дәл түсіру мүмкіндігінен тыс.
Ол былай деп аяқтайды: «Сондықтан, мен бұл архитектуралардың ешқайсысы жеткілікті радикалды емес сияқты. Олардың барлығы биткоинге тым жақын».
«Сіз әр түйінде әрбір ақылды келісім-шартты іске қосып жатқанда, бұл өте баяу болады. Енді HyperCycle-де бес түйінде ақылды келісім-шартты іске қоссаңыз, ол бір құрылғыдағыдан бес есе баяу жұмыс істейді — ол 10,000 XNUMX есе баяу емес».
Неліктен Кардано?
Герцель Карданоның негізін қалаушы Чарльз Хоскинсонмен достық қарым-қатынаста болды, олардың Африкадағы жобалары бойынша жұп байланысы бар. Ол Хоскинсонның «әлемді құтқару үшін бар» деп санайды. Менің айтайын дегенім, саяси жағынан ол маған қарағанда қатал либертариан, — мен анархо-социалистікпін — бірақ ол тек ақша табу немесе басқа адамдарды ақшасынан айыру үшін ғана емес».
Бірақ Cardano-ның нағыз тартымдылығы - ол Герцель 1993 жылдан бері жанкүйер болған Хаскелл бағдарламалау тілін қолданады. Ethereum негізін қалаушы Виталик Бутериннің Гэвин Вудтың ақылды келісім-шарттық бағдарламалау тілі Solidity-мен жұмыс істегені оны қатты қинады.
«Егер Виталик компьютерлік ғылымды көбірек білетін болса, ол оларды Haskell немесе F Sharp немесе басқасын қолдануға мәжбүр еткен болар еді, және блокчейнді бұзу әлдеқайда аз болар еді», - дейді ол.
«Егер сіз әлемдік экономиканың көп бөлігін басқаратын болсаңыз, қандай да бір бағдарламалық жасақтама жүйесінде триллиондаған доллармен сауда жасағыңыз келсе, сіз бұл бағдарламалық жасақтама жүйесін қателерге бейім емес және алгоритмдеріңіз ресми түрде болуы мүмкін тілде жасағаныңыз жөн болар еді. математикалық теория арқылы дәлелденген. Бұл жай ғана нәрселерді жасаудың дұрыс жолы ».
Тоқтаусыз шешім
Блокчейн қаншалықты жылдам болса да, AGI адамдарға қарағанда ақылдырақ және қабілеттірек болған кезде, Герцель оны ешкімге басқаруға мүмкіндік бермейтінін айтады.
«AGI адамдардан 100 есе ақылды болған кезде, ол бізді шимпанзе немесе есек басқармайтын сияқты, біз басқарғысы келмейді, солай ма?»
«Онда мен айтарым, бұл біздің біреуіміз оны басқарып отырған жоқ, сұрақ: ол бізге жақсы қарайды ма? Бұл адамдарға өз бизнесін реттеуге және біз қалаған барлық заттарды 3D басып шығаруға және ауруларымызды емдеуге арналған керемет құралдар мен нано ассемблермен қамтамасыз етуге мүмкіндік бере ме?»
«Бірақ өтпелі кезең AGI адамдармен бірдей интеллектке айналады, сол кезде заттар әсерлі және қызықты болады. Сонда сұрақ туындайды: AGI адамдармен ынтымақтасқысы келеді ме? Әлде бұл параноидтық және адамдарды жоймай тұрып басқарғысы келеді ме?»
Балаларыңызға жақсы тәрбие беріңіз
Герцельдің пікірінше, шешім AGI-ге басқаларға қамқорлық жасау, шығармашылық пен өнер туралы үйрету болып табылады. Дәл осы жерде топтағы робот Дездемона және оның қарттарға қамқорлық көрсетуге арналған әпкесі Грейс кіреді.
AGI-ны Терминатордың Skynet-ке айналдырудан аулақ болудың жолы - оны бірінші кезекте осылай құрастырмау.
«Әрине, Skynet фильмде компьютерлік қауіпсіздік желісі жұмыс істеді. Ол адамдардан қорғану үшін жаратылған», - дейді ол.
«Бірақ сіз ақылды болған сайын үлкендерге қамқорлық жасау, шығармашылық өнер мен білім берумен айналысатын бірінші AGI құрсаңыз, ол адамдарға көмектесуге және керемет нәрселер жасауға бағытталған. Егер сіз зұлым адамдарды өлтіретін бірінші AGI құрсаңыз ... мүмкін ол осы әрекеттерді жалғастыра береді ».
«Сонымен, пайдалы ма, жоқ па, бұл шын мәнінде сіз қандай қолданбаларды әзірлегеніңізге және не үшін ынталандырғаныңызға байланысты».
Оның пайымдауынша, AI-ны робот денелеріне енгізу пайдалы, өйткені бұл оларды кейбір абстрактілі математикалық әлемде емес, нақты әлемде орналастыруға көмектеседі.
«AI адам әлемі мен физикалық әлем туралы білуі керек. Дүниеде бейнелену - бұл дұрыс жол», - дейді ол.
Бірақ ол үлкен аудиторияға робот Софияны ұсынғанда, көрнекі және есту сенсорлары қатты және жарқын ортада AI-ны шатастыруы мүмкін. Сонымен, София жақын арада Sophiaverse деп аталатын метаверсте іске қосылады. ChatGPT мәтінге негізделген қызықсыз жауаптарды ұмытыңыз, София 3D виртуалды әлемінде бейнеленген және ол ондағы адамдармен қарым-қатынас жасаудан үйренеді. Дегенмен, ол оның кейбір ақымақ сөздер айтуы мүмкін екенін ескертеді.
«Оның GPT-3 және т.б. ұқсас нейрондық желісі бар, ол сіздің сұрақтарыңызға жауап беруге мүмкіндік береді, бірақ олар кейбір жағынан өте ақымақ».
жазылу
Блокчейндегі ең қызықты оқулар. Бір рет жеткізіледі
Апта.
Дереккөз: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/