AI этикасын Қытайдың соңғы ойлап тапқан AI партиясы - адалдықты оқитын бет-әлпетті тану аттестаттауы қысым жасайтын автономды жүйелерді көрсетуі мүмкін.

Сіз адалсыз ба?

Теориялық тұрғыдан, сіздің ашық әрекеттеріңізді тексеруге және адалдық сіздің әрекеттеріңізден көрінетінін анықтауға болады.

Оның орнына сіздің ойыңызды оқып, адалдық коэффициентін анықтау үшін бетіңізді сканерлеуге әрекет жасалды делік. Бұл өте интрузивті; сіз оңай ренжітуіңіз мүмкін. Болашақ дистопиялық қоғамды елестететін ақылсыз ғылыми фантастикалық фильмдердің біріне ұқсайды.

Шүкір, өз-өзіңе жасырын сыбырлайсың, бізде бүгінде ондай ештеңе жоқ.

Ой, аттарыңды ұстаңдар.

Жақында жаңалықтардың тақырыптары Қытайда 1 жылдың 2022 шілдесінде интернетте жарияланған зерттеу жұмысында адамдардың Қытай Коммунистік партиясына (ҚКП) адалдығын анықтау үшін адамдардың ми толқындары мен бет-әлпеттерін бағалауды қамтитын зерттеу бейнеленгені туралы жарқырады. . Ендеше, болашақ жақындап келеді, кем дегенде, біз қорқатын дистопиялық қоғамға қол жеткізу тұрғысынан бір күні пайда болуы мүмкін.

Зерттеу жұмысы желіде жарияланған сілтемеден тез жоғалып кетті.

Ғаламторда тез тараған тез мысқыл қағазды алып тастауға жеткілікті болды. Немесе, мүмкін, зерттеушілер сөз тіркестеріне бірнеше өзгерістер мен басқа да зиянсыз түзетулер енгізгісі келетін шығар, оларда i нүктелері және t әрпі қиылысатынына сенімдірек мүмкіндік болғаннан кейін репост жасауды мақсат етеді. Қағаздың екінші өмірге ие болатынын көру үшін көзімізді ашық ұстауымыз керек.

Мен әрі қарай жүріп, зерттеу туралы біз білетін нәрселерге тереңірек үңілемін және AI-ға қатысты жұмыстың бұл түрінің бәріміз үшін қаншалықты маңызды екендігі туралы нүктелерді қосуға тырысамын, мұны көру шеңберінен әлдеқайда асып түседі. белгілі бір елмен шектелген. Менің хабарым осы жаңалық туралы соңғы репортажға қарағанда біршама кеңірек болады, сондықтан менімен шыдаңыз.

Менің қосымша екпінім, біз болжамды қағаздан алуға болатын AI этикасы бойынша өмірлік маңызды сабақтардың көптігі болады. Жасанды интеллект этикасы мен этикалық AI туралы тұрақты және кең ақпарат алу үшін қараңыз сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

Міне, осы уақытқа дейін зерттеу туралы айтылған нәрсе.

Шамасы, кейбір «еріктілер» ҚКП-ны қабылдауға қатысты экспериментке қатысу үшін алынған. Олар еріктілер болды ма, әлде басқарылатын немесе басқарылатын еріктілерге жақын болды ма, белгісіз. Талқылау үшін олар зерттеу тақырыбы болуға қолайлы болды деп есептейміз.

Мен мұны жай ғана ақылды болмау үшін айтып отырмын. Адам субъектілерінің қатысуымен эксперимент жасалғанда, мұндай субъектілерді зерттеуге тартуға және енгізуге қатысты жалпы қабылданған тәжірибелердің көптігі бар. Бұл ішінара адамдарды экспериментке жиі алдап соқтыратын немесе мәжбүрлейтін, кейде сол қатысушылар үшін жағымсыз психологиялық салдарларға немесе тіпті физикалық зиянға әкелетін алдыңғы зерттеулерге байланысты. Ғылыми қауымдастық мұндай жасырын зерттеулердің түрлерін қысқартуға тырысты және адаммен байланысты зерттеулерге қосу үшін барлық түрдегі ашулар мен ескертулер беруді талап етеді.

Түсіндіру үшін, мұндай парасатты және саналы нұсқауларды бәрі бірдей ұстана бермейді.

Әрі қарай, 43 субъекті болды және олар Қытай Коммунистік партиясының мүшелері деп айтылды. Эксперимент үшін субъектілерді таңдау эксперимент үшін өте маңызды екенін есте сақтаңыз, сонымен қатар эксперимент нәтижелері туралы кейін қол жеткізуге тырысатын кез келген қорытындыға қатысты ескеру қажет.

Мен танымал Жұлдызды соғыстар сериясын адамдардың қалай қабылдайтыны туралы эксперимент жасағым келеді делік. Егер мен Жұлдызды соғыстарды қатты жек көретін тақырыптарды алдын ала таңдасам (мұндай адамдар қалай болуы мүмкін?) және оларға «Жұлдызды соғыстар» бейнеклиптерін көрсетсем, олар «Жұлдызды соғыстарды» әлі де ұнатпайтындарын айтуы мүмкін. Осы псевдо-ғылыми экспериментке сүйене отырып, мен жасырын түрде адамдар, жалпы алғанда, менің «мұқият» дайындалған зерттеу ортамда «дәлелденген» (жүзді-жұмып) «Жұлдызды соғыстарды» жек көретінін жасырын айтуым мүмкін.

Сіз менің жасырын түрде қалаған нәтижелерді береді деп күткен тақырыптарды алдын ала таңдау арқылы рулетка дөңгелегін бұрмалағанымды білмеуіңіз мүмкін. Әрине, егер мен оның орнына «Жұлдызды соғыстарды» жақсы көретін және ынталы жанкүйерлер болған адамдарды әдейі жалдаған болсам, олар «Жұлдызды соғыстар» клиптерін көргенде қуанғанын хабарлауы мүмкін. Тағы да, адамдардың, жалпы, Жұлдызды соғыстарға қалай әрекет ететіні туралы кез келген қорытынды күш-жігер үшін таңдалған субъектілердің алдын ала таңдалған жиынтығына байланысты болады.

ҚКП-ға бағытталған зерттеу субъектілерді дүңгіршек тәрізді бейне дисплейдің алдына отырғызып, ҚКП саясаты мен жетістіктері туралы әртүрлі мақалаларды оқығанға ұқсайды. Бұл субъектілер ұшырайтын «эксперименттік емдеу» болуы мүмкін. Экспериментті жоспарлау кезінде сіз әдетте қатысушыларға әсер ететінін көргіңіз келетін эксперименттік факторды немесе аспектіні ойлап табасыз.

Зерттеу сұрағы зерттелетін сияқты, бұл материалдарды қарау актісі субъектілерге олардың ҚІЖК туралы кейінгі әсерін арттыру, азайту немесе бейтарап болу тұрғысынан қандай да бір әсер ете ме?

Классикалық нөлдік гипотезада тұтынылатын материалдар субъектілер білдірген кейінгі әсерлерге әсер етпейтінін айту үшін осындай зерттеуді ұйымдастыруға болады. ҚІЖК туралы олардың көзқарастарын салыстыруға дейін және кейін жасағаннан кейін, олардың әсерлеріндегі өзгерістердің статистикалық маңызды анықтауы бар-жоғын статистикалық түрде көруге тырысасыз.

Бұрынғы және кейінгі статистикалық түрде айырмашылығы жоқ болуы мүмкін, сондықтан сіз осы нақты зерттеу үшін көрсетілген материалдар (эксперименттік өңдеу) олардың әсерлеріне ешқандай өзгеріс әкелмеген сияқты деп болжамды түрде қорытынды жасай аласыз. Екінші жағынан, егер статистикалық тұрғыдан дұрыс айырмашылық болса, сіз материалдардың әсерлерін арттырғанын (және монетаның екінші жағында, егер кейінгісі бұрынғыға қарағанда азырақ болды, бұл материалдар олардың әсерлерін азайтты немесе төмендетті дегенді білдіруі мүмкін).

Мұндай зерттеуде шешуді қажет ететін көптеген бос жерлер бар.

Мысалы, біз әдетте эксперименттік емдеуді алатындармен салыстыруға болатын бақылау тобына ие болғымыз келеді. Міне, себебі. Материалдарды оқу үшін дүңгіршектің алдында отыру әсерлердің неге өзгергеніне шынайы негіз болды делік. Тұтынылатын материалдардың табиғаты әсер ету үшін маңызды емес болуы мүмкін. Күлкілі нәрселер жасайтын мысықтар туралы соңғы әңгімелер сияқты кез келген нәрсені отыру және оқудың өзі трюк жасай алады. Сондықтан біз ҚКП саясаттары мен жетістіктері материалдарынан басқа оқуға болатын басқа материалға ұшыраған кейбір субъектілерді бақылау тобымызда болуын ұйымдастыра аламыз.

Біз мұның осы жағдайда жасалғанын білмейміз (әзірге ешкім бұл жағын айтпаған сияқты).

Мен сіз қазір зерттеудің медиа-жарылғыш бөлігі туралы ашуланып жатқаныңызды түсінемін. Біз бұл бөлікке жылдам көшеміз.

Көрсетілген материалдарды оқу нәтижесінде осы эксперименттегі субъектілердің жауап бергенін немесе олардың әсерлерін өзгерткенін қалай анықтауға болады?

Олардан сұраудың әдеттегі жолы болар еді.

Сіз оларға ҚКП туралы әсерлерін сұрайтын сауалнаманы алдын ала жүргізген боларсыз. Содан кейін, эксперименталды өңдеуге ұшырағаннан кейін, көрсетіліп жатқан материалдарды оқудағы сияқты, біз басқа сауалнаманы жүргізе аламыз. Содан кейін субъектілердің алдыңғы және кейінгі негізінде берген жауаптарын салыстыруға болады. Егер біз бақылау тобын да пайдаланатын болсақ, бақылау тобының жауаптары бұрынғыдан кейінгіге қарай айтарлықтай өзгермейді деп болжайтын едік (мысықтардың еркелігі туралы әңгімелерді қарау олардың CCP әсерлеріне әсер етпеуі керек деген сеніммен).

Субъектілерден алған әсерлерін сұраудың бұл әрекеті көрінетіндей қарапайым болуы міндетті емес.

Эксперименттегі субъектілер сіз олардың эксперименттік емдеуге белгілі бір түрде жауап беруін қалайтыныңызды түсінді делік. Бұл жағдайда олар эксперименттік басқарудың кейінгі бөлігінде өздерінің реакцияларын әдейі асыра көрсетуі мүмкін. Сіз мұның болғанын әрине көрдіңіз. Егер мен нарыққа шығатын жаңа содаға дәм сынап жатсам, мен сода өндірушінің жарнамасына түсіп, өзімнің он бес минуттық атақ-даңққа ие боламын деген үмітпен соданы қатты ұнатқандай әрекет етуім мүмкін. .

Оның мәні мынада: адамдардан тек олардың пікірлерін сұрау өзгерістерді өлшеудің сенімді құралы емес. Бұл бір тәсіл. Басқа тәсілдер де жиі қабылдануы мүмкін.

Бұл нақты зерттеу субъектілердің реакцияларын өлшеуді қалай таңдады?

Шамасы, кем дегенде екі әдіс қолданылған. Бір әдіс бетті сканерлеу және субъектілердің реакцияларын бағалау үшін AI негізіндегі бетті тану бағдарламалық құралын пайдаланудан тұрды. Басқа әдіс ми толқындарын сканерлеудің қандай да бір түрі болды. Ми толқындарын сканерлеу құрылғыларының қандай түрі қолданылғаны және AI негізіндегі ми толқындарын талдау бағдарламалық құралының қандай түрі қолданылғаны әлі хабарланған жоқ.

Әртүрлі есептер бұл эксперименттің табиғаты туралы зерттеуде айтылғанын көрсетті: «Бір жағынан, бұл партия мүшелерінің ой мен саяси білімді қалай қабылдағанын анықтауға болады». Зерттеуде бұл туралы да айтылады: «Екінші жағынан, ол ойлау мен саяси білім беру үшін нақты деректер береді, сондықтан оны жақсартуға және байытуға болады». Зерттеу Қытайдың Хэфэй жан-жақты ұлттық ғылыми орталығының демеушілігімен жүргізілді.

Бұқаралық ақпарат құралдарының хабарлауынша, зерттеу бет-әлпетті тану сканерлері мен ми толқыны сканерлері ҚІЖК туралы кейінгі әсерлердің күшейгенін анықтауға көмектесті деген тұжырымға сілтеме жасайды.

Пайдаланылған жүйелерді тікелей қарап, зерттеу жұмысын мұқият зерттей алмасақ, біз бұл AI негізіндегі жүйелердің нақты қалай қолданылғаны туралы мәліметтерді білмейміз деп атап өткім келеді.

Мүмкін, субъектілер эксперименттік емдеуге емес, эксперименталды жағдайға жауап берген болуы мүмкін. Зерттеуге қатысатын кез келген адам, ең алдымен, алаңдауы мүмкін. Бұл ми толқындарын сканерлеу немесе бет үлгісін талдау әрекеттерін шатастыруы мүмкін. Сондай-ақ олардың зерттеушілерді қуантуға ынталы болғанын сезіну, материалдарды көргеннен кейін оң ойлар жасауды таңдау мүмкіндігі бар және бұл теорияда ми толқыны сканерлеуінде және бет-әлпет сканерлеуінде көрінуі мүмкін (мүмкін, бұл жерде керемет екенін біліңіз. Нәтижелерді бұрмалауға және олардың оң әсер еткенін көрсетуге үміттеніп, мен аздап түсіндіремін, мұндай пікірлердің дұрыстығына қатысты қызу қайшылықтар.

Твиттер реакциясы AI мүмкіндігі бар ми толқындарын сканерлеуді және бет-әлпетті тану ұғымының өзі қорқынышты және шектен шыққан әрекет екенін түбегейлі жоққа шығарды. Мұндай құрылғыларды тек адам құбыжықтар ғана пайдаланады, бізге сол твиттердің кейбіреулері айтады.

Мен сізден дөрекі және таң қалдыратын тосынсый болуы мүмкін нәрсеге отыруыңызды және дайындалуыңызды сұрауым керек.

Бүкіл әлемде зерттеу жұмыстарында дәл осындай технологияларды қолданатын көптеген зерттеушілер бар. Бұл, әрине, зерттеу әрекетінде адам субъектілеріне ми толқындарын сканерлеу мүмкіндігі бірінші рет қолданылған жоқ. Бұл, әрине, эксперименттік мақсатта адам субъектілерінде бет-әлпетті тану бірінші рет қолданылған жоқ. Тіпті курсорлық онлайн іздеу сізге осы құрылғылардың түрлерін пайдаланған барлық елдер мен зертханалар бойынша көптеген эксперименттік зерттеулерді көрсетеді.

Енді оларды ҚКП-ға адалдықты өлшеу үшін пайдалану сізге көп көңіл бөлетін нәрсе емес. Мұндай AI үкіметтік бақылау үшін пайдаланылған кезде, олар айтқандай, қызыл сызық кесілді.

Бұл бүкіл жиынтық пен кабудельдің анық салқындататын бөлігі.

Көпшіліктің алаңдаушылығы мынада, егер үкіметтер қолдағы режимдерге адалдықты анықтау үшін ми толқындарын сканерлеу технологиясын және бет-әлпетті тануды пайдаланса, біз өзімізді дистопиялық зардап әлемінде табамыз. Қоғамдық көшеде келе жатқанда, шам бағанасына орнатылған құрылғы сіздің адалдық коэффициентіңізді жасырын түрде анықтауы мүмкін.

Егер сіздің бет-әлпетіңіз сізге жеткілікті түрде адал екеніңізді көрсетпесе немесе ми толқыны дәл солай көрсетсе, үкіметтік қаскөйлер кенеттен асығып, сізді ұстап алуы мүмкін деп болжайды. Мазасыздық. Тұңғиық. Рұқсат етпеу керек.

Бұл жаңалық туралы айқай-шу мен ашу-ызаның пайда болуының негізгі себебі.

Мұны елестетіп көріңіз. Біз адал екенімізді немесе жоқтығын анықтау үшін AI-ның соңғы нұсқасын қолданатын компьютерлік жүйелерді жасап, содан кейін пайдалануға беруіміз мүмкін. Егер сіз адамдарды отыруға және солай істеуге жалдауға тырыссаңыз, сізге көп адам қажет болады және сізде оларды барлығына бірдей орналастыруға тырысатын логистикалық мәселе болады. AI негізіндегі жүйе жағдайында сізге электронды құрылғыларды шам бағандарына, ғимараттардың бүйірлеріне және т.б. орнату жеткілікті. Адалдықты сканерлеу барлық уақытта, сондай-ақ жабдықталған барлық жерлерде 24 × 7 болуы мүмкін. Содан кейін оны үлкен дерекқорға беруге болады.

Біз барлығын көретін, бақылайтын әлеуметтік қысымды экожүйедегі орасан зор тістер болып табылатын адамдарға айналамыз. Көретін көз біздің не істеп жатқанымызды бақылап қана қоймайды. Бұл сондай-ақ біздің үкіметке деген адалдығымыз туралы біздің бет-әлпетіміздің айтқанын түсіндіреді. Біздің ақыл-ойымыз да осындай қорқынышты себеп бойынша тексерілуі керек.

Yikes!

Бұдан да туындайтын екінші дәрежелі алаңдаушылық бар, дегенмен, бұрынғы эскиздегідей Үлкен ағаның салдарымен салыстырғанда онша қиын емес шығар.

Осы екі өзекті сұрақты ойластырыңыз:

• Ми толқынын сканерлеу сіздің адалдығыңызды дәлелдей алады деп сенімді түрде айта аламыз ба?
• Бет-әлпетті тану сканері сіздің адалдығыңызды дәлелдей алады деп сенімді түрде айта аламыз ба?

Күте тұрыңыз, сіз өкпеңіздің шыңында айқайлап жатқан шығарсыз.

Сенімділік аспектілері сізді соншалықты қызықтырмауы мүмкін екенін түсінемін және мойындаймын. Мұны сенімді түрде жасауға болатын-болмайтыны оның мүлдем жасалып жатқандығынан гөрі маңызды емес. Ешкім мұндай бақылауда болмауы керек. Технологияның осы тапсырмаға сәйкес келетінін ұмытыңыз. Біз бұл тапсырманы бірден орындамауымыз керек.

Қалай болғанда да, дәл қазір жауап «жоқ» болып табылады, атап айтқанда, «ми толқындарын сканерлеу» және бет-әлпетті тану сияқты кез келген ұқсастықты жасайтын қолданыстағы AI жүйелері бұл секіріс жасауға жеткілікті қабілетті емес.

Жақында сіз бет-әлпетті тану құрылғыларының кейбіреулері бет-әлпетті тану жүйелерінің қалай қолданылып жатқанына қатысты кейбір кері шегініс жасағанын көрген боларсыз. Алдағы мақалада мен Microsoft корпорациясының бет-әлпетті тану құралдарын технологияның қолынан келетін немесе пайдаланылуы тиіс мақсаттардан әлдеқайда жоғары мақсаттарда пайдаланатындардың толқынын тоқтатуға тырысу және тоқтату жөніндегі соңғы әрекеттерін талқылайтын боламын. . Бет-әлпетті тану туралы бұрыннан белгілі болған AI этикасы мәселелеріне менің бұрынғы көзқарасым сізді қызықтыруы мүмкін, қараңыз. сілтеме осында. Мен сондай-ақ ми толқындарын сканерлеу аренасын талқыладым, менің талқылауымды мына жерден қараңыз сілтеме осында.

Қысқаша айтқанда, ми толқынын сканерлеу немесе бет-әлпетті тану сканері біреудің адалдығын бейнелей алады деген сенімді немесе ақылға қонымды құралдар әлі жоқ. Бұл сканерлеуді біреудің бақытты немесе қайғылы екенін сенімді түрде салыстыра аласыз ба деген сияқты негізгі аспектілер әлі де қызу талқылануда. Адалдық сияқты аморфты және өзгермелі нәрсеге қарсы тұруға тырысу - тым алыс көпір.

Кейбіреулер біз ақырында сол жерге жетеміз деп қатты сенетінін қоса аламын. Сондықтан мен ол жерге ешқашан жете алмайтынымызды айтудан гөрі, біз әлі жоқ екенімізді ескеруге тырыстым. Ешқашан үлкен сөз емес. Сіз бұлай болатынына сенімді болуыңыз керек ешқашан да мүмкін болуы мүмкін («ешқашан» ондаған жылдардан кейін, ғасырлар өткеннен кейін және мыңдаған немесе миллиондаған жылдардан кейін қамтитынын есте ұстаған жөн).

Кейбіреулер бұл қытайлық зертханалық зерттеу туралы жаңалықтарға әлемнің AI-ны орынсыз және қауіпті пайдалануына қаншалықты қауіпті екенін көрсететін көрсеткіш ретінде қабылдады. Мен сіздермен AI этикасының не туралы екендігі туралы қысқаша түсінікпен бөлісемін. Бұл сізге осы зерттеудің неліктен этикалық АИ-нің жалпы қабылданған барлық дерлік ережелерін болмаса да, көпшілігін бұзатын сияқты көрінетінін айқынырақ түсінуге көмектеседі.

Сенсеңіз де, сенбесеңіз де, кейбіреулер осы зерттеуге қатысты моле төбесінен тау жасап жатқан шығармыз деп болжайды.

Біз бе?

Қарсы аргумент мынада: молихилл көп ұзамай тауға айналуы мүмкін. Қарлы төбеден төмен қарай домалап бара жатқан қардың үлкейіп бара жатқаны туралы мақал-мәтелдік ұғымда біз қардың жолға түсуін тоқтатуымыз керек. Егер біз мұндай зерттеулерге шыдасақ, біз бұл қардың өз саяхатын бастауына мүмкіндік береміз. Осындай зерттеулерді ашық айту және шақыру арқылы біз қардың алдын ала аламыз.

Бір нәрсе анық, біз AI аспектілеріне келетін болсақ, біз Pandora қорапшасын ашудың алдында тұрмыз және біз қораптың ашылуына жол бермей аламыз ба немесе, ең болмағанда, кез келген нәрсемен сақтықпен күресудің қандай да бір құралын таба аламыз ба деген сұрақ қалады. қорап өзінің шайтандық мазмұнын босатқаннан кейін.

Басқа ештеңе болмаса, мұндай медиа дауылдары AI-мен байланысты зұлымдықтың алдын алу және AI тудыратын көптеген экзистенциалды тәуекелдерді болдырмау туралы кеңінен талқылауды тудырады деп үміттенеміз. Біз AI этикасы мен этикалық AI ойлары туралы әлеуметтік хабардарлығымызды көтеруіміз керек.

Бұл AI жүйелерінің негізінде жатқан жабайы және жүнді ойлар туралы көбірек ет пен картопқа кіріспес бұрын, өте маңызды тақырыптар бойынша кейбір қосымша негіздерді анықтайық. Біз AI этикасына және әсіресе Machine Learning (ML) және Deep Learning (DL) пайда болуына қысқаша шолу жасауымыз керек.

Сіз бұл күндері AI саласындағы және тіпті AI өрісінен тыс жерде ең қатты дауыстардың бірі этикалық AI-ның көбірек ұқсастығына байланысты айқайлаудан тұратынын білмеуіңіз мүмкін. AI этикасы және этикалық AI дегенге сілтеме жасау нені білдіретінін қарастырайық. Оның үстіне, біз Machine Learning және Deep Learning туралы айтқанда не айтқым келетінін зерттейміз.

Бұқаралық ақпарат құралдарының назарын аударған AI этикасының белгілі бір сегменті немесе бөлігі теріс көзқарастар мен теңсіздіктерді көрсететін АИ-ден тұрады. Жасанды интеллекттің соңғы дәуірі басталған кезде кейбіреулер қазір деп атайтын нәрсеге үлкен ынта-ықылас тудырғанын білетін шығарсыз. Жақсылыққа арналған AI. Өкініштісі, сол бір толқудың етегінде біз де куә бола бастадық AI for Bad. Мысалы, жасанды интеллект негізіндегі бет-әлпетті тану жүйелерінің құрамында нәсілдік көзқарастар мен гендерлік көзқарастар бар екені анықталды. сілтеме осында.

Қарсы күресу әрекеттері AI for Bad белсенді жүргізілуде. Дауыстаудан басқа заңды заңсыздықты тежеуге ұмтылу, сонымен қатар AI зұлымдықты түзету үшін AI этикасын қабылдауға айтарлықтай итермелеу бар. Түсінік мынада: біз AI-ны дамыту және өрістету үшін негізгі этикалық AI принциптерін қабылдауымыз және мақұлдауымыз керек. AI for Bad және бір мезгілде артықшылықты жариялау және насихаттау Жақсылыққа арналған AI.

Осыған байланысты мен AI-ны AI қиындықтарын шешудің бір бөлігі ретінде қолдануға тырысамын, осылайша ойлау әдісімен отпен отпен күресемін. Мысалы, біз этикалық AI құрамдастарын AI жүйесіне ендіруіміз мүмкін, ол AI-ның қалған бөліктерінің қалай жұмыс істеп жатқанын бақылайды және осылайша нақты уақытта кез келген кемсітушілік әрекеттерді ұстай алады, менің талқылауымды қараңыз. сілтеме осында. Сондай-ақ бізде AI этикасы мониторының түрі ретінде әрекет ететін жеке AI жүйесі болуы мүмкін. AI жүйесі басқа AI этикалық емес тұңғиыққа қашан бара жатқанын бақылау және анықтау үшін бақылаушы ретінде қызмет етеді (мұндай мүмкіндіктер туралы менің талдауымды мына жерден қараңыз: сілтеме осында).

Біраз уақыттан кейін мен сіздермен AI этикасының негізінде жатқан кейбір негізгі принциптермен бөлісемін. Онда және мұнда өзгермелі тізімдердің көптеген түрлері бар. Сіз әмбебап тартымдылық пен келісімнің бірегей тізімі әлі жоқ деп айта аласыз. Бұл өкінішті жаңалық. Жақсы жаңалық, кем дегенде, оңай қол жетімді AI этикасының тізімдері бар және олар өте ұқсас. Мұның бәрі дәлелді конвергенция нысаны арқылы біз AI этикасының жалпы ортақтығына қарай жол тауып жатқанымызды көрсетеді.

Алдымен, жасанды интеллектпен айналысатын, өрістейтін немесе пайдаланатын кез келген адам үшін маңызды нәрсе нені көрсету керектігін көрсету үшін жалпы этикалық AI ережелерінің кейбірін қысқаша қарастырайық.

Мысалы, Ватиканның мәлімдемесінде Рим AI этикасына шақырады және мен тереңірек қарастырғанымдай сілтеме осында, бұл олардың анықталған алты негізгі AI этика қағидасы:

• Ашықтық: Негізінде, AI жүйелері түсінікті болуы керек
• Қосу: Барлығына пайдасын тигізу үшін және барлық адамдарға өзін көрсету және дамыту үшін ең жақсы жағдайлар ұсынылуы үшін барлық адамдардың қажеттіліктері ескерілуі керек.
• Жауапкершілік: Жасанды интеллектті қолдануды әзірлейтін және енгізетіндер жауапкершілік пен ашықтықты сақтауы керек
• Бейтараптылық: Әділдік пен адамдық қадір-қасиетті сақтай отырып, біржақтылық жасамаңыз немесе әрекет етпеңіз
• сенімділік: AI жүйелері сенімді жұмыс істей алуы керек
• Қауіпсіздік және құпиялылық: AI жүйелері қауіпсіз жұмыс істеуі және пайдаланушылардың жеке өміріне құрметпен қарауы керек.

Бұл туралы АҚШ Қорғаныс министрлігі (DoD) хабарлады Жасанды интеллектті пайдаланудың этикалық принциптері және мен тереңірек қарастырғанымдай сілтеме осында, бұл олардың AI этикасының алты негізгі қағидасы:

• Жауапты: DoD қызметкерлері AI мүмкіндіктерін дамытуға, орналастыруға және пайдалануға жауапты бола отырып, тиісті дәрежеде пайымдау мен қамқорлық жасайды.
• Әділ: Департамент AI мүмкіндіктеріндегі күтпеген ауытқуларды азайту үшін қасақана қадамдар жасайды.
• Бақыланатын: Департаменттің AI мүмкіндіктері тиісті персонал AI мүмкіндіктеріне қолданылатын технологияларды, әзірлеу процестерін және операциялық әдістерді, соның ішінде мөлдір және тексерілетін әдістемелерді, деректер көздерін, жобалау процедурасы мен құжаттамасын дұрыс түсінетіндей етіп әзірленетін және орналастырылатын болады.
• сенімді: Департаменттің AI мүмкіндіктерінің нақты, нақты анықталған пайдаланулары болады және мұндай мүмкіндіктердің қауіпсіздігі, қауіпсіздігі және тиімділігі олардың бүкіл өмірлік циклі бойынша анықталған пайдаланулар шеңберінде сынақтан және сенімділіктен өтеді.
• Басқарылатын: Бөлім күтпеген салдарды анықтау және болдырмау, сондай-ақ күтпеген әрекетті көрсететін орналастырылған жүйелерді ажырату немесе өшіру мүмкіндігіне ие бола отырып, олардың жоспарланған функцияларын орындау үшін AI мүмкіндіктерін жобалайды және құрастырады.

Мен сондай-ақ AI этикасының принциптерінің әртүрлі ұжымдық талдауларын талқыладым, соның ішінде «AI этикасы бойынша нұсқаулықтардың жаһандық ландшафты» (жарияланған) атты мақалада көптеген ұлттық және халықаралық AI этикасының қағидаларының мәнін зерттеген және қысқартқан зерттеушілер әзірлеген топтаманы қарастырдым. ішінде табиғат) және менің қамтуым мына жерде зерттеледі сілтеме осында, бұл негізгі тізімге әкелді:

• Ашықтық
• Әділдік және әділдік
• Зиянсыздық
• жауапкершілік
• Құпиялық
• Қайырымдылық
• Бостандық және автономия
• сенім
• тұрақтылық
• Ар-ұждан
• Ынтымақтастық

Тікелей болжағаныңыздай, осы қағидалардың негізінде жатқан ерекшеліктерді анықтау өте қиын болуы мүмкін. Сонымен қатар, бұл кең принциптерді AI жүйелерін жасау кезінде қолдануға болатын толықтай нақты және егжей-тегжейлі нәрсеге айналдыруға күш салу да қиын жаңғақ болып табылады. Жасанды интеллект этикасының ережелері деген не және оларды қалай сақтау керектігі туралы жалпы қолмен серуендеу оңай, ал AI кодтауындағы бұл әлдеқайда күрделі жағдай жолға сәйкес келетін нағыз резеңке болуы керек.

Жасанды интеллект этикасының принциптерін AI әзірлеушілері, сонымен қатар AI әзірлеу күш-жігерін басқаратындар, тіпті ақырында AI жүйелерін өңдейтін және жүргізетіндер де қолдануы керек. Жасанды интеллектіні әзірлеу мен пайдаланудың бүкіл өмірлік циклі бойынша барлық мүдделі тараптар этикалық АИ-нің бекітілген нормаларын сақтау аясында қарастырылады. Бұл маңызды сәт, өйткені әдеттегі болжам «тек кодерлер» немесе AI-ны бағдарламалайтындар AI этикасының түсініктерін ұстануға жатады. Жоғарыда айтылғандай, AI әзірлеу және өрістету үшін ауыл қажет және ол үшін бүкіл ауыл AI этикасының ережелерін білуі және ұстануы керек.

Сондай-ақ бүгінгі AI табиғаты туралы бір бетте екенімізді тексерейік.

Бүгінгі күні сезімтал AI жоқ. Бізде бұл жоқ. Біз сезімтал AI мүмкін болатынын білмейміз. Ешкім біз сезімтал AI-ға қол жеткіземіз бе, әлде сезімтал АИ қандай да бір түрде ғажайып түрде есептеу когнитивтік супернованың (әдетте сингулярлық деп аталады) пайда болуын болжай алмайды. сілтеме осында).

Мен назар аударатын АИ түрі бүгінгі күні бізде бар саналы емес АИ-ден тұрады. Біз жабайы болжам жасағымыз келсе сезімтал AI, бұл талқылау түбегейлі басқа бағытта жүруі мүмкін. Сезімтал AI адами сапада болуы мүмкін. Сезімтал АИ адамның когнитивтік баламасы екенін ескеру қажет. Сонымен қатар, кейбіреулер бізде өте интеллектуалды AI болуы мүмкін деп болжайтындықтан, мұндай AI адамдардан да ақылды болуы мүмкін деп болжауға болады (мүмкіндік ретінде супер интеллектуалды AI туралы зерттеуім үшін қараңыз. қамту осында).

Нәрселерді жерге түсіріп, бүгінгі санаулы емес АИ-ді қарастырайық.

Бүгінгі AI адам ойлауымен бірдей «ойлауға» қабілетсіз екенін түсініңіз. Alexa немесе Siri-мен өзара әрекеттескенде, сөйлесу мүмкіндіктері адамның мүмкіндіктеріне ұқсас болып көрінуі мүмкін, бірақ шындық - бұл есептеу және адам танымы жоқ. Жасанды интеллекттің соңғы дәуірі есептеу үлгісін сәйкестендіруге мүмкіндік беретін Machine Learning (ML) және Deep Learning (DL) мүмкіндіктерін кеңінен пайдаланды. Бұл адамға ұқсайтын бейімділікке ие AI жүйелеріне әкелді. Сонымен қатар, бүгінгі күні парасаттылыққа ұқсайтын және адамның күшті ойлауының когнитивтік ғажайыптары жоқ бірде-бір AI жоқ.

ML/DL – есептеу үлгісін сәйкестендірудің бір түрі. Әдеттегі тәсіл - шешім қабылдау тапсырмасы туралы деректерді жинау. Сіз деректерді ML/DL компьютер үлгілеріне бересіз. Бұл модельдер математикалық заңдылықтарды табуға тырысады. Осындай үлгілерді тапқаннан кейін, егер табылса, AI жүйесі жаңа деректерге тап болған кезде сол үлгілерді пайдаланады. Жаңа деректер ұсынылғаннан кейін ағымдағы шешімді қабылдау үшін «ескі» немесе тарихи деректерге негізделген үлгілер қолданылады.

Менің ойымша, сіз бұл қайда бара жатқанын болжай аласыз. Шешімдердің үлгісін қабылдаған адамдар теріс көзқарастарды біріктірсе, деректер мұны нәзік, бірақ маңызды жолдармен көрсетеді. Machine Learning немесе Deep Learning есептеу үлгісін сәйкестендіру деректерді сәйкесінше математикалық имитациялауға тырысады. Жасанды интеллект модельдеудің жалпы мағынасы немесе басқа сезімтал аспектілері жоқ.

Сонымен қатар, AI әзірлеушілері не болып жатқанын түсінбеуі мүмкін. ML/DL-дегі жасырын математика қазір жасырын көзқарастарды анықтауды қиындатуы мүмкін. Сіз AI әзірлеушілері ықтимал жерленген бейімділіктерді тексереді деп үміттенесіз және күтесіз, бірақ бұл көрінгеннен де қиынырақ. Салыстырмалы түрде ауқымды тестілеу кезінде де ML/DL үлгілерін сәйкестендіру үлгілерінде әлі де ендірілген қиғаштықтардың болатынына сенімді мүмкіндік бар.

Сіз белгілі немесе әйгілі «қоқыс ішіндегі қоқыс шығару» деген нақыл сөзді пайдалана аласыз. Мәселе мынада, бұл АИ-ге батып кеткен бейтараптар ретінде жасырын түрде енгізілетін бейімділікке көбірек ұқсайды. AI алгоритмі шешім қабылдау (ADM) аксиоматикалық түрде теңсіздіктерге толы болады.

Жақсы емес.

Орынсыз немесе мүмкін тікелей заңсыз әрекеттер үшін пайдаланылатын AI жүйелеріне және оның CCP адалдығы туралы жақында жарияланған зерттеуге қатысына оралайық.

Ойға екі негізгі ой келеді:

1) Бұл AI данасы жасанды интеллектті қолданудың алаңдататын кең ауқымды үлгісінің бөлігі болып табылады, сондықтан не болып жатқанына қатысты қорқынышты және көзді ашады.

2) Мысықты сөмкеден шығаруға болады, егер мұндай AI бір елде қабылданса, ол басқа елдерге де оңай таралады.

Бұл AI данасы үздіксіз үлгінің бөлігі екендігі туралы бірінші тармақтан бастаңыз.

Осы бір зерттеу әсіресе алаңдаушылық тудыратын маңызды негіздердің бірі - бұл кейбіреулердің AI қалай пайдаланғысы келетінін көрсететін үлкен үлгінің бөлігі болып табылады. Егер бұл бұрын-соңды жүргізілген жалғыз зерттеу болса, бұл бізді аздап қызықтыруы мүмкін. Соған қарамастан, бұл біз қазір көріп отырғандай жігерлендірмейтін шығар.

Бұл, бәлкім, қолынан шығып кететін нәрсеге қарай бір дюймдік тамшы.

Хабарда айтылғандай, Қытай ҚКП-ға адалдықты талап еткенімен танымал. Сонымен қатар, адамдардың үкіметтік доктринаға енуін қамтамасыз ету үшін әртүрлі құралдар құрылды немесе орнатылуда. Партия мүшелерінің ойлау жағдайларын өлшейтін AI алгоритмдерін жасауға ұмтылатын алдыңғы зерттеулердің мысалдары келтірілді (Қытай қолдайтын мақаланы қараңыз). Оқу уақыттары 2019 жылы бұл күш-жігерді атап өтті).

Естеріңізде болса, 2018 жылы Вице-президент Майк Пенс Гудзон институтында сөз сөйлеп, «Қытай билеушілері адам өмірінің іс жүзінде барлық қырларын бақылауға негізделген орвелдік жүйені енгізуді мақсат етеді» деп баса айтқан болатын (бұл ҚКП іске асыруға сілтеме болды. әлеуметтік несиелік скоринг жүйесі, көрнекті дау-дамай тақырыбы). Жақында жүргізілген CCP зерттеуі осы бағыттағы тағы бір қадам деп айта аласыз.

Түйенің арқасын қашан және қашан сындыратынын білмейміз, сондықтан бұл бір реттік зерттеулер кең таралған AI негізіндегі бақылау жүйелеріне айналды.

Назар аударатын екінші мәселе, бұл АИ түрі тек Қытаймен шектеледі деп болжауға болмайды. Негізінде, Қытайда AI қолданудың бұл түрі кең тарауы мүмкін болса да, алаңдатарлық болса да, басқа елдер де солай етуі мүмкін.

Бұл үшін AI прайм-таймға дайын деп айтылғаннан кейін, басқа елдерге де оны жүзеге асырғысы келетінін шешуге көп уақыт кетпеуі мүмкін. Мысық сөмкеден шығады. Кейбір елдер бұл AI-ны тікелей қысымшылық тәсілдермен пайдаланады және бұл туралы ешқандай сылтау ұсынбайды. Басқа елдер АИ-нің бұл түрін пайдалы болып көрінетін мақсаттарда қолдануға ұмтылуы мүмкін, оның ішінде, сайып келгенде, болмай қоймайтын кемшілігі бар.

Шындығында, АИ-нің бұл түрі прайм-таймға дайын болған кезде ғана қабылданады деп болжау - бұл қате атау. Жасанды интеллект осылайша сенімді түрде жұмыс істей алатыны маңызды емес болуы мүмкін. AI мұқаба ретінде пайдаланылуы мүмкін, менің түсіндірмені мына жерден қараңыз сілтеме осында. AI шын мәнінде не істей алатынына қарамастан, AI халықтың мониторингі мен билікке абсолютті адалдықты өлшеу және қамтамасыз ету схемаларын шығару үшін ыңғайлы сылтау болуы мүмкін деген түсінік.

Осы маңызды пікірталастың дәл осы тұсында, мен сізге осы тақырыпты көрсетуі мүмкін кейбір көрнекі мысалдар қажет екеніне сенімдімін. Менің жүрегіме жақын болатын ерекше және танымал мысалдар жиынтығы бар. Көрдіңіз бе, менің AI бойынша сарапшы ретінде этикалық және құқықтық салдарларды қоса алғанда, тақырыптың біршама теориялық сипатын оңай түсіну үшін AI этикасының дилеммаларын көрсететін нақты мысалдарды анықтауды жиі сұрайды. Бұл этикалық AI екіұштылығын айқын көрсететін ең қызықты салалардың бірі - AI негізіндегі өзін-өзі басқаратын автомобильдердің пайда болуы. Бұл тақырып бойынша кең талқылау үшін ыңғайлы пайдалану жағдайы немесе үлгі ретінде қызмет етеді.

Олай болса, ойлануға тұрарлық маңызды сұрақ: Жасанды интеллект негізіндегі нағыз өзін-өзі басқаратын көліктердің пайда болуы AI-ны теріс пайдалану туралы ештеңені жарықтандырады ма, егер солай болса, бұл нені көрсетеді?

Маған сұрақты ашуға бір сәт рұқсат етіңіз.

Біріншіден, нағыз өзін-өзі басқаратын көлікте адам жүргізуші жоқ екенін ескеріңіз. Нағыз өзін-өзі басқаратын көліктер AI жүргізу жүйесі арқылы басқарылатынын есте сақтаңыз. Рульде адам жүргізушінің де қажеті жоқ, көлікті адам басқаратын жағдай да жоқ. Автономды көліктер (АВ) және әсіресе өзін-өзі басқаратын көліктер туралы кең және үздіксіз ақпарат алу үшін қараңыз. сілтеме осында.

Мен нағыз өздігінен жүретін көліктерге сілтеме жасағанда нені білдіретінін қосымша түсіндіргім келеді.

Өздігінен басқарылатын автомобильдердің деңгейлерін түсіну

Түсініктеме ретінде, нағыз өзін-өзі басқаратын автомобильдер - бұл АИ көлікті толығымен өздігінен басқаратын және жүргізу кезінде ешқандай адам көмегінсіз жүретін көліктер.

Бұл жүргізушісіз көліктер 4-деңгей және 5-деңгей болып саналады (менің түсіндірмені қараңыз мына сілтеме), ал адам жүргізушінің жүргізу күш-жігерін бірге бөлісуін талап ететін көлік әдетте 2 немесе 3-деңгейде қарастырылады. Жүргізу міндетін бірге орындайтын көліктер жартылай автономды болып сипатталады және әдетте әр түрлі ADAS (Driver-Assistance Advanced Systems) деп аталатын автоматтандырылған қондырмалар.

5-деңгейде нағыз өзін-өзі басқаратын көлік әлі жоқ, және біз бұған жету мүмкін бе, жоқ па, оған жету үшін қанша уақыт кететінін әлі білмейміз.

Сонымен қатар, 4-деңгейдегі күш-жігер бірте-бірте өте тар және таңдамалы қоғамдық жол сынақтарынан өту арқылы біраз тартуға тырысады, дегенмен бұл сынаққа рұқсат беру керек пе деген пікірталас бар (біз бәріміз экспериментте өмір немесе өлім-жітім теңіз шошқаларымыз) Біздің магистральдарда және айналма жолдарда орын алуда, кейбіреулер даулайды, менің хабарымды мына жерден қараңыз мына сілтеме).

Жартылай автокөліктер адам жүргізушісін қажет ететіндіктен, бұл көлік түрлерін қабылдау әдеттегі көліктерді басқарудан айтарлықтай ерекшеленбейді, сондықтан бұл тақырыпта олар туралы көп жаңалық таба алмайсыз (дегенмен, сіз көресіз Бір сәтте келесі ойлар жалпыға бірдей қолданылады).

Жартылай автокөліктер үшін көпшіліктің соңғы уақытта пайда болатын алаңдатарлық аспект туралы алдын-ала ескертуі маңызды, атап айтқанда 2-деңгей немесе 3-деңгейлі автокөліктің дөңгелегінде ұйықтап жатқандығы туралы бейнежазбаларын жазып жүрген адамдарға қарамастан. , жартылай автономды автокөлік жүргізу кезінде жүргізуші олардың назарын басқару тапсырмасынан алуы мүмкін деп сендіруден аулақ болуымыз керек.

Автоматизацияның 2 немесе 3 деңгейге өтуіне қарамастан, сіз көлік құралын басқаруға жауаптысыз.

Өздігінен басқарылатын көліктер және AI-ны теріс пайдалану

4 және 5-деңгейдегі өздігінен жүретін көліктер үшін жүргізуші рөлінде адам жүргізушісі болмайды.

Барлық жолаушылар жолаушылар болады.

AI жүргізуді жүргізуде.

Тез арада талқылаудың бір аспектісі бүгінгі жасанды интеллект жүргізуші жүйелеріне қатысатын жасанды интеллекттің сезімтал болмауына алып келеді. Басқаша айтқанда, жасанды интеллект - бұл компьютерлік бағдарламалау мен алгоритмдердің жиынтығы, сондықтан адамдар ойлап тапқан тәртіппен ой қорыта алмайды.

Неліктен бұл интеллектке қосымша назар аударылмайды?

Мен жасанды интеллектті қозғау жүйесінің рөлін талқылағанда мен жасанды интеллектке адами қасиеттерді жатқызбайтынымды атап өткім келеді. Бүгінгі күні жасанды интеллект антропоморфизациясының тұрақты және қауіпті тенденциясы бар екенін ескеріңіз. Шын мәнінде, адамдар мұндай жасанды интеллект әлі жоқ екендігі туралы даусыз және талассыз фактілерге қарамастан, бүгінгі жасанды интеллектке адам тәрізді сезімді тағайындайды.

Осы нақтылау арқылы сіз AI жүргізу жүйесі қандай да бір түрде жүргізудің қырлары туралы «білмейді» деп ойлауға болады. Жүргізу және оған қатысты барлық нәрселер өзін-өзі басқаратын машинаның аппараттық және бағдарламалық жасақтамасының бөлігі ретінде бағдарламалануы керек.

Осы тақырып бойынша ойнауға келетін көптеген аспектілерге сүңгейік.

Біріншіден, AI өздігінен жүретін көліктердің барлығы бірдей емес екенін түсіну маңызды. Әрбір автоөндіруші және өзін-өзі басқаратын технологиялық фирма өзін-өзі басқаратын көліктерді ойлап табуда. Осылайша, AI жүргізу жүйелері не істейтіні немесе жасамайтыны туралы нақты мәлімдеме жасау қиын.

Сонымен қатар, AI басқару жүйесі белгілі бір нәрсені жасамайтынын айтқан кезде, оны кейінірек компьютерді дәл осылай жасауға бағдарламалайтын әзірлеушілер басып озуы мүмкін. Бірте -бірте AI басқару жүйелері біртіндеп жетілдіріліп, кеңейтілуде. Бүгінде бар шектеулер болашақта жүйенің қайталануында немесе нұсқасында болмауы мүмкін.

Бұл мен айтатын нәрсенің негізін салу үшін жеткілікті ескертулер береді деп үміттенемін.

AI-ны эскиздік немесе дұрыс емес тәсілдермен қолдануы мүмкін өздігінен жүретін автокөлік сценарийін сызып көрейік.

Мен сізді дірілдеу мен алаңдатуға әкелуі мүмкін AI негізіндегі өзін-өзі басқаратын көліктің кейбір салдарымен бөлісемін. Бұл қазір ешкім талқыламайтын қырлар. Мен бұл мәселені бірнеше рет көтердім, бірақ бізде өздігінен басқарылатын көліктер кең таралғанға дейін, біз қоғамның бүгінгі жай ғана дерексіз ұғымдар ретінде көрінетін нәрселерге алаңдап немесе ренжігеніне көп әсер ете алмайтынымызды ашық мойындаймын. .

Дайынсыз ба?

Біз іргетас қалаудан бастаймыз.

Жасанды интеллект негізіндегі өздігінен жүретін көліктер бейнекамералармен жабдықталатын болады. Бұл өзін-өзі басқаратын көлікке қозғалыс көрінісінің бейне кескіндерін алуға мүмкіндік береді. Өз кезегінде, өзін-өзі басқаратын көліктегі компьютерлердің бортында жұмыс істейтін AI жүргізу жүйесі жиналған бейнені есептеуге және жолдың қай жерде екенін, жақын маңдағы көліктердің, жаяу жүргіншілердің қайда екенін және т.б. анықтауға арналған. Мен өздігінен жүретін көліктердің 101 негіздерін оқып жатқанымды түсінемін.

Автономды көліктің сыртында бейнекамералар орнатылған және олар сыртқа бағытталған. Сонымен қатар, жалпы алғанда, көліктің ішінде немесе ішінде өздігінен жүретін көліктің ішкі бөлігіне бағытталған бейнекамералар болады деп күтуге болады. Неге олай? Оңай, өйткені автономды көліктің ішінде болып жатқан оқиғаларды бейнеге түсіру үшін көптеген маңызды пайдаланулар болады.

Өздігінен басқарылатын көлікпен серуендеуге шыққанда, сізге жүргізуші болудың қажеті жоқ. Өздігінен басқарылатын көліктің ішінде не істейсіз?

Сіз жасай алатын бір нәрсе - үйде немесе кеңседе басқалармен қарым-қатынас жасау. Міне, сіз жұмысқа бара жатырсыз, ол өзін-өзі басқаратын көлікпен бір сағат жүру уақытын алады және сіз Zoom тәрізді онлайн нақты уақыттағы интерактивті сессияны орындау арқылы жұмыс күніңізді бастай аласыз. Өздігінен басқарылатын көліктің ішіне бағытталған камералардың арқасында олар сізді көре алады. Сіз оларды өздігінен жүретін көліктің ішіндегі LED экранынан көре аласыз. Күннің соңында үйге қайтып бара жатқанда, кешке үй тапсырмасын орындауға кіріскен балаларыңызбен осындай интерактивті бейне талқылауын жасай аласыз.

Тағы бір пайдалану сабақтарға арналған. Енді көлік жүргізуге уақытыңызды ысырап етудің қажеті жоқ болғандықтан, сіз өздігінен басқарылатын көліктің ішіндегі тығырыққа тірелген уақытты дағдыларыңызды арттыруға немесе сертификат немесе дәреже алуға айналдыра аласыз. Ішке қарай бағытталған камералар арқылы нұсқаушы сізді көріп, жаттығуларыңыздың қалай өтіп жатқанын талқылай алады.

Тағы бір қолдану - өзін-өзі басқаратын көліктердегі шабандоздардың есінен танып қалмауын қамтамасыз ету. Адам басқаратын көлікте жүргізуші ересек адамның қатысуы болып табылады, ол әдетте шабандоздарды интерьерді граффитимен белгілеу сияқты жағымсыз әрекеттерден сақтайды. AI негізіндегі өздігінен жүретін көліктермен не болады? Кейбіреулер шабандоздар көліктердің ішкі бөлігін жыртуды таңдайды деп алаңдайды. Бұған жол бермеу және алдын алу үшін, өздігінен жүретін көліктерді орналастыратын рейдшеринг фирмасы адамдардың автономды көлік ішінде не істеп жатқанын бақылау үшін ішке қарайтын бейнекамераларды пайдалануы мүмкін.

Менің ойымша, бізде өздігінен жүретін көліктердің ішкі бөлігін көрсететін бейнекамералар болады, сонымен қатар көлік жүргізу көрінісін анықтау үшін сыртқа бағытталған камералар болады деп ойлаймын.

Сіз қазір мен ұшқыр көз деп атаған нәрсеге дайынсыз, менің талдауымды мына жерден қараңыз сілтеме осында.

Біріншіден, сыртқа бағытталған бейне камераларды қарастырыңыз.

Автокөлік қайда жүрсе де, ол камералар көрген нәрсені бейнеге түсіре алады. Біреуді үйінен шығарып, оны азық-түлік дүкеніне апаратын өздігінен жүретін көлік көршілес аумақты аралап өтеді және бейне тек жолды ғана емес, сонымен қатар көздің көру аймағында болып жатқан барлық нәрсені жазады. Аулада ойнап жүрген әке мен бала. Алдыңғы подъезде отырған отбасы. Әрі қарай жүреді.

Дәл қазір бізде қоғамдық жолдарда өздігінен жүретін көліктердің аздығы сонша, күнделікті әрекеттерді бейнеге түсіру мүмкіндігі салыстырмалы түрде тапшы және маңызды емес.

Біз, сайып келгенде, қауіпсіз және кең таралған өздігінен жүретін көліктерге қол жеткіземіз деп ойлаңыз. Олардың мыңдағаны. Мүмкін миллиондаған. Бүгінде АҚШ-та шамамен 250 миллион адам басқаратын көліктер бар. Ақыр соңында, олар өздігінен басқарылатын машиналармен ауыстырылады немесе енді пайдаланылмайтын болады, ал бізде негізінен өз жолдарымызда өздігінен жүретін көліктер болады. Бұл өздігінен жүретін көліктер AI арқылы басқарылады, сондықтан 24 × 7 роумингте болуы мүмкін. Демалыс үзілмейді, жуынатын бөлме.

Бейне деректерін осы өздігінен жүретін көліктерден OTA (Over-The-Air) электронды желі қосылымдары арқылы жүктеуге болады. Өздігінен жүретін көліктер көлікке жүктелген соңғы AI бағдарламалық жасақтамасының жаңартуларын алу үшін OTA пайдаланады. Сонымен қатар, OTA бұлтқа негізделген дерекқорға өздігінен жүретін көліктен деректерді жүктеп салу үшін пайдаланылуы мүмкін.

Бұл жүктелген деректерді біріктіру мүмкін болатынын айтты. Тігістің көмегімен сіз өздігінен жүретін көліктерді кеңінен пайдаланатын кез келген жерде кез келген күні көшеге шыққан кез келген адамның күнделікті келуі мен кетуін біріктіре аласыз.

Міне, мен ескертіп жүрген шолақ көз.

Енді біз ҚКП зерттеуін осындай мүмкіндікке айналдыра аламыз. Үкімет осы жиналған бейне деректердің барлығына қол жеткізе алады делік. Содан кейін олар AI негізіндегі бет-әлпетті тану алгоритмін қолдана отырып, сіздің күнделікті өміріңізде қайда, тәуліктің қай уақытында барғаныңызды анықтауға болады. Бұған қоса, олар сіздің бетіңізде адалдық бар-жоғын білу үшін AI негізіндегі «адалдық» анализаторын пайдалана алады.

Сейсенбі күні түстен кейін жергілікті асханадан сэндвич алу үшін жаяу жүргеніңізді елестетіп көріңіз. Жол бойында өздігінен жүретін көліктер өтіп бара жатты. Көптеген бейнелердің барлығы сізді тамақ ішу үшін бес минуттық серуендеу кезінде түсіріп алды. Деректер орталықтандырылған дерекқорға жүктелді. Үкімет деректер бойынша AI бет-әлпетін тану бағдарламасын іске асырды.

Жасанды интеллект сіздің бет-әлпетіңізде адал емес көзқарас бар екенін «анықтады».

Бәлкім, бұл опасыз көзқарас бір сәтке ғана болды. Сіз көшенің қиылысында түскі асханаға өту үшін жарықтың өзгеруін күтіп тұрдыңыз. Сол кезде сізде «Walk» белгісін тым ұзақ күтуге тура келетін аздап жиіркенішті сезім пайда болды. Бұл сіздің үкіметке деген адалдығыңыздың көрсеткіші ме?

Иә, AI есептеу арқылы есептелді, сіз дәл сол сәтте опасыздық жасадыңыз. Сол түні үйге келгенде, үкімет сізді қамауға алуды ұйымдастырды.

Бірақ күте тұрыңыз, тағы басқалар бар.

Бейнекамералардың да ішке қарағанын есте сақтаңыз.

Сол сейсенбіде сіз өздігінен басқарылатын көлікке мініп жұмысқа бара жатқанда, бейнекамералар сіздің әр сәтіңізді түсіріп алды. Бұл орталықтандырылған дерекқорға жүктелді. Бет үлгілерін опасыздыққа талдайтын AI бағдарламалық құралы кеңсеге барған кезде бет әлпетіне есептеу үлгісін тексерді.

Бір кезде сіз автономды көліктің сыртына абайсызда қарап тұрдыңыз және жолды жартылай жауып тұрған құрылысшыны байқадыңыз және AI жүргізу жүйесі өздігінен басқарылатын көлікті баяулатып жіберді. Бір секунд ішінде жол қозғалысын бәсеңдететін құрылысшыға сіздің жүзіңіз мазақ етті.

AI бет үлгісін талдау мұны үкіметке адалдықтың белгісі ретінде түсіндірді.

Бір күнде сізге қарсы екі ереуіл.

Сіз жұқа мұзда өмір сүріп жатырсыз.

Әрине, AI сіздің адалдығыңызды анықтауға қатысты «дұрыс» немесе «дұрыс емес» бе, бұл контексте маңызды емес. Бұл мақсат үшін AI енгізілген. Жасанды интеллектті қолданатын адамдар АИ-нің осы тапсырма түрі үшін жарамды екеніне мән беруі мүмкін немесе болмауы мүмкін. AI технологиялық жарамдылығына қарамастан мемлекеттік бақылауға мүмкіндік береді.

Бұл бетті сканерлеуді қамтиды.

Егер бізде ми толқындарын сканерлеуге арналған (болжамдалған) портативті үнемді құрылғылардың кез келген түрі болса, мұны өздігінен жүретін көліктерге де қосуға болады. Бейне камералар қазір сенімді нәрсе. Осы калибрдегі ми толқынын сканерлеу құрылғыларының болуы мүмкіндігі қазір карталарда жоқ, бірақ болашақта ойластырылатын нәрсе екені анық.

Үкіметтің өзін-өзі басқаратын көліктерді басқару арқылы халықты қалай басып алуға әрекеттенуі мүмкін екендігі туралы менің зерттеуім үшін қараңыз. сілтеме осында. Зиянды актердің де солай істеуге тырысуының ұқсас мүмкіндігі бар, қараңыз сілтеме осында. Бұл осыған байланысты тақырыптарды қамту үшін қорқыту тактикасы емес, оның орнына киберқауіпсіздіктің маңыздылығы және қоғам ретінде біз барлық жерде өздігінен жүретін көліктердің пайда болуына және басқа да сақтық шараларын қабылдауға тырысуымыз керек. басқа автономды көліктер.

қорытынды

Мен адалдықты анықтау үшін қолданылатын AI туралы қосымша бір аспектіні тез арада ашқым келеді, менің ойымша, бұл бөлек тақырып, бірақ кейбір твиттер мен әлеуметтік желілерде талқыланған тақырып.

Мен жоғарыда айттым, бізде сезімтал AI жоқ және біз қашан немесе қашан болатынын білмейміз. Бізде сезімтал AI болады деген идеяны қызықтырайық. Бұл жағдайда келесі сценарийді қарастырыңыз.

Біз сезімтал емес AI арқылы адамдардың бет-әлпетін сканерлеуді, ми толқындарын сканерлеуді және т. Мұны толығымен биліктегі адамдар басқарады және пайдаланады. Бұл мен бірнеше минут бұрын сипаттаған алаңдатарлық сценарий.

Антені көтеру уақыты.

AI сезімтал болады. Біз қазір осы сезімтал AI-ға адамдардағы адалдық пен адалдықты анықтаудың кең таралған мүмкіндігін бердік. Адамдарды жоюды ойластыратын зұлым AI бұл мүмкіндікті адамдар шын мәнінде опасыз болатынын және толығымен жойылуы керек екенін шешу үшін пайдалана алады. Немесе бет-жүзі немесе ойлары арқылы опасыздықтың белгісін көрсететін адамдар ғана жойылуы мүмкін.

Тағы бір бұрыш - AI адамдарды құлдыққа айналдырғысы келеді, менің талқылауымды қараңыз сілтеме осында.

Біз AI-ға осы тапсырманы орындау үшін тамаша сыйлық берген сияқтымыз. Біз орнатқан инфрақұрылым AI-ға адамдарды мұқият бақылауға мүмкіндік береді. Бет әлпетін көрсеткен немесе AI үстемдігі(лер)і туралы ойлағандар АИ-нің қаһарын сезінеді.

Түсінгенім, мұның асқақтық деп айтқанымды. Мен олай екеніне сенімді емеспін. Менің ойымша, біздің тағдырымызды тікелей шешетін AI үстемдіктері бар ма, жоқ па, бұл адалдықты анықтау үшін AI жүйесін қолданатын адам бастықтарымен салыстырғанда, екі ұсыныстың ешқайсысы аса қажет емес сияқты.

Әзірге соңғы пікір.

Рим ғалымы және философы Марк Туллий Цицерон адалдықтан асқан асыл, құрметті ештеңе жоқ деп айтқан. Біз AI-ның бізден озып кетуіне және қорқынышты құралдармен «адалдықты» қамтамасыз ететін құралға айналуына мүмкіндік беруіміз мүмкін.

Жасанды интеллект этикасын орындалатын істер тізімінің жоғарғы жағына қоюдың ақылға қонымды себебі.