Жауапты AI жоғары кәсіби қоғамның AI этикасы туралы мәлімдемесі арқылы үлкен өсуді қамтамасыз етеді.

Жаңалықты көрдіңіз бе, естідіңіз бе?

AI этикасы ережелерінің тағы бір жиынтығы жаңадан жарияланды.

Қол шапалақтау, бұйыртса.

Сосын тағы да мүмкін емес оны AI этикасының көптеген басқа жарлықтары біраз уақыттан бері өзгеріп жатқандығына байланысты байқадым. Кейбіреулер этикалық AI мәлімдемелерінің үздіксіз болып көрінуі аздап ыңғайсызданып бара жатқанын айтады. Бізге қанша керек? Олардың бәріне біреу ілесе ала ма? Қайсысы жақсы? Бәлкім, біз AI этикасының принциптерінен асып бара жатырмыз ба? Және тағы басқа.

Міне, осы нақты жағдайда біз клубқа осы соңғы қосылуды ерекше қарсы алуымыз керек деп айтамын.

Мен бір сәтте неге екенін түсіндіріп беремін.

Біріншіден, түсініктеме ретінде мен қазір ресми түрде белгілі «AI этикасының ережелеріне сілтеме жасаймын.Жауапты алгоритмдік жүйелердің принциптері туралы мәлімдеме» Оны жақында ACM Технологиялық саясат кеңесі 26 жылдың 2022 ​​қазанында жариялады. Осы құнды құжатты құрастырған сарапшылар тобына, соның ішінде жетекші авторлар Жанна Мэттьюс (Кларксон университеті) және Рикардо Бейза-Йейтс (Universitat Pompeu Fabra) алғыс айтамыз. ).

Сіздердің білетіндеріңіз мұқият тексерген кезде бұл құжаттың аздап таныс екенін түсінуі мүмкін.

Жақсы көз!

Бұл соңғы нұсқа негізінен 2017 жылы ACM АҚШ технологиялық саясаты комитеті мен ACM Еуропа технологиялық саясаты комитеті жариялаған «Алгоритмдік ашықтық пен есеп беру туралы мәлімдеменің» жаңартылған және кеңейтілген нұсқасы болып табылады. Мен 2017 жылғы қаулыны AI этикасы мен АИ заңының негізгі аспектілері туралы бағанымда айтып отырдым.

Жасанды интеллект этикасы мен АИ заңына қатысты кең және тұрақты бағалау мен трендтік талдауларымды қараңыз. сілтеме осында және сілтеме осында, бірнеше ғана атауға болады.

ACM-тің бұл соңғы мәлімдемесі бірнеше маңызды себептерге байланысты өте маңызды.

Міне, сондықтан.

үшін ыңғайлы аббревиатура болып табылатын ACM Есептеу техникасы қауымдастығы, әлемдегі ең үлкен есептеулерге бағытталған бірлестік болып саналады. Шамамен 110,000 1947-ға жуық мүшеден тұратын ACM есептеуіш саласында ұзақ уақыт пионер болып табылады. ACM есептеуіш саласындағы ең үздік ғылыми зерттеулерді шығарады, сонымен қатар кәсіби желіні қамтамасыз етеді және есептеуіш тәжірибешілерге де жүгінеді. Осылайша, ACM жоғары технологиялы және компьютерлік өрісті ілгерілетуге табанды түрде ұмтылғандарды білдіретін маңызды дауыс болып табылады (ACM XNUMX жылы құрылған).

Мен бұл туралы біраз жеке ескертпе қоса аламын. Мен орта мектепте компьютермен алғаш рет танысқанымда, мен ACM-ге қосылдым және олардың білім беру бағдарламаларына қатыстым, әсіресе олардың жыл сайынғы компьютерлік бағдарламалау байқауында (мұндай жарыстар қазіргі уақытта кең таралған және әдетте келесідей деп белгіленеді) бәсекеге түсудің қызықты мүмкіндігі болды. хакетондар). Мен колледжде жүргенде жергілікті университет бөлімшесі арқылы ACM-ге қатысамын және студенттік бөлімнің офицері болу арқылы көшбасшылық туралы білуге ​​мүмкіндік алдым. Өнеркәсіпке келгеннен кейін мен кәсіби бөлімге қосылдым және тағы да көшбасшылық рөлге ие болдым. Кейінірек, мен профессор болғаннан кейін, мен кампустың студенттік бөліміне демеушілік жасаумен қатар, ACM комитеттерінде және редакциялық кеңестерде қызмет еттім. Мен әлі күнге дейін ACM-де белсендімін, соның ішінде ACM АҚШ-тың Технологиялық саясат комитетінде қызмет етемін.

Маған ACM өмір бойы оқу мен мансаптық дамудың сүйкімді және тұрақты көрінісі ұнайды.

Қалай болғанда да, AI этикасының соңғы мәлімдемесі бойынша, мұны ACM шығарған факті оған үлкен салмақ түсіреді. Этикалық AI ережелері дүниежүзілік компьютерлік кәсіпқойлар тобының жалпы немесе ұжымдық дауысы екенін дәлелдей аласыз. Бұл бірдеңе дейді.

Сондай-ақ, компьютер саласындағы басқа адамдар өздерінің компьютерлік әріптестерінің мәлімдемесіне тиісті назар аудару мағынасында көңіл көтеруге және тыңдауға шабыттандыратын аспект бар. Осылайша, тіпті ACM-де жоқ немесе құрметті топ туралы ештеңе білмейтін адамдар үшін де мәлімдеменің не туралы екенін білуге ​​қызығушылық болады деп үміттенеміз.

Сонымен қатар, сол сыртында Есептеу өрісі туралы мәлімдемеге компьютердегілердің этикалық AI туралы не айтатынына сахна артындағы инсайдерлік көзқарас ретінде тартылуы мүмкін. Мен бұл мәлімдеме тек компьютер қауымдастығындағыларға ғана емес, барлығына арналғанын атап өткім келеді, сондықтан AI этикасының ережелері барлық жерде бар екенін есте сақтаңыз.

Ақырында, аздаған адамдар қарастыратын қосымша бұралу бар.

Кейде бөтен адамдар есептеуіш бірлестіктерді технологияның тізе тереңдігі ретінде қабылдайды және әсіресе компьютерлер мен AI-ның қоғамға әсерін білмейді. Сіз мұндай кәсіби құрылымдар аппараттық немесе бағдарламалық жасақтамадағы ең соңғы және ең жаңа жетістіктерге ғана мән береді деп болжауға азғырылуы мүмкін. Оларды жұртшылық қарапайым түрде дөрекі түрде, техи-нердтер ретінде қабылдайды.

Рекордты түзету үшін мен компьютерлерге алғаш келгеннен бері есептеудің әлеуметтік әсеріне шомылдым және сол сияқты ACM де осындай тақырыптармен терең айналысты.

AI этикасының ережелері туралы бұл мәлімдемені ACM құрастырып, шығарғанына таң қалған кез келген адам үшін олар осы мәселелер бойынша жүргізіліп жатқан көпжылдық зерттеулер мен жұмыстарға назар аудармайды. Мен сондай-ақ қызығушылық танытқандарды ACM-ге жақсы қарауға шақырамын Этика кодексі, жылдар бойы дамып келе жатқан қатаң кәсіби этика кодексі және жүйені әзірлеушілер өздерінің күш-жігері мен бұйымдарының этикалық салдары туралы хабардар болуы, оларға бағынуы және қырағы болуы қажет екенін баса көрсетеді.

AI есептеу этикасы туралы хабардар болу үшін отты өршітті.

Есептеу саласындағы этикалық және құқықтық ойлардың көрінуі бүгінгі АИ пайда болуымен айтарлықтай өсті. Мамандықтағы адамдар AI этикасы мен AI заңы мәселелеріне дұрыс көңіл бөлу туралы ақпараттандырылады және кейде барабандалады. Заң шығарушылар AI этикасы және AI заңдары аспектілері туралы көбірек білуде. Компаниялар өздері жасап жатқан немесе қолданатын AI тиімді, сонымен қатар кейде үлкен тәуекелдер мен ықтимал кемшіліктерді ашады деген түсінікке ие.

AI этикасы ережелерінің осы соңғы жиынтығына көшу алдында тиісті контекст құру үшін соңғы бірнеше жылда не болып жатқанын ашайық.

Этикалық AI туралы хабардарлықтың артуы

Жақында AI дәуірі бастапқыда қарастырылды Жақсылыққа арналған AI, яғни біз AI-ны адамзатты жақсарту үшін пайдалана аламыз. Өкшеде Жақсылыққа арналған AI біз де суға батқанымызды түсіндік AI for Bad. Бұған кемсітушілік ретінде ойлап табылған немесе өздігінен өзгертілген және орынсыз қисындылықтарға негізделген есептеу таңдауын жасайтын AI кіреді. Кейде AI осылай құрастырылады, ал басқа жағдайларда ол қолайсыз аумаққа бұрылады.

Мен бүгінгі АИ-нің табиғаты туралы бір бетте екенімізге сенімді болғым келеді.

Бүгінгі күні сезімтал AI жоқ. Бізде бұл жоқ. Біз сезімтал AI мүмкін болатынын білмейміз. Ешкім біз сезімтал AI-ға қол жеткіземіз бе, әлде сезімтал АИ қандай да бір түрде ғажайып түрде есептеу когнитивтік супернованың (әдетте сингулярлық деп аталады) пайда болуын болжай алмайды. сілтеме осында).

Мен назар аударатын АИ түрі бүгінгі күні бізде бар саналы емес АИ-ден тұрады. Егер біз ақылға қонымды AI туралы ойдан шығарғымыз келсе, бұл талқылау түбегейлі басқа бағытта жүруі мүмкін. Сезімтал AI адами сапада болуы мүмкін. Сезімтал АИ адамның когнитивтік баламасы екенін ескеру қажет. Сонымен қатар, кейбіреулер бізде өте интеллектуалды AI болуы мүмкін деп болжайтындықтан, мұндай AI адамдардан да ақылды болуы мүмкін деп болжауға болады (мүмкіндік ретінде супер интеллектуалды AI туралы зерттеуім үшін қараңыз. қамту осында).

Мен заттарды жер бетінде ұстап тұруды және бүгінгі күннің санаулы емес АИ-ін қарастыруды ұсынамын.

Бүгінгі AI адам ойлауымен бірдей «ойлауға» қабілетсіз екенін түсініңіз. Alexa немесе Siri-мен өзара әрекеттескенде, сөйлесу мүмкіндіктері адамның мүмкіндіктеріне ұқсас болып көрінуі мүмкін, бірақ шындық - бұл есептеу және адам танымы жоқ. Жасанды интеллекттің соңғы дәуірі есептеу үлгісін сәйкестендіруге мүмкіндік беретін Machine Learning (ML) және Deep Learning (DL) мүмкіндіктерін кеңінен пайдаланды. Бұл адамға ұқсайтын бейімділікке ие AI жүйелеріне әкелді. Сонымен қатар, бүгінгі күні парасаттылыққа ұқсайтын және адамның күшті ойлауының когнитивтік ғажайыптары жоқ бірде-бір AI жоқ.

Бүгінгі AI-ны антропоморфизациялаудан өте сақ болыңыз.

ML/DL – есептеу үлгісін сәйкестендірудің бір түрі. Әдеттегі тәсіл - шешім қабылдау тапсырмасы туралы деректерді жинау. Сіз деректерді ML/DL компьютер үлгілеріне бересіз. Бұл модельдер математикалық заңдылықтарды табуға тырысады. Осындай үлгілерді тапқаннан кейін, егер табылса, AI жүйесі жаңа деректерге тап болған кезде сол үлгілерді пайдаланады. Жаңа деректер ұсынылғаннан кейін ағымдағы шешімді қабылдау үшін «ескі» немесе тарихи деректерге негізделген үлгілер қолданылады.

Менің ойымша, сіз бұл қайда бара жатқанын болжай аласыз. Шешімдердің үлгісін қабылдаған адамдар теріс көзқарастарды біріктірсе, деректер мұны нәзік, бірақ маңызды жолдармен көрсетеді. Machine Learning немесе Deep Learning есептеу үлгісін сәйкестендіру деректерді сәйкесінше математикалық имитациялауға тырысады. Жасанды интеллект модельдеудің жалпы мағынасы немесе басқа сезімтал аспектілері жоқ.

Сонымен қатар, AI әзірлеушілері не болып жатқанын түсінбеуі мүмкін. ML/DL-дегі жасырын математика қазір жасырын көзқарастарды анықтауды қиындатуы мүмкін. Сіз AI әзірлеушілері ықтимал жерленген бейімділіктерді тексереді деп үміттенесіз және күтесіз, бірақ бұл көрінгеннен де қиынырақ. Салыстырмалы түрде ауқымды тестілеудің өзінде ML/DL үлгісіне сәйкес модельдер ішінде әлі де енгізілген қиғаштықтардың болатынына сенімді мүмкіндік бар.

Сіз белгілі немесе әйгілі «қоқыс ішіндегі қоқыс шығару» деген нақыл сөзді пайдалана аласыз. Мәселе мынада, бұл АИ-ге батып кеткен бейтараптар ретінде жасырын түрде енгізілетін бейімділікке көбірек ұқсайды. AI алгоритмі шешім қабылдау (ADM) аксиоматикалық түрде теңсіздіктерге толы болады.

Жақсы емес.

Мұның бәрі AI этикасының айтарлықтай маңызды салдары бар және AI-ны заңдастыруға тырысқанда алынған сабақтарға (барлық сабақтар болмай тұрып) ыңғайлы терезені ұсынады.

Жалпы AI этикасының ережелерін қолданудан басқа, бізде AI-ны әртүрлі пайдалануды реттейтін заңдар болуы керек пе деген сәйкес сұрақ бар. Федералды, штаттық және жергілікті деңгейлерде AI қалай жасалуы керектігі мен сипатына қатысты жаңа заңдар әзірленуде. Мұндай заңдарды әзірлеу және қабылдау әрекеті кезең-кезеңімен жүргізілуде. AI этикасы, ең болмағанда, қарастырылатын үзіліс ретінде қызмет етеді және белгілі бір дәрежеде бұл жаңа заңдарға тікелей қосылады.

Кейбіреулер бізге AI қамтитын жаңа заңдар қажет емес және біздің қолданыстағы заңдарымыз жеткілікті деп батыл дау жасайтынын ескеріңіз. Олар егер біз осы AI заңдарының кейбірін қабылдасақ, орасан зор әлеуметтік артықшылықтар беретін AI-дағы жетістіктерді қысқарту арқылы алтын қазды өлтіретінімізді ескертеді.

Алдыңғы бағандарда мен AI реттейтін заңдарды жасау және қабылдау бойынша әртүрлі ұлттық және халықаралық әрекеттерді қарастырдым, қараңыз. сілтеме осында, Мысалға. Мен сондай-ақ әртүрлі елдер анықтаған және қабылдаған AI этикасының әртүрлі принциптері мен нұсқауларын, соның ішінде БҰҰ-ның күш-жігерін, мысалы, ЮНЕСКО-ның 200-ге жуық ел қабылдаған AI этикасының жиынтығын, қараңыз. сілтеме осында.

Міне, мен бұрын мұқият зерттеген AI жүйелеріне қатысты этикалық AI критерийлерінің немесе сипаттамаларының пайдалы негізгі тізімі:

• Ашықтық
• Әділдік және әділдік
• Зиянсыздық
• жауапкершілік
• Құпиялық
• Қайырымдылық
• Бостандық және автономия
• сенім
• тұрақтылық
• Ар-ұждан
• Ынтымақтастық

Бұл AI этикасының принциптерін AI әзірлеушілері, сондай-ақ AI әзірлеу күш-жігерін басқаратындармен, тіпті ақырында AI жүйелерін өңдейтін және жүргізетіндер де пайдалануы керек.

Жасанды интеллектіні әзірлеу мен пайдаланудың бүкіл өмірлік циклі бойынша барлық мүдделі тараптар этикалық АИ-нің қалыптасқан нормаларын сақтау аясында қарастырылады. Бұл маңызды сәт, өйткені әдеттегі болжам «тек кодерлер» немесе AI-ны бағдарламалайтындар AI этикасының тұжырымдамаларын ұстануға жатады. Бұл жерде алдын ала атап өтілгендей, AI-ны ойлап табу және өрістету үшін ауыл қажет және ол үшін бүкіл ауыл AI этикасының ережелерін білуі және ұстануы керек.

Мен де жақында тексердім AI құқықтары туралы Билл Бұл АҚШ үкіметінің Ғылым және технология саясаты басқармасының (OSTP) бір жылдық күш-жігерінің нәтижесі болып табылатын «AI құқықтары туралы Биллдің жобасы: американдықтар үшін автоматтандырылған жүйелердің жұмыс істеуін қамтамасыз ету» деп аталатын ресми құжаттың ресми атауы. ). OSTP — Америка президенті мен АҚШ Атқарушы кеңсесіне ұлттық маңызы бар әртүрлі технологиялық, ғылыми және инженерлік аспектілер бойынша кеңес беретін федералды ұйым. Осы тұрғыдан алғанда, бұл AI құқықтары туралы Билл АҚШ-тың қолданыстағы Ақ үйі мақұлдаған және мақұлдаған құжат деп айта аласыз.

AI құқықтары туралы Биллде бес негізгі санат бар:

• Қауіпсіз және тиімді жүйелер
• Алгоритмдік дискриминациядан қорғау
• Деректердің құпиялылығы
• Ескерту және түсіндіру
• Адамның баламалары, қарастыру және кері қайтару

Мен бұл өсиеттерді мұқият қарап шықтым, қараңыз сілтеме осында.

Енді мен осы сәйкес AI этикасы және AI заңы тақырыптарында пайдалы негіз қалағандықтан, біз жақында шығарылған ACM «Жауапты алгоритмдік жүйелердің принциптері туралы мәлімдемеге» өтуге дайынбыз (айтпақшы, құжат тақырыбы мынаған сілтеме жасайды). жауапты Алгоритмдік жүйелерде, сіз бұл туралы нені білдіретіні туралы менің бағалауыма назар аударғыңыз келуі мүмкін Сенімді AI, қараңыз сілтеме осында).

Жасанды интеллект этикасы принциптерінің осы соңғы жиынтығына саяхат жасауға дайын болыңыз.

ACM жариялаған AI этикасының ережелерін мұқият зерделеу

Этикалық AI туралы ACM мәлімдемесі осы тоғыз негізгі тастан тұрады:

• Заңдылық және құзыреттілік
• Зиянды азайту
• Қауіпсіздік және құпиялылық
• Ашықтық
• Түсіндіру және түсіндіру
• Қол жетімділік
• Бәсекелестік және аудиторлық
• Жауапкершілік пен жауапкершілік
• Қоршаған ортаға әсерді шектеу

Егер сіз осы соңғы жинақты басқа қол жетімді жинақтармен салыстырсаңыз, олардың арасында үлкен ұқсастық немесе сәйкестіктер бар.

Бір жағынан, сіз мұны жақсы белгі ретінде қабылдай аласыз.

Біз, әдетте, айналадағы AI этикасының принциптерінің жиынтығы бірдей жалпы қамтуға біріктіріледі деп үміттенуіміз мүмкін. Бір жиынтықтың басқа жиынтықпен біршама салыстырылатынын көру сізге бұл жиынтықтардың бір доп алаңында екеніне және қандай да бір жолмен таңқаларлық сол жақта емес екеніне сенімділік береді.

Кейбіреулердің әлеуетті шағымы - бұл әртүрлі жиынтықтардың шамамен бірдей болып көрінуі, содан кейін бізде қайталанатын көптеген тізімдер болмауы керек деген алаңдаушылықтың салдарынан шатасу немесе кем дегенде үрей тудыруы мүмкін. Бір ғана тізім болуы мүмкін емес пе? Мәселе, әрине, мұндай тізімдердің барлығын бірдей етіп алудың қарапайым жолы жоқ. Әртүрлі топтар мен әртүрлі құрылымдар бұған әртүрлі жолдармен келді. Жақсы жаңалық, олардың барлығы бірдей жалпы қорытындыға келді. Біз жиынтықтардың үлкен айырмашылықтары жоқтығына сенімді бола аламыз, бұл жалпы консенсус болмаса, бізді алаңдатуы мүмкін.

Қарсы адам бұл тізімдердің ортақтығы алаңдатарлық екенін айтып, бұл жерде топтық пікір бар болуы мүмкін деп айтуы мүмкін. Бәлкім, бұл әртүрлі топтардың бәрі бірдей ойлайды және нормадан ары қарай алмайды. Барлығымыз бірдей тұзаққа түсіп жатырмыз. Тізімдер біздің ойымызды бекітеді және біз өз мұрнымыздан ары қарай алмаймыз.

Біздің мұрнымыздан тыс қарау, сөзсіз, лайықты себеп.

Мен, әрине, қарсылардың айтқанын тыңдауға дайынмын. Кейде олар бар нәрсенің желін ұстайды Титаник алып айсбергке қарай бет алды. Біз бүркіт көзінің бірнеше түрін пайдалана аламыз. Бірақ, AI этикасының осы ережелеріне қатысты қарама-қайшылықтар анық түрде төмендететін немесе орын алып жатқан орынсыз ортақтық туралы алаңдаушылық тудыратындай нақты айтылған ештеңе болған жоқ. Менің ойымша, біз жақсы істеп жатырмыз.

Бұл ACM жинағында, менің ойымша, назар аударуға тұрарлық бірнеше ерекше немесе ерекше нүктелер бар.

Біріншіден, маған нормадан біршама ерекшеленетін жоғары деңгейлі фраза ұнайды.

Мысалы, сілтеме жасай отырып заңдылық пен құзыреттілік (бірінші маркерленген элемент) AI-мен байланысты дизайнерлік және басқарушылық құзыреттердің маңыздылығының ұқсастығын тудырады. Сонымен қатар, заңдылық ұтымды фраза бізді AI этикасына апарады және AI заң саласы. Мен мұны айтып отырған себебім, AI этикасының көптеген ережелері толығымен дерлік этикалық салдарға шоғырланған, бірақ заңды салдарларды да ескермей немесе ұялмайтын сияқты. Құқықтық салада этикалық ойлар жиі «жұмсақ заң» деп аталады, ал кітаптардағы заңдар «қатал заңдар» ретінде түсіндіріледі (олар заңдық соттардың салмағын көтереді дегенді білдіреді).

Әйгілі заңгер Эрл Уорреннің менің сүйікті сөздерімнің бірі: «Өркениетті өмірде заң этика теңізінде жүзеді».

Біз интеллект туралы заңдарды әзірлеу, қабылдау және орындау кезіндегі сияқты, AI этикасының ережелері заттардың қатаң заңдық жағын қамтитынына және баса назар аударатынына көз жеткізуіміз керек.

Екіншіден, тізімде бар екенін бағалаймын бәсекелестік және аудиторлық.

Мен AI жүйесіне бағынған кезде жарысу немесе қызыл жалау көтеру мүмкіндігі туралы бірнеше рет жаздым, қараңыз. сілтеме осында. Сонымен қатар, біз AI жүйелерін тексеруге мәжбүрлейтін жаңа заңдарды көбірек көретін боламыз, мен оны Нью-Йорк қаласындағы (Нью-Йорк) қызметкерлерді жалдау және жоғарылату үшін қолданылатын AI жүйелерінің аудиті туралы заңы туралы ұзақ талқыладым, қараңыз. сілтеме осында. Өкінішке орай, мен Нью-Йорктегі жаңа заңды ашық сынағаныма сәйкес, егер бұл аудиторлық заңдарда кемшіліктер болса, олар шешкеннен гөрі көп проблемалар тудыруы мүмкін.

Үшіншіден, AI тұрақтылық мәселелерін шеше алатын біртіндеп ояну бар және мен қоршаған ортаны қорғау тақырып осы AI этикасы ережелерінде жоғары деңгейлі есепшотқа ие болды (тізімнің соңғы таңбашасын қараңыз).

AI жүйесін құру әрекеті тек көптеген есептеу ресурстарын тұтынуы мүмкін. Бұл есептеу ресурстары тікелей немесе жанама түрде тұрақтылықты басып алушылар болуы мүмкін. Жасанды интеллектпен бірге келетін шығындарға қарсы AI беретін артықшылықтар туралы ескеру қажет. ACM таңбаланған элементтерінің соңғысы АИ-де туындайтын тұрақтылық пен қоршаған ортаны қорғауды ескертеді. AI-ге байланысты көміртегі ізі мәселелерін қамту үшін қараңыз сілтеме осында.

Енді біз AI этикасының өсиеттерінің ACM тізімін аспанға түсіргеннен кейін, келесіде саусақтарымызды суға тереңірек кіргіземіз.

Міне, жоғары деңгейдегі AI этикасы ережелерінің әрқайсысының ресми сипаттамалары (ресми мәлімдемеден алынған):

1. «Заңдылық және құзыреттілік: Алгоритмдік жүйелерді жобалаушылардың басқару құзыреті және мұндай жүйелерді құру және орналастыру үшін нақты рұқсаты болуы керек. Олар сондай-ақ қолданбалы салада тәжірибеге, жүйелерді мақсатты пайдаланудың ғылыми негізіне ие болуы керек және жүйе әсер ететін мүдделі тараптар тарапынан әлеуметтік заңды деп танылуы керек. Жүйелер енгізетін кез келген тәуекелдердің шешілетін мәселелерге пропорционалды болатынын және пайда-зиянды салыстыру барлық мүдделі тараптардың түсінетінін растау үшін құқықтық және этикалық бағалау жүргізілуі керек.

2. «Зиянды азайту: Менеджерлер, дизайнерлер, әзірлеушілер, пайдаланушылар және алгоритмдік жүйелердің басқа да мүдделі тараптары оларды жобалау, енгізу және пайдалану кезінде болатын ықтимал қателер мен қиғаштықтарды және жүйенің жеке адамдар мен қоғамға келтіруі мүмкін ықтимал зиянын білуі керек. Ұйымдар жүйенің зиян, әсіресе кемсітушілік зиян келтіруі мүмкін екенін анықтау және тиісті азайту шараларын қолдану үшін олар пайдаланатын жүйелерге әсер етуді бағалауды жүйелі түрде орындауы керек. Мүмкіндігінше, олар кемсітушілік болуы мүмкін бұрынғы шешімдердің үлгілерінен ғана емес, нақты өнімділік өлшемдерінен үйренуі керек ».

3. «Қауіпсіздік және құпиялылық: Зиянды тараптардың қаупін жүйелердің өмірлік циклдерінің әрбір кезеңінде қауіпсіздік пен құпиялылықтың ең жақсы тәжірибелерін, соның ішінде алгоритмдік жүйелер контекстінде пайда болатын жаңа осалдықтарды азайту үшін сенімді бақылауларды енгізу арқылы азайтуға болады.

4. «Ашықтық: Жүйені әзірлеушілерге әзірлеу, оқыту, тексеру және тестілеу үшін нақты деректер жиындарының, айнымалы мәндердің және үлгілердің таңдалған жолын, сондай-ақ деректер мен шығару сапасына кепілдік беру үшін қолданылған нақты шараларды нақты құжаттандыру ұсынылады. Жүйелер әрбір нәтижеге өздерінің сенімділік деңгейін көрсетуі керек және сенім төмен болған кезде адамдар араласуы керек. Әзірлеушілер сондай-ақ ықтимал ауытқуларды зерттеу үшін қолданылған тәсілдерді құжаттауы керек. Өмір мен әл-ауқатқа сыни әсер ететін жүйелер үшін тәуелсіз тексеру және валидация процедуралары қажет болуы керек. Деректер мен үлгілерді қоғамдық бақылау түзетуге барынша мүмкіндік береді. Осылайша, әзірлеушілер қоғамдық мүдде үшін үшінші тарап тестілеуін жеңілдетуі керек ».

5. «Түсіндіру және түсіндіру: Алгоритмдік жүйелердің менеджерлеріне қолданылатын алгоритмдер орындайтын процедураларға (түсіндірмелік) және олар қабылдайтын нақты шешімдерге (түсіндіргіштік) қатысты ақпаратты шығару ұсынылады. Түсіндіру дәлдік сияқты маңызды болуы мүмкін, әсіресе мемлекеттік саясат контекстінде немесе алгоритмдерді мойындаусыз бір топқа екінші топқа тиімді ету үшін қалай бұрмалануы мүмкін екендігі туралы алаңдаушылық бар кез келген ортада. Түсіндірілетін қорытындыға жету үшін қолданылатын дәлелдемелерді немесе шешім қабылдау процесін көрсетпейтін түсіндірмелер мен фактіден кейінгі рационализацияны ажырата білу маңызды».

6. «Техникалық қызмет көрсету: Барлық алгоритмдік жүйелердің дұрыстығының дәлелдері жүйе талаптарының құжаттамасын, өзгерістерді жобалау немесе енгізуді, сынақ жағдайлары мен нәтижелерін, табылған және түзетілген қателер журналын қоса алғанда, олардың өмірлік циклдері бойына жиналуы керек. Тиісті техникалық қызмет көрсету жаңа оқу деректерімен жүйелерді қайта даярлауды және/немесе қолданылатын үлгілерді ауыстыруды талап етуі мүмкін.

7. «Бәсекелестік және аудиторлық: Реттеуші органдар жеке адамдар мен топтарға нәтижелерге күмән келтіруге және алгоритмдік негізделген шешімдер нәтижесінде туындайтын жағымсыз әсерлерді жоюға мүмкіндік беретін механизмдерді қабылдауды ынталандыруы керек. Менеджерлер деректердің, модельдердің, алгоритмдердің және шешімдердің тіркелуін қамтамасыз етуі керек, сонда олар тексеріліп, зиян келтірілді деп күдіктенген немесе болжанған жағдайларда нәтижелерді қайталауға болады. Жеке тұлғаларға, қоғамдық мүдделі ұйымдарға және зерттеушілерге жақсартуларды қарап шығуға және ұсынуға мүмкіндік беру үшін аудит стратегиялары жария етілуі керек».

8. «Жауапкершілік пен жауапкершілік: Мемлекеттік және жеке органдар олар қолданатын алгоритмдер арқылы қабылданған шешімдер үшін жауап беруі керек, тіпті бұл алгоритмдердің нәтижелерін қалай шығарғанын егжей-тегжейлі түсіндіру мүмкін болмаса да. Мұндай органдар берілген жүйені құрайтын жеке бөліктер үшін ғана емес, олардың нақты контекстінде орналастырылған бүкіл жүйелер үшін жауапты болуы керек. Автоматтандырылған жүйелерде ақаулар анықталған кезде, осы жүйелерді орналастыруға жауапты ұйымдар мәселені шешу үшін жасайтын нақты әрекеттерді құжаттауы керек және қандай жағдайларда мұндай технологияларды пайдалану тоқтатылуы немесе тоқтатылуы керек.

9. «Қоршаған ортаға әсерді шектеу: Алгоритмдік жүйелер қоршаған ортаға әсерлердің, соның ішінде оқудан және операциялық есептеулерден болатын көміртегі шығарындылары туралы есеп беру үшін құрастырылуы керек. AI жүйелері олар орналастырылған контекст талап ететін дәлдік дәрежесін ескере отырып, олардың көміртегі шығарындылары ақылға қонымды болуын қамтамасыз ету үшін жобалануы керек.

Сіз AI этикасының маңызды ережелерінің әрқайсысын мұқият және ертерек оқитыныңызға сенемін. Өтінемін, оларды жүрекке жақын қабылдаңыз.

қорытынды

ACM мәлімдемесінің нәзік, бірақ бірдей маңызды бөлігі бар, менің ойымша, көптеген адамдар байқаусызда назардан тыс қалдыруы мүмкін. Осыны назарларыңызға ұсынуға рұқсат етіңіздер.

Мен AI этикасының ережелерімен байланысты мәмілелерді өлшеуге тура келетін азапты жұмбақтарды талқылайтын бөлікті меңзеп отырмын. Көріп отырсыздар, адамдардың көпшілігі этикалық AI принциптерін оқығанда жиі бас изеп, бас изейді және барлық өсиеттердің салмағы бірдей деп есептейді және барлық өсиеттерге әрқашан құрмет пен құндылықтың бірдей оңтайлы көрінісі беріледі.

Шынайы әлемде емес.

Резеңке жолға шыққанда, тіпті аздаған күрделілігі бар кез келген AI түрі кейбір басқа принциптерге қарағанда жеткілікті түрде қол жеткізуге болатын кейбір элементтерге қатысты AI этикасының ережелерін қатты сынап көреді. Сіз барлық AI этикасының барлық ережелерін барынша арттыру керек деп қатты дауыстап айтуыңыз мүмкін екенін түсінемін, бірақ бұл әсіресе шынайы емес. Егер бұл сіз ұстанғыңыз келетін стенд болса, AI жасаушылар мен пайдаланушылардың көпшілігіне немесе барлығына дерлік дүкенді жауып, AI-дан мүлдем бас тартуды айтуыңыз керек деп айтуға батылы барады.

AI есіктен шығу үшін ымыраға келу керек. Айтуынша, мен AI этикасының ережелерін бұзатын бұрыштарды кесуді жақтамаймын немесе олар AI заңдарын бұзуы керек дегенді білдірмеймін. Белгілі бір минимум орындалуы керек және одан жоғары мақсат - көбірек ұмтылу. Ақыр соңында, теңгерімді мұқият бағалау керек. Бұл теңдестіру әрекеті ақылмен, анық, заңды түрде және AI этикасына адал және шынайы сенім ретінде жасалуы керек (сіз компаниялар осы салтанатты тәсілді қолдану үшін AI этика кеңестерін қалай қолданатынын көргіңіз келуі мүмкін, қараңыз. сілтеме осында).

Міне, ACM декларациясында келіссөздердің күрделілігі туралы айтылған кейбір таңбаланған нүктелер (ресми құжаттан алынған):

• «Шешімдер күрделілікке немесе шығынға әсер етсе де, шешілетін мәселеге пропорционалды болуы керек (мысалы, қарапайым болжау тапсырмасы үшін қоғамдық бейнебақылауды пайдаланудан бас тарту).»
• «Өнімділік көрсеткіштерінің кең ауқымын қарастыру керек және қолданба доменіне қарай әртүрлі өлшенуі мүмкін. Мысалы, кейбір денсаулық сақтау қолданбаларында жалған негативтердің әсері жалған позитивтерге қарағанда әлдеқайда нашар болуы мүмкін, ал қылмыстық сот төрелігінде жалған позитивтердің салдары (мысалы, жазықсыз адамды түрмеге жабу) жалған негативтерге қарағанда әлдеқайда нашар болуы мүмкін. Операциялық жүйені орнатудың ең қолайлысы ең жоғары дәлдікпен сирек кездеседі».
• «Құпиялылыққа, коммерциялық құпияларды қорғауға немесе зиянды тұлғаларға жүйені ойнауға мүмкіндік беретін аналитиканың ашылуына қатысты алаңдаушылық білікті тұлғаларға қолжетімділікті шектеуді негіздей алады, бірақ олар үшінші тараптың тексеруін шектеуді ақтау немесе әзірлеушілерді міндеттемеден босату үшін пайдаланылмауы керек. қателерді мойындау және жөндеу».
• «Транспаренттілік алгоритмдік жүйе әсер еткен мүдделі тараптарға келтірілген зиян үшін мағыналы өтемақы іздеуге мүмкіндік беретін есеп беру процестерімен жұптастырылуы керек. Транспаренттілік жүйені заңдастыру немесе жауапкершілікті басқа тараптарға беру үшін пайдаланылмауы керек».
• «Жүйенің әсері жоғары болған кезде, түсінікті жүйе жақсырақ болуы мүмкін. Көп жағдайда түсіндірмелілік пен дәлдік арасында айырбас жоқ. Алайда кейбір контексттерде дұрыс емес түсініктемелер түсініктеме бермеуден де нашар болуы мүмкін (мысалы, денсаулық сақтау жүйесінде симптом бір ғана емес, көптеген ықтимал ауруларға сәйкес келуі мүмкін).

Жасанды интеллектіні дамытатын немесе қолданатындар өздеріне тап болатын келіссөздерді анық түсінбеуі мүмкін. Фирманың жетекші жетекшілері AI барлық AI этикасының принциптері бойынша максимумдарға сәйкес келеді деп аңғал түрде болжауы мүмкін. Олар бұған сенеді, өйткені олар AI туралы білмейді, немесе олар бұған сенгісі келеді және AI-ны оңай қабылдау үшін көзді қысып жатқан шығар.

Ықтималдығы мынада: келіссөздерге айтарлықтай және ашық қарсы тұра алмау зиян келтіретін AI-мен аяқталады. Бұл зияндар өз кезегінде фирманы әлеуетті ауқымды міндеттемелерге ашуы мүмкін. Бұған қоса, кәдімгі заңдар АИ-мен байланысты болуы мүмкін қылмыстық әрекеттерге, сонымен қатар оған қатысты жаңа AI-ға бағытталған заңдарға қатысты болуы мүмкін. Бір тонна кірпіш ымыраға келе аламын деп ойлайтындардың немесе келіссөздердің бар екенін білмейтіндердің бастарын күтуде (мүмкіндіксіз шешім оларға түседі).

Мен осы тақырып бойынша соңғы сөзді ACM мәлімдемесінің қорытынды аспектісіне беремін, өйткені менің ойымша, бұл этикалық AI ережелері макроскопиялық тұрғыдан нені көрсетуге бағытталғанын түсіндірудің сенімді жұмысын атқарады:

• «Жоғарыдағы ұсыныстар алгоритмдік жүйелерді жауапты жобалауға, әзірлеуге және пайдалануға бағытталған; жауапкершілік заңмен және мемлекеттік саясатпен белгіленуі тиіс. Алгоритмдік жүйелердің күшеюі және оларды өмірлік маңызды және салдарлы қолданбаларда пайдалану оларды пайдалануда өте мұқият болу керек екенін білдіреді. Бұл тоғыз құралдық қағидат сенімділікті, қауіпсіздікті және жауапкершілікті көтермелей отырып, пайдаланушылардың кең ауқымына пайда әкелу үшін талқылауларды бастауға, зерттеулерді бастауға және басқару әдістерін әзірлеуге шабыттандырады. Сайып келгенде, бұл барлық әсер ететін мүдделі тараптардың өкілдерімен бірлесіп алгоритмдік жүйені дұрыс жобалау мен пайдалануды анықтайтын нақты контекст» (ресми құжаттан алынған).

Дана сөздер бізге ақылмен айтқандай, мың шақырымдық жол алғашқы қадамнан басталады.

Мен сізге AI этикасы және AI заңымен танысуыңызды өтінемін, кез келген бірінші қадамды жасай отырып, сізді бастауға мүмкіндік береді, содан кейін осы өмірлік маңызды істерді алға жылжытуға көмектесіңіз. Әдемілігі мынада, біз әлі де AI-ны қалай басқаруға және оны қоғамда жеңуге болатынын анықтаудың сәби кезеңіндепіз, осылайша сіз бірінші қабатқа кірдіңіз және сіздің күш-жігеріңіз сіздің болашағыңыз бен болашағымызды айқындай алады.

AI саяхаты енді ғана басталды және маңызды алғашқы қадамдар әлі де жүріп жатыр.