Сіздің ұйымыңызға сыртқы алгоритм бағалаушылары қажет болатын 3 себеп

Сатта Сармах-Хайтоуэр

Бизнес көшбасшылары жасанды интеллекттен (AI) мүмкін болатын барлық құндылықты сығып жатыр. 2021 жылғы KPMG зерттеуінің нәтижесі Үкіметтің, өнеркәсіптік өндірістің, қаржылық қызметтердің, бөлшек сауданың, өмір туралы ғылымның және денсаулық сақтау саласының жетекшілерінің көпшілігі AI кем дегенде олардың ұйымдарында қалыпты жұмыс істейтінін айтады.. Зерттеу сонымен қатар респонденттердің жартысы олардың ұйымы Ковид-19 пандемиясына жауап ретінде AI қабылдауды жылдамдатқанын айтады. AI қабылданған ұйымдарда кем дегенде жартысы технология күткеннен асып түсті деп айтады.

Жасанды интеллект алгоритмдері қазіргі уақыттағы әртүрлі өзара әрекеттесулер мен инновациялар үшін жауапты болып келеді. өнімнің ұсыныстары және клиенттерге қызмет көрсету банктерге тәжірибе несиелеу туралы шешімдер және тіпті полицияның жауабы.

Бірақ олар ұсынатын барлық артықшылықтарға қарамастан, AI алгоритмдері тұрақтылық, әділдік, түсінікті және тұтастық үшін тиімді бақыланбаса және бағаланбаса, үлкен тәуекелдермен келеді. Бизнес көшбасшыларына AI мониторингі мен бағалауына көмектесу үшін жоғарыда келтірілген зерттеу көрсеткендей, а Өсіп келе жатқан бизнес көшбасшылары ұйымдарға дұрыс технологиялар мен бизнес-процестерге инвестициялауға мүмкіндік беру үшін үкіметтің AI-ны реттеуін қалайды. Қажетті қолдау мен қадағалау үшін мұндай қызметтерді көрсету тәжірибесі бар қызмет провайдері ұсынатын сыртқы бағалауларды қарастырған жөн. Мұнда үш себеп бар.

1. Алгоритмдер «қара жәшіктер»

Мәселелерді шешу және тапсырмаларды оңтайландыру үшін деректерден үйренетін AI алгоритмдері жүйелерді ақылдырақ етеді, бұл оларға адамдардан әлдеқайда жылдамырақ түсініктерді жинауға және жасауға мүмкіндік береді.

Дегенмен, кейбір мүдделі тараптар бұл алгоритмдерді «қара жәшіктер» деп санайды, - деп түсіндіреді KPMG жетекші кәсіби қызмет көрсету фирмасының аудит жөніндегі басқарушы директоры Дрю Розен. Атап айтқанда, кейбір мүдделі тараптар алгоритмнің белгілі бір шешімге қалай келгенін түсінбеуі мүмкін, сондықтан бұл шешімнің әділдігі мен дәлдігіне сенімді болмауы мүмкін.

«Алгоритмнен алынған нәтижелер бұрмалануға және нәтижелерді бұрмалауға бейім болуы мүмкін», - дейді Розен. «Бұл сондай-ақ субъект үшін кейбір тәуекелдерге әкелуі мүмкін, өйткені олар осы нәтижелерді пайдаланады және [оларды] жұртшылықпен және олардың мүдделі тараптарымен бөліседі».

Мысалы, қате деректерді пайдаланатын алгоритм ең жақсы жағдайда тиімсіз, ал ең нашар жағдайда зиянды. Бұл іс жүзінде қандай болуы мүмкін? Пайдаланушыларға қате тіркелгі ақпаратын беретін AI негізіндегі чатботты немесе мәтінді қате аударатын автоматтандырылған тілді аудару құралын қарастырыңыз. Екі жағдай да мемлекеттік құрылымдар немесе компаниялар үшін, сондай-ақ сол алгоритмдер қабылдаған шешімдерге сенетін құрамдас бөліктер мен тұтынушылар үшін елеулі қателер немесе қате түсіндірмелерге әкелуі мүмкін.

Қара жәшік мәселесінің тағы бір себебі - AI үлгілерінің дамуына тән бейімділік сіңіп, біржақты шешім қабылдауды тудыруы мүмкін. Несие берушілер, мысалы, несиелік шешім қабылдау үшін әлеуетті қарыз алушылардың несиелік қабілетін болжау үшін AI-ды көбірек пайдаланады. Дегенмен, әлеуетті қарыз алушының несиелік ұпайы сияқты АИ-ге негізгі деректер енгізілгенде тәуекел туындауы мүмкін. материалдық қатесі бар, бұл жеке тұлғаларға несие беруден бас тартуға әкелді.

Бұл бейтарап бағалаушы ретінде қызмет ете алатын және алгоритмді қуаттайтын тарихи деректер мен болжамдардың өзектілігі мен сенімділігінің қабылданған критерийлерге негізделген бағдарланған бағасын бере алатын сыртқы бағалаушының қажеттілігін көрсетеді.

2. Мүдделі тараптар мен реттеушілер ашықтықты талап етеді

2022 жылы жауапты AI үшін ағымдағы есеп беру талаптары болған жоқ. Алайда, Розен былай дейді: «басқарушы органдар ESG [экологиялық, әлеуметтік және басқару] реттеуін қалай енгізгені сияқты. белгілі бір ESG көрсеткіштері туралы есеп, Жауапты жасанды интеллектке қатысты қосымша есеп беру талаптарын көретініміз уақыт мәселесі».

Шын мәнінде, 1 жылдың 2023 қаңтарынан бастап Нью-Йорк қаласында Жергілікті заң 144 Жұмыспен қамту туралы шешім қабылдаудың автоматтандырылған құралын пайдаланбас бұрын объективті аудит жүргізуді талап етеді.

Ал федералды деңгейде 2020 жылғы Ұлттық жасанды интеллект бастамасы туралы акт— ол а негізінде құрылады 2019 ж— AI техникалық стандарттары мен нұсқауларына назар аударады. Оған қоса, Алгоритмдік есеп беру туралы заң автоматтандырылған шешімдер жүйелері мен кеңейтілген маңызды шешімдер қабылдау процестеріне әсер етуді бағалауды талап етуі мүмкін. Ал шетелде, Жасанды интеллект туралы заң AI қауіпсіздігі, сәйкестік, басқару және сенімділік бойынша нақты мақсаттары бар кешенді нормативтік базаны ұсынатын ұсынылды.

Бұл ауысымдармен ұйымдар басқару микроскопында болады. Алгоритм бағалаушысы реттеуші талаптарға жауап беретін және мүдделі тараптардың дұрыс түсіндірмеу немесе қате түсіндіру қаупін болдырмай, мүдделі тараптардың ашықтығын арттыратын есептерді ұсына алады. адастырған бағалау нәтижелері бойынша.

3. Компаниялар ұзақ мерзімді тәуекелдерді басқарудан пайда көреді

KPMG технологияларды қамтамасыз ету тәжірибесінің серіктесі Стив Камара, субъектілер процестерді автоматтандыруды, тұтынушылар тәжірибесін жақсартатын инновацияларды дамытуды және AI дамуын бизнес функцияларына таратуды жалғастыра отырып, AI инвестициялары өсе береді деп болжайды. Бәсекеге қабілетті және кірісті болу үшін ұйымдарға AI-ның дереу кемшіліктерін жойып қана қоймай, сонымен қатар AI-мен жұмыс істейтін бизнес операцияларымен байланысты кез келген ұзақ мерзімді тәуекелдерді азайтатын тиімді бақылау қажет болады.

Бұл жерде сыртқы бағалаушылар сенімді, білімді ресурс ретінде әрекет етеді. Ұйымдар AI тұтастығын бизнесті қамтамасыз етуші ретінде көбірек қабылдайтындықтан, серіктестік арнайы қызметтен азайып, тұрақты ынтымақтастыққа айналуы мүмкін, деп түсіндіреді Камара.

«Біз AI-ны тұрақты негізде дамытатын және іске асыратын ұйымдар мен объективті сыртқы бағалаушы арасында үздіксіз қарым-қатынас болуы қажет болатын алға қарай жолды көріп отырмыз», - дейді ол.

Келесі нәрсеге көзқарас

Болашақта ұйымдар, мысалы, жаңа үлгілерді әзірлеу, жаңа деректер көздерін қабылдау, үшінші тарап жеткізушілерінің шешімдерін біріктіру немесе жаңа сәйкестік талаптарын шарлау кезінде сыртқы бағалауларды циклдік негізде қолдануы мүмкін.

Қосымша реттеу және сәйкестік талаптары міндетті болған кезде, сыртқы бағалаушылар ұйымның осы талаптарға қатысты AI-ны қаншалықты жақсы қолданғанын немесе пайдаланғанын тікелей бағалау үшін қызметтерді ұсына алады. Бұл бағалаушылар бағалау нәтижелерін анық және дәйекті түрде бөлісу үшін ең жақсы жағдайға ие болады.

Технологияны пайдалану, сонымен қатар оның шектеулерінен қорғану үшін ұйым алгоритмдерді қолдану кезінде үлкен мөлдірлікті көрсету үшін сене алатын есептерді беру үшін сыртқы бағалаушыларды іздеуі керек. Осы жерден ұйым да, мүдделі тараптар да AI күшін және оның шектеулерін жақсырақ түсіне алады.