Қауіпсіздік жөніндегі сарапшы Бар Ланядо жақында генеративті AI үлгілері бағдарламалық жасақтаманы әзірлеу әлеміндегі үлкен ықтимал қауіпсіздік қатерлеріне абайсызда қалай ықпал ететіні туралы біраз зерттеулер жүргізді. Ланядоның мұндай зерттеулері алаңдатарлық тенденцияны анықтады: AI ойдан шығарылған бағдарламалық жасақтама пакеттерін ұсынады, ал әзірлеушілер оны тіпті білмей-ақ өздерінің кодтық базаларына қосады.
Мәселе ашылды
Енді мәселе мынада, генерацияланған шешім жалған атау болды - AI-ға тән нәрсе. Дегенмен, бұл жалған пакет атаулары AI үлгілерімен бағдарламалау қиынға соғатын әзірлеушілерге сенімді түрде ұсынылады. Шынында да, кейбір ойлап табылған пакет атаулары ішінара адамдарға негізделген, мысалы, Ланядо, ал кейбіреулері алға басып, оларды нақты пакеттерге айналдырды. Бұл, өз кезегінде, ықтимал зиянды кодтың нақты және заңды бағдарламалық жасақтама жобаларына кездейсоқ қосылуына әкелді.
Осы әсерге ұшыраған бизнестің бірі Alibaba болды, технология индустриясының негізгі ойыншыларының бірі. GraphTranslator орнату нұсқауларында Ланядо Alibaba жалған жасалған «huggingface-cli» пакетін қосқанын анықтады. Шындығында, Python пакетінің индексінде (PyPI) орналастырылған дәл осындай атаумен нақты пакет болды, бірақ Alibaba нұсқаулығы Ланядо жасаған пакетке сілтеме жасады.
Табандылықты сынау
Ланядоның зерттеулері осы AI-генерацияланған пакет атауларының ұзақ өмір сүруін және ықтимал пайдалануын бағалауға бағытталған. Осы мағынада, LQuery бұл жалған атаулар тиімді түрде жүйелі түрде ұсынылғанын түсіну процесінде бағдарламалау қиындықтары туралы және тілдер арасындағы әртүрлі AI үлгілерін орындады. Бұл эксперимент зиянды нысандардың зиянды бағдарламалық жасақтаманы тарату үшін AI жасаған пакет атауларын теріс пайдалану қаупі бар екені анық.
Бұл нәтижелердің терең салдары бар. Нашар актерлар әзірлеушілер қабылданған ұсыныстарға сенімсіздікпен пайдаланылуы мүмкін, осылайша олар зиянды пакеттерді жалған сәйкестіктермен жариялай бастайды. Жасанды интеллект үлгілерімен қауіп бейтаныс әзірлеушілер зиянды бағдарлама ретінде кіретін ойлап табылған пакет атаулары үшін тұрақты AI ұсыныстарын жасау арқылы артады. **Алға жол**
Сондықтан, жасанды интеллект бағдарламалық жасақтаманы әзірлеумен одан әрі интеграцияланған сайын, егер AI жасаған ұсыныстармен байланысты болса, осалдықтарды түзету қажеттілігі туындауы мүмкін. Мұндай жағдайларда біріктіру үшін ұсынылған бағдарламалық пакеттер заңды болуы үшін тиісті тексеру жүргізілуі керек. Сонымен қатар, ол бағдарламалық жасақтаманың репозиторийін орналастыратын платформаның тексерілуі және зиянды сапа кодын таратпауы үшін жеткілікті күшті болуы керек.
Жасанды интеллект пен бағдарламалық жасақтаманы әзірлеудің қиылысы қауіпсіздікке қатысты қатер ашты. Сондай-ақ, AI моделі бағдарламалық жасақтама жобаларының тұтастығына үлкен қауіп төндіретін жалған бағдарламалық пакеттердің кездейсоқ ұсынылуына әкелуі мүмкін. Alibaba өзінің нұсқауларында ешқашан болмаған қорапты қосқаны факті, адамдар роботтық түрде ұсыныстарды орындаған кезде мүмкіндіктердің қалай пайда болатынының тұрақты дәлелі.
АИ берген. Болашақта бағдарламалық жасақтаманы әзірлеу үшін AI-ны теріс пайдаланудан сақтану үшін белсенді шараларда қырағылық қажет болады.
Дереккөз: https://www.cryptopolitan.com/ai-generated-software-packages-threats/