Пентагонның өлтіруші роботтарға қатысты жаңартылған саясаты қандай?

Пентагон мәлімдеме жасады 3000.09 директивасына жаңарту, олар не деп атайды Қару-жарақ жүйелеріндегі автономия және басқалар ' деп атайдыөлтіруші роботтар.' Әуе күштері мен ЦРУ сияқты қазіргі дрондар MQ-9 орақтары қашықтан басқару пульті арқылы басқарылады: адам бейне экранның алдында отыру мыңдаған миль қашықтағы жердегі нысаналарды анықтайды, оларды крестке орналастырады және Тозақ зымыраны немесе басқа қару. Автономды қарулар әртүрлі: олар ешқандай адамның араласуынсыз өз нысандарын таңдайды. Оларды қашан және қалай пайдалануға болатыны туралы нақты ережелер қажет және жаңа директива оларды бір қадам жақындатады.

Он жыл бұрын 3000.09 бірінші нұсқасы шыққан кезде автономды қарулар ғылыми фантастикаға ұқсайтын. Қазір олар өте шынайы. Бұл туралы БҰҰ мәлімдеді Түркиядан жеткізілген ұшқышсыз ұшақтар нысанаға автономды түрде шабуыл жасады 2020 жылы Ливияда және Ресей қазір Украинада оқ-дәрілерді орналастыруда. автономды қабілет.

Көптеген белсенділер сияқты Киллер роботтарын тоқтату науқаны, автономды қаруға тікелей тыйым салуды қалайды, кез келген қашықтағы қарудың астында қалады мағыналы адам бақылауы барлық кезде. БҰҰ қалай болатынын талқылап жатыр мұндай қаруларды көптеген жылдар бойы бақылау.

Дегенмен, жаңа директива анық көрсеткендей, Пентагон басқа сызықты ұстанады.

«DoD автономды жүйелерге де, AI жүйелеріне де қатысты «мағыналы адам бақылауы» саясатының стандартына үнемі қарсы болды», - деді ол. Грегори Аллен, AI басқару жобасының директоры Стратегиялық және халықаралық зерттеулер орталығы, маған айтты. «Таңдаулы DoD өнер термині «адам пікірінің сәйкес деңгейлері» болып табылады, бұл кейбір жағдайларда – автономды бақылау ұшағы және автономды кибер қарудың кейбір түрлері, мысалы – адам бақылауының тиісті деңгейі аз болуы мүмкін екенін көрсетеді. .”

Қандай жағдайларда қандай автономды қаруларға рұқсат етіледі? Аллен директиваның алдыңғы нұсқасы соншалықты түсініксіз болғандықтан, бұл саладағы кез келген дамуға кедергі келтірді деп санайды.

«Шатасулардың кең таралғаны, соның ішінде кейбір DoD аға басшыларының арасында - шенеуніктер саясатпен рұқсат етілмеген, сонымен қатар аға қарау талабынан ашық түрде босатылған кейбір жүйелерді әзірлеуден бас тартты», - дейді Аллен.

Жарияланған он жыл ішінде 3000.09 түпнұсқасында көрсетілген автономды қаруларды қарау процесіне бірде-бір қару ұсынылмады.

Аллен жазды бұл туралы эссе өткен жылы CSIS үшін жұмысты қажет ететін төрт бағытты сипаттайды - автономды қару жүйелерін ресми түрде анықтау, саясат үшін «AI-қосылған» деген нені білдіретінін айту, машинаны оқыту үлгілерін қайта оқытуды тексеру процесі және қарудың қандай түрлерін қажет ететінін түсіндіру. қиын тексеру процесінен өту.

«DoD олардың барлығын жүзеге асырды», - дейді Аллен.

Негізінде, бұл DoD терминінің «автономды жүйелерді әскери пайдалануға қатысты жауапты саясатты құруда ашық жаһандық көшбасшы болуға берік және үздіксіз міндеттеме» дегенді қамтамасыз етуі керек.

Дегенмен, олқылықтар ретінде қарастырылуы мүмкін кейбір толықтырулар бар, мысалы, адамдарды нысанаға алмайтын («материалдық қаруға») және зымырандарды, басқа ұшқышсыз ұшақтарды нысанаға алуға рұқсат етілген ұшқышсыз ұшақтарды қорғайтын автономды қаруларды жоғары сараптаудан босату. және ықтимал басқа жүйелер.

«Қорғау» сөзі көп жұмыс істейді» Зак Калленборн, деп маған Джордж Мейсон университетінің Шар саясат және үкімет мектебінің саясаткері айтты. «Егер дрон жау аумағында жұмыс істеп тұрса, кез келген дерлік қару платформаны «қорғау» ретінде қарастырылуы мүмкін».

Калленборн сонымен қатар миналар сияқты тиімді автономды қарулар бір ғасырдан астам уақыт бойы қолданылып келе жатқанымен, AI және арнайы машиналық оқытудағы жетістіктерге байланысты ландшафт тез өзгеріп жатқанын атап өтеді. Бұл өте қабілетті жүйелерді тудырды, бірақ техникалық сынғыш – олар сәтсіздікке ұшыраған кезде, мысалы, ешбір адам істемейтіндей керемет сәтсіздікке ұшырайды тасбақаны мылтықпен қателесу.

«Қазіргі кездегі басым әдістердің сынғыштығы мен түсініксіздігін ескере отырып, AI арқылы автономия көбірек алаңдауға тұрарлық», - дейді Калленборн.

Жаңарту үлкен емес. Бірақ бұл Пентагонның тиімді автономды қару-жарақтарды әзірлеуге деген ұмтылысын және олар сәйкес келетін сенімін көрсетеді. халықаралық гуманитарлық құқық — бейбіт тұрғындарды әскери қызметкерлерден ажырату, бейбіт тұрғындарға зиян келтірмеуге ұмтылу және тек пропорционалды және қажетті күш қолдану.

Науқаншылар AI соғыс уақытында моральдық пайымдаулар жасау үшін қажетті түсінікке ие болмайды және соғыс автоматтандырылған және адамдар бұдан былай басқармайтын әлемді құру қаупі бар деп санайды. Басқалары АҚШ әскері болады деп сенеді автономды қаруы бар қарсыластардан асып түсті егер AI тактикалық деңгейде енгізілмесе және адамның тым көп қатысуы болмаса әскери роботтарды баяулатады.

Аргумент автономды қарулар пайда бола бастаған кезде де жалғасуы мүмкін және нәтижелер мұқият қадағаланатын болады. Қалай болғанда да, өлтіруші роботтар келе жатқан сияқты.