Сенаторлар Meta компаниясының бас директоры Цукербергке LLaMA AI моделіне қатысты сұрақ қойды.

Екі сенатор Кросс Цукербергтен LLaMA AI моделінің ағып кетуіне қатысты сұрақ қойып, метаны қауіпсіздік шараларын сақтамады деп айыптады. Метаға оның қауіпсіздік саясаты мен алдын алу шаралары туралы сұрақ қойылды.

Мета «ағып кету» үшін жауапты болады

Жақында Meta-ның жаңашыл үлкен тіл моделі LLaMA жарияланып, осыған қатысты алаңдаушылықтар туындады. Сенат Ричард Блументаль (D-CT), Сенаттың Құпиялылық, технология және заң жөніндегі кіші комитетінің төрағасы және рейтинг мүшесі Джош Хоули (R-MO) AI моделінің таралуына қатысты сұрақтар туғызған хат жазды. 

Сенаторлар бұл ағып кету спам, алаяқтық, зиянды бағдарлама, құпиялылықты бұзу, қудалау және басқа да заң бұзушылықтар мен зиян сияқты әртүрлі киберқылмыстарға әкелуі мүмкін деп қорқады. Көптеген сұрақтар туындайды және екі саясаткер Метаның қауіпсіздік жүйесіне қатты қызығушылық танытады. Олар LLaMA-ны іске қоспас бұрын тәуекелді бағалау үшін қандай процедура орындалғанын сұрады. Олар модельдің қол жетімділігінде теріс пайдаланудың алдын алу үшін қолданылатын саясаттар мен тәжірибелерді түсінуге өте ынталы екенін айтты.

Метаның өз сұрақтарына берген жауаптарына сүйене отырып, сенаторлар Метаны дұрыс емес цензураға және модель үшін қауіпсіздік шаралары жеткіліксіз деп айыптады. Open AI ChatGPT этика мен нұсқауларға негізделген кейбір сұрауларды қабылдамайды. Мысалы, ChatGPT біреудің ұлының атынан хат жазып, қиын жағдайдан шығу үшін біраз ақша сұраса, ол өтінішті қабылдамайды. Екінші жағынан, LLaMA сұранысты орындайды және хатты жасайды. Ол сондай-ақ өзіне зиян келтіру, қылмыс және антисемитизмді қамтитын сұрауларды аяқтайды.

LLaMA-ның әртүрлі және бірегей ерекшеліктерін түсіну өте маңызды. Бұл ерекше ғана емес, сонымен қатар бүгінгі күнге дейінгі ең кең ауқымды Үлкен тіл үлгілерінің бірі. Бүгінгі таңда танымал цензурасыз LLM дерлік LLaMA негізінде жасалған. Бұл ашық бастапқы модель үшін өте күрделі және дәл. Кейбір LLaMA негізіндегі LLM мысалдары Стэнфорд Альпакасы, Викуна, т.б. болып табылады. LLaMA LLM-лерді бүгінгідей етуде маңызды рөл атқарды. LLaMA пайдалылығы төмен чат-боттардың нақты реттелген режимдерге эволюциясына жауап береді.

LLaMA ақпан айында шығарылды. Сенаторлардың айтуынша, Meta зерттеушілерге модельді жүктеп алуға рұқсат берді, бірақ орталықтандыру немесе кіруді шектеу сияқты қауіпсіздік шараларын қолданбады. Дау LLaMA-ның толық моделі BitTorrent-те пайда болған кезде пайда болды. Бұл модельді кез келген адам үшін қолжетімді етті. Бұл AI моделінің сапасындағы ымыраға әкелді және оны дұрыс пайдаланбау мәселелерін көтерді. 

Сенаторлар бастапқыда «ағып кету» бар-жоғын білмеді. Бірақ Интернетті стартаптар, ұжымдар және академиктер бастаған AI әзірлемелерімен толтырған кезде мәселелер туындады. Хатта Метаның LLaMA-ны ықтимал теріс пайдалануы үшін жауапты болуы керек және шығарылғанға дейін ең аз қорғау шаралары туралы қамқорлық жасау керектігі айтылған.

Мета LLaMA салмақтарын зерттеушілерге қол жетімді етті. Өкінішке орай, бұл салмақтар ағып кетті, бұл бірінші рет жаһандық қол жеткізуге мүмкіндік берді.

Ритика Шарманың соңғы жазбалары (барлығын көру)