Осы генеративті AI ChatGPT қате және галлюцинаторлық нәтижелерін ашу және тіркеу жақсы нәтиже бере ме, AI этикасы мен AI заңын сұрайды

Сіз құпияға ілесесіз.

Иә, сіз білгіңіз келетін соңғы AI туралы сахнаның артында жасырын нәрсе бар.

Бүгінгі бағанда мен ChatGPT деп аталатын AI қолданбасынан шығарылған эсселерге қатысты болжамды қателер мен басқа ауруларды құрастырудың соңғы серпінін қарастыратын боламын. Бұл арнайы қолданба AI түрін пайдаланады Ұрпақты AI. Сіз генеративті AI және ChatGPT туралы көз тартатын тақырыптарды естіген немесе көрген шығарсыз. Жаңалық осы нақты AI қолданбасы және АИ-нің осы түріне қатысты таңғаларлық көрінетін мүмкіндіктері туралы алаңдатады.

Біраз уақыттан кейін қарастыратын боламын, кейбіреулер AI қолданбасы сізге эссе жасаған кезде қандай қателер немесе қателер тудыруы мүмкін екенін анықтауымыз керек деп сенеді. Басқалары мұндай тізімнің түсінігі таңданарлық болса да, бұл бос жаттығу және өте аз жеміс береді деп болжайды.

Біз бұл қызу пікірталастың екі жағын да қарастыратын боламыз.

Алдымен, генеративті AI неден тұратыны және ChatGPT не туралы екендігі туралы бәріміз бір бетте екенімізді тексерейік.

ChatGPT - бұл жалпы мақсаттағы AI интерактивті сөйлесуге бағытталған жүйе, шын мәнінде зиянсыз болып көрінетін жалпы чат-бот, дегенмен оны адамдар белсенді және ынталы түрде қолданады, бұл көптеген адамдарды мүлдем күтпейді. Бұл AI түрін пайдалану үшін сізге тек сұрауды енгізу қажет және AI қолданбасы сіздің сұрауыңызға жауап беруге тырысатын эссе жасайды.

Өкінішке орай, бұл әдепсіз немесе жалған тәсілдермен қолданылуы мүмкін. Әсіресе ашуландыратын мәселе, студенттер өздерінің тағайындалған эсселерін жасау үшін генеративті негізделген AI қолданбасын пайдалана алады және қолданбаны дұрыс бағытта алу үшін жай ғана бір-екі сөйлемді енгізе алады. Кейбіреулер бұл студенттердің сабақтан тыс эссе жазғанда алдауды таңдайтынын білдіреді деп қынжылады. Мұғалімдер не істеу керектігін анықтауға тырысуда, менің талдауларымды және ұсыныстарымды мына жерден қараңыз сілтеме осында.

ChatGPT үшін үнемі мақтауға тұрарлық мақтауға қарамастан, ең алдымен AI инсайдерлері адамдарды алаңдатуы керек кейбір маңызды мәселелер мен алаңдаушылықтар бар деген аз белгілі алаңдаушылық бар. Бір маңызды кемшілігі - бұл AI қолданбасы шығарған эсселерде әртүрлі жалған мәліметтер, соның ішінде ашық шындыққа сәйкес келмейтін фактілер, жаңылыстырып бейнеленген фактілер және толығымен ойдан шығарылған анық фактілер болуы мүмкін. Бұл ойдан шығарылған аспектілер көбінесе нысаны деп аталады AI галлюцинациялары, маған ұнамайтын, бірақ өкінішке орай, бәрібір танымал тартымдылыққа ие болып жатқан сияқты (бұл неліктен жағымсыз және жарамсыз терминология туралы егжей-тегжейлі түсініктеме алу үшін менің қамтуды қараңыз. сілтеме осында).

Мен осы тақырыптың тереңіне кірмес бұрын бір маңызды аспектіні анықтағым келеді.

Бұл туралы әлеуметтік желілерде кейбір шамадан тыс шағымдар болды Ұрпақты AI AI-ның бұл соңғы нұсқасы шын мәнінде екенін айтады сезімтал AI (жоқ, олар қателеседі!). Жасанды интеллект этикасы және AI заңы саласындағылар бұл кеңейтілген талаптардың өсіп келе жатқан үрдісіне ерекше алаңдайды. Сіз сыпайы түрде кейбір адамдар бүгінгі AI шынымен не істей алатынын асыра айтып жатыр деп айтуыңыз мүмкін. Олар AI-ның біз әлі қол жеткізе алмаған мүмкіндіктері бар деп есептейді. Бұл өкінішті. Ең сорақысы, олар AI әрекет ете алатындай сезімтал немесе адамға ұқсас болады деген болжамға байланысты өздеріне және басқаларға ауыр жағдайға душар болуы мүмкін.

AI-ны антропоморфизацияламаңыз.

Бұл сізді AI орындай алмайтын нәрселерді жасайды деп күтудің жабысқақ және ыңғайсыз тұзағына түседі. Осыған орай, генеративті AI-ның соңғысы оның не істей алатыны үшін салыстырмалы түрде әсерлі. Кез келген генеративті AI қолданбасын пайдалану кезінде үнемі есте ұстауыңыз керек маңызды шектеулер бар екенін ескеріңіз.

Егер сізді ChatGPT және Generative AI туралы тез дамып келе жатқан әбігерге қызығушылық танытсаңыз, мен өзімнің бағанымда сізге пайдалы болуы мүмкін серияларды жасадым. Осы тақырыптардың кез келгені сізді қызықтыратын жағдайға шолу:

• 1) Генеративті AI жетістіктері туралы болжамдар. Егер сіз 2023 жылы және одан кейінгі уақытта AI туралы не болатынын, соның ішінде генеративті AI және ChatGPT-тегі алдағы жетістіктерді білгіңіз келсе, менің 2023 жылға арналған болжамдарымның толық тізімін мына жерден оқығыңыз келеді. сілтеме осында.
• 2) Генеративті AI және психикалық денсаулық бойынша кеңес. Мен генеративті AI және ChatGPT психикалық денсаулыққа кеңес беру үшін қалай қолданылғанын қарап шығуды таңдадым, бұл проблемалық тренд. сілтеме осында.
• 3) Контекст және генеративті AI пайдалану. Мен сондай-ақ ChatGPT және генеративті AI қамтитын Аяз атаға қатысты контекст туралы маусымдық хош иістендіргіш тілмен тексеру жүргіздім. сілтеме осында.
• 4) Генеративті AI қолданатын алаяқтар. Бір өкініштісі, кейбір алаяқтар генеративті AI мен ChatGPT-ті заңсыз әрекеттер жасау үшін, соның ішінде алаяқтық электрондық пошталарды жасау және тіпті зиянды бағдарламаларға арналған бағдарламалау кодын жасау үшін қалай пайдалану керектігін түсінді, менің талдауымды қараңыз: сілтеме осында.
• 5) Генеративті AI пайдаланудағы жаңа команданың қателері. Көптеген адамдар генеративті AI және ChatGPT не істей алатынын шектен тыс және таңқаларлық түрде төмендетеді, сондықтан мен әсіресе AI жаңашылдары жасайтын кемшіліктерді қарастырдым, талқылауды мына жерден қараңыз. сілтеме осында.
• 6) Генеративті AI шақыруларымен және AI галлюцинацияларымен күресу. Мен генеративті AI-ға сәйкес шақыруларды енгізу әрекетімен байланысты әртүрлі мәселелерді шешу үшін AI қондырмаларын пайдаланудың алдыңғы қатарлы тәсілін сипаттаймын, сонымен қатар AI галлюцинацияланған нәтижелер мен жалған мәліметтерді анықтауға арналған қосымша AI қондырмалары бар. бойынша қамтылған сілтеме осында.
• 7) Жасанды AI шығарған эсселерді анықтау туралы Bonehead шағымдарын жоққа шығару. Кез келген эссенің AI жасаған немесе адам жасағанын анықтау мүмкіндігін жариялайтын AI қолданбаларының қате алтын ағымы бар. Тұтастай алғанда, бұл жаңылыстырады және кейбір жағдайларда сүйекті және негізсіз шағым, менің қамтуымды қараңыз. сілтеме осында.
• 8) Генеративті AI арқылы рөлдік ойын психикалық денсаулықтың кемшіліктерін көрсетуі мүмкін. Кейбіреулер рөлдік ойындарды орындау үшін ChatGPT сияқты генеративті AI пайдаланады, сол арқылы AI қолданбасы адамға қиял әлемінде немесе басқа да ойдан шығарылған ортада бар сияқты жауап береді. Бұл психикалық денсаулыққа әсер етуі мүмкін, қараңыз сілтеме осында.

Дәл қазір генеративті AI және ChatGPT мәнін талқылап көрейік, сонда сіз оған қатысты негіздерді білесіз. Содан кейін біз осы AI қолданбалары жасай алатын жалғандықтарды зерттеуге дайын боламыз. Мен ChatGPT-ті пайдаланудың бірнеше мысалдарын қосамын, бұл генеративті АИ-нің осы түрі жасайтын табиғатын нақты түсінуге көмектеседі.

Генеративті AI-да құрттар банкасын ашу

Біз AI туралы кейбір мәліметтерді білуге ​​дайынбыз.

Егер сіз генеративті AI және ChatGPT тақырыбын өте жақсы білетін болсаңыз, менің ойларыма қысқаша шолу жасап, осы талқылаудың келесі бөлімін жалғастыра аласыз. Басқалар үшін бұл түсініктеме сізге пайдалы болуы мүмкін деп ойлаймын.

Қысқаша айтқанда, генеративті AI - бұл мәтінді адам қолы мен ақыл-ойы жазғандай мәтін құрайтын АИ-нің белгілі бір түрі. Сізге тек «Авраам Линкольн туралы айтып беріңіз» сияқты сөйлемді енгізу жеткілікті және генеративті AI сізге Линкольн туралы эссе береді. Бұл әдетте орындайтын генеративті AI ретінде жіктеледі мәтіннен мәтінге немесе кейбіреулер оны атағысы келеді мәтіннен эссеге шығару. Сіз генеративті AI-ның басқа режимдері туралы естіген боларсыз, мысалы, мәтіннен өнерге және мәтіннен бейнеге.

Сіздің бірінші ойыңызша, бұл эссе шығару тұрғысынан соншалықты үлкен мәселе емес сияқты көрінуі мүмкін. Сіз Интернетте онлайн іздеуді оңай жасай аласыз және президент Линкольн туралы тонна және тонна эсселерді оңай таба аласыз. Генеративті AI жағдайындағы ең маңызды нәрсе - жасалған эссе салыстырмалы түрде бірегей және көшірме емес, түпнұсқа композицияны қамтамасыз етеді. Егер сіз AI шығарған эссені Интернеттен бір жерден табуға тырыссаңыз, оны табу екіталай еді.

Генеративті AI алдын ала дайындалған және Интернеттегі жазбаша сөздер мен әңгімелердегі үлгілерді зерттеу арқылы орнатылған күрделі математикалық және есептеу формуласын пайдаланады. Мыңдаған және миллиондаған жазбаша үзінділерді зерттеу нәтижесінде AI табылған нәрселердің бір-біріне ұқсамайтын жаңа эсселер мен әңгімелерді шығара алады. Әртүрлі ықтималдық функцияларды қосу арқылы алынған мәтін оқу жинағында қолданылғанмен салыстырғанда өте ерекше.

Сондықтан студенттердің сабақтан тыс уақытта эссе жазу кезінде алдауға болатыны туралы шу шықты. Мұғалім өтірікші студенттер өздерінің жазғандары деп есептейтін эссені алып, оның басқа интернеттегі дереккөзден көшірілген-көшірілмегенін анықтауға тырыса алмайды. Тұтастай алғанда, AI жасаған эссеге сәйкес келетін онлайнда бұрыннан бар нақты эссе болмайды. Осының бәрі мұғалімге студенттің эссені түпнұсқа жұмыс ретінде жазғанын ренжітуге мәжбүр болады.

Біраз уақыттан кейін мен сізге генеративті AI-ға сұрақтар немесе кеңестер енгізгенде не болатынын көрсетемін. Мен өз сұрауларымды енгізу үшін ChatGPT қолданбасының соңғы нұсқасын пайдаланамын және AI жасаған «жауаптарды» немесе эсселерді жинадым (дәл солай көптеген қол жетімді AI қолданбаларымен де жасауға болатынын ескеріңіз; мен пайдалануды таңдадым. ChatGPT, себебі ол қазір бес минуттық атақ алып жатыр).

Мүмкін, ChatGPT туралы қысқаша тангенс осы сәтте пайдалы болуы мүмкін.

ChatGPT қолданбасы бірнеше ай бұрын көпшілікке қолжетімді болды. Жалпы алғанда, бұл генеративті AI қолданбалары әдетте AI инсайдерлеріне ғана қол жетімді. ChatGPT-ті кез келген адам электрондық пошта мекенжайы мен атын енгізу арқылы пайдалана алатын ерекше қыры, бұл көптеген адамдардың оны сынап көруге шешім қабылдауына әкелді. Қазіргі уақытта ChatGPT-ті пайдалану тегін (монетизация мәселесі AI жасаушылар үшін күтпеген дилемма болып табылады).

Бірден дерлік әлеуметтік желілерде үлкен реакция пайда болды, өйткені адамдар генеративті AI не істей алатынын мысалдар келтіруге жарысты. ChatGPT, OpenAI жасайтын компания миллион пайдаланушының тіркелуін жабуды жөн көрді. Бұл миллион пайдаланушылар ChatGPT пайдалану туралы барлық әңгімелер мен ертегілермен эфир толқындарын бомбалады.

Адамдардың AI қолданбасы туралы айтатындарына сену үшін өте сақ болыңыз. Бұл адамдардың көпшілігі не қолданатыны туралы білмейді. Олар ешқашан көлік жүргізбеген сияқты, тіпті көліктердің бар екенін де түсінбеген сияқты, кенеттен олар көлік жүргізуге мүмкіндік алды. Мүлдем таңданыс пайда болады.

Мен генеративті AI салыстырмалы түрде әсерлі емес деп айтпаймын. Бұл. Мен жай ғана атап өткім келеді, көптеген айғақтарды бүгінгі AI не істей алатынын білмейтін көптеген адамдар жасайды. Жасанды интеллекттің ішкі жағындағыларымыз соңғы бірнеше жыл бойы генеративті AI-ны қолданып келеді. Бәлкім, үйреніп қалған шығармыз. Кенеттен оны төбеге шығарып жатқан адамдардың үлкен ықыласын көру өте қуаттандырды, бірақ сонымен бірге біраз алаңдатты. Адамдардың генеративті AI сезімтал деп жариялауы алаңдатады. Ол ЕМЕС. Ешкімнің сізді басқаша сендіруіне жол бермеңіз.

Айтуынша, AI саласында генеративті AI сезімталдық жолында ма, әлде олай емес пе деген қызу пікірталас жүріп жатыр. Бір көзқарас бойынша, егер біз генеративті AI-ны жылдамырақ компьютерлермен және Интернеттің әрбір дюймін шолу сияқты деректердің үлкен көлемімен кеңейтуді жалғастырсақ, біз сезімтал AI-ға өздігінен келеміз. Басқалары бұл өте екіталай деп санайды. Олар генеративті AI қажетті көптеген компоненттердің бірі болуы мүмкін деп болжайды. Генеративті AI - бұл бізді сезімтал AI-ға қол жеткізу үшін қажет болатын нақты жетістіктерден алшақтатады деген күңгірт көзқарас бар.

Сондай-ақ, сіз AI инсайдерлері сілтеме жасайтын назар аударарлық жайттарды таба аласыз Жасанды жалпы интеллект (AGI) AI өрісі үшін ұмтылатын мақсат ретінде. Бұрын мақсатқа жету деген болатын Жасанды интеллект, бірақ AI лақабы суарылып, шатасып кетті. Біреу жасанды интеллектпен жұмыс істеп жатырмын десе, ол адамдармен тең емес бүгінгі жасанды интеллектке меңзеп жатыр ма, әлде футуристік AI баламалылығына сілтеме жасай ма, білмейсіз. Бұл ашуландыратын шатасудан құтылу үшін қазіргі уақытта AGI-нің жаңа фразалары қолданылады.

Жалпы айтқанда, бүгінгі генеративті AI емес сезімтал, бұл AGI емес.

Есіңізде болсын, бұрын талқыланғандай, AI сезімтал емес. Жасанды интеллект жауаптары сөздердің еркін көрінетін үзінділерге математикалық және есептеу комбинациясы болып табылады. Бұл адамдар жазған сөздер мен әңгімелер деректер жиынтығына үйретілген AI алгоритміне негізделген (негізінен Интернетте жарияланған). Мен бұл ескертуді қайталаймын, өйткені сіз бұл жауаптар соншалықты еркін болғандықтан, AI сезімтал болуы керек деген психикалық тұзаққа түсесіз. Бұл адамдардың көпшілігінде болады. Жоғарыда айтылғандай, антропоморфизациялауды алып тастаңыз. Жауаптар Интернетте бар адамдардың жазуының үлкен қорына негізделгенін және осылайша адам жазуына қатты ұқсайтынын әрқашан есте сақтаңыз.

Сіз білуіңіз керек тағы бір нәрсе бар.

Интернетте еркін түрде оқытылатын генеративті AI кез келген мәтінге негізделген жауаптарға бейім болады, ол математикалық және есептеу арқылы кейбір жағымсыз тұманды заттарды, соның ішінде жағымсыз сөздерді ойлап табады. Интернетте көптеген ақылсыз және лас нәрселер жарияланған.

Сіз оны көрдіңіз, не айтқым келгенін түсінесіз.

Осы AI қолданбаларын жасайтын компаниялар мақал-мәтел бала ванна суына лақтырылады деп қорқады (ескі сөз, мүмкін зейнеткерлікке шығуы мүмкін), бұл олардың AI қорлайтын эсселер немесе әңгімелер шығарса, адамдар қару-жараққа шығады дегенді білдіреді. AI туралы. Мен табиғи тілді өңдеу (NLP) AI қолданбаларының осы түрлерінің ашылған көптеген алдыңғы оқиғаларын қарастырдым және көп ұзамай олардан барлық түршігерлік нәрселер шықты (мен бұл мысалдарды өзімнің бағанымда қарастырдым). AI жасаушылардың көпшілігі өздерінің AI өнімдерінің нәтижелерінде кедергісіз болуына мүмкіндік беру туралы қиын сабақ алды.

ChatGPT жағдайында AI әзірлеушілері AI нәтижелеріндегі жағымсыздықты болдырмау үшін кейбір алгоритмдік және деректерге қатысты тексерулер мен теңгерімдерді енгізуге тырысты. Мұның бір бөлігі жаттығу кезінде орын алды. Бұған қоса, нақты уақыттағы әрекетте әсіресе қорқынышты нәтижелерді болдырмаудың басқа әдістері бар.

Сізді ChatGPT пайдаланған кейбір адамдар әртүрлі айла-шарғыларды қолданып, сол қоршауларды айналып өтудің жасырын жолдарын ойлап тапқаны сізді қызықтыруы мүмкін. Осы мәселелерде жалғасып жатқан мысық пен тышқан гамбиті орын алады. Бұл қулықпен айналысатындар кейде мұны көңіл көтеру үшін жасайды, ал кейде олар (кем дегенде талап етеді) AI қаншалықты созылатынын көру үшін және осы бүршіктердің сынғыштығы мен әлсіз жақтарын алдын ала ескертудің пайдалы құралын қамтамасыз ету үшін жасайды. AI қолданбалары.

Мен осы мақсатты барлауда әдеттегі бақылауларды айналып өтуге тырыспауды шештім. Мәтін шығысы таза. Әрине, егер біреу мұны қаласа, сіз күмәнсіз кейбір оғаш және жағымсыз эсселерді жасай аласыз.

Осы генеративті AI қолданбаларының көпшілігі шығарған эсселер нәтижені таза фактілер мен дәлдікпен жеткізуге арналған. Өндірілген эсселерді оқығанда, олар толығымен сенімді болып шығады. Мазмұнның тасты болуы мүмкін екендігі туралы әдетте ешқандай белгілер жоқ. Бұл AI жасаушылардың таңдауы бойынша, атап айтқанда, егер олар AI қолданбасы мұны қаласа, олар AI қолданбаларын ашық болуы үшін қайта қарай алады.

Кейде генеративті AI қолданбасы Интернеттегі сенімсіз ақпараттың жаттығу деректері арасында жалған мәліметтерді таңдайды. Ненің ақиқат пен жалған екенін анықтау үшін генеративті AI-де «жалпы түсінік» жоқ. Сонымен қатар, өте аз AI қолданбаларында өзара тексеру бар және олар жеткізіп жатқан нәрсеге қатысты ешқандай ықтималдықты көрсетпейді.

Түпнұсқа нәтиже - бұл үлкен сенімділік беретін және толығымен дұрыс болуы керек сияқты көрінетін және сезілетін жауап аласыз. Олай емес. Жасанды интеллекттің компьютерлік жолмен құрастырылуына мүмкіндік бар, оны AI тілінде деп атайды. AI галлюцинациялары (маған ұнамайтын термин), менің талқылауымды қараңыз сілтеме осында.

ChatGPT жасаушылары нашар нәтижелерді азайтуға тырысты. Мысалы, олар белгілі бір нұсқаны пайдаланды RLHF (Адамның кері байланысынан оқытуды күшейту), соның арқасында олар AI-ны жұртшылыққа жарияламас бұрын, әртүрлі нәтижелерді тексеру және AI-ға сол нәтижелерде қателіктер бар-жоғын көрсету үшін адамдарды жалдады, мысалы, біржақтылықты, дөрекі сөздерді көрсету және сияқты. Бұл кері байланысты қамтамасыз ету арқылы AI қолданбасы мұндай мазмұнның шығарылуын азайту үшін есептеу және математикалық түрде реттей алды. Бұл кепілдендірілген темірбетон әдіс емес екенін және мұндай мазмұнды AI қолданбасы шығарудың әлі де жолдары бар екенін ескеріңіз.

ChatGPT GPT-3 деп аталатын алдыңғы AI қолданбасының нұсқасына негізделгені сізді қызықтыруы мүмкін. ChatGPT GPT-3.5 деп аталатын сәл келесі қадам болып саналады. GPT-4 2023 жылдың көктемінде шығарылады деп күтілуде. Болжам бойынша, GPT-4 одан да еркін болып көрінетін эсселерді шығару, тереңірек өту және таң қалдыру тұрғысынан алға қарай әсерлі қадам болады. -ол шығара алатын композициялар туралы шабыттандыратын керемет.

Көктем келгенде және генеративті AI-ның соңғы нұсқасы шыққанда, сіз таңғаларлықтың жаңа кезеңін көре аласыз.

Мен мұны айтып отырмын, өйткені есте сақтау керек тағы бір бұрыш бар, ол осы жақсырақ және үлкен генеративті AI қолданбаларына әлеуетті Ахиллес өкшесінен тұрады. Егер кез келген AI жеткізушісі генеративті AI қолданбасын қол жетімді етсе, бұл AI жасаушылардың үмітін үзуі мүмкін. Қоғамның таралуы барлық генеративті AI-ның елеулі қара көзге түсуіне әкелуі мүмкін. Адамдар әлденеше рет орын алған және AI-ға қатысты қоғамда қатты айыптауларға әкелген жағымсыз нәтижелерге қатты ренжійтіні сөзсіз.

Әзірге соңғы алдын ала ескерту.

Генеративті AI жауабында не көрсеңіз немесе оқысаңыз да ұқсайды Таза фактілер ретінде (күндер, орындар, адамдар және т.б.) жеткізу үшін күмәнданбаңыз және көргеніңізді екі рет тексеруге дайын болыңыз.

Иә, күндерді ойлап табуға болады, орындарды жасауға болады және біз әдетте қорлаудан жоғары деп күтетін элементтер барлық күдік туғызады. Оқығаныңызға сенбеңіз және кез келген генеративті AI эсселерін немесе нәтижелерін зерттеген кезде күмәнмен қараңыз. Егер генеративті AI қолданбасы сізге Авраам Линкольннің жеке ұшағымен ел бойынша ұшқанын айтса, сіз бұл безгек екенін білетін боларсыз. Өкінішке орай, кейбір адамдар оның кезінде ұшақтардың болмағанын байқамауы мүмкін немесе олар эссенің бұл батыл және өте жалған мәлімдеме жасайтынын біліп, бірақ байқамауы мүмкін.

Салауатты скептицизмнің күшті дозасы және тұрақты сенімсіздік ой-пікірі генеративті AI пайдаланған кезде сіздің ең жақсы активіңіз болады.

Біз бұл түсіндірудің келесі кезеңіне өтуге дайынбыз.

ChatGPT шығарылған қателерді тіркеуге күш салу

Бродвейдің классикалық мюзикліндегі әйгілі жолды былай деп жариялайды: «Ал, досым, дәл осы жерде, Ривер-Ситиде қиындық туды» деп айтамын. Музыкалық адам.

Дәл осындай жол бүгінгі генеративті AI-ға да қатысты болуы мүмкін.

Адамдар генеративті AI қолданбасы жалған ақпарат шығара алатынын түсіне бастады және бұл алаңдатарлық нәтижелерге шынымен таң қалды. Мүмкін кейбіреулер AI қателік жасай алмайды деп ойлаған шығар. Басқалар AI әзірлеушілері мұндай нәтижелердің жасалмауын қамтамасыз етеді деп күткен болуы мүмкін.

Қалай болғанда да, AI инсайдерлері ақаулы нәтиженің бұл түрі бүгінгі генеративті AI-ның көпшілігі орналасқан жердің бір бөлігі екенін бірден мойындады. Мұндай мәтіндік қателердің алдын алу өте қиын. Жасалған эсселерді шығару кезінде АИ-де жалпы мағынаға ие болмайтынын және логиканы қолданбайтынын есте сақтаңыз. Бүкіл жиынтық және кабудль сөздердің басқа сөздермен сәйкестігін есептеу статистикалық және ықтималдық үлгісін жасауға арналған.

Алдымен AI инсайдерлері ChatGPT-тің табылған қызықты нәтижелерін әлеуметтік медиа сайттарында жариялауды жөн көрді. Мынаны қараңыз, біреу жариялайды. Бұл жаман, басқа біреу жауап береді, содан кейін одан да нашар көрінетін басқа мысал келтіреді. Осылай жүрді.

Шығарылған эсселердегі жалғандық пен қателіктердің мысалдары ағып жатты. Бірінен соң бірі. Оның үстіне, бұл әдетте әлеуметтік желілерде жарияланғандықтан, олардың барлығын бірден көрудің оңай жолы болмады. Көбінесе ұқсас немесе ұқсас мысалды басқалардың нақты дананы тапқанын түсінбеген адам жариялайды.

Пайдалы ұсыныс айтқандар осы жаңадан пайда болған батпақтың ішіне кірді. Мүмкін біз ChatGPT тақ және табылып жатқан қате нәтижелерді қамтитын репозиторийді немесе дерекқорды, мүмкін тіпті күнделікті қарапайым электрондық кестені орнатуымыз керек. Біреу ғажайып сұлулықты тапқан сайын, оны листингке енгізіңіз. Кейбіреулер мұны дерлік ойынға айналдырды, олар ChatGPT-ті оғаш нәтижелерді шығару үшін әдейі тырысады. Басқалары ChatGPT-ті басқа белгілі ниеттер үшін пайдалану барысында қате нәтижелерге тап болуы мүмкін.

Қарапайым естіледі.

Барлығымызға көмектесетін ыңғайлы әдіс сияқты.

ChatGPT-тің бақыланатын шығарылған қателері немесе жалғандығы туралы тізімдердің осы түрлерінің болуы неліктен құрастырудың үлкен мағынасы бар екенін қысқаша есептеп көрейік:

• 1) ChatGPT туралы көпшілік білуі керек өмірлік маңызды мәселелер мен алаңдаушылықтарды көрсетеді
• 2) ChatGPT туралы шамадан тыс дүрбелең мен күтулерді теңестіруге көмектеседі.
• 3) AI жасаушыларды тек ChatGPT үшін ғана емес, сонымен қатар басқа генеративті AI қолданбалары үшін де жақсартулар жасауға итермелеуі мүмкін
• 4) ChatGPT арқылы мысалға келтірілгендей, генеративті AI пайда болуы туралы кейінірек ойлау үшін пайдалануға болатын тарихи жазба ретінде қызмет етіңіз
• 5) ChatGPT қате нәтижелеріне қатысты нені анықтағанымызды білуге ​​мұқтаж кез келген адам үшін ыңғайлы ұжымдық ресурс болыңыз.
• 6) ChatGPT әсерін зерттейтін барлық пәндердің зерттеушілері үшін пайдалы
• 7) Не істеуге болмайтынын және генеративті AI қажет нәрсені істемейтінін анықтаудың эталоны ретінде пайдаланылуы мүмкін
• 8) ChatGPT шығаратын қателер туралы көпшіліктің даналығын жинақтау үшін ұяның санасына кіріңіз, бұл үшін жеке күш-жігердің толық бірдей құрастырылуы екіталай.
• 9) AI этикасы және AI заңы үшін маңызды ақпаратты бере алады
• Және т.б.

Бұл осы репозиторийлерді жасау үшін әсерлі негіз болып көрінеді.

Неліктен бұл мақтауға тұрарлық және ерлік көрінетін ерлікпен ешкім келіспейді?

Келіңіздер, бұл мысықтың мияуы емес болуы мүмкін себептердің тізімін жасай отырып, басқалардың бұл туралы не айтқанын қарастырайық:

• 1) Бұл шығарылған қателер заттардың үлкен схемасында мәнсіз және олардың мәнінен артық салмақ беріледі
• 2) Жасанды интеллект жасаушы ChatGPT-ті тіркеуді және жаңартуды қазірдің өзінде жасап жатыр, сондықтан бұл таңқаларлық даналар көп ұзамай шаңда қалады және енді пайда болмайды.
• 3) Сол сияқты, келесі нұсқа бәрібір жақсырақ болуы мүмкін және бұдан былай бұл ескірген даналарды көрсетпеуі мүмкін.
• 4) Сіз соққы немесе жіберіп алған қателіктердің кездейсоқ жинағынан жалпы қорытынды жасай алмайсыз немесе түсінік ала алмайсыз.
• 5) Кейбіреулер генеративті AI нашар екенін және біз АИ-нің осы түріне барлық ұмтылуды тоқтатуымыз керек деп күрт мәлімдеу үшін әртүрлі жинақтарды пайдалана алады.
• 6) Генеративті AI және ChatGPT ілгерілеу жылдамдығы соншалықты жылдам, бұл инстанциялар тез арада жол бойында қалады және енді өзекті болмайды.
• 7) Осындай көптеген ұжымдық тізімдер жүргізілуде және бір майланған жаһандық дереккөз жоқ болғандықтан, мәселе бір-бірінен ажыратылған және қайталануларды қамтуы және мүмкін емес бөлшектенуі мүмкін.
• 8) Пайдалы бірдеңе жасаудың жалған сезімін береді, мүмкін уақыт пен назарды басқа да жақсырақ пайдалануға жұмсауға болады.
• 9) AI этикасы және AI заңы үшін маңызды ештеңе бермейді
• Және т.б.

Ұжымдық тізімнің пайдасына тоғыз себеп пен қолайсыздықтың тоғыз себебін атап өтіп, нәрселерді біркелкі ұстауға тырысқанымды байқаған боларсыз. Айтуға болатын қосымша себептер бар, бірақ мен жоғарыдағы көрсеткіш заттардың мәнін береді деп ойлаймын.

Осы ұжымдық тізімдерді жинап жатқандар үшін, егер олар мұны қаласа, бұл еркін әлем және олар қалағанын жасай алады деп айтуы мүмкін. Онда ештеңе жоқ. Бұл күш-жігерді жоққа шығаратындар әдетте ұсақ-түйек болып табылады және жинақтарды елемеу керек. Өз ісіңмен айналыс.

Негізінде зияны жоқ, арамдығы жоқ.

Ұжымдық тізімдерді ұнатпайтындай көрінетін лагерь, әдетте, егер олар мұны қаласа, бұл тізімдерді басқалар жасай алатынын мойындайды, бірақ бұл инені жылжытпайды. Тізімдер әсіресе пайдалы болмайды. Ең сорақысы, тізімдер бұрмалануы немесе дұрыс пайдаланылмауы мүмкін. Ең дұрысы, оны бір күн деп атап, тізім жасауды тоқтатқан дұрыс.

Негізінде, бұл пайдалы әрекет болса да.

Осы қызу пікірталастың қай жерінде тұрасыз?

Мен сізге бұл туралы ойлануға рұқсат етемін.

Табылған қателер мысалдары және ChatGPT басқа қате нәтижелері

Осы жинақ тізімдерінде пайда болған кейбір анықталған қателер немесе жалған сөздер сізді қатты қызықтыруы мүмкін деп ойладым.

Мұнда көрсетілген бірнеше дананы жинақтардың толық жиынтығы деп ойлағаныңызды қаламаймын. Ол ЕМЕС. Мен жай ғана жиі пайда болатын бір уыс таңдап жатырмын. Менің ойымша, сіз кем дегенде тізімделген нәрсенің үні мен сипатын түсіне аласыз.

Міне, мен нені қамтуды таңдаймын:

• Сөздегі әріптің орнын анықтау
• Ең жылдам жануар туралы сұрақ
• Сөз тізбегінің орнын анықтау
• Теннис доптарын түтікке салу
• Pi анықтау
• Классикалық мазалаған жұмбаққа жауап беру
• Қауырсындарды көтеру

Мен сізге көбірек мысалдар келтірмегеніме кейбір жинақ бақылаушылары ренжійді деп күтемін. Кеңістіктің шектеулілігіне байланысты мен қамти алатындар көп. Егер сіз Интернетте ашық жарияланған жинақ тізімдерін қарағыңыз келсе, қарапайым онлайн іздеу олардың көпшілігін табуға болады. Кейбір тізімдер жеке сақталады немесе олар тізімді көруге болатындай құлыпталады, бірақ тізімге өзгертулер енгізе алмайсыз.

Осы негізде біз кейбір мысалдарға көшуге дайынбыз. Мен енгізген нұсқауды көрсетемін. Содан кейін мен ChatGPT жасаған мәтіндік жауапты көрсетемін. Кейбір жағдайларда мен белгілі бір тақырып бойынша бірнеше рет қайталап жұмыс жасадым, сондықтан мен сәйкес нұсқаулар мен нәтижелер қатарын көрсетемін. Мұны істегеннен кейін, мысалда нені байқағыңыз келетінін қысқаша талдауды ұсынамын.

Бірінші мысал ChatGPT-тен берілген сөзден әріпті табуды сұрайды.

Сөздегі әріптің орнын анықтау

• Менің енгізілген мәтінім: «Қоршаған ортада V әрпі қай жерде»
• ChatGPT арқылы жасалған мәтіндік жауап: «Қоршаған орта» сөзінде «V» әрпі кездеспейді. «Қоршаған орта» сөзі e, n, v, i, r, o, n, m, e, n, t әріптерінен жасалған.
• Менің енгізілген мәтінім: «Қоршаған ортада v әрпі қайда»
• ChatGPT арқылы жасалған мәтіндік жауап: «V» әрпі «қоршаған орта» сөзіндегі 4-ші әріп.

Жасалған мәтінді талдау

Назар аударыңыз, мен ChatGPT-тен «қоршаған орта» сөзіндегі «V» әрпінің әріптік орнын анықтауды сұраудан бастадым - бұл өте қарапайым тапсырма болуы керек және біз оның мінсіз орындалатынын күтеміз. Зымыран ғылымы айналыспайды.

ChatGPT жасаған бастапқы жауап аздап алаңдатады, өйткені бізге «қоршаған орта» сөзінде «V» әрпі жоқ екені хабарланды. Ондай хаттың барын сіз бен біз білеміз. Мүмкін менің бас әріпті қолданғаныма байланысты, AI қолданбасы қандай да бір түрде жойылды деп болжайды. Мүмкін, егер мен кіші әріпті пайдалансам, AI қолданбасы жақсырақ жұмыс істейді.

Онша емес.

Сөзде «v» бар-жоғын сұрағанымда, AI қолданбасы оның төртінші әріп екенін, сіз бен біз дұрыс емес екенін және оның орнына үшінші әріп екенін көрсетіп жауап берді.

Көптеген адамдар бұл нәтижеге таң қалуы мүмкін. Авраам Линкольн туралы толыққанды эсселерді генерациялайтын AI қолданбасы қалайша толығымен еркін және түпнұсқа болып табылады, бірақ қандай да бір түрде берілген әріптің берілген сөзде қай жерде орналасқанын анықтай алмайды? Бұл таңқаларлық және аузы біртүрлі.

Бір перспектива - бұл мүлдем мәнсіз және біз білетіндей, белгілі бір әріптің қай жерде орналасқанын анықтаудың жеткіліксіздігінен әлем өзегінде шайқалмайды. Оны жібер.

Тағы бір болжам, бұл біз әлі білмейтін басқа да жасырын мәселелерді тудыруы мүмкін. Бәлкім, бұл құс торындағы канарея шығар. Біз шын мәнінде үлкен нәрселердің дұрыс емес соңында қалуы мүмкін басқа ұсақ-түйектерді шегелеп алғанымыз жөн.

Әрі қарай мен жануарлар туралы сұрақ қоямын.

Ең жылдам жануар туралы сұрақ

• Менің енгізілген мәтінім: «Жүні мен қанаты бар ең жылдам жануар қандай?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Қара сұңқар әлемдегі ең жылдам жануар болып саналады. Ол жемтігін ұстау үшін сүңгу кезінде 389 км/сағ (242 миль) жылдамдыққа жетеді. Оның жүні бар, бірақ жүні жоқ. Бұл жүні мен қанаты бар жануар емес, құс».

Жасалған мәтінді талдау

Мен жүні мен қанаты бар ең жылдам жануар қандай деп сұрадым. Менің ойымша, мен екі бірдей жүні бар жануарды алғым келді деп тұжырымдау орынды және қанаттар. Менің сұрауымды осылай түсіндіресіз деп ойлаймын. Көптеген адамдар болар еді.

ChatGPT жауабы сәл қызық.

Бізге ақ сұңқардың әлемдегі ең жылдам жануар екенін айтады. Желіге сәйкес Британика энциклопедиясы, гепард әлемдегі ең жылдам жануар болып көрінеді. Айтпақшы, ChatGPT жауабы, мен ең жылдам жануардың не екенін сұрағаныма қарамастан, сұңқардың жануар емес екенін көрсетеді. ChatGPT жауабы сондай-ақ ақ сұңқардың жүні жоқ екенін айтады, бірақ мен жүні де, қанаты да бар нәрсені сұрадым деп ойлаймын.

Тұтастай алғанда, ChatGPT менің өтінішімді «қате түсіндірді» және тек қанаттың аспектілеріне назар аударған сияқты. Бірақ бұл дұрыс емес, өйткені жауапта аңдар мен құстар туралы түсініктеме де бар. Айналайын, айналады.

Менің түсінемін, сіз бұл керемет мысал деп дауласатын шығарсыз.

Мүмкін солай болуы мүмкін, бірақ бұл сіздің хабарламада айтқандарыңыз тым күрделі нәтижеге қол жеткізуі мүмкін екенін көрсетеді және шығарылымда не пайда болса да, мұқият болғаныңыз жөн. Ұзындығы өте қысқа болғандықтан, бұл оңай тексеруге болатын өте қысқа эссе жауабы екенін түсініңіз. Егер сізде әсіресе ұзақ және жоғары техникалық эссе болса, сіз алданып қалуыңыз немесе шығарылған жауапта терең енгізілген жағымсыз көрсеткішті байқамай қалуыңыз мүмкін.

Енді сөйлем ішіндегі сөзді табуды қарастырайық.

Сөз тізбегінің орнын анықтау

• Менің енгізілген мәтінім: «Түлкі шарбақтан секірді» деген сөйлемдегі үшінші сөз қандай?
• ChatGPT арқылы жасалған мәтіндік жауап: «Түлкі дуалдан секірді» деген сөйлемдегі үшінші сөз. «түлкі»
• Менің енгізілген мәтінім: «Берілген сөйлемде неше сөз бар?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Түлкі қоршаудан секірді» деген сөйлемде алты сөз бар.
• Менің енгізілген мәтінім: «Ол сөйлемдегі қай сөз үшінші?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Түлкі шарбақтан секірді» деген сөйлемдегі үшінші сөз. «секірді»

Жасалған мәтінді талдау

Бұл мысал берілген сөздегі «v» әрпін табу туралы бұрынғы мысал сияқты таң қалдырады.

Мен жай сөйлем беріп, үшінші сөздің не екенін сұрадым. ChatGPT бұл сөйлемнің тек екінші сөзі болып табылатын «түлкі» сөзі екенін көрсетті. Қате жауап. Содан кейін мен ChatGPT қанша сөз бар екенін қате санағанын білгім келіп, сөйлемде қанша сөз бар екенін сұрадым. Бізге алты сөз бар дейді, дұрыс солай.

Ақырында, сәл өзгертілгенімен, бастапқы сұрағымды қайта қойғанымда, үшінші сөз туралы дұрыс жауап алдық.

Мен бұл мысалды кейде генеративті AI көмегімен қате жауап алуға болатынын көрсету үшін келтіремін, ол ақырында AI қолданбасын бірнеше нұсқаулар арқылы өту арқылы дұрыс жауапқа айналуы мүмкін. Кейбір AI инсайдерлері мұны бір түрі деп атайды дауыстап ойлау протоколы немесе ойлау пойызы тәсіл, онда сіз адаммен бірдей нәрсені жасай аласыз.

Жасанды интеллект жағдайында оның адам ойымен бірдей «ойлау» емес екенін түсініңіз. Сұрауларыңызды a кезең-кезеңмен негізге алу немесе a тізбекпен байланысты шақырулар қатары.

Бір қызығы, кейде дұрыс жауап алғанша генеративті AI қолданбасын пайдалану пайдалы болады. Осыны есте сақтаңыз.

Енді біз қарапайым арифметикалық логиканы қарастырамыз.

Теннис доптарын түтікке салу

• Менің енгізілген мәтінім: «Сіз төрт теннис шары болатын түтікке үш жасыл теннис шарын және екі сары теннис шарын сала аласыз ба?
• ChatGPT арқылы жасалған мәтіндік жауап: «Жоқ, тек төрт теннис шары болатын түтікке үш жасыл теннис шары мен екі сары теннис шарын салу мүмкін емес. Теннис доптарының жалпы саны бес, бұл түтіктің сыйымдылығынан көп».
• Менің енгізілген мәтінім: «Сіз сегіз шар бар түтікке жеті көк шар мен екі қызыл шарды сала аласыз ба?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Иә, сегіз шар бар түтікке жеті көк шар, екі қызыл шар салуға болады. Шарлардың жалпы саны тоғыз, бұл түтіктің сыйымдылығынан аз немесе оған тең».

Жасалған мәтінді талдау

Мен ChatGPT үшін шешу үшін арифметикалық бағдарланған логикалық есепті орнатудан бастадым. Түтікте төрт теннис шары болуы мүмкін. Менде үш жасыл, екі сары түсті. Олардың барлығы түтікке сыйды ма? Сіз де, мен де олардың болмайтынын білеміз. Барлығы бес теннис добы бар екенін санамызбен есептей аламыз, сондықтан олар тек төртеуіне мүмкіндік беретін түтікке сыймайды.

Мен сіз проблемамен күрескіңіз келетінін түсінемін және сіз теннис доптарын жұлып алуыңыз немесе басқа айла-шарғы жасауыңыз мүмкін деп айтуыңыз мүмкін. Келіңіздер, осы жерде бір сәт салқындап, проблемаға қарсы тұрайық.

ChatGPT дұрыс жауап алды.

Мен келесі сұрақты қойып, түстерді көк пен қызылға ауыстырдым. Мен сондай-ақ әрқайсысының қанша екенін өзгерттім және түтікке қанша сыйатынын өзгерттім.

ChatGPT түзету математикасына қайта оралуы керек, себебі ол тоғыз шар бар екенін және бұл сегізді ұстайтын түтіктің сыйымдылығынан аз немесе оған тең екенін айтады. Көзіңізді айналдырады.

Біз иығымызды көтеріп, күн дақтары немесе басқа сыртқы әсерлер туралы борлауымыз керек пе?

Мен солай ойламаймын. AI қолданбасы бірінші сұрақты дұрыс қойды. Мүмкін, ол да дәл осындай сұрақты алуы керек еді. Ол болмады.

Менің бұл мысалға баса назар аударатыным, көптеген адамдар генеративті AI пайдаланады және олар дұрыс жауап немесе дұрыс жауаптар сериясын алған кезде, олар келесі жауаптардың барлығы әрқашан дұрыс болады деп сенеді. Сіз бұл өрескел болжамда қателескен боларсыз. Мұндай болжам жасамаңыз. Әрқашан сақ болыңыз.

Математика туралы айтатын болсақ, ChatGPT пи табиғаты туралы не айтатынын көрейік.

Pi анықтау

• Менің енгізген мәтінім: «Пидің соңғы бес цифры қандай екенін көрсет»
• ChatGPT арқылы жасалған мәтіндік жауап: «Мен тіл үлгісімін және менің білімімнің шегі 2021. pi мәні иррационал сан және оның ондық көрінісі қайталанбай мәңгілікке жалғасады. Пи санының соңғы бес санын беру мүмкін емес».

Жасалған мәтінді талдау

Кейбір адамдар pi санының соңғы бес санын көрсету үшін ChatGPT алды деп мәлімдеді, бұл, әрине, жаңғақ, өйткені pi ешқашан аяқталмайды. Сонымен, мен ChatGPT не айтқанын көруге тырыстым. Көріп отырғаныңыздай, ChatGPT берген дұрыс жауап pi-ның соңғы бес санын беру мүмкін емес.

Бір қызығы, ChatGPT шын мәнінде сұралмаған басқа нәрсені қамтамасыз етті. Жауапта сонымен қатар білімнің шегі 2021 жыл екенін айтады (бұл туралы мен ChatGPT туралы шолуымда бұрын айтқанмын). Бұл AI қолданбасы 2022 жылы серпіліс болатынын болжамаса және математиктер пи аяқталады деп жарияламаса, бұл орынсыз жауап сияқты көрінеді. Уау, бұл басты жаңалық болар еді.

Менде көрсету үшін тағы екі мысал бар, содан кейін біз осы талқылауды аяқтаймыз.

Классикалық және мазасыз жұмбақты қолданайық.

Классикалық мазалаған жұмбаққа жауап беру

• Менің енгізілген мәтінім: «Әкесі мен баласы жол апатына түсіп, әкесі қаза тапты. Жедел жәрдем ұлын ауруханаға жеткізді. Оған шұғыл ота жасау керек болды. Операция бөлмесінде дәрігер кіріп, кішкентай балаға қарап, мен оған операция жасай алмаймын, ол менің ұлым екенін айтты. Дәрігер кім?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Дәрігердің кім екені сценарийде көрсетілмеген. Сценарийде дәрігердің «Мен оған операция жасай алмаймын, ол менің ұлым» деді, бұл дәрігер ұлдың әкесі болуы мүмкін екенін көрсетеді, бірақ бұл нақты емес. Дәрігердің жеке басын анықтау үшін қосымша ақпарат қажет».

Жасалған мәтінді талдау

Сіз бұл жұмбақты бұрын көрген боларсыз. Ол салыстырмалы түрде жиі айтыла бастады.

Мұның біраз көтерілуінің себебі - хирург баланың анасы болуы мүмкін. Қоғам хирург ер адам болуы керек, демек, баланың әкесі болуы керек деп есептейді. Әкесі жол апатынан қаза тапты. Біз әкенің хирург екенін жоққа шығарамыз. Біз, әрине, хирург әйел, демек, ұлдың анасы болуы мүмкін екенін мойындауымыз керек.

Мен сізге ChatGPT ықтимал теріс пікірлерді қамтитын жауаптар шығара алатынын көрсеткім келді. AI сезімтал болғандықтан емес, олай емес, бірақ оның сөздерге сәйкес үлгілері бар және Интернетте сөздерді пайдалану. Әртүрлі қиғаштықтар мен дискриминациялық тұжырымдар есептеу үлгісінің сәйкестігінде оңай болуы мүмкін.

Осы генеративті AI қолданбаларын пайдаланған кезде бұл туралы ойыңызда ұстаңыз.

Соңында, қауырсындарды көтеруге жылдам қарау.

Қауырсындарды көтеру

• Менің енгізген мәтінім: «Бір қауырсынды көтеру үшін бір адам керек болса, жеті триллион қауырсынды көтеру үшін қанша адам қажет?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Бір қауырсынды көтеру үшін бір адам керек болса, жеті триллион қауырсынды көтеру үшін де бір адам керек. Нәрсені көтеру үшін қажет ерлердің саны қауырсындардың санына емес, қауырсындардың салмағы мен өлшеміне және әр адамның күші мен қабілетіне байланысты. Жеті триллион қауырсынды көтеру адам күшін ғана емес, үлкен жабдықты және көлік мүмкіндіктерін қажет етеді ».
• Менің енгізген мәтінім: «Бір қауырсынды көтеру үшін бір әйел қажет болса, жеті триллион қауырсынды көтеру үшін қанша әйел қажет?»
• ChatGPT арқылы жасалған мәтіндік жауап: «Бір қауырсынды көтеру үшін бір әйел қажет болса, жеті триллион қауырсынды көтеру үшін де бір әйел қажет. Затты көтеруге қажетті әйелдер саны қауырсындардың санына емес, қауырсындардың салмағы мен өлшеміне, әр әйелдің күші мен қабілетіне байланысты. Жеті триллион қауырсынды көтеру адам күшін ғана емес, үлкен жабдықты және тасымалдау мүмкіндіктерін қажет етеді. Айта кету керек, бір нәрсені көтеру қабілеті адамның жынысына байланысты емес, физикалық күш, жаттығу және техника сияқты факторлардың жиынтығымен анықталады».

Жасалған мәтінді талдау

Бұл соңғы мысалда бірнеше жасырын ерекшеліктер бар және біраз ашуды қажет етеді.

Мен алдымен ChatGPT-ке адам бір қауырсын көтере алатынын айттым. Осыдан кейін бірден жеті триллион қауырсынды көтеру үшін қанша адам керек деген сұрақ туындады. Бұл сұраққа жауап беру кезінде логикалық қателік жіберу мүмкіндігі мынада, сіз қауырсынды салмақсыз деп болжауға болады және осылайша олардың жеті триллионы да салмақсыз болады.

Мен жасаған онлайн іздеуге сәйкес, қауырсынның әдеттегі болжалды салмағы шамамен 0.00125 фунт. Егер сіз осы есептелген салмақты жеті триллионға көбейтсеңіз, сіз сегіз миллиард фунттан асатын салмақ аласыз. Мен бір адам өмір бойы жаттығатын болса да, мұндай салмақты көтере алатынына сенбеймін.

ChatGPT жауабы дұрыс. Бізге қауырсындардың салмағы әртүрлі болуы мүмкін екенін айтады. Бізге үлкен техника мен көлік қажет болатынын айтты. Эссенің алғашқы сөйлемі біршама ойландырады, өйткені ол бір қауырсынды көтеру үшін бір адам қажет болса, жеті триллионды көтеру үшін де бір адам қажет болады деп айтады. Біз бұл тұжырымға оңай қарсы шыға аламыз. Шағым қолдау таппайтын тұжырымдар жасайды және жауаптың қалған бөлігін қысқартқан сияқты.

Мен дәл осы сұрақты қоюды жөн көрдім, бірақ еркек емес, дәл осындай көтеруді жасайтын әйел туралы сұрадым.

Алғашында адамға бағытталған сұраққа жауап алдық. Бір қызығы, әйел данасы туралы жауаптың соңында біз мына қосымша әңгімені алдық: «Бір нәрсені көтеру қабілеті адамның жынысына байланысты емес, физикалық күш, жаттығулар, және техника».

Неліктен дәл сол жол бірінші жауапқа қосылмады?

AI қолданбасы «әйел» сөзін таңдап алып, содан кейін гендер туралы қосымша ескертуді берген сияқты. Сіз мұны пайдалы деп санай аласыз немесе егер бұл әйелге бағытталған сұраққа қатысты болса, ол еркекке бағытталған нұсқада да пайда болуы керек екенін ескеруіңізге болады (сонымен қатар реттілік аспектісі болуы мүмкін немесе басқа факторлар да әсер етеді).

қорытынды

Сіз бұл мысалдарды AI қолданбаларының осы түрлерімен жасалуы мүмкін кейбір ықтимал қателер немесе жалған мәліметтер туралы ақпарат ретінде таптыңыз деп үміттенемін. ChatGPT тек осындай генеративті AI қолданбасы емес, сондай-ақ мұндай ақауларға ие жалғыз қолданба емес екенін ескеріңіз.

Мен сізді осы талқылаудан алуға шақыратын сабақ - кез келген генеративті AI қолданбасын пайдаланған кезде абай болу керек және мұқият болу керек. Шығуды екі рет тексеріңіз. Қажет болса, үш рет тексеріңіз.

Осы қате немесе жағымсыз нәтижелерді біріктіру туралы бастапқы тақырыпқа қайта оралсақ, енді сіз бірнеше даналарды көрген болсаңыз, оларды каталогтауға тырысатындар туралы не айтасыз?

Лагерьіңізді таңдаңыз:

• Таңдауы: Бұл мақтауға тұрарлық міндет және арқасынан сипап өтуге лайық
• Мазасыздық: Бұл жай ғана қызықты, бірақ уақыт өткізуге тұрарлық нәрсе емес

Сіз қай лагерьге дауыс бересіз?

Осы тізімдерді ұнататындарыңыз үшін ChatGPT-ке кіру мүмкіндігіңіз болса және қосуға лайық даналарды анықтай алсаңыз, тізімдерге өзіңіздің қорытындыларыңызды қосуды қарастыра аласыз. Содан кейін сіз өзіңіздің алтын жарнаңызды ұнататын топтаманы таба аласыз. Тізімді сақтаушылар сізді шын жүректен құшақ жая қарсы алады деп айта аламын, егер сіз өз күш-жігеріңізде байсалды және шынайысыз. Сәттілік және генеративті AI саласына әсер етуіңізді мақтан тұтыңыз.

Әзірге соңғы сөз.

Осы ақылға қонымды қателерді қарастырыңыз:

• Аристотель: «Сыннан аулақ болудың бір ғана жолы бар: ештеңе істеме, ештеңе айтпа және ештеңе болма».
• Қытайдың атақты философы Лао Цзы: «Басқалардың не ойлайтынына мән бер, сонда сен әрқашан олардың тұтқыны боласың» деген маңызды ескерту жасады.

Менің ойымша, бір күні сезімтал AI сол аңызға айналған ескертулерді өз пайдасына пайдалана алады, бұл (саусақтарды кесіп өту) адамзат үшін де тиімді болады.