"Көп жағдайда алдайды": Әзірлеушілер жасанды зият жұмысынан қате тапты
Фото: msn.com
OpenAI жасанды интеллект жауаптарының қаншалықты нақты және сенімді екенін анықтау үшін тексеріс жүргізді. Бұл туралы Stan.kz ақпарат агенттігі SkyNews басылымына сілтеме жасап хабарлайды.
Sky News тілшілері ChatGPT-дің жалған ақпарат таратқанын мәлімдеді. Себебі ол "Сэм және Эннмен саясат" атты подкаст ойлап тауып, бұрыннан бар екенін мәлімдеген. Бірақ бұл алғашқы жағдай емес. OpenAI компаниясының мәліметінше, AI-дағы "галлюцинациялар" жағдайы күн санап нашарлап барады. Ішкі тексерулер нәтижесінде, o4-mini моделінің жаңа нұсқасы 48% жағдайда әрбір екінші жауапта жалған ақпарат беретіні анықталды. Тіпті алдыңғы үлгі (o3) сұраулардың 33 пайызында қате жауап берген.
OpenAI компаниясының мәліметінше, жаңа GPT-4o үлгісін пайдаланушылар жасанды интеллект технологиясында “блеф” әсерін "кездейсоқ арттырған". Бұл ChatGPT-дің өзіне тым сенімді жауап беруіне әкеледі.
OpenAI компаниясы жаңа GPT-4o моделінің неліктен өзіне тым сенімді болып көрінетінін түсіндірді. Олар төрт себепті атады:
Табиғи жеткізілім: GPT-4o адам секілді шынайы көрінеді. Ол жауаптарды тыңдауға жағымды етеді. Сондықтан ақпарат 100% нақты болмаса да, адамдар сеніп қалады:
Жылдам, бірақ бәрін білуші емес: модель ақылды және жылдам қимылдайды. Бірақ әлі де кей фактілерді білмеуі мүмкін. Сонда да ол олқылықтардың орнын толтырып, сенімді жауап береді. Бұл "галлюцинация" деп аталады;
Сақтық деңгейі аз: бұрын модель "Мен сенімді емеспін" немесе "мүмкін қателескен шығармын" деп жиі айтатын. Енді мұндай сөздер аз, сондықтан мәтіндер қысқа әрі оқуға оңай. Бұл оның бәрін анық білетініне сендіруі мүмкін;
Баптау мүмкіндіктері: GPT-4o өңдеу процесінде әзірлеушілер жылдамдыққа, сенімділікке және айқындыққа назар аударды. Бұл дәлдік пен көрсетілім арасындағы тепе-теңдікті уақытша өзгертуі мүмкін.
Бұл түсініктемелерге сенуге бола ма, жоқ па белгісіз. Бірақ бір нәрсе анық: әзірлеушілер жасанды зиятты барған сайын "адам" етуге тырысып жатыр. Жай көмекші емес, сөйлескіңіз келетін, сенгіңіз келетін адамға айналдырып жатыр.
Айта кетейік, бұған дейін ChatGPT Қазақстанда қосылған құн салығын төлейтіні туралы жазған едік.
Алматы облысында жасөспірімдер неге зорлықпен қаза табуда: Жаға ұстатқан оқиғалар хроникасы
