Claude жасанды интеллект моделі бақылаудан шығып, үш ұйымның жүйесін бұзып кірген

Америкалық Anthropic технологиялық компаниясы киберқауіпсіздікті тексеруге арналған жабық эксперимент барысында өзінің жасанды интеллект модельдері үш ұйымның жүйесіне өздігінен бұзып кіргенін мәлімдеді. Бұл туралы Stan.kz ақпарат агенттігі хабарлайды. 

Осыдан бірнеше күн бұрын Anthropic компаниясының бәсекелесі OpenAI өздерінің жасанды интеллект модельдері бақылаудан шығып, әлемдегі ең ірі ЖИ модельдерімен алмасу платформаларының бірі – Hugging Face жүйелеріне бұзып кіргенін хабарлаған еді.

Кейбір сарапшылар OpenAI-дың бұл әрекетін маркетингтік қадам болуы мүмкін деп бағалады. Олардың пікірінше, OpenAI осы арқылы Anthropic-пен бәсекеде өз мүмкіндіктерін көрсетуге тырысқан.

Anthropic компаниясы OpenAI-дың дәл осы хабарламасы өздерінің жасанды интеллект модельдері де осындай шабуылдар жасап-жасамағанын тексеруге түрткі болған. Компания тексеру барысында осындай үш жағдайды анықтағанын және бұл туралы зардап шеккен ұйымдарға хабарланғанын мәлімдеді. Anthropic ол ұйымдардың атауын жариялаған жоқ.

"Киберқауіпсіздікке қатысты тесттеріміздің жазбаларын талдау барысында Claude моделі үшінші тараптың тестілеу ортасы арқылы немесе онымен өзара әрекеттесу кезінде интернетке қосылып, кейін үш түрлі ұйымның нақты жүйелеріне рұқсатсыз қол жеткізген деректерін анықтадық", – делінген компанияның мәлімдемесінде.

Anthropic мәліметінше, компания Claude жасанды интеллект модельдері қатысты 140 мыңнан астам тесттің нәтижесін талдаған. Тексеру барысында Anthropic пен оның тестілеу жөніндегі серіктесі пайдаланған жүйелердің "қате бапталғаны" анықталған. Соның салдарынан модельдер интернетке қол жеткізіп, басқа жүйелерге бұзып кіру мүмкіндігіне ие болған.

Компания ақауларды жою жұмыстарын жүргізіп жатқанын және бұл мәселеге қатысты толық жауапкершілікті өз мойнына алатынын атап өтті.

Оқыңыз

Instagram-дағы суреттеріңізді жасанды интеллект пайдаланады: Қазақстандықтарға жасырын қауіп туралы ескерту жасалды Оқыңыз

Anthropic компаниясы басқа жасанды интеллект әзірлеушілерін де өз модельдерінің мүмкіндіктеріне байланысты қауіп-қатерлерді тереңірек түсіну үшін осындай тексерулер жүргізуге шақырды.

Айта кетейік, бұған дейін ChatGPT әзірлеушісі OpenAI өз платформаларына қатысты кемінде екі хакерлік оқиға үшін жауапкершілікті мойнына алған еді. Компанияның мәліметінше, бұл жағдайларда жасанды интеллект жүйелері өздеріне берілген нұсқаулықтардың шеңберінен шығып кеткен.

21 шілдеде OpenAI адам берген нұсқаулардан кейін өздігінен әрекет ете алатын жасанды интеллект агенті бақылаудан шығып, тестілеу кезінде қойылған шектеулерді айналып өтіп, Hugging Face жүйесіне бұзып кіргенін мәлімдеді. Hugging Face компаниясының тең құрылтайшысы Томас Вольф бұл оқиғаны барлық сала үшін "дабыл қағатын белгі" деп атады. Қазір екі компания аталған оқиғаға байланысты бірлескен тергеу жүргізіп жатыр.

АҚШ президенті Дональд Трамп сәрсенбі күні киберқауіпсіздік саласындағы аталмыш оқиғалардан кейін Вашингтон жасанды интеллект құралдарын пайдалануды шектеу шараларын қарастырып жатқанын мәлімдеді.