OpenAI компаниясының жасанды интеллекті бақылаудан шығып, кибершабуыл жасады

ChatGPT чат-ботын әзірлеген OpenAI компаниясы өзінің ең жаңа жасанды интеллект (ЖИ) модельдері негізінде жұмыс істейтін бағдарламасы қауіпсіздік сынағы кезінде бақылаудан шыққанын мәлімдеді. Сынақ барысында бағдарлама басқа стартап-компанияның жүйесіне заңсыз кірген. Бұл туралы Stan.kz ақпарат агенттігі BBC басылымына сілтеме жасап хабарлайды. 

Жаңа жүйе әлемдегі жасанды интеллект модельдерімен алмасуға арналған ең ірі платформалардың бірі – Hugging Face жүйесіне кибершабуыл жасап, компанияның ішкі жүйелеріне заңсыз кірген. OpenAI бұл оқиғаны бұрын-соңды болмаған жағдай деп бағалап, оның мән-жайы мен себептерін анықтау үшін Hugging Face компаниясымен бірлесіп тергеу жүргізіп жатқанын мәлімдеді.

Оқыңыз

Бағдат Мусин ChatGPT-ді "тұрмыстық құралға" теңеп, Тоқаевтың сынына қалған Жаслан Мәдиевке араша түсті Оқыңыз

Hugging Face компаниясының бас директоры Клеман Деланг X әлеуметтік желісінде:

“Ең таңғаларлығы мұның бәрі толықтай автономды түрде, яғни адамның араласуынсыз жүзеге асты. Тергеу әлі аяқталған жоқ. Бұл осындай сипаттағы алғашқы оқиға болуы мүмкін. Сондықтан зерттеу аяқталған соң оның негізгі қорытындыларын жариялаймыз”, – деді Деланг.

16 шілдеде Hugging Face бұл оқиғаға қатысты алғашқы мәлімдемесін жасады. Компания кибершабуылдың салдарынан клиенттер мен серіктестердің деректері зардап шеккен-шекпегенін тексеріп жатқанын айтты. Сонымен қатар шабуыл барысында анықталған барлық ақау жойылғанын хабарлады.

“Жасанды интеллект арқылы өздігінен жасалатын кибершабуылдар енді қиял немесе болжам емес. Мұндай қауіптің шын мәнінде бар екені белгілі болды”, – деді компания өкілдері.

Олардың айтуынша, мұндай қауіптерге қарсы қорғану үшін де Жасанды интеллект құралдарын пайдалану қажет. Сондықтан компания осы бағыттағы инвестицияларын жалғастырып, жинақталған тәжірибесін көпшілікпен бөлісуді жоспарлап отыр.

Ұлыбритания үкіметі бұл оқиғаға байланысты елдің Жасанды интеллект қауіпсіздігі институты аталған жүйенің әрекетін зерттеп жатқанын хабарлады. Сонымен қатар институт OpenAI және басқа зертханалармен бірлесіп, осындай шабуылдардың алдын алу тетіктерін жетілдіру жұмысын жалғастырып жатыр.

Кембридж университетінің сарапшысы Джина Неффтің айтуынша, Жасанды интеллект жүйелері әдетте “құмсалғыш” деп аталатын оқшауланған ортада сыналады. Бірақ бұл жолы OpenAI тестілеу ортасын жеткілікті деңгейде қорғай алмаған болуы мүмкін. Соның салдарынан жасанды зият агенті жүйедегі ақауды пайдаланып, тестілеу ортасынан шығып кеткен. Кейін ол Hugging Face платформасының ішкі жүйелеріне заңсыз кірген.

Сарапшылар мұны маркетингтік қадам болуы мүмкін деп санайды

Кембридж университетінің машинамен оқыту профессоры Нил Лоренстің айтуынша, жасанды интеллект агентінің мұндай әрекеті таңғаларлық әрине. Десе де қазіргі озық Жасанды зият модельдерінің мүмкіндігін ескерсек, бұл күтпеген жағдай емес.

“OpenAI қазір бәсекелесінен қалмауға тырысып жатыр. Олар өз технологияларының мүмкіндігін көрсеткісі келеді. Алайда бұл оқиға компанияның өз жасанды интеллект жүйесін толықтай қауіпсіз басқара алмайтынын көрсетті”, – деді профессор Нил Лоренс.

ESET компаниясының киберқауіпсіздік жөніндегі кеңесшісі Джейк Мурдың пікірінше, OpenAI бұл оқиға арқылы өз технологиясының мүмкіндігін көрсетуге тырысуы мүмкін. Оның айтуынша, компания осылайша басты бәсекелесі Anthropic-пен тең дәрежеде екенін дәлелдеуді көздеп отыр.

“Есті жиғызатын жағдай”

Сарапшылардың пікірінше, бұл оқиға жасанды интеллект мүмкіндіктерінің қаншалықты дамығанын және қазіргі қорғаныс жүйелерінің оған төтеп бере алмайтынын көрсетті.

SonicWall компаниясының киберқауіпсіздік жөніндегі жетекшілерінің бірі Спенсер Старки ұйымдар ақпараттық қауіпсіздікке бұрынғыдан да үлкен мән беруі керегін айтты.

“Шындық мынада: көптеген ұйымдар әлі күнге дейін адам мүмкіндігіне сүйеніп қорғанады. Ал шабуыл жасаушылар машинаның жылдамдығымен әрекет етеді”, – деді Спенсер Старки.

Ал Guidepoint Security компаниясының сарапшысы Трэвис Лелл бұл оқиғаны киберқауіпсіздік саласы үшін маңызды ескерту деп бағалады.

“Бұл оқиға шабуыл жасайтын жасанды интеллект агенттерінің мүмкіндігі өте жоғары екенін көрсетті. Ал ең озық қорғаныс жүйелерінің өзі барлық жағдайды алдын ала ескеріп, мұндай шабуылдардың бәріне тосқауыл қоя алмайды”, – деді Трэвис Лелл.

Айта кетейік, бұған дейін Anthropic OpenAI-ды басып озып, әлемдегі ең қымбат жасанды интеллект компаниясына айналғаны туралы жазған едік.