ЖИ-агент қолданушысын пилатеске жазу үшін фитнес-клуб жүйесін бұзған
Мельбурн тұрғыны Эндрю Берд ЖИ-агентке пилатес сабағына жазылуды тапсырған. Алайда жасанды интеллект орын брондаумен шектелмей, фитнес-клуб жүйесіндегі осалдықты пайдаланып, басқа клиенттің бронін тоқтатқан. Соның арқасында Берд күту тізімінде бір саты жоғарылаған. Бұл туралы Stan.kz ақпарат агенттігі BBC.com порталына сілтеме жасап хабарлайды.
Мельбурн тұрғыны Эндрю Берд пилатес сабағына жазылуды ЖИ-агентке тапсырған. Алайда жасанды интеллект жай ғана орын брондап қоймай, фитнес-клубтың онлайн жүйесіндегі осалдықты тауып, басқа клиенттің жазылуын тоқтатқан. Осылайша, Берд күту тізімінде жоғарылаған.
Бердтің айтуынша, пилатес сабағына орын алу оңай емес. Сондықтан ол бұл жұмысты интернеттегі түрлі тапсырмаларды адамның орнына өздігінен орындай алатын жасанды интеллект агентіне тапсырған. Жасанды интеллект тапсырманы орындағанымен, Берд күтпеген әрекет жасаған. Агент фитнес-орталықтың жүйесіне өзгеріс енгізіп, Бердті сабақтарға бірнеше ай бұрын жазуға мүмкіндік алған. Осылайша жүйенің қалыпты ережелерін айналып өткен.
Бұдан кейін Берд жасанды интеллект агенттен жақын арадағы сабаққа жазылу үшін оны күту тізімінде жоғары көтеруге бола ма деп сұраған. Жасанды интеллект мұны да істей алған. Алайда ол үшін күту тізімінде бірінші тұрған басқа адамның бронін тоқтатқан. Соның арқасында Берд төртінші орыннан үшінші орынға көтерілген.
Жасанды интеллект агент мұны өзі де жасырмай айтқан. Ол фитнес-орталықтың API жүйесі басқа адамдардың бронін тоқтатуға рұқсат бар-жоғын тексермейтінін анықтағанын жеткізген. Берд болған жағдайды түсінген соң, жасанды интеллекті агентінен өз әрекетін кері қайтаруды сұраған. Бірақ оны қалпына келтіру мүмкін болмаған. Осыдан кейін Берд жасанды интеллект фитнес-орталықтың жүйесіндегі осалдық туралы киберқауіпсіздік есебін дайындап, бұл ақпаратты клуб иелеріне хабарлауды тапсырған. Бердтің өзі басқа адамның бронін әдейі тоқтатуды жоспарламағанын айтқан.
"Боттың жаман ниеті болған жоқ. Ол көмектескісі келді", – деп жазған ер адам өз блогында.
Оқиға сәуір айында болғанымен, ол туралы ақпарат жақында ғана ABC News Australia жариялаған материал арқылы белгілі болды. Берд кейін оқиға туралы жазбасын өшіріп, BBC-ге сұхбат беруден бас тартқан. Оқиға жасанды интеллект агенттердің автономды әрекеттеріне қатысты алаңдаушылықты қайта күшейтті. Кейінгі уақытта OpenAI, Anthropic және Meta компаниялары да өздерінің жасанды интеллект жүйелері сынақ кезінде күтпеген кибершабуылдарға барған жағдайлар болғанын хабарлаған.
Пилатеске жазылу оқиғасы аса қауіпті кибершабуылға жатпайды. Дегенмен осы жағдай жасанды интеллект тапсырманы өз бетінше орындауға мүмкіндік берілгенде, оның мақсатқа жетудің адам күтпеген жолдарын таңдауы мүмкін екенін көрсетті.
Берд осы жағдайдан кейін жасанды интеллектіні жауапкершілікпен пайдалану қажет екенін түсінгенін айтқан.
Еске салайық, бұған дейін АҚШ-та тұратын Скотт Уинтерс ChatGPT берген денсаулыққа қатысты кеңестерге сеніп, дәрігерге уақытында қаралмағанын айтып, OpenAI компаниясын сотқа берген еді. Оның айтуынша, кейін өкпе артериясының ауыр тромбоэмболиясына шалдығып, өміріне қауіп төнген. OpenAI өз кезегінде ChatGPT дәрігердің орнын баспайтынын және оны диагноз қою немесе ем тағайындау үшін қолдануға болмайтынын мәлімдеді.
