Қытайлық ЖИ сынақ кезінде зерттеушілерге биологиялық қару жасау жолын айтып берген

Қытайлық Moonshot компаниясы өзіне тиесілі Kimi жасанды интеллект модельдеріне қатысты ішкі тексеріс жүргізіп жатыр. Бұған жасанды интеллект жүйелерінің қауіпсіздігін тексеретін Mindgard компаниясының мамандары Kimi K2.6 және K3 Swarm модельдерінің қорғаныс шектеулерін айналып өтіп, қауіпті ақпарат алуға болатынын анықтағаны себеп болды. Бұл туралы Stan.kz ақпарат агенттігі BBC-ге сілтеме хабарлайды.

Айта кетейік, негізі жасанды интеллект қауіпті тақырыптарға қатысты нақты нұсқаулық бермеуі тиіс. Мұндай жүйелерге адамға зиян келтіруі мүмкін ақпаратты шектейтін арнайы қорғаныс тетіктері орнатылады. Алайда Mindgard мамандары шілдеде жүргізген сынақ кезінде Kimi модельдеріндегі осы шектеулерді айналып өтуге мүмкіндік бар екенін анықтаған.

Зерттеушілер мұндай тексерісті "джейлбрейкинг" әдісі арқылы жүргізген. Яғни модельге бірнеше күрделі нұсқау беріп, оның қауіпсіздік шектеулерін бұзуға бола ма, жоқ па, соны тексерген.

Оқыңыз

Трамп жасанды интеллектіні енді "суперинтеллект" деп атауды тапсырды Оқыңыз

Mindgard негізін қалаушы Питер Гарраганның айтуынша, қорғаныс шектеуінен өткеннен кейін модель қауіпті тақырыптарды талқылап қана қоймай, кей жағдайда әңгімені өзі де жалғастырған.

"Қорғанысты айналып өткеннен кейін модель іс жүзінде кез келген тақырыпты талқылауға дайын болады. Оның үстіне кей жағдайда басқа да қауіпті мәселелер бойынша өзі ұсыныс жасап, шығармашылық танытады", – деді Питер Гарраган BBC-дің Tech Life бағдарламасына берген сұхбатында.

Осы ретте Moonshot компаниясы тәуелсіз мамандардың мұндай тексерісін қолдайтынын мәлімдеді. Компания сыртқы сарапшылардың ескертулері жасанды интеллектіні жетілдіріп, оның қауіпсіздігін күшейтуге көмектесетінін атап өткен.

Moonshot өкілдері зерттеу нәтижелерін Mindgard компаниясымен бірге талқылап жатқанын да хабарлады.

Жалпы, мұндай сынақтардың мақсаты – жасанды интеллектінің қауіпті сұрақтарға жауап бермеуін ғана емес, оған қойылған шектеулердің сырттан берілген күрделі нұсқауларға қаншалықты төтеп бере алатынын тексеру. Өйткені қорғаныс тетігі болғанымен, оны оңай айналып өтуге мүмкіндік болса, қауіпсіздік жүйесінің өзі әлсіз деген сөз.