ChatGPT-ге ұлын өлтіргісі келетінін жазған ер адам қамауға алынды
Бразилияда 36 жастағы ер адам ChatGPT-пен жазысқан хаттары негізінде қамауға алынды. Полицияның мәліметінше, ол сегіз жастағы ұлын өлтіріп, кейін басқа адамдарға шабуыл жасап, өзіне қол жұмсауды жоспарлаған. Жағдай жасанды интеллект арқылы анықталған ықтимал қауіп туралы ақпараттың құқық қорғау органдарына берілуі және чат-боттағы хаттардың сотта дәлел ретінде қолданылуы мәселесін қайта көтерді. Бұл туралы Stan.kz ақпарат агенттігі BBC.com порталына сілтеме жасап хабарлайды.
36 жастағы бразилиялық фермер екі айға жуық уақыт бойы ChatGPT-пен сөйлесіп, адамдарды өлтіру, оның ішінде сегіз жастағы ұлын өлтіру жоспары туралы жазған. Полицияның мәліметінше, ол кейін басқа адамдарға шабуыл жасап, өзіне қол жұмсауды да жоспарлаған.
Осы хат алмасулардың негізінде ер адам 19 маусымда Бразилияның Эспириту-Санту штатында қамауға алынған. Ақпаратты алдымен ChatGPT әзірлеушісі OpenAI АҚШ Федералдық тергеу бюросына (FBI) берген. Кейін америкалық тарап Бразилия билігіне хабарлаған.
Полиция бұл іске ерекше мән берген. Себебі тергеу нұсқасы бойынша, ер адам ұлын 20 маусымға дейін өлтіруді жоспарлаған.
"Іске басымдық бердік. Себебі қауіп өте жоғары болды және әкесі ұлын жақын арада өлтіруді жоспарлаған деген ақпарат түсті", – деді Эспириту-Санту штатының киберқылмыспен күрес бөлімінің басшысы Бренну Андраде.
Полиция не тапты?
Тергеушілердің айтуынша, ер адам ұлымен көп араласпаған, негізінен алимент төлеп отырған. Полиция оның алимент төлеуге байланысты наразылығы болжамды қылмыстың себептерінің бірі болуы мүмкін деп есептейді.
Үйін тінту кезінде төрт бөтелке белгісіз зат және ілмек тәрізді түйіні бар арқан табылған. Полиция бұл заттар ер адамның өзіне қол жұмсау жоспары болуы мүмкін екенін көрсетеді деп санайды. Тергеу барысында оның ChatGPT-ке мектептерге, шіркеулерге және полиция қызметкерлеріне шабуыл жасау туралы да жазғаны анықталған.
Мысалы, бір хабарламасында ол есірткі сатушыларды өлтіріп, кейін полицейлерге шабуыл жасап, олардың өзіне оқ атуын қалайтынын жазған.
Тағы бір жазбасында атыс қаруын сатып алып, полицияға оқ жаудырып, олардың жауап ретінде өзін өлтіруін қалайтынын айтқан.
Полицияның мәліметінше, ер адам рицин сияқты улы заттар туралы да ақпарат іздеген. Сонымен қатар ChatGPT-тің қауіпсіздік шектеулерін айналып өту үшін сұрақтарын бірнеше рет өзгертіп отырған.
Күдікті бәрін жоққа шығарады
Ер адамның өзі ұлына зиян келтіруді жоспарлағанын мойындамайды. Оның адвокаты Педру Паулу Песси клиенті ChatGPT-пен сөйлескенде "жай ғана сандырақ нәрселер айтқанын" және нақты қылмыс жасауға әрекет етпегенін мәлімдеді.
"Егер жасанды интеллектке айтылған кез келген сөз қылмыс болып саналса, онда бәрін түрмеге отырғызуға тура келеді", – деді адвокат.
Ер адам 54 күн қамауда отырғаннан кейін, 13 тамызда босатылды. Әзірге оған ресми айып тағылған жоқ. Бірақ тергеу жалғасып жатыр. Қазір оған электронды білезік тағу міндеті жүктелген. Сондай-ақ ұлымен және баланың анасымен байланысуына тыйым салынған. Тергеушілер оның телефонын тексеріп, үйінен тәркіленген заттарға сараптама жүргізіп жатыр. Сондай-ақ оның шынымен жалдамалы кісі өлтіруші іздеген-іздемегенін анықтамақ.
ChatGPT-тегі жазбалар сотта дәлел бола ала ма?
Істің ең маңызды тұстарының бірі жасанды интеллектпен болған жеке хат алмасудың сотта дәлел ретінде қолданылуы. Тергеушілердің айтуынша, OpenAI оларға күдіктінің жеке деректері мен ChatGPT-ке жіберген хабарламаларын берген. Бірақ чат-боттың оған берген жауаптарын бермеген.
"Біз оған қандай жауаптар берілгенін алған жоқпыз", – деді Бренну Андраде.
Заңгер Майра Фернандестің айтуынша, бұл жағдай дәлелдемелерді бағалауды қиындатады. Өйткені пайдаланушының бір-екі хабарламасын ғана алып, оның нақты ниетін анықтау мүмкін емес.
"Мұнда қысқартылған немесе өңделген үзінді емес, толық хат алмасу қажет. Сонда ғана әңгіменің нақты контекстін түсінуге болады", – дейді заңгер.
Оның пікірінше, толық диалог чат-боттың пайдаланушының сөзіне қалай жауап бергенін және әңгіменің бағытына әсер еткен-етпегенін де көрсетуі мүмкін.
AI нақты қауіп пен жай сөзді қалай ажыратады?
OpenAI BBC-ге берген түсініктемесінде компания басқа адамдарға зиян келтіру қаупі "сенімді әрі тікелей" деп бағаланған жағдайда құқық қорғау органдарына хабарлауы мүмкін екенін мәлімдеді. Алайда заңгерлер мұндай тәжірибеге қатысты бірқатар сұрақ бар екенін айтады.
Мысалы, адам ашумен бір нәрсе жазуы мүмкін. Біреу ойындағысын ғана сипаттауы мүмкін. Ал енді біреулер әдейі арандату үшін қауіпті сөздер қолдануы мүмкін. Сондықтан олардың барлығын нақты қылмыс жасау ниеті деп қабылдау дұрыс па деген сұрақ туындайды.
"Егер жасанды интеллект адамның сөзін белгілі бір жолмен түсінді деп қана тергеу бастай берсек, кез келген адам күдікке ілігуі мүмкін", – дейді Майра Фернандес.
Цифрлық құқық маманы, профессор Патрисия Пектің пікірінше, жасанды интеллект қазір тек мәтін немесе сурет жасайтын құрал емес. Ол адамның әңгімесіндегі ықтимал қауіпті мінез-құлық белгілерін де анықтай алатын жүйеге айналып келеді. Сонымен бірге маман мұндай бақылауды шамадан тыс күшейтуге болмайтынын атап өтті. Бразилиядағы бұл жағдай жасанды интеллект пен құқық қорғау жүйесінің арақатынасына қатысты жаңа сұрақтарды алға шығарды.
Еске салайық, бұған дейін АҚШ-та тұратын Скотт Уинтерс ChatGPT берген денсаулыққа қатысты кеңестерге сеніп, дәрігерге уақытында қаралмағанын айтып, OpenAI компаниясын сотқа берген еді. Оның айтуынша, кейін өкпе артериясының ауыр тромбоэмболиясына шалдығып, өміріне қауіп төнген. OpenAI өз кезегінде ChatGPT дәрігердің орнын баспайтынын және оны диагноз қою немесе ем тағайындау үшін қолдануға болмайтынын мәлімдеді.
"Роллтонның" орнына бешбармақ: Атырау тұрғыны ұлттық тағамды 5 минутта дайындау жолын тапты
