Сарапшылар ЖИ-ден келетін қауіптердің рейтингін жасады

Жасанды интеллекттің дамуынан адамзаттың жартысынан көбі қорқады. Жасанды интеллект OpenAI-ден "қашып" кеткеннен кейін қауіпсіздік басты басымдыққа айналды. Сарапшылар бақыланбайтын жасанды интеллекттің деструктивті әлеуеті жасанды интеллект апокалипсисінің негізгі қаупін тудырады деген пікірде. Бұл туралы Stan.kz ақпарат агенттігі ВВС арнасына сілтеме жасап хабарлайды. 

Жасанды интеллект апокалипсисінің ықтималдығы кез келген сценарийде 10% деп бағаланады. Ал әлемдегі жетекші инженерлік университеттердің бірі – Массачусетс технологиялық институты (MIT) жүргізген 272 жасанды интеллект сарапшысының сауалнамасына сәйкес, бұл ықтималдық 20%-дан асады.

Олар 24 тәуекел рейтингін жасап, 2030 жылға қарай әрқайсысы үшін "апатты" нәтиженің ықтималдығын анықтады. Апатты залал, мысалы, 1 миллионнан астам адамның өмірін жоғалту, 100 миллиард доллардан асатын экономикалық шығындар немесе демократиялық нормалардың немесе жеке өмірге қол сұғушылық құқықтарының күйреуі сияқты өркениет деңгейіндегі материалдық емес салдары анықталды.

Ең көп талқыланған қорқыныштардың бірі – жаппай жұмыссыздық қаупі төртінші орын алды. 

Сарапшылардың пікірінше, ең қауіпті аспект – бақылаудан шыққан жасанды интеллекттің жойқын мүмкіндіктері, ол адамзатқа кеңінен зиян келтіруді өз бетінше үйренеді. Алдау, қару жасау, адамдарды манипуляциялау, саясатқа араласу, кибершабуылдар және озық ЖИ жүйелерін құру, тіпті өздерінің жұмыс ортасын түсіну және өзін-өзі тарату деңгейіне дейін қауіп бар.

Оқыңыз

Мамандар жасанды интеллектінің кесірінен 2035 жылға қарай сұраныс төмендейтін мамандықтарды атады Оқыңыз

Апокалиптикалық рейтингтегі екінші және үшінші тәуекелдер біріншісімен байланысты: жасанды интеллектпен жұмыс істейтін қаруларды әзірлеу, сондай-ақ "биліктің жасанды интеллект вертикалы" – ресурстардың озық технологияларға қол жеткізе алатын шағын топтың қолында шоғырлануы және әлеуметтік және экономикалық теңсіздіктің тереңдеуі.

Мұның бәрі әлеуметтік төңкерістер мен саяси дағдарыстар қаупін тудырады. Әлем бойынша жүргізілген сауалнамаларға сәйкес, мұндай салдардан қорқу жыл сайын артып келеді.

Мысалы Stanford AI Index жаһандық сауалнамасында жасанды интеллекттен "сескенетін" респонденттердің үлесі 2022 жылғы 39%-дан 2025 жылға қарай 52%-ға дейін өсті. Сонымен қатар прогресстен шабыттанғандар саны 53-54% деңгейінде өзгеріссіз қалды.

Дегенмен MIT зерттеуінің сарапшыларының пікірінше, қоғамдық мазасыздықтың артуы жасанды интеллектке ешқандай шектеулер қоймайды. Себебі жасанды интеллекттің дамуынан пайда көретіндер жауап береді, ал одан ең көп қауіп төнетіндер процесті басқара алмайды.

“Авиация және техногендік апаттар немесе сапасыз дәрі-дәрмектер ең алдымен халыққа әсер етеді, ал әзірлеушілер, өндірушілер және реттеуші органдар олардың алдын алуға жауапты. Дегенмен, бұл салаларда қатаң стандарттар, бақылау механизмдері және заңды жауапкершілік механизмдері бар. Жасанды интеллект секторында ұқсас механизмдер әлі де бастапқы кезеңде немесе мүлдем жоқ. Нәтижесінде, ең осал топтар іс жүзінде қорғансыз болып қалады, ал оларды қорғауға жауаптылар тәуекелдерді шектеу үшін жеткілікті ынталандыруға ие емес", – деп қорытындылайды олар.

Барлық салаға жасанды интеллект бірдей қауіп төндірмейді. Дәл сол сарапшылар 14 экономикалық сектордың 24 тәуекелдің әрқайсысына осалдығын бағалады. Ақпараттық технологиялар және ұлттық қауіпсіздік секторлары ең нашар көрсеткіштерге қол жеткізді.

Ақпараттық сектор дезинформацияға, қоғамдық пікірді манипуляциялауға және жеке өмірге қол сұғуға өте осал. Ұлттық қауіпсіздік кибершабуылдар мен жаңа қару түрлеріне осал.

Қаржы секторы да осындай рейтинг алды, мұнда бір жағынан, жасанды интеллект алаяқтық пен нарықты манипуляциялауға қарсы күресті қиындатады, ал екінші жағынан, ол барлық деңгейлерде барған сайын енгізілуде, бұл бұзылу жағдайында салдар қаупін арттырады.

Тәуекел талдауына сәйкес, ең қорғалатын салалар –  қонақ үй және мейрамхана индустриясы, ауыл шаруашылығы, өндіріс, мәдениет және ойын-сауық.

Еске салсақ, OpenAI компаниясының жасанды интеллекті бақылаудан шығып, кибершабуыл жасады.