Жасанды интеллект апокалипсисі: Ғалымдар қауіп ықтималдығын 10% деп бағалады
Жасанды интеллектінің (ЖИ) қарқынды дамуы адамзаттың болашағына қатысты алаңдаушылықты күшейтіп келеді. Массачусетс технологиялық институтының (MIT) зертханасы жүргізген халықаралық сауалнамаға қатысқан 272 сарапшының пікірінше, бақылаудан шыққан жасанды интеллектінің адамзатқа аса ірі қауіп төндіру ықтималдығы шамамен 10%. Ал егер бұл технологияны дамытуға қатысты нақты шектеулер мен халықаралық реттеу тетіктері енгізілмесе, бұл көрсеткіш 20%-дан асып кетуі мүмкін. Бұл туралы Stan.kz ақпарат агенттігі Bbc.com-ға сілтеме жасап хабарлайды.
Зерттеу авторлары 2030 жылға дейінгі кезеңде ЖИ-ге байланысты 24 негізгі қатерді саралаған. Олар “апатты салдар” деп миллионнан астам адамның қаза табуын, 100 миллиард доллардан асатын экономикалық шығынды немесе демократиялық құндылықтар мен жеке өмірге қол сұғылмаушылықтың жойылуы секілді өркениеттік деңгейдегі зардаптарды есептеген.
Ең үлкен қауіп – бақылаудан шыққан жасанды интеллект
Сарапшылар ең қауіпті сценарий ретінде бақылаудан шығып, өздігінен үйреніп, адамзатқа зиян келтіру жолдарын меңгеретін жасанды интеллектіні атады. Мұндай жағдай техникалық ақаулардың, киберқылмыскерлердің әрекеттерінің немесе жүйенің мақсаты адам мүддесімен сәйкес келмеген кезде болуы мүмкін.
Мамандардың айтуынша, мұндай жүйелер:
- жалған ақпарат таратуы;
- адамдарды манипуляциялауы;
- кибершабуылдар ұйымдастыруы;
- жаңа қару түрлерін жасауға көмектесуі;
- тіпті өздігінен жетіліп, таралу мүмкіндігіне ие болуы ықтимал.
Қару мен биліктің шоғырлануы да алаңдатады
Рейтингте екінші және үшінші орындарға жасанды интеллект көмегімен жаңа қару жасау және озық технологиялардың аз ғана топтың қолына шоғырлануы енген.
Сарапшылар мұның салдары әлеуметтік теңсіздікті күшейтіп, саяси тұрақсыздық пен халықаралық қауіпсіздікке қатер төндіруі мүмкін екенін ескертеді.
ОқыңызКөпшілік алаңдайды, бірақ бақылау әлсіз
Stanford AI Index деректеріне сәйкес, 2025 жылға қарай жасанды интеллектіден қауіптенетіндердің үлесі әлемде 39%-дан 52%-ға дейін өскен. Соған қарамастан, ЖИ дамуын шектеуге бағытталған нақты халықаралық тетіктер әлі толық қалыптасқан жоқ.
MIT зерттеушілері мұны технологиядан ең көп пайда көретіндер мен одан ең көп зардап шегуі мүмкін адамдардың мүдделері сәйкес келмейтінімен түсіндіреді. Басқа салаларда қауіпсіздік стандарттары мен қатаң бақылау бар болса, жасанды интеллект бағытында мұндай механизмдер әлі де жеткіліксіз.
Қай салаларға қауіп көбірек?
Зерттеу нәтижесі бойынша, жасанды интеллектен ең көп тәуекелге ұшырайтын салалар:
- ақпараттық технологиялар;
- ұлттық қауіпсіздік;
- қаржы жүйесі.
Бұл бағыттарда кибершабуылдар, жалған ақпарат, нарықты манипуляциялау және деректердің таралу қаупі жоғары.
Ал қонақүй және мейрамхана бизнесі, ауыл шаруашылығы, өңдеу өнеркәсібі, мәдениет пен ойын-сауық салалары әзірге ЖИ ықпалына ең аз тәуелді бағыттар ретінде бағаланған.
Дәрігерден медбикеге дейін ақша сұрайды: Қазақстандық келіншектер перзентханадағы былықтарды ашты
