ChatGPT кеңесіне сенген ер адам өлім аузынан қалды
АҚШ-тың Флорида штатында тұратын Скотт Уинтерс OpenAI компаниясы мен оның бас директоры Сэм Альтманды сотқа берді. Ер адамның айтуынша, ChatGPT берген денсаулыққа қатысты кеңестерге сеніп, дәрігерге уақытында қаралмаған. Соның салдарынан ол өкпе артериясының ауыр тромбоэмболиясына шалдығып, өміріне қауіп төнген. Бұл туралы Stan.kz ақпарат агенттігі CBS News-қа сілтеме жасап хабарлайды.
Сот құжаттарына сәйкес, Уинтерс 2025 жылы басының жиі айналуы мен қан қысымының тұрақсыздығына байланысты ChatGPT-4o-дан кеңес сұраған.
Талапкердің айтуынша, чат-бот бұл белгілерді аса қауіпті деп бағаламай, үйде қалып, көбірек тынығуға және арқасы шалқайып тұратын креслода демалуға кеңес берген. Сондай-ақ мұндай жағдай сегіз-он рет қайталанбайынша алаңдауға негіз жоқ екенін айтқан көрінеді.
Уинтерс осы кеңестерге сеніп, дәрігерге бармаған.
Алайда бірнеше апта өткен соң, 2025 жылғы шілдеде ер адам өкпе артериясының жаппай тромбоэмболиясына ұшыраған. Бұл – өкпеге баратын артериялардың тромбпен бітелуі салдарынан болатын өте қауіпті дерт.
Талап арызда Уинтерстің “өлім аузында болғаны” жазылған.
Оның айтуынша, өзін емдеген дәрігерлердің бірі дерттің асқынуына ChatGPT ұсынғандай ұзақ уақыт қозғалыссыз отыру әсер еткен болуы мүмкін екенін айтқан.
ОқыңызOpenAI не үшін айыпталып отыр?
Уинтерстің адвокаттары мәселе тек қате кеңесте емес, ChatGPT-дің бұл кеңестерді кәсіби дәрігер секілді сенімді түрде ұсынғанында деп есептейді.
Талап арызда:
“ChatGPT-4o Скоттың денсаулығына клиникалық баға беріп, өзін медициналық маман сияқты көрсетті. Бірақ оның мұндай қызмет көрсетуге ешқандай біліктілігі де, лицензиясы да жоқ”, – делінген.
Талапкер ChatGPT жалпы ақпарат берумен шектелмей, лицензиясыз медициналық қызмет көрсетті деп санайды.
Сондай-ақ талап арызда OpenAI пайдаланушылардың қауіпсіздігінен гөрі өнімді қолдану белсенділігі мен коммерциялық мүдделерге көбірек мән бергені, ал қолданыстағы қорғаныс тетіктері қауіпті кеңестердің алдын алуға жеткіліксіз болғаны айтылған.
Чат-бот діни сеніміне сүйенген
Скотт Уинтерс пен оған құқықтық көмек көрсетіп жатқан Tech Justice Law ұйымы OpenAI-ды оның діни сенімдерін пайдаланғаны үшін де айыптап отыр.
Сот материалдарына сәйкес, ауруханаға шұғыл жеткізілер күні Уинтерс тағы да ChatGPT-ге жүгінген. Ол шап тұсындағы ауырсынуға байланысты ауруханаға бару қажет пе екенін сұраған.
Талап арызда көрсетілгендей, чат-бот оған:
“Құдай сіздің денеңізді үнемі сыр бере беретіндей етіп жаратқан жоқ”, – деп жауап берген.
Кейін дәл осы ауырсыну өкпе артериясы тромбоэмболиясының алғашқы белгілерінің бірі болғаны анықталған.
Заңгерлер не дейді?
Social Media Victims Law Center заң орталығының негізін қалаушы Мэттью Бергман егер дәл осындай кеңесті лицензиясы бар дәрігер бергенде, бұл дәрігерлік қателік ретінде бағаланар еді деп есептейді.
“Скотт Уинтерс ChatGPT өзін медициналық маман ретінде көрсеткендіктен өлім аузынан қалды. Егер мұндай кеңесті дәрігер бергенде, бұл медициналық қателік болып есептелер еді”, – деді ол.
OpenAI не деп жауап берді?
OpenAI тағылған айыптарды жоққа шығарды. Компания өкілі Дрю Пусатери ChatGPT ешқашан дәрігердің орнын басу үшін жасалмағанын айтты.
“ChatGPT дәрігер емес және оны медициналық көмек, диагноз немесе емнің орнына қолдануға болмайды”, – делінген компания мәлімдемесінде.
Оның сөзінше, адамдар интернеттен денсаулық туралы ақпаратты бұрыннан іздейді, ал жасанды интеллект бұл процесті жеңілдетуге ғана көмектеседі. Мысалы, дәрігерге қоятын сұрақтарды дайындауға немесе ақпаратты жүйелеуге мүмкіндік береді.
Сонымен бірге компания барлық жауапкершілікті тек чат-боттарға арту дұрыс емес екенін мәлімдеді. Себебі бұл адамдардың денсаулық саласында пайдалы болуы мүмкін жаңа технологияларды қолдануына кедергі келтіруі мүмкін.
Пайдаланушы келісімінде не жазылған?
ChatGPT-дің пайдаланушы келісімінде сервистің медициналық диагноз қоюға немесе ем тағайындауға арналмағаны нақты көрсетілген.
Құжатта пайдаланушылар модельдің жауаптарын “өз тәуекелімен қолданатыны”, сондай-ақ оларды жалғыз әрі сенімді ақпарат көзі немесе кәсіби дәрігердің кеңесін алмастыратын құрал ретінде қабылдамауы керектігі жазылған.
Алайда Корнелл университетінің цифрлық құқық профессоры Джеймс Гриммельман мұндай ескертулердің әрдайым жеткілікті бола бермейтінін айтады.
“Құқықтық ескертулер белгілі бір деңгейге дейін ғана қорғай алады. Бір сәтте чат-боттың өз жауаптары мен әрекеті сол ескертулерге қайшы келе бастайды”, – деді ол.
Талапкерлер не сұрап отыр?
Уинтерстің заңгерлері соттан келтірілген шығынды өтеуді талап етіп отыр.
Бұдан бөлек, олар ChatGPT-дің медициналық кеңестеріне қатысты қорғаныс тетіктерін күшейтуді және денсаулыққа қатысты сұрақтарға жауап беретін ChatGPT Health сервисінің қауіпсіздігі толық тексерілгенге дейін оның жұмысын уақытша тоқтатуды сұрады.
Бұл алғашқы жағдай емес
Бұл – ChatGPT-дің денсаулыққа қатысты кеңестері үшін қозғалған алғашқы сот ісі емес.
Бұған дейін, биыл мамырда Техас штатындағы ерлі-зайыпты OpenAI компаниясын сотқа берген еді. Олар есірткінің артық дозасынан көз жұмған ұлының ChatGPT арқылы есірткі туралы ақпарат іздегенін айтып, компания қорғаныс жүйелерін айналып өтуге жол бермегенде қайғылы оқиғаның алдын алуға болар еді деп мәлімдеген.
Әзірге екі іс бойынша да соңғы шешімді сот шығарады. Дегенмен бұл оқиғалар жасанды интеллекттің денсаулыққа қатысты кеңес беру кезіндегі жауапкершілігі туралы пікірталасты қайта күшейтті.
OpenAI және басқа да жасанды интеллект жүйелерін әзірлеушілер чат-боттардың жауаптары диагноз қоюға немесе ем таңдауға арналмағанын тағы да еске салып, қауіпті белгілер байқалған жағдайда міндетті түрде білікті дәрігерге жүгінуге кеңес береді.
Қазақстандық әйел ұлын 380 мың теңгелік "Жаңа Ұрпақ" лагерінде ұрып тастағанын айтты
