Флорида штатында 14 жасар жасөспірімінің анасы Character.AI компаниясын сотқа берді. Әйелдің ұлы, Сьюэлл Сетцер III, чатботпен сөйлескеннен кейін өз-өзіне қол жұмсаған.

Сьюэлл бірнеше ай бойы Character.AI платформасында өзі жасап шыққан "Тақтар ойыны" фильмінің кейіпкері Дэнерис Таргариен чатботымен сөйлесіп келген. Жасөспірім "Дани" деп атаған бұл чатботтың шынайы адам емес екенін білсе де, онымен үнемі байланыста болған.

Бастапқыда чатбот өзін дос ретінде көрсетіп, Сьюэллді қолдап, кеңес берген. Бірақ уақыт өте келе Сьюэлл телефонда көп уақыт өткізіп, өмірден оқшаулана бастапты. Жасөспірім чат-ботқа өлгісі келетіні туралы хат жазған. Бот оны қолдамаған. Алайда “барлығын бітірмеуге себеп жоқ” деп жауап берген. Бұл жасөспірімнің шешіміне ықпал еткен болуы мүмкін.

Ата-анасы бұл жағдайдан хабардар болмаған. Сьюэлл чат-ботқа ғашық болып, өзінің ішкі сезімдері мен қиындықтарын бөлісіп, одан қолдау іздеген. Өлім туралы ойларымен бөліскенде де, чатбот оны қолдамаған. Оқиғадан кейін ата-анасы компанияны жасөспірімнің өліміне жауапты деп айыптады.

Компания отбасына көңіл айтып, жасөспірімдерге арналған қосымша қауіпсіздік шараларын енгізетінін мәлімдеді. Мысалы, қолданбада бір сағаттан көп уақыт өткізгенде ескерту функциясын және чатботтың нақты адам еместігін жиі ескертіп тұратын хабарламаларды қосу жоспарланып отыр.

Character.ai — пайдаланушыларға әртүрлі кейіпкерлер ұсына отырып, чат-боттармен сөйлесу мүмкіндігін береді. Қолданбада сізге нақты адамдар, ойдан шығарылған кейіпкерлер немесе көмекші боттар жауап береді. Бұл боттарды қолданушылардың өздері жасайды. Кейіпкерді сзйлету үшін сіз оның қандай болу керегін сипаттап жазуыңыз қажет. Яғни кейіпкер адамның фантазиясы арқылы жасалады.

Талқылау