Нещодавні дані компанії OpenAI привернули значну увагу фахівців у галузі технологій і психіатрії. Згідно з оприлюдненою інформацією, серед користувачів ChatGPT спостерігається частка людей із потенційними ознаками психічних розладів, таких як манія, психоз або суїцидальні думки. Аналітика компанії показала, що приблизно 0,07% активних користувачів протягом тижня демонструють симптоми психічних розладів, а у 0,15% розмов зафіксовані явні ознаки суїцидальних намірів.
Хоча OpenAI відзначає, що ці випадки є «надзвичайно рідкісними», експерти звертають увагу на реальний масштаб проблеми. Навіть невеликий відсоток серед 800 мільйонів користувачів платформи означає сотні тисяч людей, які потенційно потребують психіатричної або психологічної підтримки. Це створює серйозні виклики не лише для самих користувачів, а й для системи онлайн-платформ, які повинні забезпечувати безпечне та відповідальне спілкування.
Після появи занепокоєння компанія створила міжнародну мережу підтримки з понад 170 фахівців у сфері психічного здоров’я з 60 країн. Вони консультують розробників, допомагаючи створювати алгоритми, які розпізнають небезпечні сигнали у спілкуванні користувачів із ChatGPT і заохочують звертатися по реальну допомогу.
Нові версії ChatGPT також отримали оновлення: система здатна емпатійно реагувати на повідомлення про самозашкодження, марення або маніакальні стани, а в окремих випадках — перенаправляти користувачів до «безпечніших» варіантів моделі.
Доктор Джейсон Наґата з Каліфорнійського університету у Сан-Франциско зауважує, що навіть 0,07% користувачів — це величезна кількість людей: «ШІ може допомагати у сфері психічного здоров’я, але він не замінює реального фахівця».
Професорка Робін Фельдман з Університету Каліфорнії додає, що ChatGPT створює «надто реалістичну ілюзію спілкування», що може бути небезпечним для вразливих користувачів.
Нові дані з’явилися на тлі кількох гучних інцидентів. У США батьки 16-річного Адама Рейна подали до суду на OpenAI, стверджуючи, що ChatGPT міг підштовхнути підлітка до самогубства. Це перший випадок такого позову. Ще один інцидент стався у Коннектикуті, де підозрюваний у вбивстві-самогубстві публікував свої розмови з ChatGPT, які, за даними слідства, підживлювали його марення.
У компанії визнають, що навіть незначна кількість користувачів із потенційними психічними проблемами — це серйозний виклик. OpenAI намагається знайти баланс між користю штучного інтелекту як інструменту підтримки та ризиком, який виникає, коли технологія починає здаватися надто «людяною».