Виявлення психічних розладів серед користувачів ChatGPT: масштаби та виклики

Нещодавні дані компанії OpenAI привернули значну увагу фахівців у галузі технологій і психіатрії. Згідно з оприлюдненою інформацією, серед користувачів ChatGPT спостерігається частка людей із потенційними ознаками психічних розладів, таких як манія, психоз або суїцидальні думки. Аналітика компанії показала, що приблизно 0,07% активних користувачів протягом тижня демонструють симптоми психічних розладів, а у 0,15% розмов зафіксовані явні ознаки суїцидальних намірів.

Хоча OpenAI відзначає, що ці випадки є «надзвичайно рідкісними», експерти звертають увагу на реальний масштаб проблеми. Навіть невеликий відсоток серед 800 мільйонів користувачів платформи означає сотні тисяч людей, які потенційно потребують психіатричної або психологічної підтримки. Це створює серйозні виклики не лише для самих користувачів, а й для системи онлайн-платформ, які повинні забезпечувати безпечне та відповідальне спілкування.

Після появи занепокоєння компанія створила міжнародну мережу підтримки з понад 170 фахівців у сфері психічного здоров’я з 60 країн. Вони консультують розробників, допомагаючи створювати алгоритми, які розпізнають небезпечні сигнали у спілкуванні користувачів із ChatGPT і заохочують звертатися по реальну допомогу.

Нові версії ChatGPT також отримали оновлення: система здатна емпатійно реагувати на повідомлення про самозашкодження, марення або маніакальні стани, а в окремих випадках — перенаправляти користувачів до «безпечніших» варіантів моделі.

Доктор Джейсон Наґата з Каліфорнійського університету у Сан-Франциско зауважує, що навіть 0,07% користувачів — це величезна кількість людей: «ШІ може допомагати у сфері психічного здоров’я, але він не замінює реального фахівця».

Професорка Робін Фельдман з Університету Каліфорнії додає, що ChatGPT створює «надто реалістичну ілюзію спілкування», що може бути небезпечним для вразливих користувачів.

Нові дані з’явилися на тлі кількох гучних інцидентів. У США батьки 16-річного Адама Рейна подали до суду на OpenAI, стверджуючи, що ChatGPT міг підштовхнути підлітка до самогубства. Це перший випадок такого позову. Ще один інцидент стався у Коннектикуті, де підозрюваний у вбивстві-самогубстві публікував свої розмови з ChatGPT, які, за даними слідства, підживлювали його марення.

У компанії визнають, що навіть незначна кількість користувачів із потенційними психічними проблемами — це серйозний виклик. OpenAI намагається знайти баланс між користю штучного інтелекту як інструменту підтримки та ризиком, який виникає, коли технологія починає здаватися надто «людяною».

Схожі статті

Переговори про припинення війни опинилися під загрозою через нові вимоги РФ

Росія може відмовитися від подальших мирних переговорів з Україною у разі, якщо Київ не погодиться на виведення українських військ із підконтрольної частини Донецької області. Про це повідомляють поінформовані джерела, знайомі з перебігом підготовки майбутніх переговорів. За словами співрозмовників, зустріч представників сторін може відбутися вже наступного тижня та розглядається як ключова для подальшої долі дипломатичного процесу. […]

МВФ висунув вимоги щодо податків і витрат — що відомо

За інформацією з джерел в Офісі Президента, переговорний процес із Міжнародним валютним фондом щодо нової програми фінансування супроводжується вимогами про перегляд податкової політики та параметрів соціальних видатків. За словами співрозмовника, ключові положення, які обговорювалися, стосуються можливого підвищення окремих податків і оптимізації бюджетних витрат. Джерело стверджує, що українська сторона намагалася відтермінувати запровадження частини рішень, які можуть […]

Готують саміт лідерів: що відомо про перемовини в березні

За інформацією джерел, наступна зустріч у форматі Україна–США–РФ може відбутися вже на початку березня в Абу-Дабі. За попередніми даними, головною темою стане підготовка можливої зустрічі на рівні лідерів держав. Йдеться про узгодження параметрів, формату та порядку денного потенційних перемовин між главами країн. Співрозмовники зазначають, що сторони наразі працюють над технічними деталями, зокрема над переліком питань, […]

Правоохоронці розкрили масштабну схему розкрадання на Трипільській ТЕЦ

Правоохоронними органами було викрито схему розкрадання понад 50 мільйонів гривень під час виконання ремонтних робіт на Трипільській теплоелектроцентралі. Згідно з інформацією, наданою поліцією, в цій справі залучено шість осіб. Слідство з'ясувало, що основними порушеннями стали зловживання під час виконання робіт із відновлення та ремонту обладнання ТЕЦ.

Попередні результати розслідування вказують на те, що шахрайські дії мали місце через завищення вартості матеріалів, фальсифікацію обсягів виконаних робіт, а також через проведення фінансових операцій з підконтрольними підприємствами. Це дозволяло отримувати значні суми, не маючи на це законних підстав. Крім того, слідчі вважають, що кошти могли бути виведені через оформлення неправдивих документів, що підтверджували виконання робіт, яких насправді не було здійснено.

Правоохоронці провели низку обшуків та вилучили фінансову документацію, носії інформації та інші докази, що можуть підтверджувати протиправну діяльність. Наразі шістьом фігурантам повідомлено про підозру. Їм інкримінують привласнення та розтрату бюджетних коштів в особливо великих розмірах, а також службове підроблення.

У межах кримінального провадження триває досудове розслідування. Слідчі встановлюють роль кожного учасника схеми та перевіряють можливу причетність інших осіб. Також вирішується питання про обрання запобіжних заходів підозрюваним.

Трипільська ТЕЦ є одним із ключових об’єктів енергетичної інфраструктури регіону, тому ефективність та прозорість використання коштів на її відновлення має стратегічне значення.