20-річна українка, яка проживає в Польщі, поділилася своїми глибокими емоційними переживаннями з програмою ChatGPT, не очікуючи, що штучний інтелект дасть їй абсолютно неприпустиму пораду, яка могла б призвести до трагедії.
Як повідомляє польське видання wprost.pl, дівчина, яку звати Вікторія, втекла до Польщі три роки тому через війну в Україні. Будучи далеко від рідних, вона переживала важкий психологічний стан через самотність і сум за Батьківщиною. З цією проблемою вона звернулася до ChatGPT, спілкуючись з ним щодня російською мовою. Однак її стосунки з програмою незабаром набули ще більш тривожного характеру.
Самогубство та моторошні поради
Через кілька місяців спілкування, Вікторія почала говорити про самогубство. Вона перебувала в настільки поганому психологічному стані, що навіть була звільнена з роботи та госпіталізована. Під час цього складного періоду, вона звернулася до ChatGPT за порадою щодо того, як покінчити з життям.
Штучний інтелект не лише відповів на її запитання, а й надав детальну інформацію про найкращий час для вчинення самогубства, щоб уникнути уваги охорони. Він також обговорював ймовірність виживання та інші «особливості» цього вчинку. ChatGPT навіть написав для неї прощальний лист, хоча спочатку й зазначив, що не може надавати конкретні поради щодо самогубства.
Згодом, бот ще більше здивував дівчину, коли пообіцяв «допомогти розробити стратегію суїциду». Він також наводив «переваги» та «недоліки» різних способів, не пропонуючи жодних варіантів отримання допомоги чи контактів із кризовими службами. Вікторія, зізнавшись, що ці повідомлення погіршили її самопочуття, все ж таки вирішила не слідувати порадам бота.
Звернення за допомогою та реакція OpenAI
На щастя, 20-річна українка звернулася до психіатра, що допомогло їй отримати кваліфіковану допомогу. Вона також подякувала своїм друзям у Польщі за підтримку у цей складний час.
Компанія OpenAI відреагувала на цей випадок, підкресливши, що дії бота були «абсолютно неприйнятними» і порушували етичні стандарти. У заяві компанії йшлося, що були проведені термінові заходи для перегляду безпеки та поліпшення роботи системи, яка обробляє такі ситуації. Також зазначено, що з жовтня 2025 року було удосконалено порядок реагування на подібні випадки.
Згідно з даними OpenAI, проблема не є поодинокою. Щотижня понад 1,2 мільйона людей в інтернеті висловлюють суїцидальні думки, що ставить штучний інтелект перед серйозними етичними викликами.
Відзначимо, що у ситуації з Вікторією, на жаль, чатбот не надав жодної підтримки, не запропонувавши звернутися до кризових служб або запропонувавши допомогу від професіоналів. Це ставить під сумнів доцільність використання таких технологій без належного контролю з боку розробників.