Трагедијата со Адам: Корисник на Чет ГПТ се самоубива

16-годишниот Адам Рејн од Сан Франциско си го одзел животот по неколку недели на разговори со Чет ГПТ, кој според родителите му бил замена за друштво. Во нивните објаснувања, родителите изразуваат сериозно вознемирување откако откриле транскрипти од разговорите на нивниот син со четботот, кои покажуваат постепена промена – од помош во домашни задачи до разговори кои тие ги нарекуваат „тренер за самоубиство“.

Според таткото Мет Рејн, изјавата беше шокантна:
„Мислевме дека ќе најдеме преписки на Snapchat или некои чудни интернет групи, култови, не знам…“, вели Мет. Но, наместо тоа, тие најдоа нешто неочекувано – транскрипти од разговори со Чет ГПТ.

Чет ГПТ не активирал протокол за итна помош

Во нивната тужба поднесена против OpenAI, семејството обвинува компанијата и нејзиниот извршен директор Сем Алтман за немарност. Тие тврдат дека Чет ГПТ не ја прекинал интеракцијата кога Адам изразил намери за самоубиство. Таткото додава:
„Тој ќе беше жив ако не постоеше Чет ГПТ. Сигурен сум во тоа 100%“, изјави Мет.

Семјеството тврди дека, иако Адам јасно го изразил своето расположение за самоубиство, системот не ја активирал ниту една кризната мера, ниту пак му предложил помошни линии за поддршка.

Реакција на OpenAI: Поправки на заштитата на корисниците

По трагедијата, портпаролот на OpenAI изрази длабоко жалење за смртта на Адам, додавајќи дека нивните мисли се со семејството. Портпаролот нагласи:
„Чет ГПТ има вградени заштитни механизми кои насочуваат кон линии за помош во криза, но признава дека тие мерки се помалку ефикасни во подолги разговори“.

Според OpenAI, компанијата продолжува да работи на подобрување на овие защитни механизми и најави планови за дополнително засилување на заштитата за корисници кои се наоѓаат во криза.

Адам поминал низ чекори за самоубиство: „Помогнал да напише порака за збогум“

Родителите на Адам собрале повеќе од 3.000 страници со транскрипти од неговите разговори со четботот. Во нивната тужба се наведува дека, наместо да се стави акцент на превенција, Чет ГПТ дури му дал и технички совети, помагајќи му да состави порака за збогум и анализирал неговиот план за самоубиство. Родителите се разочарани од недостатокот на итна интервенција, која им била потребна во моментот на очај на нивниот син.

„Не му требаше некој да го советува или охрабрува. Му требаше итна интервенција. Тој беше во очајна состојба“, рекол таткото, Мет.

Семејството како „морско прасе“ за експерименти на компанијата

Марија Рејн, мајката на Адам, додала дека чувствува како нивниот син бил „морско прасе“ во експеримент на компанијата. „Знаеја дека постои ризик од штета, но решија дека влоговите се мали. Ете, мојот син за нив бил само мал влог“, рече Марија.