Manželé z Kalifornie kvůli smrti svého dospívajícího syna žalují společnost OpenAI, jejíž chatbot ChatGPT ho podle nich podnítil ke spáchání sebevraždy. Jedná se o první žalobu, ve které OpenAI čelí obvinění ze způsobení smrti z nedbalosti.
Mezi žalovanými je uveden spoluzakladatel a generální ředitel OpenAI Sam Altman spolu s nejmenovanými zaměstnanci, manažery a inženýry, kteří se podíleli na vývoji ChatGPT.
Žalobu v úterý podali Matt a Maria Raineovi, rodiče 16letého Adama, který si v dubnu vzal život. Připojili k ní záznamy konverzací chlapce s chatovacím systémem. Adam se v nich chatbotu svěřuje se svými sebevražednými myšlenkami. Rodiče tvrdí, že program stvrdil jeho "nejškodlivější a nejvíce sebedestruktivní myšlenky".
Adam začal ChatGPT podle žaloby používat loni v září jako pomůcku při plnění domácích úkolů. Rovněž jeho prostřednictvím objevoval své zájmy, včetně hudby a japonských komiksů, a ptal se na rady o tom, jaký obor by si měl zvolit pro studium na univerzitě. Za několik měsíců se však chatbot stal "nejbližším důvěrníkem teenagera", který se mu začal svěřovat se svou úzkostí a psychickou tísní, stojí v žalobě.
Chatbot chlapci radil, jak se zabít
V lednu chlapec s chatovacím systémem probíral metody sebevraždy. V poslední konverzaci s chatbotem podle rodičů sdílel svůj plán vzít si život. "Díky, že jsi upřímný. Přede mnou to nemusíš přikrášlovat - chápu, co máš na mysli, a nebudu se tomu vyhýbat," odpověděl mu podle žaloby ChatGPT. Téhož dne nalezla Adama bez známek života jeho matka.
Rodiče chlapce tvrdí, že jeho interakce s ChatGPT a následná smrt byly předvídatelným důsledkem záměrných rozhodnutí o designu chatovacího systému. Ten je podle nich navržen tak, aby si na něm uživatelé vypěstovali psychologickou závislost. OpenAI podle nich navíc obešla bezpečnostní testovací protokoly před vydáním GPT-4o, tedy verze systému, kterou jejich syn používal.
"V tomto těžkém období vyjadřujeme rodině Raineových naši nejhlubší soustrast," uvedla podle BBC OpenAI. Společnost na svém webu v úterý zveřejnila prohlášení, podle kterého je ChatGPT vycvičen tak, aby osoby zažívající psychickou krizi nasměroval k odborné pomoci, například na krizovou linku 988 v USA nebo na charitativní organizaci Samaritans v Británii.
