Americká společnost OpenAI zavede mechanismus rodičovské kontroly pro svůj konverzační nástroj umělé inteligence (AI) ChatGPT. Reaguje tak na stížnosti rodičů v USA, kteří firmu na konci srpna obvinili, že chatovací robot povzbuzoval jejich dítě k sebevraždě.
Firma v příspěvku na svém blogu uvedla, že příští měsíc budou moci rodiče propojit svůj účet s účtem svého nezletilého dítěte. Získají možnost nastavit pravidla, jak má ChatGPT s jejich potomkem komunikovat, a kontrolu, jak odpovídá na jejich dotazy. Bude také možné, aby rodiče dostali upozornění v případě, že systém vyhodnotí u dítěte známky "akutní tísně".
Rodiče mrtvého chlapce podali žalobu
Oznámení navazuje na předchozí příspěvek OpenAI na blogu zveřejněný koncem srpna, ve kterém společnost uvedla, že mechanismus rodičovské kontroly chystá. Den předtím podali rodiče 16letého chlapce z Kalifornie, který spáchal sebevraždu, žalobu na OpenAI a uvedli, že ChatGPT jejich synovi poskytl podrobné pokyny k ukončení života a k činu jej povzbudil.
Společnost současně oznámila, že pracuje na dalším zlepšování schopnosti modelů rozpoznávat a reagovat na známky psychické a emoční tísně uživatelů. Za příštích 120 dnů plánuje zavést i další opatření.
Součástí změn má být také přesměrování některých citlivých konverzací na pokročilejší modely, například GPT-5-thinking, určené k hlubšímu uvažování, což znamená, že jejich režim je navržený pro situace, kdy je důležitá hloubka, přesnost a kvalita logiky, nikoliv rychlost.
