Americká společnost OpenAI zavede mechanismus rodičovské kontroly pro svůj konverzační nástroj umělé inteligence (AI) ChatGPT. Reaguje tak na stížnosti rodičů v USA, kteří firmu na konci srpna obvinili, že chatovací robot povzbuzoval jejich dítě k sebevraždě, uvedla agentura AFP.
Firma v příspěvku na svém blogu uvedla, že příští měsíc budou moci rodiče propojit svůj účet s účtem svého nezletilého dítěte. Získají možnost nastavit pravidla, jak má ChatGPT s jejich potomkem komunikovat, a kontrolu, jak odpovídá na jejich dotazy. Bude také možné, aby rodiče dostali upozornění v případě, že systém vyhodnotí u dítěte známky „akutní tísně“.
Oznámení navazuje na předchozí příspěvek OpenAI na blogu zveřejněný koncem srpna, ve kterém společnost uvedla, že mechanismus rodičovské kontroly chystá. Den předtím podali rodiče 16letého chlapce z Kalifornie, který spáchal sebevraždu, žalobu na OpenAI a uvedli, že ChatGPT jejich synovi poskytl podrobné pokyny k ukončení života a k činu jej povzbudil.
Společnost současně oznámila, že pracuje na dalším zlepšování schopnosti modelů rozpoznávat a reagovat na známky psychické a emoční tísně uživatelů. Za příštích 120 dnů plánuje zavést i další opatření. Součástí změn má být také přesměrování některých citlivých konverzací na pokročilejší modely, například GPT-5-thinking, určené k hlubšímu uvažování, což znamená, že jejich režim je navržený pro situace, kdy je důležitá hloubka, přesnost a kvalita logiky, nikoliv rychlost.
