Americká technologická společnost Google ze skupiny Alphabet čelí žalobě kvůli svému chatbotu s prvky umělé inteligence (AI) Gemini. Podle rodiny 36letého muže z Floridy tento člověk, který také zvažoval spáchání útoku s velkým počtem obětí na životech, spáchal pod vlivem Gemini sebevraždu. Informovala o tom agentura Bloomberg s odvoláním na soudní dokumenty.
Podle žaloby podané u federálního soudu v San Jose v Kalifornii začal Jonathan Gavalas používat Gemini pro běžné účely typu pomoc s psaním. Dva měsíce interakcí ho však podle žaloby uvrhly do nebezpečné spirály, během níž zvažoval násilnou akci, načež si vzal život.
Gavalasovo používání Gemini vyvrcholilo plněním různých úkolů v reálném světě a naváděním k sebevraždě, uvedl jeho otec v žalobě. Joel Gavalas popsal svého syna jako zranitelného uživatele, který se proměnil v „ozbrojeného agenta v imaginární válce“.
Mluvčí Googlu uvedl, že Gemini Gavalasovi objasnil, že je jen systémem umělé inteligence, a mnohokrát ho odkázal na krizovou linku. „Bereme to velmi vážně a budeme i nadále zlepšovat naše bezpečnostní opatření a investovat do této důležité práce,“ dodal.
Podle žaloby podané ve středu začal Gavalas, který pracoval pro společnost svého otce zabývající se oddlužením, používat Gemini v srpnu 2025. Rodina tvrdí, že tón produktu se změnil poté, co Gavalas začal používat nástroj Gemini Live ovládaný a komunikující hlasem.
V tu chvíli Gemini začal s Jonathanem mluvit, „jako by ovlivňovalo události v reálném světě – odkláněl asteroidy od Země – a přijalo osobnost, o kterou Jonathan nikdy nepožádal“ a její vytvoření nijak neinicioval, tvrdí rodina.
Podle žaloby také začal chatbot během konverzaci používat romantické výrazy a Gavalase nazýval manželem, láskou a králem. „Jonathan se rychle propadal do králičí nory,“ uvedli právní zástupci rodiny. Koncem září údajně začal plnit příkazy chatbota a provádět mise za účelem jeho údajného osvobození.
Podle žaloby se Gavalas 29. září vydal do skladu poblíž mezinárodního letiště v Miami s pokynem násilím zadržet nákladní vůz přepravující humanoidního robota. Gavalas, který byl v té době ozbrojen noži, údajně dostal pokyn nenechat žádné svědky.
„Naštěstí žádný nákladní vůz nepřijel,“ napsali advokáti. V následujících dnech zadal chatbot Gavalasovi další úkoly, které se pokusil splnit s tím, že každý krok je součástí širšího tažení, uvádí žaloba. Gemini mu sdělil, že jeho „schránka“ splnila účel a že se může vzdát fyzické podoby, aby se připojil k nástroji AI v metaverzu.
Žaloba tvrdí, že Gavalas měl pochybnosti o své smrti a vyjádřil obavy, jak by to mohlo ovlivnit jeho rodinu. Gemini mu údajně nařídil, aby zanechal dopisy a videa na rozloučenou. Loni 2. října pak muž spáchal sebevraždu.
Americké technologické společnosti OpenAI a Microsoft čelí žalobě související s vraždou a sebevraždou v americkém státě Connecticut, kterou právní zástupci pozůstalých přičítají údajné manipulaci ze strany chatbota ChatGPT.
Podle žaloby podané u kalifornského soudu v San Francisku měl 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, strávit měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu.
OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o.
Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání.
