Několik výzkumných pracovníků americké společnosti OpenAI před odvoláním šéfa podniku Sama Altmana správní radu v dopise varovalo před přelomovým objevem v oblasti umělé inteligence (AI), který by podle nich mohl ohrozit lidstvo. S odvoláním na dva informované zdroje to dnes uvedla agentura Reuters. Dopis a objev podle nich byly klíčovými momenty před tím, než správní rada Altmana minulý týden v pátek překvapivě odvolala. Autoři dopisu na žádost o komentář nereagovali.
Společnost OpenAI vyvinula populární nástroj ChatGPT. Altman po vyhazovu přešel do Microsoftu, který firmu OpenAI podporuje. Když ale většina zaměstnanců OpenAI pohrozila odchodem, pokud se Altman do šéfovského křesla nevrátí, věci nabraly nový spád. Za jeho návrat do čela OpenAI lobbovali i významní investoři. Altman se tak v úterý po bouřlivém vývoji do čela firmy vrátil.
Zdroje uvedly, že dopis byl jedním z faktorů, které vedly k Altmanovu odvolání. Dalším důvodem podle nich byly obavy z komerčního využití objevu před pochopením jeho důsledků.
Společnost OpenAI věc nekomentovala. V interním dopise zaměstnancům potvrdila projekt nazvaný Q* (zkratka pro Q Star) i zmiňovaný dopis výzkumných pracovníků správní radě, uvedl jeden ze zdrojů.
Někteří zaměstnanci OpenAI se domnívají, že projekt Q* by mohl být průlomem v hledání takzvané obecné umělé inteligence (AGI), řekl jeden z nich. OpenAI definuje AGI jako autonomní systémy, které překonají člověka ve většině ekonomicky hodnotných úkolů.
Nový model byl podle téhož zdroje schopen řešit určité matematické úlohy. Výzkumníci považují matematiku za hranici vývoje generativní umělé inteligence. V současné době je generativní AI dobrá v psaní a překladu jazyka tím způsobem, že statisticky předpovídá další slovo. Odpovědi na stejnou otázku se mohou přitom značně lišit. Ovládnutí matematiky, kde existuje pouze jedna správná odpověď, by znamenalo, že by AI měla větší schopnosti uvažování připomínající lidskou inteligenci. To by se mohlo uplatnit například v novém vědeckém výzkumu, domnívají se odborníci.
Na rozdíl od kalkulačky, která dokáže řešit omezený počet operací, dokáže AGI zobecňovat, učit se a chápat. V dopise správní radě výzkumníci upozornili na schopnosti a potenciální nebezpečí AI, uvedly zdroje.
Situace kolem OpenAI je podle ředitele České asociace umělé inteligence Lukáše Benzla jedním velkým střetnutím světa výzkumu, byznysu a napjatých vztahů mezi jednotlivci. „Diskutovaným přelomovým objevem dle dohadů není obecná AI řešící úlohy stejně dobře nebo dokonce lépe než člověk, ale ještě schopnější AI předbíhající připravenost stávajících systémů z pohledu regulace, etiky či pracovního trhu,“ podotkl. Aktuální predikce komunity týkající se nasazení AGI přitom podle něj hovoří o roce 2031.
Pokud by výzkum v oblasti umělé inteligence skutečně postupoval takto rychle, je podle vedoucího týmu dat a AI ve firmě Creative Dock Adama Hanky možné, že by to znamenalo významnou změnu v současném chápání schopností umělé inteligence. „Přístup Sama Altmana může vyvolávat pochybnosti o tom, zda má OpenAI dostatečně na paměti etickou rovinu technologie, na jejímž rozvoji pracuje,“ podotkl.
