Australská pobočka poradenské společnosti Deloitte vrátí australské vládě část z celkových 440.000 australských dolarů (AUD; 6,1 milionu Kč) zaplacených za zprávu, která obsahovala chyby způsobené takzvanými halucinacemi umělé inteligence (AI). Šlo mimo jiné o vymyšlené citace z rozsudku federálního soudu a odkazy na neexistující vědecké práce, uvedla agentura AP.
Pochybení přichází v době, kdy postupující rozšiřování systémů umělé inteligence vyvíjí tlak na poradenské společnosti, uvedl server Semafor. Velké poradenské firmy od začátku roku 2023 podle serveru propustily zhruba 50.000 lidí v souvislosti se zpomalením aktivity po pandemii, nasazováním AI a také snižováním vládních výdajů.
Zpráva společnosti poskytující finanční služby pro ministerstvo zaměstnanosti a pracovních vztahů byla původně zveřejněna na internetových stránkách resortu v červenci. Revidovanou verzi úřad zveřejnil na konci minulého týdne poté, co Chris Rudge ze Sydneyské univerzity upozornil média, že zpráva obsahuje vymyšlené citace a odkazy.
Deloitte následně 237stránkovou zprávu přezkoumala a potvrdila, že některé poznámky pod čarou a odkazy byly nesprávné, uvedlo ministerstvo v úterý. „Společnost Deloitte souhlasila s vrácením poslední splátky podle smlouvy,“ dodal resort. Přesná částka bude zveřejněna po vrácení peněz.
Zpráva Deloitte se zabývala tím, jak IT systémy australského ministerstva využívají automatizované sankce v australském systému sociálního zabezpečení. Ministerstvo uvedlo, že podstata zprávy zůstala zachována a její doporučení se nezměnila.
Halucinace jsou v kontextu AI a jazykových modelů označením pro vygenerované odpovědi, které obsahují nepravdivé nebo zavádějící informace. Může jít rovněž o výsledek nedostatečných, neaktuálních nebo zkreslených trénovacích dat.
