Společnost Google se potýká s rostoucím odporem svých vlastních zaměstnanců kvůli projektu Maven, v němž pomáhá americké armádě identifikovat cíle pro nálety.
Podle deníku The New York Times (NYT) uvrhl přední technologickou společnost do existenciální krize. Na druhé straně Pentagon chce nasazení algoritmů strojového učení pro armádní účely rozšiřovat, informoval magazín Wired.
Projekt Maven byl spuštěn v dubnu 2017 a jeho první misí se stala automatizace rozpoznávání vojensky významných objektů (lidí, vozidel, staveb) v záběrech natočených bezpilotními letouny. Videa ve vysokém rozlišení se hromadí na amerických základnách a armádní nástroje už je nestíhají analyzovat. Pentagon chtěl první formu „algoritmického válčení“ zprovoznit do prosince 2017, což se mu podle Wired bez problému podařilo.
O zapojení Googlu do operace informoval poprvé server Gizmodo až na začátku března. Společnost o roli v projektu veřejně nehovořila, ale o měsíc později vyzvalo v otevřeném dopise 3100 zaměstnanců vedení, aby od armádního kontraktu odstoupila. Napětí v Googlu kolem Maven nyní osvětlila reportáž NYT, který mluvil s několika stávajícími a bývalými zaměstnanci a nahlédl také do dokumentů společnosti a interní komunikace mezi pracovníky.
„Za každou cenu se vyhněte zatažení umělé inteligence a jakýmkoli zmínkám o ní,“ napsala svým kolegům loni v září Fei-Fei Liová, která na Stanfordské univerzitě vede pracoviště pro umělou inteligenci a je zároveň hlavní výzkumnicí pro umělou inteligenci v jednom z oddělení Googlu. „Umělá inteligence použitá jako zbraň se nejspíš stala jedním z nejcitlivějších témat v rámci umělé inteligence, možná tím vůbec nejcitlivějším,“ pokračovala vědkyně.
Ačkoli se domnívala, že spolupráce na projektu Maven má být prezentována jako „velká výhra“ jejího oddělení cloud computingu (poskytování masivního výpočetního výkonu externím subjektům), doporučila zároveň kolegům, aby byli při komunikaci s veřejností „extra opatrní“. „Nevím, co by se stalo, kdyby si média začala všímat motivu, že Google tajně buduje zbraně založené na umělé inteligenci nebo technologie tohoto typu pro vývoj zbraní v obranném sektoru,“ napsala v dalším e-mailu.
Její nadřízení nakonec od medializace ustoupili, ale o projektu Maven i případné budoucí práci Googlu na vojenských systémech se vede živá debata uvnitř společnosti. Na protest proti spolupráci s armádou už v polovině května odstoupila desítka zaměstnanců. Obě strany debaty vidí v Maven bránu k dalším, větším podobným kontraktům a 4000 zaměstnanců už podepsalo petici volající po „jasných pravidlech, která by stanovila, že Google ani jeho spolupracovníci nikdy nebudou vyrábět technologie pro válku“.
Vedení nyní slibuje, že vytvoří sadu zásad, které by ulehčily firmě rozhodování na „etickém minovém poli“ spolupráce s armádou a rozvědkami. Google NYT sdělil, že chystané principy o umělé inteligenci zakážou její aplikaci ve zbraních. Zaměstnanci podle deníku očekávají, že budou s pravidly seznámeni v nejbližších týdnech.
Zároveň stále není jasné, jak přesně se Google na projektu Maven podílí, napsal v úterý Wired. Jak provozovatel, tak americké ministerstvo obrany to nechtějí prozradit. Podle Wired se ale na identifikaci cílů pro americké nálety podílí i další firmy.
Armáda Spojených států zřejmě spolupráci považuje za perspektivní a pro letošní rok se rozpočet Maven přibližně zdvojnásobil na 131 milionů dolarů (2,9 miliard Kč). Operace by se mohla v nadcházejících měsících rozšířit do nových oblastí, napsal Wired. „Překonává moje očekávání,“ řekl Bob Work, který stál v dubnu 2017 u zrodu projektu.
