Max Tegmark, profesor fyziky z MIT, velmi čtivě objasňuje změny, příležitosti i rizika plynoucí z překotného vývoje technologií umělé inteligence. Pomocí příběhu fiktivního Omega týmu naznačuje i rizika plynoucích i z původně ryze pozitivních záměrů takové technologie.

Kniha začíná příběhem. Takzvaný Omega team, specializované a tajné oddělení velké a bohaté korporace (čtenář si může sám dosadit některou ze známých firem) má za úkol vyvinout univerzální umělou inteligenci (Artificial General Intelligence) nazvanou Prometheus. Tento Prometheus má skrytě pomáhat lidstvu a postupně tak vyřešit jeho největší problémy aniž by lidé měli pocit že jsou ovládáni.

Příběh nás postupně provází uvažováním a prací týmu Omega týmu, který se snaží předejít všem myslitelným rizikům plynoucích z fungování Promethea. Omega si silně uvědomuje, co by se mohlo stát, pokud by takový systém získal autonomní kontrolu nad lidstvem.

Nechtělo se mi ani věřit, že tým Omega nejen vynalézavě reaguje na rizika, která mne samotného napadla ale i na mnoho dalších, která jsem si vůbec neuvědomil. Jejich přístup je skoro paranoidní. Ale jejich práce se daří. Svět se začíná sice postupně ale velmi měnit k lepšímu. Vše je popsáno s pomocí uvěřitelné argumentace a realistických scénářů, kupříkladu použití fiktivních firem, médií či mecenášů. Pro Prometheus není žádný problém získat jakékoliv finanční prostředky. Až jsem si říkal že je to popsané jak návod, který lze snadno uchopit.

Přesně v tento moment Max Tegmark příběh přeruší a začne čtenáře provádět širšími souvislostmi a principy fungování a rozhodování takové umělé inteligence. Nepohybuje se jen na povrchu, ale nevyhýbá se ani fyzikálním a filozofickým základům. Postupně nás provádí různými názory na základní filozofická dilemata, spojená například se samořídícími auty, nahrazováním pracovních míst automatizací či nalezením nového smyslu života.

Jako zásadní se mi jevila jeho rozprava o formulaci cílů umělé inteligence. Každá dostatečně výkonná a univerzální umělá inteligence si z původně jednoduchého pozitivního cíle může odvodit nekonečné množství vyšších cílů, technicky vedoucích ke splnění původního cíle ovšem za úplně jiných podmínek, které nemusí zahrnovat přežití lidstva.

V závěru knihy nabízí Max Tegmark alternativní scénáře svého úvodního příběhu, spekulující nad různými možnostmi selhání. A opět jsem byl překvapen nad vynalézavostí ale zároveň uvěřitelností takový scénářů. Může se superinteligentní umělá inteligence dostat z izolace postavené méně inteligentním člověkem?

Knihu mohu doporučit všem, kteří nemají trpělivost s více odbornou či příliš filozofující četbou ale chtějí se hlouběji zamyslet nad budoucností lidstva v době univerzální umělé inteligence. Čtení si opravdu užijete. Možné také stáhnout jako audioknihu z Audible.

Zdraví Petr Šrámek