Tentokrát jsem vybral hodně odlehčené téma.
Úplnou n
áhodou jsem narazil na článek o mýtech kolem AI, doprovázený celkem výstižnou infografikou. Odborníky doufám pobaví a úplným laikům, kteří sem zabloudí, pomůže zorientovat se ve změti pravd, polopravd a mýtů.

Obor umělé inteligence se díky extrémně rychlému rozvoji vyznačuje obrovským zmatením různých pojmů, strachů a nepochopení. Každý by tedy měl pozorně uvažovat, než si udělá vlastní názor a raději si vše ověřit z různých zdrojů. Budu se snažit vyhledávat co nejjednodušší vysvětlení a přirovnání, tak abychom zmatečné informace udrželi na uzdě.

Zdraví Petr

Diskuse o budoucnosti umělé inteligence a o tom, co to bude znamenat pro lidstvo, jsou všudypřítomné a vzrušující. Přední světoví odborníci vedou fascinující spory. Nenacházejí shodu u témat, jakými jsou například vliv UI na trh práce nebo zda je na místě mít z jejího nástupu obavy.

Řada pseudo-obav vznikla díky neznalostí tématu, nedorozuměním nebo zkomolením v průběhu ústního předávání informací. Abychom se mohli soustředit na reálné problémy namísto těchto nedorozumění, pojďme si ujasnit některé z nejčastějších mýtů.

Časové mýty

Jak dlouho bude trvat, než nás svojí inteligencí stroje překonají? Obecně panuje mylný dojem, že na tuto otázku známe odpověď.

První populární mýtus říká, že umělá superinteligence vznikne již v tomto století. Historie je ve skutečnosti plná přehnaných očekávání od technologií. Kdepak jsou fúzní elektrárny a létající automobily, které vědci předpovídali?

Umělá inteligence byla v minulosti často zveličována, a to i zakladateli oboru. John McCarthy (který stvořil pojem “umělá inteligence”), Marvin Minsky, Nathaniel Rochester a Claude Shannon jsou autory následujícího plánu: “Navrhujeme, aby v létě 1956 proběhla na Darmouth College 10-členná, 2-měsíční studie umělé inteligence[…]. Ta se pokusí se o zjištění způsobu, jakým počítače používají jazyk, tvoří abstraktní věci a koncepty, řeší problémy, které byly dosud doménou lidí, a jak se mohou zlepšovat. Pokud těmto tématům bude pečlivě vybraná skupina výzkumníků společně věnovat celé léto, máme za to, že může dojít ke značnému posunu.”

Další skupina lidí šíří mýtus zcela opačný: v tomto století superinteligenci nezískáme.
Vědci se v odhadu doby, potřebné k vývoji superinteligence, významně liší. Historie je podobných predikcí plná a tak nemůžeme říci s jistotou, že šance na její nástup v tomto století je nulová.

V roce 1933 prohlásil Ernest Rutherford, pravděpodobně nejvýznamnější jaderný fyzik svého času, že jaderná energie je nedosažitelná. Udělal to méně než 24 hodin před Szilardovým vynálezem řetězové jaderné reakce. V roce 1956 prozměnu astronom Richard Woolley nazval „naprostým nesmyslem“ meziplanetární cestování.

Nejextrémnější verzí tohoto mýtu je, že umělá superinteligence nikdy nevznikne, protože je to fyzicky nemožné.
Vědci již ví, že mozek, složený z kvarků a elektronů, pracuje jako výkonný počítač, a neexistuje fyzikální zákon, který by nám bránil vytvářet o něco inteligentnější celky.

Dlouhá řada průzkumů se pokoušela získat předpověď příchodu umělé superingeligence mezi výzkumníky AI (s alespoň 50% pravděpodobností). Všechny průzkumy se shodly pouze v tom, že přední světoví vědci se nedokáží shodnout – takže – nevíme. Pro ilustraci: při průzkumu mezi výzkumníky umělé inteligence na konferenci v Puerto Ricu vyšel průměrný rok 2045, přičemž ale někteří odborníci odhadovali i stovky a více let.

S předchozími mýty souvisí další. Lidé, kteří se umělé superinteligence obávají, věří, že její příchod je již za dveřmi. Ve skutečnosti většina odborníků odhaduje její příchod až za několik desítek let. Argumentují ale tím, že pokud si nejsme stoprocentně jisti, že k průlomu nedojde v tomto století, je třeba začít zkoumat otázky bezpečnosti už teď. Dlouhá řada bezpečnostních problémů, souvisejících s tématy superinteligence, je totiž tak složitých, že jejich řešení může zabrat i desetiletí. Začít s výzkumem hned a ne až večer předtím, kdy se nějací programátoři rozhodnou superinteligenci „zapnout“, se tedy jeví jako obezřetnější.

Kontroverzní mýty

Další mylnou představou je to, že obavy z umělé inteligence mají jen laici. Stuart Russel, autor učebnice o umělé inteligenci, vyvolal zmínkou o této teorii na svém vystoupení v Puerto Ricu hlasitý smích. S tím souvisí i tvrzení, že je podpora výzkumu bezpečnosti v oblasti AI nesmírně kontroverzní. Jak to je ve skutečnosti? Pro podporu investic do výzkumu bezpečnosti AI postačuje přesvědčení, že jsou rizika nezanedbatelná. Dá se to přirovnat k pojištění domácnosti – i to stojí na odůvodněném nezanedbatelném riziku, že objekt může shořet.

Debata o bezpečnosti v AI se díky médiím zdá být výrazně kontroverznější, než je. Strach prodává. Články, které používají citace i zcela mimo kontext, jen aby varovaly před bezprostředním koncem světa, zvedají návštěvnost médií mnohem více než články, založené na realitě, ale nevyvolávající takové emoce.

Zbytečné rozepře díky médiím

Výsledkem může být situace, kdy dva odborníci, kteří znají názor toho druhého pouze z mediálních výstupů, se budou domnívat, že s názorem protějšku nesouhlasí víc, než tomu ve skutečnosti je. Vezměme si příklad techno-skeptika, který si přečte článek o názorech Billa Gatese na umělou inteligenci v britském bulváru. Může se mylně domnívat, že Gates vnímá hrozbu superinteligence jako bezprostřední. Naopak se může člen hnutí, prosazujícího vývoj prospěšné AI, který nezná Andrewa Ng a zaznamená pouze jeho citaci o nadměrné populaci na Marsu, zcela logicky domnívat, že se Andrew o bezpečnost AI vůbec nezajímá. Ve skutečnosti tomu tak není – Andrew pouze vzhledem k rozcházejícím se časovým odhadům budoucnosti AI upřednostňuje řešení krátkodobých cílů před těmi dlouhodobými.

Mýty, týkající se rizika superinteligence

Spousta vědců zvedá oči v sloup, když čtou novinové titulky: “Stephen Hawking varuje, že nástup robotů může být pro lidstvo fatální”. Články bývají ilustrovány hrozivě vypadajícím, ozbrojeným robotem a varují nás, že bychom se měli obávat robotů, kteří povstanou a zabijí nás, protože získali sebevědomí nebo v nich převládlo zlo. Jakkoliv jsou tyto články působivé, pracují se scénářem, kterého se AI výzkumníci nebojí. Uvedený scénář kombinuje 3 různé jednotlivé mylné představy: strach z uvědomění, zla a robotů.

Když řídíte auto, zažíváte subjektivní zkušenost, plnou barev, zvuků a dalších vjemů. Může takovou subjektivní zkušenost prožívat i samořídící auto? Cítí jako samořídící auto vůbec něco? Ačkoli je tajemství vědomí samo o sobě velmi zajímavé, nepatří na seznam rizik umělé inteligence. Při srážce se samořídícím autem vám bude jedno, zda se auto cítilo být vědomým. Vliv na lidstvo bude mít to, co superinteligence udělá, a ne jak se bude cítit.

Zlomyslné stroje

Strach ze strojů, které páchají zlo, je dalším pomyslným čertem na zdi. Skutečným problémem není zlomyslnost, ale pravomoc. Posláním Superinteligence je vysoce efektivně dosahovat zadaných cílů, ať jsou už jakékoliv – a proto musíme zároveň zajistit, aby byly její cíle v souladu s našimi. Nedá se říci, že by měli lidé něco proti mravencům, ale jsme inteligentnější než oni. Pokud se rozhodneme postavit vodní elektrárnu na stejném místě jako je mraveniště, mají mravenci smůlu. Hnutí, podporující přínosnou umělou inteligenci, se snaží vyvarovat, aby se do role takových mravenců nedostalo lidstvo.

Mylná představa týkající se vědomí je spojena s mýtem, že stroje nemohou mít cíle. Stroje samozřejmě cíle mají – v úzkém smyslu slova. Jejich chování je cílově orientované. Chování tepelně naváděné střely se dá nejekonomičtěji popsat jako chování s cílem zasáhnout terč. Pokud se cítíte být ohroženi strojem, jehož cíle nejsou v souladu s těmi vašimi, budou vás znepokojovat tyto cíle, ne zda je stroj vědomý a zažívá pocit cílevědomosti. Pokud by vás honila tepelně řízená střela, asi byste nekřičeli: “Já se nebojím, protože stroje nemohou mít cíle!”

Soucítím s Rodneym Brooksem a dalšími průkopníky na poli robotiky, kteří se často cítí démonizováni bulvárními deníky. Někteří redaktoři se až obsedantně upnuli na roboty a přikrášlují své články hrozivě vypadajícími kovovými monstry se zářícíma červenýma očima. Roboti přitom hnutím pro přínosnou umělou inteligenci starosti nedělají. Předmětem obav je taková superinteligence, jejíž cíle nejsou v souladu s našimi.

Tělo není potřeba

Superinteligence nepotřebuje nepotřebuje k tomu, aby lidem způsobila problémy, žádné robotické tělo. Stačí jí připojení k internetu – jeho pomocí může manipulovat s finančními trhy, změnit nebo zničit naše výzkumy, zmanipulovat vůdce lidstva nebo vyvíjet zbraně, kterým nebudeme schopni rozumět. Dokonce i kdyby bylo fyzicky nemožné postavit roboty, byla by superinteligentní a superbohatá umělá inteligence schopna snadno podplatit nebo zmanipulovat jednotlivce, kteří by nevědomky plnili její příkazy.

Mylná představa o robotech samotných je založena na mýtu, že stroje nemohou ovládat lidi. Inteligence dává schopnost ovládat. Lidé ovládají tygry ne proto, že jsou silnější, ale protože jsou chytřejší. Znamená to, že pokud přijdeme o svou pozici nejchytřejšího druhu na naší planetě, ztratíme i schopnost ovládat.