Tak s tímto titulkem se teď můžete setkat v některých médiích.

Je pravda, že GOOGLE oznámil vytvoření nástrojů umožňujících, aby umělá inteligence vytvářela „nové“ a ještě dokonalejší umělé inteligence.  Prozatím funguje jen pro vytváření algoritmů s konkrétním a omezeným účelem u kterých lze přímo změřit jejich úspěšnost v řešení konkrétní úlohy. Jedná se tedy o velmi jednoduché programování, a ne o začátek konce světa. Rozhodně to neznamená, že se umělá inteligence může sama „rozmnožovat“.

Je to však krok směrem k takzvanému rekurzivnímu zdokonalování.

Co to je rekurzivní zdokonalování?

Můžeme si to představit tak, že chceme například vytvořit lepší systém pro řízení výroby. Vytvoříme tedy umělou inteligenci pro řízení výroby se schopností vytvářet další umělé inteligence ovšem se stejným účelem ale lepšími schopnostmi. Tak pak vytvoří další, ta další a opět další a každá bude vždy o něco dokonalejší.

Zásadním problémem je, že tento postup se může nekontrolovaně zrychlovat a zároveň se může úplně ztratit či změnit původní účel, pro který byla umělá inteligence vytvořena. Je pravděpodobné že, dalším generacím takových inteligencí již vůbec nebudeme rozumět. Jediným omezením pro takovou inteligenci je pak pouze dostatek zdrojů a informací.

 

Pokud jediným cílem takové inteligence bude zdokonalit výrobu např. automobilů, bude veškeré své aktivity optimalizovat na úkor čehokoli jiného, tedy i na úkor lidí. Může se tedy stát, že přetvoří celou naši planetu na výrobu automobilů a nenechá se lidmi nijak omezit. Pro splnění svého cíle si vytvoří vlastní cíle, které mohou zahrnovat i eliminaci všech překážek, například lidí. To je samozřejmě dovedeno do extrému, nicméně obdobné principy fungují i v přírodě. Pokud bude mít například konkrétní bakterie dokonalé podmínky k množení, může velmi rychle zaplnit celou planetu. Právě proto o rekurzivním zdokonalování říká Asilomarské pravidlo č. 22: Systém umělé inteligence navržený pro sebe-zdokonalování nebo pro sebe-replikaci, které mohou vést ke zrychlujícímu růstu kvality i kvantity musí být vytvářeny jen ve striktně omezeném a řízeném prostředí.“

Video, publikované youtube kanálem Coldfusion, odhaluje některé aktuální výsledky takových přístupů, zatím orientované jen na zpracování obrazu.

Zdraví Petr