Počkejte, tohle není scéna ze sci-fi trháku. Ne, nebudeme čelit armádě robotů v kovových pláštích. Nebezpečí spočívá v tom, že umělá inteligence nás bude nutit hromadit jaderné zbraně a dávat nám chybné rady, kdy stisknout obávané „tlačítko soudného dne“.
Podívejme se na ono mrazivé proroctví renomovaného think tanku Rand Corporation. Ti vykreslili chmurný obraz budoucnosti, v níž by síla umělé inteligence mohla narušit křehkou rovnováhu, která dosud bránila jaderné apokalypse. Na dva měsíce staré video se podívejte zde:
Vědci varují před silou AI
Myslíte si, že je to jako z filmů? Omyl. Nejsou to ti hollywoodští roboti zabijáci, kteří by nám měli v noci nedat spát. Podle Randovy zprávy je to způsob, jakým by umělá inteligence mohla překroutit samotná pravidla jaderného odstrašování a svést lidstvo ke katastrofickým rozhodnutím.
Odborníci z různých oblastí, od jaderné bezpečnosti až po výzkum umělé inteligence, se spojili, aby upozornili na možnou hrozbu. Jejich verdikt? Naše spoléhání se na umělou inteligenci by nás mohlo zavést na cestu, na které už nebude platit ikonická doktrína "vzájemně zaručeného zničení".
Jak nasimulovala AI nukleární válku mezi Ruskem a NATO se podívejte na velmi exponovaném videu zde:
Omylná umělá inteligence?
Rozložme si to. Kdysi ukotvená myšlenka, že se nikdo neodváží stisknout červené tlačítko, protože to znamená vyhlazení pro obě strany, by se mohla rozpadnout. Vliv umělé inteligence by mohl přesvědčit státy, že jejich jaderná síla není tak silná, jak si myslely, a podnítit je k hazardování s apokalyptickými riziky.
Navíc se ukazuje, že umělá inteligence může být stejně nespolehlivá jako porouchaný kompas. Představte si scénář, kdy váš život závisí na radách stroje, který je zásobován mylnými informacemi. Děsivé, že? Přesně to by mohla umělá inteligence přinést - a když radí při zahájení jaderného útoku, nemůže být sázka větší.
Harmonie "vzájemně zaručeného zničení"
Randova zpráva uvádí téměř katastrofu z roku 1983, kdy sovětský důstojník zabránil katastrofě tím, že dal přednost svému instinktu před chybou počítače. Pointa je jasná: umělá inteligence může být při vší své genialitě oklamaná, "hacknutá" a náchylná ke katastrofickým chybám.
Jaký z toho plyne závěr? Připravte se na svět, ve kterém umělá inteligence nedoporučuje jen filmy, ale i zkázu. Harmonie "vzájemně zaručeného zničení" by se mohla rozpadnout a my bychom se mohli ocitnout v síti rozhodnutí řízených umělou inteligencí, která povedou k naší jaderné noční můře. Není to sci-fi, to je naše hrozící realita, pokud nebudeme brát ohled a nebudeme jednat.
Zdroje: www.thesun.co.uk, www.cnbc.com, www.dailymail.co.uk, www.thesun.co.uk
