Umělá inteligence vyhubí lidstvo, vědec představil vizi horší než ze sci-fi

Ohrožuje umělá inteligence lidstvo?

Ohrožuje umělá inteligence lidstvo?

Foto: Profimedia.cz

„Výzkum umělé inteligence se musí zpomalit, nebo dokonce zastavit," upozorňuje filozof, historik a vědec Émile P. Torres. Je přesvědčený, že pokud budou počítače chytřejší než my, zničí lidstvo. Přitom se tak stane na základě našich požadavků.

Už v roce 2018 si inženýři z Googlu stěžovali na spolupráci firmy s americkou armádou. Nelíbilo se jim, že by některé pokročilé algoritmy měly být využívány ve vojenské sféře. Na stranu kritiků se postavili další vědci zaobírající se umělou inteligencí. Google i expertní skupina HLEG A.I. Evropské unie tak sestavili etický kodex.

Multiverze.

Co je multivesmír: Vědci našli možnou odpověď, co se skrývá nad naším vesmírem

Podle něj by umělá inteligence měla být pod kontrolou člověka, měla by sloužit pouze lidstvu a ctít soukromí. Zároveň nesmí nikoho diskriminovat. Současná A.I. ale tyto zákony není schopná dodržet. Důkazem toho byl experimentální chatbot Twitteru na bázi neuronových sítí a generátorů textu včetně pokročilého autoregresivního jazykového modelu GPT-3, který se dokáže sám učit, aby vytvořil text podobný lidskému, u něhož se ukázalo, že diskriminuje menšiny a podléhá rasismu.

Umělá inteligence a lidstvo

Podle Émile P. Torrese ale existují ještě větší rizika. Ta jsou úzce spojená s umělou superinteligencí neboli ASI (Artificial superintelligence). Tedy s takovým programem, jenž dokáže překonat člověka ve všech rozumových aspektech od abstraktního uvažování, pracovní paměti, rychlosti zpracování informací po hraní šachů.

Podle průzkumu mezi odborníky z roku 2014 existuje 50 % šance, že do roku 2050 bude „strojová inteligence na lidské úrovni". V roce 2075 již bude na 90 % levelu. Studie Global Catastrophic Risk Institute zjistila, že nejméně 72 celosvětových projektů má za cíl vytvořit umělou obecnou inteligenci, která by byla schopna výléčit nemoci jako je rakovina a Alzheimerova choroba, nebo vyčistit životní prostředí.

Jaderný kryt jako útočiště.

Jak by vypadal svět po jaderné válce? Nejstrašnější by byla nukleární zima

„Přijde tak nejvýznamnější událost v naší historii," píše Toress pro washingtonpost.com. „Co se stane, když se ve světě objeví něco, co řeší naše problémy?" ptá se. „Protože kognitivní architektura ASI bude značně odlišná od naší, možná bude tou nejvíce nepředvídatelnou věcí v budoucnosti. Co když bychom ji naprogramovali, aby nastolila světový mír a ona vyhodnotí, že pokud neexistuje žádný člověk, nemůže být žádná válka, a proto odpálí všechny jaderné zbraně, aby nás zničila?"

Pro a proti umělé inteligenci

Scénář z katastrofických sci-fi filmů je tak podle filozofa více než reálný. Upozorňuje, že ASI myslí milionkrát rychleji než my. Za dobu, kterou průměrný americký student dostuduje, tak superpočítač získá 1 002 306 doktorátů.

Zdroj: Youtube

„To je důvod, proč bude problém umělou inteligenci vypnout. Než sáhneme po elektrické zástrčce, ona může zamíchat svými elektronovými kartami. Se vší naší globální nestabilitou by ASI znamenala zapálení zápalky vedle továrny na ohňostroje," píše Toress. Proto doporučuje jediné. Výzkum umělé inteligence by se měl nejlépe na několik let zastavit.

Zdroj:

www.washingtonpost.com, www.futurism.com, www.salon.com, www.zive.cz