Už v roce 2018 si inženýři z Googlu stěžovali na spolupráci firmy s americkou armádou. Nelíbilo se jim, že by některé pokročilé algoritmy měly být využívány ve vojenské sféře. Na stranu kritiků se postavili další vědci zaobírající se umělou inteligencí. Google i expertní skupina HLEG A.I. Evropské unie tak sestavili etický kodex.
Podle něj by umělá inteligence měla být pod kontrolou člověka, měla by sloužit pouze lidstvu a ctít soukromí. Zároveň nesmí nikoho diskriminovat. Současná A.I. ale tyto zákony není schopná dodržet. Důkazem toho byl experimentální chatbot Twitteru na bázi neuronových sítí a generátorů textu včetně pokročilého autoregresivního jazykového modelu GPT-3, který se dokáže sám učit, aby vytvořil text podobný lidskému, u něhož se ukázalo, že diskriminuje menšiny a podléhá rasismu.
Umělá inteligence a lidstvo
Podle Émile P. Torrese ale existují ještě větší rizika. Ta jsou úzce spojená s umělou superinteligencí neboli ASI (Artificial superintelligence). Tedy s takovým programem, jenž dokáže překonat člověka ve všech rozumových aspektech od abstraktního uvažování, pracovní paměti, rychlosti zpracování informací po hraní šachů.
Podle průzkumu mezi odborníky z roku 2014 existuje 50 % šance, že do roku 2050 bude „strojová inteligence na lidské úrovni". V roce 2075 již bude na 90 % levelu. Studie Global Catastrophic Risk Institute zjistila, že nejméně 72 celosvětových projektů má za cíl vytvořit umělou obecnou inteligenci, která by byla schopna výléčit nemoci jako je rakovina a Alzheimerova choroba, nebo vyčistit životní prostředí.
„Přijde tak nejvýznamnější událost v naší historii," píše Toress pro washingtonpost.com. „Co se stane, když se ve světě objeví něco, co řeší naše problémy?" ptá se. „Protože kognitivní architektura ASI bude značně odlišná od naší, možná bude tou nejvíce nepředvídatelnou věcí v budoucnosti. Co když bychom ji naprogramovali, aby nastolila světový mír a ona vyhodnotí, že pokud neexistuje žádný člověk, nemůže být žádná válka, a proto odpálí všechny jaderné zbraně, aby nás zničila?"
Pro a proti umělé inteligenci
Scénář z katastrofických sci-fi filmů je tak podle filozofa více než reálný. Upozorňuje, že ASI myslí milionkrát rychleji než my. Za dobu, kterou průměrný americký student dostuduje, tak superpočítač získá 1 002 306 doktorátů.
„To je důvod, proč bude problém umělou inteligenci vypnout. Než sáhneme po elektrické zástrčce, ona může zamíchat svými elektronovými kartami. Se vší naší globální nestabilitou by ASI znamenala zapálení zápalky vedle továrny na ohňostroje," píše Toress. Proto doporučuje jediné. Výzkum umělé inteligence by se měl nejlépe na několik let zastavit.
Zdroj:
www.washingtonpost.com, www.futurism.com, www.salon.com, www.zive.cz
