Hlavním problémem totiž je, že je AI čím dál tím více chytřejší. V momentě, kdy se stane inteligentnější než náš druh, sci-fi filmy se mohou stát realitou. Tvrdí to Max Tegmark, fyzik a odborník na robotiku z Massachusettského technologického institutu, jenž propočítal, že v tomto případě máme jen 50 % šanci na přežití.
Ve své prognóze se odkazuje na evoluci, během níž každý nový a chytřejší druh vyhubil svou konkurenci. „V případě, že umělá inteligence předběhne náš mozek, může nás čekat stejný osud,” říká. „Navíc ani nevíme, kdy to přijde, protože těm, jimž to méně pálí, se to nemají jak dozvědět.”
Lidstvo a roboti
Profesor Tegmark je jedním ze signatářů prohlášení o jedné větě zveřejněného na konci letošního května, vyzývající k naléhavé regulaci AI. „Zmírnění rizika vyhynutí hrozící od umělé inteligence by mělo být globální prioritou srovnatelnou s dalšími nebezpečími, jako je pandemie a jaderná válka," doporučují odborníci.
Někteří z předních vědců si totiž myslí, že počítače by mohly být v blízké budoucnosti zneužité k vytvoření autonomních zbraní nebo robotických vojáků a zdánlivě neškodný software by mohl začít dělat rozhodnutí i bez zásahu člověka.
Tyto obavy se objevily s nástupem nové generace vysoce schopných chatovacích robotů, jako je ChatGPT, kteří dokáží generovat text téměř nerozlišitelný od lidského projevu. Je názorným příkladem, že kombinace informatiky a masivní datové sady umožňuje strojům učit se ze zkušeností a přizpůsobovat se.
„Máme strach”
Prohlášení podepsalo více než 350 odborníků, včetně Demise Hassabise z Google DeepMind, Daria Amodeie z Anthropic, kmotrů AI Geoffreyho Hintona a Yoshua Bengia, samotného tvůrce ChatGPT Sama Altmana a řady vedoucích pracovníků společností Microsoft a Google.
Dokument, varující před následky umělé inteligence, je již druhým v pořadí. Letos v dubnu vyzvalo více než tisíc expertů, včetně Elona Muska, k pozastavení vývoje „nebezpečné rasy“ s cílem provést další posouzení rizik.
Technologičtí lídři se bojí, že jakmile AI překoná lidský mozek, bude ignorovat naše pokyny. „Bylo by to podobné jako ve válce našeho druhu se šimpanzi,” říká zakladatel DeepAI Kevin Baragon. „V ní bychom zvítězili, protože jsme chytřejší a dokážeme využít pokročilé technologie. V případě, že bychom se my stali opičáky, AI nás zničí nebo se staneme otroky.” Odhady ukazují, že krize může přijít do roku 2045.
Zdroje: www.dailymail.co.uk, www.svt.se, www.dailymail.co.uk
