Už v roce 2017 se Zásady umělé inteligence Asilomar zmiňovaly, že AI by mohla představovat výraznou změnu v historii života na Zemi, a proto by měla být plánovaná a řízená. „Bohužel k těmto kontrolám nedochází. Naopak. Laboratoře se předhánějí ve vývoji stále dokonalejších programů. Problémem ale je, že nikdo, ani jejich tvůrci, jim zcela nerozumí, neumí předvídat jejich chování a spolehlivě je monitorovat,” píše se v otevřeném dopise, který podepsalo více než 20 tisíc lidí, v čele s předními světovými vedoucími osobnostmi v oblasti IT. 

Vyzývají, aby se výzkum umělé inteligence pozastavil alespoň na 6 měsíců. „Pauza by měla být využitá ke společnému vývoji a implementaci sady sdílených bezpečnostních protokolů. Zajistí se tak, že systémy AI budou nade vší pochybnost bezpečné.”

Nebezpečí umělé inteligence

Otevřený dopis se opírá o zprávu organizace zabývající se prevencí a potíráním organizované trestné činnosti Europol, vydané na konci března 2023, která upozorňuje, že velké jazykové modely LLM, jako je například populární ChatGPT, lze snadno zneužít k podvodům, šíření nebezpečných dezinformací nebo kybernetické šikaně. 

Zdroj: Youtube

„Schopnost počítačových programů, určených k automatizované komunikaci s lidmi, vytvářet  vysoce realistický text, z nich dělá užitečný nástroj pro účely získání citlivých údajů,” píše Europol. „Zároveň jsou snadno zneužitelné pro propagandistické účely s relativně malým úsilím a skromnými technickými znalostmi.”

Odborníci upozorňují, že základem ochrany před umělou inteligencí je vědomí, že za jejím vytvořením stojí stále jen člověk. „Myšlenka, že překonávají lidské schopnosti je hloupá,” říká americký spisovatel, počítačový odborník a hudebník Jaron Lanier. 

Možná se zblázníme

„Z mého pohledu nebezpečí nespočívá v nějaké entitě, promlouvající prostřednictvím naší technologie, jež nás chce zničit. Hrozbu vidím v tom, že programy způsobí, že si vzájemně nebudeme rozumět nebo nedokážeme rozeznat realitu od fikce. Jakmile přestaneme s dostatečnou odpovědností jednat morálně a lidsky, v podstatě zemřeme na šílenství.”

Autor pojmu „virtuální realita” je přesvědčený, že proces sebedestrukce již začal s nástupem sociálních sítí. Právě zde umělá inteligence začala generovat obsah vytvořený přímo na míru každému z uživatelů. „Facebook, Twitter, Instagram i TikTok se staly školním dvorem, na kterém si hrají děti, z nichž každé do jednoho zoufale touží po pozornosti. Zároveň se ale bojí, že bude tím, koho zmlátí. Skončí tak, že se začne přetvařovat. Zaměří se na sebe a ztratí empatii pro ostatní,” vysvětluje. 

Tyto hrozby však neznamenají, že bychom měli AI zavrhnout. Lanier je přesvědčený, že způsob jak zajistit, abychom zůstali příčetní, je pamatovat, že je to naše lidskost, jež nás dělá jedinečnými. „Právě díky ní můžeme jako společnost vytvářet něco nového.”

Zdroje: www.futureoflife.org, www2.cbn.com, www.theguardian.com, www.forbes.com