Život v digitální éře

Příliš chytrá umělá inteligence?

27. únor 2015 četba na 11 minut

Foto: Redakce

Stroje, které porazí i šachového velmistra nebo vám uklidí byt. Počítačové programy, které dokážou řídit auto na silnici. Software, který se umí učit. Umělá inteligence v lidech vyvolává přirozený respekt. Je na místě technopanika z toho, že by někdy představovala existenční hrozbu pro celé lidstvo?

Americký Google má samořídicí auta, Česko by mohlo mít samořídicí létající roboty. Autonomní drony by měly disponovat umělou inteligencí, aby pochopily, v jaké situaci se nacházejí, a dokázaly si naplánovat cestu do cíle. Měly by zjistit, kde jsou v objektu například dveře a výhledově si je i otevřít pomocí bezkontaktních metod.

„Stroj musí být reaktivní. Pokud zjistí, že letí proti zdi, musí okamžitě zareagovat. I pokud mu plán říká, že musí doručit zásilku do místa za zdí," popisuje Roman Neruda z Ústavu informatiky Akademie věd ČR. Spolu s kolegy z Matematicko-fyzikální fakulty Univerzity Karlovy v Praze získal před několika týdny grant ve výši 5,8 milionu korun na tříletý výzkum „automatického modelování znalostí a plánů pro autonomní roboty". „Dost se na to těším," svěřil se Neruda.

Výzkumem umělé inteligence (AI) se zabývá bezmála čtvrt století, v polovině 90. let pobýval jako vědecký pracovník jeden rok v Los Alamos National Laboratory. Den po setkání s redaktorem Dotyku odletěl přednášet o takzvaných inteligentních agentech na konferenci do New Yorku.

Vedle toho je Neruda zapojený i do evropského projektu, kde chemici a fyzici vyvíjejí chytrá meteorologická čidla. Popisuje, že senzory by měly být rozmístěné po městě a neustále monitorovat koncentrace nejrůznějších látek v ovzduší. Data signalizující vznik smogové situace by se následně mohla využít k automatické regulaci automobilové dopravy v konkrétním místě.

Chytré stroje jsou všude

Umělá inteligence není, jak by se z předchozích odstavců mohlo jevit, pouze oblastí zájmu, ve které si „hrají" počítačoví vědci se spisovateli vědeckofantastické literatury. Software, který vykazuje známky inteligence, tedy má schopnost porozumět nové situaci, najít vhodné řešení a učit se z vlastních zkušeností, je již běžně dostupný. Respektive moderní svět je na něm totálně závislý, jak napsal před několika dny magazín Newsweek.

Setkáte se s ním, když k překladu cizojazyčného textu použijete internetový překladač třeba od firmy Google; když policejní program z fotky rozezná SPZ vašeho auta, stejně jako by z oskenované stránky dokázal převést text do digitální podoby; když na Facebook nahrajete fotku a sociální síť vám sama napoví, kdo je na ní zachycený; když vám software dokáže roztřídit komentáře uživatelů o novém produktu na kritické a pozitivní; když večer přijedete z práce domů a váš vůz najde dostatečně velké místo na parkování a sám zaparkuje (stejně jako přistane autopilot s letadlem); když vám mezitím pokoj vyluxuje automatický robotický vysavač, takže vy můžete v klidu bojovat o přežití v počítačové hře proti softwarovým a do jisté míry inteligentním soupeřům.

Takový chytrý program musí být adaptivní, aby dokázal reagovat na podněty, nikoli pouze na předprogramované situace jako stroj ve výrobní továrně. „To znamená, aby se software dokázal učit. To je důležité," dodává Roman Neruda. K tomu se používají simulace neuronových sítí nebo evoluční algoritmy (viz Slovník základních pojmů). Jakkoli tak počítače již dnes zvládnou mnohé činnosti lépe než člověk, stále vykonávají jen zadané úkoly. Nedokážou myslet. A neděje se v nich nic magického.

Počítač mluví jako člověk

Loni v červnu způsobila mediální bouři ve sklenici vody zpráva britské Univerzity v Readingu o historicky prvním úspěšném absolvování takzvaného Turingova testu. Více než 30 procent lidských porotců v soutěži nepoznalo, že konverzuje se skrytým počítačem, ale dle odpovědí ho označilo za člověka. Autor testu, významný britský matematik a logik Alan Turing, mimo jiné člen týmu, kterému se podařilo prolomit nacistický šifrovací stroj Enigma, je považovaný za otce informatiky. A právě loni, šedesát let po jeho sebevraždě, prošel slavným testem počítačový program od rusko-ukrajinské skupiny vývojářů, který se vydával za třináctiletého ukrajinského chlapce Eugena Goostmana.

Otázkou nicméně je, zda stroj, který napodobuje inteligentní chování člověka, je opravdu inteligentní, nebo jen efektivně pracuje na základě klíčových slov a slovní skladby otázky…

Úspěšné absolvování Turingova testu přesto může mít dopady na společnost. Myslí si to alespoň profesor kybernetiky na Univerzitě v Readingu Kevin Warwick. „Počítač, který dokáže před člověkem úspěšně předstírat, že něco je lidská osoba, je budíček pro kyberzločin," uvedl jeden z prvních lidí, kteří si do těla nechali implantovat RFID čipy.

Inteligence démona

Ještě vážnější kritika na adresu umělé inteligence pak zaznívá z úst podnikatele a vizionáře Elona Muska. Zakladatel automobilky Tesla a vesmírného dopravce SpaceX například loni v srpnu na Twitter napsal: „Měli bychom být extrémně opatrní s umělou inteligencí, je potenciálně nebezpečnější než atomové bomby." K tomuto vyjádření ho inspirovala kniha filozofa a futurologa Nicka Bostroma Superintelligence: Paths, Dangers, Strategies.

V říjnu pak na konferenci AeroAstro pořádané na MIT varoval před „vyvoláváním démona" a umělou inteligenci přirovnal k jedné z největších existenciálních hrozeb pro lidstvo. Podle jeho slov by měl vzniknout na mezinárodní úrovni jakýsi dozor současného výzkumu v oboru, „abychom se ujistili, že neuděláme něco velmi nerozumného".

V polovině ledna Elon Musk svá vyjádření doprovodil i skutkem, když poslal 10 milionů dolarů nově vzniklému institutu Future of Life. Spolu s Muskem se na chodu instituce finančně podílejí i Jaan Tallinn (estonský programátor, mimo jiné spoluzakladatel Skypu) a Matt Wage (absolvent Princetonu). K táboru znepokojených se přidal i zakladatel Microsoftu Bill Gates nebo fyzik Stephen Hawking, na druhou stranu barikády naopak nastoupil třeba šéf Googlu Eric Schmidt.

„Systémy umělé inteligence musí dělat jen to, co chceme, aby dělaly," stojí v otevřeném dopise, kterým se institut Future of Life snaží iniciovat zaměření výzkumu umělé inteligence na její přínosy, ale spolu s nimi i na minimalizaci možných rizik.

Jedním ze signatářů této výzvy je i Zbyněk Novotný, programátor internetové společnosti Seznam.cz (ta nicméně dle vyjádření tiskového mluvčího s AI „nijak nekoketuje"). Svůj podpis zdůvodnil pro Dotyk mimo jiné slovy:

„V období 50. let minulého století, kdy se počítače vešly pouze do místnosti o velikosti tělocvičny, si málokdo dokázal představit, že jednou budou lidé v kapse nosit počítače, které budou miliardkrát rychlejší. Stejně tak bychom se my měli zajímat, co bude ode dneška za dalších padesát let. Jsem hluboce přesvědčen, že další pokrok lidstva s sebou přinese významné etické a morální otázky – a to nejen v oblasti rozvoje umělé inteligence –, které si dnes jen stěží dokážeme položit."

Auto jako Word

Nejviditelnějším stádiem rozvoje umělé inteligence jsou dnes samořídicí auta, která vyjíždějí třeba z garáží Googlu na testovací jízdy po Kalifornii. Přitom před 15 lety vůz bez řidiče brázdil jen prašné cesty lidské fantazie.

Není přitom od věci doplnit, že právě modely na elektrický pohon od Muskovy automobilky Tesla jsou dnes silně prostoupené elektronikou a připomínají jezdící počítač s volantem a sedadly.

Nejnovější model sedanu Tesla S, představený loni na podzim, má ve výbavě funkci připomínající autopilota z letadel. Při jízdě tedy můžete sundat ruce z volantu – software bude řídit za vás, pomocí kamer dokáže rozeznat nejvyšší povolenou rychlost na značkách a případně zpomalit, radary automaticky detekují stojící vozidlo před vámi a zastaví.

V rozhovoru pro Bloomberg TV se Elon Musk nechal slyšet, že plně autonomní vozy, které nebudou potřebovat řidiče, protože je do cíle povede umělá inteligence, očekává na silnicích nejpozději v roce 2023.

Do té doby je potřeba vyřešit mimo jiné právní rámec jejich provozu. I obhájci umělé inteligence totiž připouštějí, že technologie pohánějící autonomní auta není a zřejmě ani nebude stoprocentně bezpečná.

„Jsou to algoritmy a v nich jsou chyby. Samořídicí auta do sebe nejspíš budou narážet. Protože word v počítači vám občas taky spadne… Že to někoho zabije, když selže systém? To určitě ano," konstatuje bez okolků Roman Neruda.

Proč se stroje vzbouří?

Lidé, kteří si nad umělou inteligencí lámou v práci svoji hlavu, se tohoto oboru informatiky na rozdíl od Elona Muska pochopitelně zastávají. „Zřejmě nejpalčivější populární obava z umělé inteligence spočívá v tom, že stroj nadaný lidskými schopnostmi bude maximalizovat svůj zisk na úkor zájmů lidí a vymkne se kontrole. Vzhledem k současnému stavu technologií, na nichž umělá inteligence staví, nám toto bezprostředně nehrozí," uklidňuje v e-mailové konverzaci Filip Železný, garant magisterského oboru umělá inteligence na Českém vysokém učení technickém v Praze. S nadsázkou dodává: „Ale neberte to prosím se zárukou, klidně je možné, že jsem zabedněný já a zítra mi nějaký uražený inteligentní systém propíchá pneumatiky."

Žertovným příměrem si při obhajobě umělé inteligence vypomohl i v úvodu zmíněný Roman Neruda z Ústavu informatiky. „Textový editor nebo program na výpočet mzdy se nikdy nevzbouří," glosuje probíhající debatu.

Už vážným tónem si pak klade (řečnické) otázky, zda by jakkoli vylepšený program umělé inteligence v budoucnu chtěl ublížit člověku. Respektive, zda by vůbec něco chtěl a zda by disponoval svobodnou vůlí. Jak by stroj dospěl k tomu, že vlastně něco chce, pokud by to neměl naprogramované?

Představy o reálném počítačovém systému Skynet, který by stvořil humanoidní roboty podobné Terminátorovi, prozatím nechme scenáristům hollywoodských kasovních trháků.

Filip Železný z ČVUT upozorňuje ještě na dvě hrozby. Všechna rizika spojená s jakoukoli novou technologií nedokážou podle něj od stolu předpovědět ani sebevíc kvalifikovaní odborníci. „Problémy se obvykle objeví tam, kde je nečekáme," myslí si.

Zadruhé poukazuje na velké nebezpečí, jež ve světě informačních technologií představuje sám člověk. „Z přízemního pohledu za nejvýznamnější riziko považuji, že se tématu „nebezpečí umělé inteligence" chopí šikovný polovzdělaný politik a s umělou inteligencí to skončí stejně špatně jako v Evropě s geneticky modifikovanými plodinami nebo v Americe s embryonálními kmenovými buňkami."