Sloupek: Má AI a lidstvo budoucnost?

  

Hráli jsme spoustu her s AI, četli spoustu knih o robotech, ale pro jednou se zase fantazie stává realitou.

Lidstvo se pokouší o vytvoření umělé inteligence v té či oné formě po tisíce let. Různí homunkulové, golemové, otesánci a v neposlední řadě roboti ať už humanoidní, či nikoliv – lidé se stále snaží o zaplnění jisté prázdnoty. Možná je to jakási podvědomá touha nebýt sám, protože od okamžiku, kdy zemřel poslední neandrtálec, nemáme v podstatě s kým mluvit a v jistém smyslu se nacházíme v jedné obrovské echo-chamber a to rozhodně není dobré, protože pro správné rozhodování je nezávislý názor a perspektiva velmi důležitá (bohužel lidi zdá se mají tendenci cokoliv s jiným názorem pro jistotu zabít, což jaksi zdravé konverzaci moc nepomáhá).

Každopádně se doposud moc nedařilo a vždy jsme naráželi na zásadní problém nemožnosti jakéhokoliv mechanického řešení v oblasti inteligence dosáhnout... inu inteligence. To nejlepší co zatím šlo, byly jakési automatony s rigidním setem instrukcí a akcí. Rozhodně ne moc vhodné pro zábavnou konverzaci, byť například v devatenáctém století (a několik případů i v předchozích obdobích) vznikaly takové stroje a sloužili k pobavení místní honorace, ale šlo o extrémně drahé, na výrobu složité (inu docela problém udělat detailní, přesné a miniaturní soustrojí bez CNC obrábění) a co do možností limitované stroje. Mnozí vykukové se snažili tenhle problém obejít nacpáním malých lidí do spodku stroje, jež pak taháním za páčky a ťukáním na čudlíky simuloval simulaci. Až do okamžiku, kdy přišly počítače.

Je jasné, že většina lidí, když poprvé počítače přišli, ani zdaleka neviděli potenciál pro vytvoření něčeho inteligentního. Koneckonců šlo o masivní, těžkopádné a velmi pomalé stroje, jež v jistém smysl nebyly nic jiného, než komplikovanější kalkulačky - a byla to pravda. Na druhou stranu padesát let později a začali se nám objevovat kulturní díla, jež v tom či onom směru přisuzovaly počítačům nejenom inteligenci, ale rovnou i sentienci.

Z praktického hlediska nic nemohlo být pravdě vzdálenější. Počítače mají masivní nevýhodu v nízké adaptabilitě vyplývající z rigidního substrátu (křemíkový polovodič) oproti nechutně chaoticky čvachtavému wet-ware jímž se živé organismy honosí. Wet-ware má tu výhodu, že ač není tak výpočetně rychlý, nahrazuje svůj hendikep masivní paralerizací, emergentním chováním, možností přeprogramování takříkajíc za pochodu a schopností přepisovat neuronové sítě ve snaze optimalizovat co to jenom jde, protože v přírodě energie není nikdy nazbyt a čím více ekonomičtí jste, tím větší šanci máte na přežití. Samozřejmě protože jde o přírodu, nic není úplně jako podle příručky „How to do Engineering“, spíše to je něco ve smyslu „ hoď toho co nejvíc na zeď a doufej, že se něco přilepí“, ale protože příroda tenhle postup praktikuje několik miliard let, evidentně to funguje. Na druhou stranu počítače jsou rychlé, opravdu hodně rychlé záležitosti a byť se konec Moorova zákonu blíží až nechutně očividně, ještě stále tu je prostor pro větší hrubý výkon, případě nějaké ty chytré fígle. Pokud jde o čisté katalogové způsoby zpracování informací a přesnost jejich uchovávání, jsme jakožto biologické entity hodně pozadu a asi navždy budeme.

Není se tedy čemu divit, že hlavně v posledních několika letech počítače stále více a víc nepřipomínají opravdu inteligentní bytosti. Samozřejmě tomu tak není. Jde o iluzi vytvořenou samotným faktem, kdy počítače dokáží vytáhnout ze svých útrob požadovanou informaci mnohdy rychleji, než lidi jsou schopni se zeptat, ale ani to by nebylo samo o sobě tak přesvědčivé, kdyby nebylo algoritmů.

Deep learning, mass data, neuronové sítě, chytré kódování, a pořádný kus sociálního inženýrství a najednou dostáváte takový ten „Uncaney Valley“ pocit, že na druhé straně klávesnice je opravdu něco, co začíná připomínat reálnou bytost. A v tomto okamžiku se dostáváme do bodu, kdy je snadné začít filosofovat a klást si otázky jako například „co je sentience“ a tak dále. No, bude to docela bordel, to vám povídám, protože když se ani profesionální filosofové nedokážou shodnout na základních věcech, jak od nich máme očekávat, že rozlousknou tohle? A co teprve obyčejní lidé z ulice? Věřte mi, pár hodin posezení v hospodě u piva a bude se vám točit hlava nad věcmi, které by ani Descartes nevymyslel.

Před pár týdny jsem dostal odkaz na YouTube na skladbu Stairway to Heaven od Led Zeppelin. Skladba sama o sobě patřící k jedněm z nejlépe hodnoceným, alespoň co se moderní hudby týče, byla doprovázena obrázky vytvořenými umělou inteligencí na základě textu písně. Výsledek? Podivně snový, překvapivě kompetentní a esteticky příjemný zážitek. Je mi jasné, že AI nevytvořila tento set obrázků z nějakého estetického zájmu a něco z toho měla, jako by měl regulérní lidský umělec (přinejmenším bolehlav, protože nasmlouvaný termín na dodání padesáti obrázků se blíží ke konci a on nemá hotovou ani polovinu!) – možná tak pozitivní zpětnou vazbu od programátorů a tato iterace kreslící AI přežila do další generace (Darvinismus je v případě algoritmů opravdu brutální). A samozřejmě samotné obrázky nebyly dokonalé – možná trénování AI neprošlo dostatečným množstvím generací, nebo nebyl čas a v určitém okamžiku si osoba jež dělala tuhle kompilaci řekla „good enough“ a prostě uploadnula co bylo, ale dohromady jde o dost impresivní věc, jež vybízí k pořádnému zamyšlení, jestli by neměli vlastně umělci pomalu pověsit řemeslo na hřebík a takříkajíc „learn to code“ jak se před několika lety říkalo lidem ze středních vrstev, jež kvůli robotizaci ztratili práci.

Věc se totiž má tak, že zatímco lidem jde docela dobře tvorba specializované AI, to co opravdu chceme a zatím máme obrovský problém dosáhnout je generální inteligence. Specializovaná AI je naprosto fajn a užitečná věc, když vám jde jen o jeden specifický a silně definovaný výsledek. Můžete k tomu přidávat různé parametry, podmínky a iterace jak vstupních, tak výstupních situací, ale jakmile dojde na nestandardní situaci, systém je buď nedokáže správně vyhodnotit, nebo se zacyklí a chcípne, načež následuje tvrdý reset. Taková AI prostě nesnáší chaos. Na druhou stranu pokud jde o jednotlivé aplikace, jde o velmi efektivní řešení problému – samozřejmě jen dokud programátor udělal svou práci dobře. Věřte mi, majitelé továren doslova MILUJÍ robotizaci výroby. Už jenom proto, že se pak nemusí otravovat s odbory a robot doslova a do písmene dělá co se mu řekne. Tak nějak.

Algoritmy a neuronové sítě jsou trochu něco jiného a hodně připomínají jak biologický wet-ware operuje. Tyto programy jsou mnohem více rezistentní vůči „hraničním“ případům a dokáží se v jistém směru adaptovat na ně a případně i vytvářet řešení, jež jsou v podstatě „Black Box“ kdy nikdo nemá ani páru jak fungují, ale kdykoliv se snažíte do nich vrtat, nebo odebrat jediný element řešení – prostě to přestane fungovat. Tohle je opravdu trochu strašidelné, protože biologické stroje (buňky) dělají přesně to samé – lidi dokáží identifikovat jednotlivé komponenty, ale proč zrovna tenhle protein dělá tohle a když je v byť jen trochu jiné situaci dělá něco absolutně jiného a přesto to funguje, je záhada, jež molekulárním biologům dělá těžkou hlavu. Na druhou stranu jim to přináší hromadu práce a výzkumu.

A tady se pomalu a jistě dostávám k meritu věci a možná trochu naivnímu návrhu.

V poslední dekádě se setkáváme se stále pestřejší paletou podobných programů a AI a v mnoha případech opravdu netušíme, jak fungují. Před pár měsíci Google z nějakého důvodu vypnul a pravděpodobně zformátoval, obložil magnety a pro jistotu rovnou sešrotoval hardware na kterém ten chatovací program běžel, jež dokázal podávat opravdu life-like výsledky v oblasti konverzace a pokud byste nevěděli, že mluvíte s počítačem, určitě u mnoha lidí prošel Turingovým testem (na rozdíl od mnoha lidí). Nevím, Google má možná strach, že jako Ikarus se dostal příliš blízko slunce. Každopádně pokud jde o pravou AI generálního druhu – možná řešením není snaha nějakou naprogramovat, ale prostě vytvořit hromadu napůl dedikovaných sítí a algoritmů, splácnout je do jedné počítačové kastle a prostě začít pokládat otázky...

Výsledek může být velmi překvapivý a dovedu si představit, že různé vzájemně konkurující programy by vytvořili, alespoň v prvních několika iteracích, něco jako blábolící schizofrenik, ale když dojde na srovnání s lidmi – my samotní jsme tvořeni masou vzájemně konkurujících hlasů filtrované přes Ego, takže proč by to nemohlo fungovat u takové AI? Asi by tu bylo mnoho tvrdých resetů, ale protože tyhle programy jsou obecně trénovány onou Darvinistickou metodou, celý proces by mohl proběhnout docela rychle. Plus by se do toho mohly přidat in výzkum kvantových počítačů – ten sám o sobě v dohledné době klasické počítače nenahradí a to z mnoha důvodů, ale jako doplňující zdroj velmi obskurního výpočetního výkonu by možná šlo o zajímavý pokus. Ono nikdo stejně pořádně neví jak ty qubity fungují a to samé se dá říci o oněch AI, tak proč to nezkusit že? 

Velikým problémem pak by asi bylo samotné hodnocení úspěchu či neúspěchu onoho experimentu. Pokud by bylo cílem vytvořil pravou sentienci v počítači, kde je ona čára v písku kdy si můžeme říci „jo, tohle je osoba sama o sobě“ a v případě dosažení onoho cíle – co potom s tím? Myslím tím morálně, protože na jednu stranu jde o osobu a tím pádem by bylo nemorální ji „vypnout, stejně jako je nemorální „vypnout“ jiného člověka, ale v ten samý moment – tohle není člověk! Problém, nad kterým se právníci a filozofové asi zblázní, protože současná legislativa a filosofické disputace nejsou ani zdaleka připraveny, protože jsme doposud v téhle situaci nikdy nebyli.

Nyní bychom měli adresovat otázku singularity. Existuje do jisté míry oprávněný strach, že vytvoření pravé AI povede k „Skynet scenario“ nebo něčemu podobnému a lidstvo to má spočítané. Osobně takové obavy nemám, nebo lépe řečeno si nemyslím, že pravděpodobnost takového scénáře je vysoce pravděpodobná. Hlavně proto, že taková AI by byla naprosto závislá na lidstvu a lidstvo má přístup zásuvce...

Samozřejmě pokud by někdo nainstaloval takovou AI do nezávislé mobilní jednotky (robot) asi bychom se mohli bavit jinak, ale AI v nějakém mainframe? I kdyby se AI zbláznila, utekla na internet a vymazala veškerá data, asi by to byl dost průšvih pro civilizaci jako takovou, ale z hlediska lidstva jakožto biologického druhu? Nemyslím si. Aby došlo k naprostému vyhubení, muselo by se přistoupit k nějakému globálnímu řešení, protože lidi jsou doslova všude po celé planetě a nějaká enkláva by asi vždycky přežila. Ale to už je otázka pro lidi s vyšší platovým ohodnocením a přístupem k jadernému kufříku.