Rozhovor s Ondřejom Neffom (nielen) o umelej inteligencii
S nástupom výpočtových strojov po druhej svetovej vojne sa začína používať pojem umelá inteligencia (AI). Dnes je to odvetvie informatiky, ktoré sa snaží riešiť veľmi zložité problémy v súvislostiach. My, fanúšikovia vedeckej fantastiky, si okamžite predstavíme zákerný počítač HAL 9000 odmietajúci počúvať alebo SkyNet brániaci ľudstvo tým, že ho pre istotu zlikviduje. Predpokladá sa, že jedného dňa budú počítače také výkonné a „inteligentné“, že sa naučia myslieť ako ľudia, získajú vedomie a nastane tzv. singularita. Ide o všeobecnú umelú inteligenciu a čím viac vieme o našich mozgoch, tým ďalej v budúcnosti takáto singularita leží. A je dosť možné, že sa neskončí apokalypsou, alebo aspoň v to vedecká komunita dúfa.
Ale medzitým došlo k rozmachu niečoho, čo sa nazýva úzka umelá inteligencia. Existuje už dlho, ale v posledných mesiacoch sa dostala do širšieho povedomia širokej verejnosti, pričom sa o nej hovorí takmer všade. Stačí sa opýtať Siri alebo iného chatbota (na čele s OpenAI) alebo skúsiť vygenerovať obrázok napríklad pomocou Midjourney. Ide o komplexné programy, ktoré pracujú s údajmi tak dobre, že dokážu oklamať takmer každého, a už teraz výrazne menia niektoré oblasti ľudskej činnosti.
A my v imagu sa s umelou inteligenciou hráme a spoznávame ju. Na jeho názory a postoje k AI sme sa opýtali Ondřeja Neffa, spisovateľa, publicistu, novinára, fotografa a priekopníka českého internetu.
Jste jedným z priekopníkov a propagátorov internetu. Ako sa podľa vás internet za ten čas zmenil?
Nemá zmysel niečo vyčerpávajúco vymenovávať. Je to explózia, zasahuje do netušených oblastí - a hlavne by som chcel zdôrazniť, že tento proces sa ešte zďaleka neskončil. Stačí si uvedomiť, že akúkoľvek činnosť, ktorá si nevyžaduje bezprostredný dotyk ľudskej ruky, možno vykonávať online. Operácia srdca vykonávaná cez internet, je to sci-fi alebo nie?
Akú úlohu v týchto zmenách zohrávajú sociálne siete?
Vnímanie verejnosti je vďaka nim iné ako predtým, ale nie je isté, o aký obsah ide. Fenomén názorových bublín je nepopierateľný. Zvláštne však je, že masové hnutia minulosti - komunizmus, fašizmus - sú z technického a komunikačného hľadiska výsledkom tlačených médií a neskôr rozhlasu, prípadne filmu. Naproti tomu názorové bubliny sieťovej éry majú tendenciu nie splývať, ale skôr sa štiepiť a nepodporujú hierarchickú štruktúru, ktorá je vlastná komunizmu a fašizmu. Kto je „führer“ na Facebooku? Takáto otázka nemá zmysel.
Fenomén umelej inteligencie sa začal objavovať v 50. rokoch 20. storočia a stal sa témou vedecko-fantastickej literatúry. Ako ďaleko sme podľa vás od technologickej singularity, momentu, keď sa stroje „prebudia“?"
Som v tomto smere skeptický a myslím si, že sme sa ešte nedostali ani na začiatok. Schopnosť analyzovať a spájať čoraz väčšie množstvo údajov rastie. Skutočné vedomie funguje na iných princípoch, a dokonca si myslím, že niektoré princípy - tie základné - sú stále mimo dosahu nášho poznania.
Z kníh a filmov sa zdá, že ide skôr o negatívnu udalosť. Stačí spomenúť SkyNet ako príklad. Prečo si myslíte, že je to tak?"
Odpoveď je jednoduchá. Dráma si vyžaduje konflikt. Nemôžem napísať príbeh o žehlení žehličky. Príbeh musí byť o spálení dosky a založení požiaru.
Ste v tomto smere skôr optimista alebo pesimista?
Preventívnosti nie je nikdy dosť. Je to však tak ďaleko, že nemá zmysel robiť si starosti alebo sa tešiť.
V posledných mesiacoch došlo k rozmachu slabej umelej inteligencie. Rozširujú sa asistenti, veľké jazykové modely schopné komunikovať v prirodzenom jazyku, generátory obrázkov, článkov alebo kódov. Máte skúsenosti so službami ako OpenAI alebo Midjourney?
Je to revolúcia, ako bol pred dvadsiatimi rokmi fulltextový vyhľadávač Google. Mimochodom, opravovač preklepov je tiež „slabá AI“... Ja zatiaľ nemám OpenAI v pracovnom procese, ale nepochybujem, že o pár rokov v tom budem až po uši. Aj ako spisovateľ - uvediem príklad zo súčasnej praxe. Mám hrdinku Číňanku a do úst som jej vložil „čínsku múdrosť“. Vyhľadávam ich cez google alebo sa potkýnam a vymýšľam ich - nepochybne ich umelá inteligencia vysype nepreberné množstvo...
Tieto služby začali rýchlo meniť zaužívané postupy napríklad v oblasti elektronického obchodu, copywritingu, reklám PPC a reklamy všeobecne. Už teraz sa stretnete s chatbotom, ktorý vám pomôže vyriešiť problém vo vašom internetovom obchode. Sami tieto služby testujeme a skúšame napríklad generovať popisy tovaru. Kam to podľa vás povedie?
Všetko, čo vám uľahčí prácu, vám zároveň pridá prácu. Nepochybujem o tom, že tento paradox sa prejaví aj v aplikáciách umelej inteligencie.
Čím viac údajov a odpovedí takáto AI má, tým je lepšia. Učí sa od ľudí. Ukazuje sa však, že sa veľmi rýchlo učí skôr negatívne veci. Chatbot Microsoftu sa v priebehu jedného dňa stal urážlivým rasistom, AI Mety (bývalý Facebook) začala ohovárať vlastného šéfa Marka Zuckerberga. Čo to teda vypovedá o nás samých, najmä keď sa pozrieme na bežný obsah na sociálnych sieťach?"
Negatívne alebo pozitívne, to sú kategórie ľudského uvažovania. Nerobme si ilúzie o ľudskej povahe, prenikne do AI, je to nevyhnutné. Skôr sa treba čudovať, keď sa AI nakoniec začlení do postupov cenzúry a dohľadu. Stane sa to, vezmite si na to jed.
OpenAI a ďalšie podobné služby sú založené na obrovskom množstve algoritmov a strojovom učení. Základom je však tréning na veľkom množstve údajov. Prekvapujúce potom je, že výsledky takejto AI sú často voľne použiteľné a nie sú zaťažené licenciami. Odkiaľ však pochádzajú pôvodné údaje? Očakávate v tejto súvislosti nejaké veľké právne bitky?"
Pravdepodobne dôjde k vojnovým ťahaniciam. Ale pozor, pri tvorbe je tenká hranica medzi inšpiráciou a plagiátorstvom. Kipling vymyslel Mauglího a Burroughs vytvoril Tarzana a zarobil milióny. Textový a obrazový výstup umelej inteligencie je kompiláciou niečoho predtým vytvoreného, ale ako určiť pôvodné autorstvo? Google už dokáže zistiť stopu autora, ale určiť pôvodný zdroj inšpirácie nebude jednoduché. Spory okolo toho budú o to prudšie - už teraz Getty Images kričí o zneužití ich obrázkov. Celkom oprávnene.
Vieme si predstaviť svet, v ktorom všetku prácu vykonávajú stroje? A čo budú robiť ľudia? Nehrozí, že zlenivejú? Môže takáto spoločnosť vôbec fungovať?
Z pohľadu našich predkov sme už dnes leniví, nič nerobíme. Navyše, technologický pokrok je rýchly, ale nie taký rýchly, aby sme sa mu nedokázali prispôsobiť. Technológia mnohé činnosti odstráni, iné naopak vzniknú. Vždy bude čo robiť.
Často sa v súvislosti s umelou inteligenciou hovorí, že ťažko môže nahradiť ľudskú tvorivosť. Nedávno som si nechal vygenerovať časť gamebooku. Nebudem tvrdiť, že to bol počin hodný Pulitzerovej ceny, ale čítal som aj horšie. Už existujú veľmi slušné generátory príbehov s umelou inteligenciou pre stolové RPG hry, ako je Dungeons & Dragons. Dovolím si tvrdiť, že už teraz majú v sebe viac kreativity ako mnohí ľudia. Nie je kreativita často zamieňaná za náhodný šťastný nápad? Čo si myslíte, že to je?"
Skutočná kreativita je mimoriadne zriedkavý jav a mnohé z dnešných takzvaných výtvorov sú len derivátmi a metamorfózami skôr vytvorených diel. Umelá inteligencia to zvládne rýchlejšie. Pojem „nápad“ skutočne súvisí s kreativitou. Samozrejme, čerpá aj z niečoho, čo už existovalo predtým, s trochou cynizmu by som povedal, že nápad je plagiát s nezistiteľným pôvodom. Vždy však budú existovať ľudia s nápadmi. Umelá inteligencia bude vyrábať pre masovú spotrebu, podobne ako Baťa seká vŕtacie topánky. Ale vedľa toho boli ručne šité topánky pre znalcov. Ten spozná ľudský dotyk.
Keď som sa na vás opýtal umelej inteligencie OpenAI, najprv si myslela, že ste získali bronzovú medailu na majstrovstvách sveta v behu na lyžiach v obrovskom slalome, ale potom sa nechala presvedčiť, že ste skôr spisovateľ. Tiež som ju požiadal, aby sa ťa opýtala, čo ju zaujíma. Dovolím si citovať AI: „Mohli by ste nám povedať o svojom vzťahu k literatúre a o tom, ako ste sa stali spisovateľkou?“
No vidíte, a ja by som odpovedal: „Milá AI, rád by som mal vaše starosti a Rothschildove peniaze!“
autor Karel Krajča
foto: Elena Horálková a Karel Krajča