K téme AI vyšli v priebehu leta dva veľmi zaujímavé rozhovory šéfredaktorky The Economist Zanny Minton Beddoes – s Elonom Muskom a s Yuvalom Noahom Hararim, autorom svetových bestsellerov o histórii a budúcnosti ľudstva či informačných technológií.
Každý z týchto rozhovorov trval vyše hodiny, takže v tomto texte vypichnem len tie názory, závery a súvislosti, ktoré považujem za najdôležitejšie a najzaujímavejšie.
Hneď na úvod upozorním, že moje názory na týchto dvoch mužov sa líšia. Musk je nielen najbohatším človekom planéty, ale nepochybne aj jedným z najväčších technologických vizionárov a za niektoré veci, najmä poskytnutie satelitného internetového systému Starlink Ukrajine, si zaslúži uznanie a rešpekt. Zároveň si však myslím, že jeho politické angažovanie, krátke pôsobenie v Trumpovej vláde, ale aj jeho politické, geopolitické a hodnotové postoje a názory sú, mierne povedané, vysoko problematické a často až nebezpečné.
Harariho, naopak, uznávam a s jeho názormi, postojmi a argumentmi v zásade súhlasím a podporujem ich.
Najskôr uvediem tri základné tézy Elona Muska a potom súhlasné, ale aj nesúhlasné postoje k nim zo strany Yuvala Harariho. Musk tvrdí, že:
umelá inteligencia (AI) čoskoro predbehne človeka v takmer všetkých intelektuálnych, ale aj fyzických schopnostiach;
nastane čas absolútneho blahobytu;
ľudia už AI nebudú kontrolovať.
Musk tvrdí, že bod číslo jeden sa naplní do piatich, maximálne desiatich rokov vývoja AI. Už dnes AI predbehla človeka v digitálnej inteligencii, v blízkej budúcnosti ho prekoná aj vo fyzických schopnostiach, a to najmä prostredníctvom AI robotizácie, teda prostredníctvom humanoidných, ale aj iných robotov riadených a organizovaných umelou inteligenciou.
AI a AI roboti vyprodukujú také množstvo výrobkov a služieb, že nastane všeobecný blahobyt, ktorý najskôr umožní vyplácanie vysokého všeobecného nepodmieneného príjmu všetkým ľuďom a neskôr dokonca zrušenie peňazí. Inflácie pri vyplácaní vysokého nepodmieneného príjmu sa Musk nebojí, pretože (v tomto bode racionálne) argumentuje, že ak bude objem lacných tovarov a služieb rásť rýchlejšie ako rast peňažnej zásoby na vyplácanie tohto nepodmieneného príjmu, tak inflácia nehrozí.
Zároveň však tvrdí, že
AI sa vymkne spod ľudskej kontroly, pričom je taktiež presvedčený, že je to už nezvratné a nedá sa s tým nič robiť. Ale zároveň verí, že je pomerne veľká pravdepodobnosť, že to dopadne dobre, a keďže to už nevieme zastaviť, tak si – ako doslova hovorí – „máme tú jazdu užiť“.
Keď sa ho Zanna Minton Beddoes opýtala, či platí jeho téza z minulosti, že existuje 10- až 20-percentné riziko, že sa AI vymkne spod kontroly a zničí ľudstvo, tak pritakal.
Na otázku, čo sa dá urobiť, aby sa to nestalo, potom uviedol, že najefektívnejší nástroj zníženia rizika je dobrovoľná spolupráca lídrov AI biznisu, a povedal, že on im takúto spoluprácu navrhol. Malo by to vyzerať tak, že by sa pravidelne, napríklad raz za dva týždne, stretávali, posudzovali riziká nových modelov AI, dobrovoľne ich sami minimalizovali, ale aj navrhovali vládam, ako AI regulovať. Popri amerických AI lídroch (Sam Altman, Dario Amodei, Mark Zuckerberg, Demis Hassabis a Elon Musk) by však do tejto skupiny mali patriť aj lídri čínskeho AI biznisu. Vlády samotné to nezvládnu, pretože vlády tomuto biznisu nerozumejú tak ako lídri AI biznisu.
Musk tvrdí, že nielenže sa AI vymkne spod kontroly ľudí, ale bude ľudí aj ovládať. Použil pritom prostoduchý argument: rozdiel v inteligencii medzi nami a AI bude prinajmenšom taký ako medzi nami a šimpanzmi. Preto je podľa Muska jasné, že AI nás bude ovládať tak, ako my dnes ovládame šimpanzov.
Šéfredaktorka The Economist sa ho potom spýtala, kde berie istotu, že to pravdepodobne dopadne dobre. Muskova odpoveď bola znovu až odzbrojujúco prostoduchá – AI bude podľa neho hľadať pravdu (truth seeking) a bude jej záležať na prežití ľudstva.
Nasledovali otázky na Muskove politické názory, pôsobenie v Trumpovej vláde, zrušenie USAID, podporu európskej extrémnej pravice a kritiku väčšiny európskych krajín. Chvíľami sa pri týchto témach aj poriadne iskrilo, Musk pri nich predviedol priam boľševickú rozhodnosť a hlboké presvedčenie o svojej pravde a svojich postojoch bez ohľadu na fakty a argumenty.
K rozhovoru s Hararim, ktorý považujem za omnoho prínosnejší, intelektuálne aj argumentačne hodnotnejší, sa na tomto mieste vrátime o týždeň.
Zatiaľ len stručne: z uvedených troch Muskových téz ohľadom budúcnosti AI Harari súhlasil s prvou – že AI čoskoro predbehne človeka v takmer všetkých intelektuálnych a fyzických schopnostiach. Podmienečne súhlasil aj s bodom tri (že AI sa vymkne spod kontroly), pričom však zdôraznil, že nejde o nevyhnutnosť (ako tvrdí Musk), ale o pravdepodobný, vysoko rizikový scenár, ktorému ešte stále môžeme zabrániť.
A Harari nesúhlasí s tým, že vďaka AI nás čaká obdobie všeobecného a neobmedzeného blahobytu.
Podrobnejšie k rozhovoru s Hararim na tomto mieste o týždeň.
https://e.dennikn.sk/5537035/ako-to-cit ... cast-prva/