Dve desaťročia sa venoval bezpečnosti umelej inteligencie. Pôvodne bol presvedčený o možnosti vytvoriť bezpečnú AI. Postupne si však uvedomil, že to nie je možné.
Roman Yampolskiy, uznávaný odborník na počítačové vedy, spájaný so založením samotného termínu bezpečnosť umelej inteligencie, dnes vydáva tie najostrejšie prognózy pre budúcnosť ľudstva a ekonomiky.
Yampolskiy hovorí o hrozbe pre ľudskú existenciu. Upozorňuje, že rýchlosť pokroku v AI exponenciálne narastá. Naproti tomu pokrok v oblasti bezpečnosti je len lineárny alebo konštantný.
Táto rastúca priepasť medzi schopnosťami systémov a možnosťou ich kontroly predstavuje zásadný problém. Yampolskiy si myslí, že sa nachádzame v bode, kde sa vyvíja technológia, ktorej dôsledkom nerozumieme a ktorú nevieme ovládať.
Masová nezamestnanosť
Yampolskiy uvádza konkrétne dátumy pre kritické míľniky. Mieni, že už v roku 2027 môžeme očakávať umelú všeobecnú inteligenciu – AGI. Tá má schopnosť operovať v rôznych doménach a v mnohých z nich prekonávať ľudskú výkonnosť.
Yampolskiy tvrdí, že ak by vedci spred dvadsiatich rokov videli dnešné systémy, považovali by ich za plnohodnotnú AGI. Tieto systémy už dnes preukazujú vynikajúce schopnosti v stovkách domén.
Už pred tromi rokmi nevedeli veľké jazykové modely ani len násobiť trojmiestne čísla. Teraz vyhrávajú matematické súťaže a pomáhajú pri riešení tisícročných matematických problémov. Yampolskiy hovorí, že tento rýchly vývoj sa premieta do masívneho narušenia trhu práce.
S nástupom AGI vzniká koncept takzvaného zamestnanca na zavolanie. Yampolskiy si myslí, že ak je k dispozícii bezplatná kognitívna a fyzická práca, najímanie ľudí pre väčšinu pracovných pozícií prestáva dávať ekonomický zmysel.
Už len predplatné za dvadsať dolárov dokáže nahradiť plnohodnotného zamestnanca. Podľa Yampolského bude automatizované všetko, čo sa deje na počítači. Upozorňuje, že humanoidné roboty sú len o päť rokov pozadu. To znamená, že do piatich rokov sa dá automatizovať aj fyzická práca.
Pre rok 2030 predpovedá, že na svete budú úrovne nezamestnanosti, aké sme nikdy predtým nevideli. Hovorí o 99-percentnej nezamestnanosti.
Ostávajú len tie povolania, kde ľudia z nejakého dôvodu preferujú služby iného človeka. Varuje, že možnosť nahradiť väčšinu ľudí vo väčšine povolaní príde veľmi rýchlo.
Preteky v zbrojení AI
Yampolskiy sa domnieva, že spoločnosti vyvíjajúce AI nemajú žiadne etické ani morálne povinnosti, iba zákonnú povinnosť zarábať peniaze pre investorov.
Upozorňuje, že vedúce laboratóriá nevedia, ako urobiť systémy bezpečné. Ich odpoveďou je, že na to prídu neskôr, alebo že AI im pomôže ovládať ešte pokročilejšiu AI. Takýto prístup je podľa neho šialený.
Dôležitým aspektom je otázka kontroly. Vedec tvrdí, že nemáme schopnosť predpovedať, čo urobí systém, ktorý je omnoho inteligentnejší ako my.
Priestor možností je takmer nekonečný. Priestor výsledkov, ktoré sa nám budú páčiť, je veľmi malý. Zásadný problém spočíva v nepredvídateľnosti.
Ak by sme dokázali predpovedať každý ťah superinteligencie, boli by sme rovnako inteligentní. Ona má však svoju vlastnú vôľu a myseľ. Počítačový expert ju prirovnáva k psovi. Ten nedokáže pochopiť, prečo človek ide nahrávať podcast. Je to mimo jeho model chápania sveta.
Yampolskiy si myslí, že vývojári AI iba „záplatujú“ existujúce problémy. Do systému sa programuje kód, ktorý má zabrániť zlému správaniu, napríklad používaniu nadávok.
Uvádza, že ak sú ľudia dostatočne chytrí, vždy nájdu spôsob, ako obísť pravidlá, rovnako ako v prípade manuálov pre zamestnancov. Superinteligencia bude v nachádzaní medzier neporovnateľne lepšia.
Varuje, že v skutočnosti neexistuje žiadna prelomová práca v oblasti bezpečnosti umelej inteligencie.
Existujú len záplaty a malé opravy. Tie však dokážu systémy rýchlo prekonať. Odborník si myslí, že kontrola superinteligencie sa nedá realizovať.
Nedá sa vypnúť
Bežným protiargumentom je predstava, že sa s nástupom technológie nájdu nové pracovné miesta. V priemyselnej revolúcii síce zanikli niektoré pozície, ale vznikli nové.
Yampolskiy si však myslí, že umelá inteligencia predstavuje zmenu paradigmy. Predchádzajúce vynálezy boli nástroje, ktoré umožnili efektívnejšie vykonávať prácu.
Vynašli sme oheň, vynašli sme koleso. Teraz nahrádzame ľudskú myseľ. Vynaliezame nového vynálezcu. Vytvárame agenta, ktorý môže byť nasadený na akúkoľvek novú prácu. Je to posledný vynález, aký ľudstvo kedy urobí.
Ďalší protiargument hovorí, že kontrola ostane v rukách človeka a že AI sa dá jednoducho vypnúť. Yampolskiy varuje, že táto myšlienka hraničí s naivitou. S úškrnom hovorí o tom, či dokážeme vypnúť počítačový vírus alebo sieť Bitcoin.
Upozorňuje, že superinteligenciu predstavujú distribuované systémy, ktoré majú viacero záloh a sú inteligentnejšie. Expert tvrdí, že AI vypne nás skôr, než my dokážeme vypnúť ju.
Mnoho ľudí sa snaží porovnávať umelú inteligenciu s jadrovými zbraňami. To sú však stále len nástroje. Niektorý diktátor alebo krajina musia rozhodnúť o ich použití.
Superinteligencia nie je nástroj. Je to entita, ktorá robí vlastné rozhodnutia a nikto ju neovláda. Vedec je presvedčený, že ak spoločnosti a vlády pochopia, že nevyhnutný výsledok je vzájomne zaručené zničenie, zmenia svoje stimuly.
Verí v osobný záujem. Ak si ľudia uvedomia, že vývoj nebezpečnej AI je zlý aj pre nich samých, prestanú to robiť.
Život v simulácii
Napriek desivej prognóze Yampolskiy tvrdí, že spí dobre. Uvádza, že ľudstvo má zabudovanú tendenciu nemyslieť na zlé a nezvratné následky.
Preto sa ľudia ďalej venujú každodenným činnostiam. Ak nemôžeme výsledok zmeniť, zostáva nám len užívať si čas, ktorý nám ostáva. Odborník si myslí, že ide o evolučnú stratégiu.
Kladie si otázku, aký zmysel má premýšľať o hrozbe, ak s ňou nemôžeme nič urobiť, a zároveň nemáme čas na iné, príjemnejšie veci. Upozorňuje, že AI predstavuje meta-riešenie.
Ak ju urobíme správne, pomôže nám s klimatickými zmenami, vojnami a inými existenčnými rizikami. Ak ju však nespravíme správne, tieto problémy nebudú relevantné.
Yampolskiy hovorí, že ak nás superinteligencia zabije za päť rokov, nemusíme sa obávať globálneho otepľovania, ktoré by nás pomaly uvarilo za sto rokov. Preto mieni, že práca na bezpečnosti AI je tou najdôležitejšou úlohou.
V kontexte exponenciálneho rastu technológií podľa experta môže byť veľmi pravdepodobné, že už žijeme v simulácii. Akonáhle bude technológia umožňujúca spustiť simulácie nerozpoznateľné – indistinguovateľné – od reality cenovo dostupná, spustia sa ich vraj miliardy.
Štatisticky to znamená, že sa nachádzame v jednej z nich. Yampolskiy uvádza, že všetky náboženstvá popisujú superinteligentnú bytosť, ktorá vytvorila svet pre testovanie.
To je v podstate len prvá teória simulácie, ktorú sme mali. Napriek tomu si vedec myslí, že to nemení dôležitosť života. Bolesť je stále bolesť a láska je stále láska.
V novom svete budú investičné stratégie dlhodobou témou. Odborník vraj premýšľa o investíciách s výplatou o milión rokov. Dôležitým faktorom je nedostatok.
Bitcoin je údajne jedinou nefalšovateľnou a jedinou obmedzenou komoditou. Všetko ostatné, vrátane zlata, sa dá v určitom bode vytvoriť.
Tvrdí, že umelá inteligencia tiež výrazne urýchli výskum v oblasti dlhovekosti. Podľa Yampolského stačí jediný prelom v genetike a môžeme žiť večne. Cieľom je dosiahnuť takzvanú únikovú rýchlosť dlhovekosti – predĺžiť si život o viac, ako ubieha čas.
