Takto to dál nepůjde

Toto je volný neoficiální překlad článku „This Can’t Go On“ z blogu Cold Takes. Autor: Holden Karnofsky.

Tento text začíná argumentem, že žijeme v pozoruhodném století, a to nejen v pozoruhodné éře. Předchozí části této série se zaměřovaly na zvláštní budoucnost, která by nás mohla jednou čekat (možná za 100 let, možná za 100 000 let).

Shrnutí této části:

• Jsme zvyklí, že světová ekonomika roste o několik procent ročně. Takto to funguje již po mnoho generací.
• Tato situace je však velmi neobvyklá. Pokud se podíváme na celou historii, zjistíme, že růst ekonomiky se zrychluje; že nyní dosahuje historického vrcholu; a že je rychlejší, než by mohl být udržitelný ještě po delší dobu (v galaxii není dostatek atomů, aby bylo možné tento růst udržet dalších 10 000 let).
• Svět nemůže růst tímto tempem donekonečna. Měli bychom být připraveni na jiné možnosti: stagnaci (růst zpomalí nebo skončí), explozi (růst se ještě více zrychlí, než narazí na své limity), nebo kolaps (nějaká katastrofa srovná ekonomiku se zemí).
• Doba, ve které žijeme, je neobvyklá a nestabilní. Neměli bychom být překvapeni, pokud se stane něco zvláštního, například exploze ekonomického a vědeckého pokroku, která povede k technologické vyspělosti. Taková exploze by se vlastně dala považovat za přirozené pokračování současného trendu.

Co si kdo z nás pamatuje, světová ekonomika rostla v průměru o několik procent ročně. Některé roky byly lepší, jiné horší, ale růst byl celkově poměrně stabilní. Tento stav nazvu „běžný provoz“ (Business As Usual).

V běžném provozu se svět neustále mění, a tyto změny jsou znatelné, ale nejsou ohromující nebo nemožné zvládnout. Neustále přicházejí nové příležitosti a výzvy, ale pokud si chcete vzít pár let navíc, abyste se jim přizpůsobili, zatímco děláte věci tak, jak jste je dělali dříve, většinou vám to osobně projde. Z hlediska každodenního života byl rok 2019 velmi podobný roku 2018, znatelně, ale ne zásadně odlišný od roku 2010, a značně, ale ne dramaticky odlišný od roku 1980.

Pokud vám to zní povědomě, jste na to zvyklí a představujete si, že budoucnost bude podobná, pak žijete v myšlenkovém světě běžného provozu. Když přemýšlíte o minulosti a budoucnosti, pravděpodobně si představujete něco podobného:

Já žiji v myšlenkovém prostoru, který má bouřlivější minulost a nejistější budoucnost. Nazvu ho „Takhle to dál nejde“ (This Can’t Go On headspace). Tady je moje verze grafu:

Který graf je správný? Oba vycházejí ze stejných historických dat – rozdíl je v tom, že graf „Běžný provoz“ (Business As Usual) začíná v roce 1950, zatímco „Takhle to dál nejde“ (This Can’t Go On) sahá až do roku 5000 př. n. l. „Takhle to dál nejde“ ukazuje celý příběh; „Běžný provoz“ je jen jeho malý výsek.

Růst o několik procent ročně je něco, na co jsme všichni zvyklí. Ale v plném historickém kontextu je takový růst neuvěřitelný. (Je to ta část, kde modrá čára směřuje téměř kolmo vzhůru.)

Tento růst probíhá déle, než si kdokoliv z nás pamatuje, ale to není v měřítku věků příliš dlouho – jen pár stovek let z tisíciletí lidské civilizace. Je to obrovské zrychlení, které však nemůže pokračovat ještě příliš dlouho. (Níže vysvětlím, proč „to nemůže pokračovat ještě příliš dlouho“.)

První graf naznačuje pravidelnost a předvídatelnost. Druhý ukazuje volatilitu a dramaticky odlišné možné budoucnosti.

Jednou z možných budoucností je stagnace: dosáhneme „maximální velikosti“ ekonomiky a růst v podstatě ustane. Všichni se budeme zabývat tím, jak si rozdělit zdroje, které máme, a dny rostoucího koláče a dynamické ekonomiky budou navždy pryč.

Další možností je exploze: růst se ještě více zrychlí, až do bodu, kdy se světová ekonomika bude zdvojnásobovat každý rok, týden nebo dokonce hodinu. Technologie podobná „kopírovači“ (například digitální lidé nebo, jak budu rozebírat v dalších částech, pokročilá AI) by mohla takový růst pohánět. Pokud k tomu dojde, všechno se bude měnit rychleji, než budou lidé schopni zpracovat.

Další možností je kolaps: globální katastrofa srazí civilizaci na kolena, nebo zcela vyhladí lidstvo, a už nikdy nedosáhneme dnešní úrovně růstu.

A nebo se stane něco úplně jiného.

Proč to nemůže pokračovat dál?

Dobré výchozí místo nabízí tato analýza z Overcoming Bias, kterou zde převedu do své vlastní verze:

• Řekněme, že světová ekonomika v současnosti roste o 2 % ročně. To znamená, že by se její velikost zdvojnásobila zhruba každých 35 let.
• Pokud by tento růst pokračoval, za 8200 let by ekonomika byla asi 3×10⁷⁰krát větší než dnes.
• V naší galaxii je pravděpodobně méně než 10⁷⁰ atomů, přičemž během tohoto časového rámce by nebylo možné cestovat za její hranice.
• Pokud by tedy ekonomika byla 3×10⁷⁰krát větší než dnes a mohla využívat pouze 10⁷⁰ (nebo méně) atomů, znamenalo by to, že bychom museli udržovat několik ekonomik o velikosti dnešní světové ekonomiky na jeden atom.

8200 let možná zní jako dlouhá doba, ale je to mnohem méně, než jak dlouho lidstvo existuje. Ve skutečnosti je to méně, než jak dlouho existuje civilizace založená na zemědělství.

Je představitelné, že bychom mohli vyvinout technologie, které by umožnily podporovat více ekvivalentů dnešní celé civilizace na jeden dostupný atom? Jistě – ale to by vyžadovalo radikální transformaci našich životů a společností, mnohem větší, než jakou jsme dosud zažili v celé lidské historii. A nevsadil bych si právě na to, že přesně takto bude budoucnost vypadat v příštích několika tisíciletích. (Pro ty, kteří nejsou přesvědčeni, jsem tento argument rozvedl v jiném příspěvku.)

Je mnohem pravděpodobnější, že „dojdeme“ k limitům vědeckých poznatků, technologických inovací a zdrojů, a režim „bohatnutí o několik procent ročně“ skončí. Tento režim trvá ostatně jen pár stovek let.

(Podobná analýza, která se zaměřuje na energii místo ekonomiky, naznačuje, že limity přijdou ještě dříve. Předpokládá roční růst spotřeby energie o 2,3 % (méně, než bylo historické tempo růstu v USA od 17. století) a odhaduje, že bychom spotřebovali tolik energie, kolik produkují všechny hvězdy v naší galaxii, během 2500 let.)

Exploze a kolaps

Jednou z možných budoucností je stagnace: růst se postupně zpomalí a nakonec skončíme v ekonomice bez růstu. Nemyslím si však, že právě stagnace je nejpravděpodobnější scénář.

Graf výše neukazuje zpomalování růstu – ukazuje dramatické zrychlení. Co bychom mohli očekávat, pokud bychom toto zrychlení jednoduše promítli do budoucnosti?

Modeling the Human Trajectory (od Davida Roodmana z Open Philanthropy) se snaží na tuto otázku odpovědět tím, že „nasazuje křivku“ na vzorec historického ekonomického růstu. Jeho extrapolace naznačuje nekonečný růst v tomto století. Nekonečný růst je samozřejmě matematická abstrakce, ale lze ji chápat takto: „Uvidíme nejrychlejší možný růst, než narazíme na limity.“

V článku The Duplicator shrnuji širší diskusi o této možnosti. Závěr je, že exploze růstu by byla možná, pokud bychom měli technologii, která by umožnila „kopírovat“ lidské mysli – nebo něco jiného, co by plnilo stejný účel, například digitální lidi nebo dostatečně pokročilou umělou inteligenci.

Při explozi růstu by roční míra růstu mohla dosáhnout 100 % (světová ekonomika by se zdvojnásobila každý rok) – což by mohlo pokračovat maximálně asi 250 let, než bychom narazili na zmíněné limity. Nebo by růst mohl být ještě rychlejší – například by se ekonomika zdvojnásobila každý měsíc (to by bylo udržitelné maximálně 20 let), nebo dokonce rychleji.

To by byla divoká jízda: oslepující tempo růstu, možná poháněné umělou inteligencí, která by produkovala výstupy, jež by byly nad rámec toho, co by lidé mohli smysluplně sledovat. Nakonec bychom se rychle přiblížili k hranicím toho, co je možné, a růst by se musel zpomalit.

Kromě stagnace nebo explozivního růstu existuje třetí možnost: kolaps. Globální katastrofa by mohla civilizaci srazit na úroveň, ze které by se už nikdy nedostala zpět na dnešní úroveň růstu. Vyhynutí lidstva by bylo extrémní verzí takového kolapsu. I když grafy tuto budoucnost nenaznačují, víme, že je možná.

Jak argumentuje Toby Ord v knize The Precipice, přírodní rizika jako asteroidy se nezdají být pravděpodobnou příčinou kolapsu, ale existuje několik rizik, která vypadají vážně a je těžké je kvantifikovat: klimatické změny, jaderná válka (zejména jaderná zima), pandemie (zejména pokud by pokrok v biologii vedl k vývoji nebezpečných biologických zbraní) a rizika spojená s pokročilou umělou inteligencí.

Se těmito třemi možnostmi na mysli (stagnace, exploze a kolaps):

• Žijeme v jednom ze dvou nejrychleji rostoucích století v celé historii (20. a 21. století).
• Zdá se pravděpodobné, že toto století bude alespoň jedním z přibližně 80 nejrychleji rostoucích století všech dob.
• Pokud se objeví správná technologie a umožní explozivní růst, mohlo by být toto století nejrychleji rostoucím stoletím všech dob – a to s velkým náskokem.
• Pokud se věci pokazí dostatečně špatně, mohlo by to být naše poslední století.

Zdá se tedy, že toto je skutečně výjimečné století, s určitou šancí, že bude nejvýjimečnější ze všech. To vše vychází z poměrně základních pozorování, nikoliv z podrobného uvažování o umělé inteligenci (ke kterému se dostanu v dalších částech).

Vědecký a technologický pokrok

Je těžké vytvořit jednoduchý graf, který by ukazoval rychlost vědeckého a technologického pokroku stejným způsobem, jako můžeme graficky znázornit ekonomický růst. Myslím si však, že pokud by to bylo možné, výsledek by ukazoval přibližně podobný obraz jako graf ekonomického růstu.

Zábavná kniha, kterou doporučuji, je Asimov’s Chronology of Science and Discovery. Prochází nejdůležitější vynálezy a objevy v historii lidstva v chronologickém pořadí. Mezi prvními položkami najdete „kamenné nástroje“, „oheň“, „náboženství“ a „umění“; na posledních stranách jsou uvedeny „Halleyova kometa“ a „teplá supravodivost“.

Zajímavý fakt o této knize je, že 553 z jejích 654 stran pokrývá období po roce 1500, přestože začíná v roce 4 miliony př. n. l. Předpokládám, že podobné knihy tohoto typu by ukázaly stejný vzorec. Věřím také, že za posledních ~500 let bylo ve skutečnosti více vědeckých a technologických pokroků než za předchozí miliony let.

Stejně jako u ekonomického růstu je tempo vědeckého a technologického pokroku extrémně rychlé ve srovnání s většinou historie. A stejně jako u ekonomického růstu lze předpokládat, že existují určité limity, kam až se technologie mohou rozvinout. A stejně jako u ekonomického růstu se od tohoto bodu může vědecký a technologický pokrok:

• Zastavit – což je obava, kterou někteří již mají.
• Explodovat – pokud by byla vyvinuta technologie, která by dramaticky zvýšila počet „myslí“ (lidí, digitálních lidí nebo pokročilých AI), jež by urychlovaly vědecký a technologický vývoj.
• Zkolabovat – v důsledku nějaké globální katastrofy.

Opomíjené možnosti

Myslím si, že by na světě měli být lidé, kteří zůstávají v myšlenkovém prostoru „Běžný provoz“ (Business As Usual) a přemýšlejí o tom, jak zlepšit svět za předpokladu stabilního, pravidelného tempa ekonomického růstu v dohledné budoucnosti.

Ale měli by být také lidé, kteří obývají myšlenkový prostor „Takhle to dál nejde“ (This Can’t Go On) a přemýšlejí o důsledcích stagnace, exploze nebo kolapsu – a o tom, zda naše činy mohou ovlivnit, která z těchto možností nastane.

Dnes se však zdá, že situace je značně nevyvážená. Téměř veškeré zprávy a analýzy vycházejí z myšlenkového prostoru „Běžný provoz“.

Jednou z metafor pro to, jak přemýšlím, je, že svět je jako skupina lidí na letadle, které se řítí po vzletové dráze:

Letadlo jede mnohem rychleji než obvykle, vzletová dráha není dost dlouhá na to, abychom mohli pokračovat ještě dlouho … a my zrychlujeme.

A pokaždé, když si přečtu komentáře o tom, co se děje ve světě, lidé řeší, jak si co nejpohodlněji upravit bezpečnostní pás, protože jeho nošení je součástí života; nebo mluví o tom, jak nejlepší chvíle v životě jsou ty, kdy sedíte s rodinou a sledujete bílé čáry ubíhající kolem; nebo se hádají, kdo může za ten hlučný hukot v pozadí, kvůli kterému se špatně slyšíme.

Kdybych byl v této situaci a nevěděl, co přijde dál (vzlet), nemusel bych to nutně odhadnout správně. Ale doufám, že bych si alespoň pomyslel:
„Tahle situace je dost šílená, neobvyklá a dočasná. Buď ještě více zrychlíme, nebo zastavíme, nebo se stane něco jiného divného.“

Poznámky a odkazy

Všechny poznámky a odkazy najdete na konci původního článku.