Poznámky k efektivnímu altruismu

Jakub Sechter | Posted on 7. 1. 2025 |

Toto je volný neoficiální překlad článku „Notes on Effective Altruism“. Autor: Michael Nielsen.

Dlouhé a neuspořádané poznámky o efektivním altruismu (EA). Napsány s cílem pomoci mi pochopit několik otázek: co se mi na EA líbí a považuji za důležité? Proč mi připadá tento způsob myšlení tak cizí? Proč nejsem součástí EA? A aby mě to přimělo přemýšlet o tom: jak by mohly vypadat alternativy k EA? Poznámky nejsou zaměřeny na efektivní altruisty, i když by snad mohly být zajímavé pro lidi, kteří se pohybují v okruhu EA. Uvítám promyšlené a informované komentáře a opravy (zejména podrobné a konkrétní opravy!) – viz sekci komentářů na konci.

„Používat důkazy a rozum k tomu, abychom zjistili, jak co nejvíce prospět ostatním, a jednat na tomto základě“: to je myšlenka, která tvoří základ ideologie a hnutí efektivního altruismu (EA). Během posledních dvou dekád se z této myšlenky, o níž diskutovalo jen pár morálních filozofů, stala klíčová součást životní filozofie tisíců nebo desítek tisíc lidí, včetně několika z nejmocnějších a nejbohatších jednotlivců na světě. Toto jsou mé hrubé pracovní poznámky o EA. Poznámky jsou dlouhé a rychle psané: neuspořádané, syrové myšlenky, nikoli vybroušená esej.

Tyto poznámky jsem napsal z několika důvodů. Jedním z nich je čistě sociální motivace: mnoho mých přátel má na EA silné názory (někteří pozitivní, někteří negativní, jiní spíše neutrální). Dalším důvodem je pocit, že EA je důležitým sociálním hnutím a (možná) souborem myšlenek. Je významné, že tolik chytrých a idealistických teenagerů a dvacátníků na EA tak silně reaguje. Mnozí hlásí, že radikálně změnili své životy: změnili kariéru, každodenní chování, zavázali se dávat velkou část svého příjmu na charitu, kterou označují za „efektivní“. EAs také sdílejí mnoho neobvyklého jazyka a způsobů nahlížení na svět, z nichž mnohé pocházejí z welfare ekonomie a morální filozofie.

Je lákavé to všechno odmítnout jako „jen“ módu nebo jako důsledek (meteoritického) nárůstu financování EA. Ale to mi nestačí. Mnoho EAs je mimořádně upřímných a našli v EA hluboké přesvědčení a smysl. EA pro ně dělá něco velmi důležitého, něco, co dalece přesahuje rámec módního výstřelku.

Když jsem o EA slyšel poprvé, moje instinktivní a málo promyšlená reakce byla poměrně negativní. Často jsem napůl žertem říkal, že jsem neefektivní altruista nebo chaotický altruista. Rád o sobě říkám, že jsem mutilitarista, což vychází z použití zen-buddhistického „mu“ jako mé užitkové funkce (tj. popření této myšlenky). Přesto se při hlubším zkoumání ukazuje, že tyto postoje jsou levné způsoby odmítnutí.

V roce 2011 se můj přítel z EA podrobil operaci, při níž daroval ledvinu cizinci. Vysvětlil mi, že:

narazil jsem na nějaké statistiky o tom, jak bezpečné je darování ledviny, a to úplně změnilo můj pohled. Riziko úmrtí při operaci je 1 ku 3 000, což je jako obětovat se na záchranu 3 000 lidí. Chtěl jsem být tím typem člověka, který by to udělal, a stačilo jen dodržet těchto pár kroků.

Mám přátele z EA, kteří darují velkou část svého příjmu na charitativní účely. V některých případech jde o veškerý příjem nad poměrně nízkým (podle standardů bohatých zemí) limitem, například 30 000 dolarů. V některých případech se zdá být pravděpodobné, že jejich osobní dary jsou zodpovědné za záchranu desítek životů, pomoc při vyvádění mnoha lidí z chudoby a prevenci mnoha oslabujících nemocí, často v nejchudších a nejméně obsluhovaných částech světa. Někteří z těchto přátel přímo pomohli zachránit mnoho životů. To je jednoduchá věta, ale výjimečná, takže ji zopakuji: přímo pomohli zachránit mnoho životů.

Jsem z toho ohromen. A cítím se trochu rozpačitě kvůli svým vtipům o neefektivním altruismu a jsem vděčný, že se mnou přátelé z EA mají trpělivost. Snažil jsem se žít život tak, aby odpovídal mým osobním schopnostem a zájmům, a dělat věci, které jsou pro svět dobré. Doufám, že jsem udělal nějaké skutečné dobro, a zároveň si užíval života. Ale nikdy jsem, pokud vím, přímo nezachránil život. Nemyslím si, že bych mohl darovat ledvinu: příliš by to narušilo můj pocit tělesné integrity. Na osobní úrovni miluji upřímnost a skutečnou dobrotu svých přátel z EA a jejich blízkých. Po čase stráveném s nimi se cítím celistvější. Často jsem poctivější, někdy laskavější nebo otevřenější. To všechno jsou velmi dobré věci.

Co následuje, je tedy sbírka pozorování o EA. Částečně jde o ocenění: abyste mohli EA kritizovat, musíte také pochopit něco z toho, co je na něm dobré. A existuje mnoho věcí, které se z EA mohou naučit jiné ideologie. Ale také se pokusím proniknout hlouběji a pochopit, co mi na EA vadí, co si myslím, že je špatně, a jak bych si myslel, že by se EA mohlo plodně upravit.

Něco, co v poznámkách chybí: přímý, osobní popis dobra, které EA přináší. Nějaký odraz toho mám od svých přátel, ale přál bych si vědět víc. Bez toho není možné skutečně ocenit EA. Sítě proti malárii, přímé peněžní převody, odčervování atd. nejsou abstrakce: jsou to ve skutečnosti obrovské události v reálném světě, které zásadně mění životy mnoha lidí. A to zde chybí, čistě z důvodu mé nevědomosti. Snažte se mít tuto skutečnost na paměti, zatímco čtete; já jsem se snažil mít ji na paměti při psaní.

Upozornění: Dělám mnoho zobecnění o „tom, co EA dělá“. Ale EA není monolitická. To ztěžuje psaní bez vkládání spousty kvalifikátorů. Mohl bych to udělat tak, že bych psal „Většina EA si myslí“ nebo citoval přední osobnosti EA a podobně. Místo toho jsem se (většinou) rozhodl používat obecný jazyk s implicitním porozuměním, že často existují EAs, kteří s danou věcí nesouhlasí. Nicméně jsem se snažil upozornit, když mezi komunitou EA panuje široká neshoda ohledně určitého bodu.

Poznámky jsem začal hojně používaným popisem EA, který pochází od filozofa Willa MacAskilla, jednoho ze zakladatelů EA: „Používat důkazy a rozum k tomu, abychom zjistili, jak co nejvíce prospět ostatním, a jednat na tomto základě.“ V praxi jsem to často slyšel zkráceně jako: „Používat důkazy a rozum k tomu, abychom udělali co nejvíce dobra.“ Obvykle budu používat toto kratší vyjádření jako zkratku toho, o čem EA je, přičemž budu mít na paměti delší popis. Jedna výhrada k oběma těmto popisům: všimněte si, že jsou vnitřně maximalizační, „prospět ostatním co nejvíce“, „udělat co nejvíce dobra“. Ve skutečnosti mnoho EA obhajuje ustoupení od tohoto maximalizačního rámce. Má tedy smysl uvažovat o různých „silách“ EA podle toho, jak moc člověk tento přístup maximalizace přijímá (nebo ne). K tomu se vrátíme, protože je to významný problém, který komunita EA dosud nevyřešila. A když používám rámec „co nejvíce dobra“, činím tak s implicitní výhradou, že v praxi mnoho EA od „nejvíce“ ustupuje.

EA jako zdroj morálních inovací

Zmínil jsem výše svého přítele, který v roce 2011 daroval ledvinu. Morální filozof Peter Singer, jeden z tvůrců mnoha myšlenek v EA, popisuje své úžasnutí, když se (v roce 2004) dozvěděl příběh Zella Kravinského, bohatého investora do nemovitostí, který daroval téměř celé své jmění ve výši 45 milionů dolarů a žil pouze z 60 tisíc dolarů ročně. Ale existuje něco ještě pozoruhodnějšího. Na první pohled to může vypadat podobně jako příběh darování ledviny mého přítele, ale v jednom důležitém ohledu je to odlišné:

Stále si nemyslel, že udělal dost pro pomoc ostatním, a proto se domluvil s nedalekou nemocnicí, že daruje ledvinu cizinci. Citoval vědecké studie, které ukazují, že riziko úmrtí při darování ledviny je pouze 1 ku 4 000, a řekl, že pokud by ledvinu nedaroval, znamenalo by to, že hodnotí svůj vlastní život 4 000krát výše než život cizince, což považuje za zcela neoprávněné.

Ačkoli velkorysost mého přítele byla mimořádná, zde se děje ještě něco dalšího. Kravinského čin je aktem morální imaginace – jen si představit darování ledviny – a zároveň aktem morálního přesvědčení – uskutečnit to. Je to ohromující akt morální inovace: někdo (pravděpodobně Kravinsky) byl první, kdo si to nejen dokázal představit, ale také to skutečně udělal. Tato morální inovace pak inspirovala další, aby udělali totéž. Skutečně rozšířila rozsah lidské morální zkušenosti, kterou se ostatní mohou učit a následně napodobovat. V tomto smyslu lze na člověka jako Kravinsky pohlížet jako na morálního průkopníka nebo morálního psychonauta, který objevuje nové formy morální zkušenosti.

Samozřejmě, takoví morální průkopníci nepocházejí pouze z EA. Zdaleka ne! Jsou základem naší civilizace. Mnoho mých osobních hrdinů byli morální průkopníci, včetně autora Kázání na hoře, abolicionistického hnutí, sufražetek a feministického hnutí, Martina Luthera Kinga a dalších vůdců hnutí za občanská práva. Všichni tito (a mnozí další) se zapojili do aktů morální imaginace, které rozšířily rozsah morální zkušenosti dostupné nám ostatním k napodobení. Nemusíme s nimi vždy souhlasit: například nevím, zda souhlasím s Peterem Singerem v otázce práv zvířat. Singer se v tom může mýlit. Ale i přesto je to cenné jako akt morální inovace, který rozšiřuje náš potenciální rozsah morální zkušenosti.

Jednou ze zajímavých věcí na EA je, že povzbudilo mnoho morálních průkopníků: lidí ochotných přehodnotit základní morální otázky a (někdy) rozšířit rozsah naší morální zkušenosti. Otázky, které si vážně kladli (a v některých případech jednali podle odpovědí): „Co kdyby na životech zvířat skutečně záleželo?“ „Co kdyby život na druhé straně světa měl stejnou hodnotu jako život dítěte topícího se přímo před vašima očima?“ „Co kdyby na ‚životě‘ inteligentního stroje záleželo stejně jako na lidském životě?“ „Jak bychom měli hodnotit život člověka, který bude žít za milion let?“ Tím, že tyto otázky berou vážně, mohou rozšířit naše morální obzory.

Existuje však i temná stránka morálního průkopnictví, na kterou nezapomenutelně poukázala politická filozofka Hannah Arendtová v knize Eichmann v Jeruzalémě, svém líčení procesu s nacistickým válečným zločincem Adolfem Eichmannem. Podle Arendtové byli nacisté (v jistém smyslu) také morálními průkopníky – vynalezli nové druhy zločinů, čímž rozšířili pravděpodobný rozsah budoucích zločinů:

„Nic není zhoubnější pro pochopení těchto nových zločinů, ani více nebrání vzniku mezinárodního trestního zákoníku, který by je mohl postihovat, než běžná iluze, že zločin vraždy a zločin genocidy jsou v podstatě totéž, a že tedy ten druhý není ‚ve skutečnosti žádným novým zločinem‘. Smyslem druhého je, že je porušena zcela jiná úroveň a narušena zcela jiná komunita… Je v samotné povaze lidských věcí, že každý čin, který se jednou objevil a byl zaznamenán v dějinách lidstva, zůstává s lidstvem jako možnost dlouho poté, co jeho aktuální podoba zmizela. Žádný trest nikdy neměl dostatečnou sílu odstrašení, aby zabránil páchání zločinů. Naopak, ať už je trest jakýkoli, jakmile se určitý zločin objevil poprvé, je jeho opětovný výskyt pravděpodobnější, než byla jeho počáteční existence.“

Morální uvažování, pokud je bráno vážně a jedná se podle něj, je nesmírně důležité, částečně proto, že existuje nebezpečí strašlivých chyb. Nacistický příklad je extrémní: těžko uvěřit, že tvůrci nacistických idejí nevěděli, že jde o hluboce zlé činy. Ale všednější příklad, který by měl varovat jakoukoli ideologii, jsou příliš sebejistí lidé, kteří jednají v tom, co „vědí“, že je dobrá věc, ale ve skutečnosti páchají škodu. Jsem opatrně nadšený z morálního průkopnictví EA. Ale je to potenciálně minové pole, na které je třeba pohlížet i s opatrností.

EA judo: Silná kritika konkrétních strategií „největšího dobra“ zlepšuje EA, nikoli diskredituje

Jedním z nejběžnějších způsobů „útoku“ na EA je nesouhlas s běžnými představami v rámci EA o tom, co znamená dělat největší dobro. „Jste součástí EA?“ „Ach, to jsou ti lidé, kteří si myslí, že musíte dávat peníze na sítě proti malárii [nebo na bezpečnost AI, odčervování /atd. atd./], ale to je špatně, protože […].“ Nebo: „Will MacAskill říká, že EAs by měli zvážit vydělávání kvůli darování, ale to je špatně, protože […].“ Nebo: „Věda, sociální spravedlnost, kreativita [atd. atd.] se měří mnohem obtížněji než například QALYs, takže je EAs mají tendenci podceňovat nebo ignorovat.“ Nebo: „EAs jsou poměrně důvěřiví, pokud jde o hodnotu randomizovaných kontrolovaných studií (RCT) a meta-analýz. Měli byste raději […].“ Nebo: „Klidně můžete navyšovat QALYs, jak chcete, ale to vás neposune z ekonomiky s nízkým růstem na vysoký růst. Tyto dvě věci jsou na odlišných úrovních kauzální abstrakce.“

Tyto výroky mohou být pravdivé, nebo nemusí. Ať už je to jakkoliv, žádný z nich nepředstavuje fundamentální kritiku EA. Naopak, všechny jsou příkladem myšlení typického pro EA: když tyto poznámky děláte, vlastně se účastníte projektu EA. EA lidé se často vášnivě přou o to, co znamená dělat největší dobro. Co je spojuje, je jejich shoda na tom, že by měli „používat důkazy a rozum k tomu, aby zjistili, jak dělat největší dobro“. Pokud nesouhlasíte s převládajícími představami v EA o tom, co je největší dobro, a máte k tomu důkazy, přispíváte tak k zlepšení chápání dobra v rámci EA.

V každém případě tento typ „kritiky“ tvoří alespoň polovinu – a pravděpodobně více – externí kritiky EA, kterou jsem slyšel. Většina externích kritiků si myslí, že kritizují EA, ale ve skutečnosti kritizují přelud. V tomto smyslu má EA obrovskou plochu, kterou lze kritikou jen zlepšit, nikoli oslabit. Tento vzorec nazývám EA judo. A často jej můžete vidět v diskusích s „kritiky EA“. Jedním z příjemných a poučných příkladů je rozhovor Roba Wiblina z EA s Russellem Robertsem, který sám sebe prezentuje jako oponenta EA. Během většiny rozhovoru však Roberts tiše přijímá základní myšlenky EA, zatímco nesouhlasí s konkrétními aplikacemi. Wiblin opakovaně praktikuje EA judo a proměňuje diskusi ve velmi typickou debatu v rámci EA o tom, jak dělat největší dobro. Je to velmi zajímavé, oba účastníci jsou velmi zamyšlení, ale nejde vlastně o debatu o zásluhách EA jako takového.

To je podle mého názoru jedna z nejpřitažlivějších a nejsilnějších vlastností EA. Dělá to z něj něco zcela odlišného od většiny ideologií, které jsou často spíše statické. EA je v jistém smyslu pokusem udělat pro otázku „co je dobro?“ to, co věda udělala pro otázku „jak funguje svět?“. Místo poskytování odpovědi rozvíjí komunitu, která si klade za cíl odpověď neustále zlepšovat.

Z tohoto důvodu je užitečné oddělit EA v praxi (sociální hnutí) od EA jako intelektuálního projektu. Chcete-li se dostat k základním otázkám, musíte se nakonec zaměřit spíše na to druhé než na to první. Jak jsem řekl, mnoho kritik EA v praxi je jen součástí základního motoru zlepšování. To však neznamená, že nemá smysl trávit čas kritikou povrchových aspektů EA v praxi. „Po jejich ovoci je poznáte“ platí nejen pro lidi, ale i pro intelektuální principy. Pokud určitá sada principů přináší mnoho shnilého ovoce, je to známka toho, že s těmito principy je něco špatně – reductio ad absurdum. Asi jste slyšeli komunisty a libertariány obhajovat neúspěšné komunistické a volnotržní experimenty slovy: „To nebyl pravý komunistický / volnotržní experiment.“ Někdy mají pravdu. Ale pokud se vzorec opakuje, pokud základní principy nejsou odolné nebo vyžadují mnoho zvláštních omluv, znamená to, že s těmito principy je něco zásadně špatně.

Jinými slovy, pokud se EA judo praktikuje příliš často, stojí za to hledat hlubší problémy. Základní forma EA judo je: „Podívejte, neshoda ohledně toho, co je dobro, nijak přímo EA neohrožuje. Naopak, taková neshoda je motorem zlepšování naší představy o dobru.“ To může být pravda v nějakém filozofickém smyslu z pohledu Boha, který vidí vše. Ale EA komunita a organizace podléhají módám, mocenským hrám, nedostatkům a zaujatostem stejně jako každá jiná komunita a organizace. Dobré úmysly samy o sobě nestačí k tomu, aby zajistily efektivní rozhodování o efektivitě.

Lidi často EA nevadí proto, že by si mysleli, že je špatný nápad „dělat dobro lépe“. Spíše pochybují o schopnosti EA institucí a komunity dostát těmto ambicím. Tyto kritiky mohou přicházet z různých směrů:

Od lidí zajímajících se o identitní politiku: „Podívejte, mnoho EA organizací řídí mocní bílí muži, kteří reprodukují existující mocenské struktury, jsou zaujatí ve prospěch technokratického kapitalismu a status quo a ignorují věci, na kterých skutečně záleží.“
Od libertariánů: „EA je jen levicový kolektivní utilitarismus. Centralizuje rozhodování příliš a ignoruje cenové signály i ohromnou sílu, která plyne z toho, že mnoho lidí pracuje ve vlastním zájmu, byť uvnitř systému navrženého tak, aby vlastní zájem (často) pomáhal kolektivně všem.“
Od startupistů a inovátorů: „Není EA jen práce na veřejných statcích? Chcete-li udělat největší dobro, proč nepracovat na startupu? Můžeme přece vymyslet a škálovat nové technologie (nebo nové nápady), které zlepší svět!“
Od lidí obeznámených s patologií stárnoucích organizací a komunit: „Každé hnutí, které rychle roste, začne také upadat. Bude ovládáno ambiciózními kariéristy a problémy principála a agenta, a ztratí upřímnost a agilitu, které charakterizovaly průkopníky a rané adoptery.“

Všechny tyto kritiky mají určitý základ; současně s sebou nesou významné problémy. Bez hlubšího ponoření se do těchto otázek platí, že všechny vypadají jako „pouze“ praktické problémy, pro něž lze EA judo uplatnit: „Pokud to neděláme správně, zlepšíme se, potřebujeme jen vaše důkazy a lepší alternativu.“ Ale organizační vzorce jsou natolik silné, že mi tyto kritiky připadají spíše principiální. Pokud vaše sociální hnutí „funguje v principu“, ale praktická implementace má příliš mnoho problémů, pak to v principu vlastně nefunguje. Kvalita „jsme schopni to efektivně provádět v praxi“ je důležitou (implicitní) principiální kvalitou.

„Špatní“ efektivní altruisté v pasti

Vraťme se k principu EA: „Používat důkazy a pečlivé uvažování k tomu, abychom dělali co největší dobro.“ Tento princip je v mnoha ohledech velmi přitažlivý. Je extrémně jasný. Poskytuje silnou orientaci a smysl, zvláště pokud je zakotven v sociálním a organizačním kontextu, který nabízí přesvědčivá doporučení, jak dělat co největší dobro. Tato doporučení nemusí být dokonalá; stačí, aby byla lepší, než co lze očekávat v jiných komunitách.

Část přitažlivosti tohoto principu spočívá v tom, že odebírá volbu. Jedním z velkých úspěchů moderní doby je rozšiřování možností, které lidé mají, až do bodu, kdy si mohou (zdánlivě) vybírat vše. Avšak obrovské množství možností je také matoucí a náročné. Velká část síly EA (a mnoha ideologií) spočívá v tom, že tuto volbu zúží a říká: ne, máte povinnost dělat ve světě co největší dobro. Navíc EA poskytuje instituce a komunitu, které pomáhají určovat, jak toto dobro vykonávat. EA tak nabízí orientaci, smysl a příběh, který ospravedlňuje, proč děláte to, co děláte.

Na Twitteru udělal bývalý člen EA, Nick Cammarata, následující komentář, který jsem slyšel v soukromých rozhovorech od mnoha členů i bývalých členů EA:

„Můj vnitřní hlas začátkem roku 2016 automaticky převáděl všechny peníze, které jsem utratil (například za večeři), na dílčí ‚počítadlo smrti‘, tedy počet životů, které bych mohl zachránit, kdybych tyto peníze daroval dobrým charitám. Většina EAs, kterým jsem to tehdy zmínil, na to reagovala něco jako ‚ah, to se zdá být rozumné‘.“

Nebo vezměte následující pozoruhodnou výměnu názorů na Twitteru mezi nečlenem EA a členem EA:

„Optimální množství optimální charity není 100 %.“

„Ale dobří EAs to berou v úvahu.“

„Ano, ale špatní EAs uvíznou v pasti utrpení.“

„Pravda, ale to není chyba EA, to je chyba těch lidí.“

Nebo si přečtěte následující pasáž z knihy Petera Singera The Most Good You Can Do:

Když byla [průkopnice EA] Julia [Wise] mladá, cítila tak silně, že její rozhodnutí darovat nebo nedarovat znamená rozdíl mezi životem a smrtí někoho jiného, že se rozhodla, že mít děti by bylo nemorální. Zabraly by jí příliš mnoho času a peněz. Řekla svému otci o svém rozhodnutí a on odpověděl: ‚Nevypadá to, že by ti tenhle životní styl přinášel štěstí.‘ Na to odpověděla: ‚Moje štěstí není důležité.‘ Později, když byla s [manželem] Jeffem, si uvědomila, že její otec měl pravdu. Rozhodnutí nemít dítě ji činilo nešťastnou. Promluvila si s Jeffem a rozhodli se, že si dítě mohou dovolit vychovávat a zároveň dost dávat. Fakt, že se Julia těšila na rodičovství, jí obnovil nadšení pro budoucnost. Domnívá se, že její spokojenost se životem ji činí užitečnější pro svět, než kdyby byla ‚zlomeným altruistou‘.“

Každý má své hranice. Pokud zjistíte, že děláte něco, co vás naplňuje hořkostí, je čas to přehodnotit. Je možné, abyste k tomu zaujali pozitivnější přístup? Pokud ne, je to opravdu nejlepší volba, vezmeme-li v úvahu všechno?

Julia uznává, že udělala chyby: „Při nakupování jsem se neustále ptala sama sebe: ‚Potřebuji tuto zmrzlinu stejně jako žena žijící v chudobě jinde na světě potřebuje, aby bylo její dítě očkováno?‘ To dělalo nakupování jídla šíleným zážitkem, takže jsme se s Jeffem rozhodli, kolik za příštích šest měsíců darujeme, a pak jsme sestavili rozpočet na to, co nám zbylo. V rámci tohoto rozpočtu jsme považovali peníze za naše a utráceli je za sebe. Teď Julia na zmrzlině nešetří, protože, jak řekla třídě: ‚Zmrzlina je pro mé štěstí opravdu důležitá.‘“

Rozhodnutí Julie a Jeffa mít dítě ukazuje, že stanovili hranici, za kterou by maximalizace dárcovství neměla zabránit tomu, aby měli něco, co je pro ně velmi důležité. Bernadette Young, partnerka Tobyho Orda, popsala jejich rozhodnutí mít dítě podobně:

„Jsem spokojená s tím, že daruji 50 % svého příjmu po celý život, ale pokud bych se rozhodla nemít dítě jen proto, abych toto číslo zvýšila na 55 %, pak by mě těch posledních 5 % stálo více než všechno ostatní. … Rozhoduji se uspokojit zásadní psychologickou potřebu a naplánovat si život, který budu schopna dlouhodobě žít.“

Ani Julia, ani Bernadette nejsou výjimkou v tom, že neschopnost mít dítě – z jakéhokoliv důvodu – vnímají jako hluboce znepokojivou.

Mít dítě nepochybně stojí peníze a čas, ale Bernadette poukazuje na to, že efektivní altruisté mohou rozumně doufat, že mít dítě bude přínosem pro svět. Jak kognitivní schopnosti, tak vlastnosti jako empatie mají významnou dědičnou složku, a můžeme také očekávat, že děti budou ovlivněny hodnotami, které jejich rodiče zastávají a praktikují ve svém každodenním životě. Přestože nelze s jistotou říci, že děti efektivních altruistů v průběhu svého života vykonají více dobra než škody, existuje rozumná pravděpodobnost, že ano, což pomáhá vyvážit dodatečné náklady na jejich výchovu. Můžeme to vyjádřit i jinak: Pokud by se všichni, kdo se snaží dělat co největší dobro, rozhodli nemít děti, zatímco ti, kterým na nikom nezáleží, by děti mít pokračovali, můžeme skutečně očekávat, že za několik generací bude svět lepším místem, než by byl, kdyby ti, kdo se starají o druhé, děti měli?

V komunitě EA existuje běžný postoj k umění, který Peter Singer vystihuje velmi přímočaře: umění nelze skutečně ospravedlnit v rámci principu „dělat co největší dobro“.

„Může podpora umění být součástí ‚toho největšího dobra, které můžete udělat‘?

Ve světě, který by překonal extrémní chudobu a další hlavní problémy, kterým nyní čelíme, by podpora umění byla hodnotným cílem. Ve světě, v němž žijeme, však – z důvodů, které prozkoumám v kapitole 11 – pravděpodobně darování operám a muzeím nepřináší to největší dobro.“

Mnozí EAs přiznávají, že znají jiné členy EA, kteří se cítí sklíčení nebo dokonce deprimovaní, protože mají pocit, že nemají dostatečný dopad na svět. Tento stres pochází z pokusu sladit svou každodenní činnost s velkolepým principem: „používat rozum a důkazy k tomu, aby vykonali co největší dobro“. Zajímavým intelektuálním cvičením je z tohoto principu odvodit věci jako: „pečovat o děti“, „užívat si zmrzlinu“ nebo „podporovat umění“. Přestože je toto cvičení intelektuálně podnětné, jako přímý návod k životu je chybné. Důvod, proč pečujeme o děti, není ten, že to pomáhá vykonat největší dobro. Je to proto, že jsme lidé. Stejně tak důvod, proč je důležité umění, hudba nebo zmrzlina, není ten, že pomáhají vykonat největší dobro. Tyto věci mají hodnotu samy o sobě, protože jsme lidé, nikoliv bezduché automaty.

Aby EA tento problém řešil, začlenil do svého rámce únikové klauzule: například „rozpočet na hřejivé pocity“, kdy lidé dávají peníze na „neefektivní“ cíle, protože jim to dělá radost. Dalším příkladem je „zmrzlinový rozpočet“ nebo „rozpočet na večeře“. Tyto úpravy mohou být praktické, ale častá frekvence jejich zavádění naznačuje, že něco není v pořádku. EA začíná jako velkolepý princip, ale buď musíte přijmout všechny jeho důsledky a být nešťastní, nebo začít přidávat ad hoc úpravy, což samo o sobě přináší stres.

Tento stres je zřetelný například v případě Nicka Cammaraty, který se trápí nad večeří, nebo Julie Wise, která váhá, zda si dát zmrzlinu nebo mít děti. Problém není zmrzlina ani večeře – problém je samotný stres, který tyto volby přinášejí.

Jedním z klíčových problémů je nepoměr mezi jasným a mocným principem („dělej co největší dobro“) a individuálními pokusy stanovit hranice. Na jedné straně máte superlidské entity (EA organizace, kolektivní komunitu), které vysílají silné a přesvědčivé zprávy o tom, jak vykonat největší dobro. Na druhé straně stojí jednotlivci, kteří se snaží najít rovnováhu ve svém vlastním životě. Není divu, že to vede ke stresu.

Správná kritika této situace není Singerova poznámka, že stres zabraňuje lidem vykonat největší dobro. Správná kritika spočívá v tom, že je to špatný způsob života. EA musí být součástí širší životní filozofie, která je bohatší a vyváženější, nikoliv jejím jediným základem.

Mnozí EAs již tento problém vyřešili přechodem na tzv. slabý EA.

Silný EA bere princip „dělej co největší dobro“ jako centrální osu životní filozofie a snaží se ho aplikovat bez kompromisů.
Slabý EA využívá tento princip spíše jako vodítko: věnuje 1 % příjmu, nebo 10 % příjmu, pokud to nezpůsobí životní obtíže; zamýšlí se nad dopadem své práce, aniž by se stresoval dodržováním absolutních pravidel.

Slabý EA se podobá běžné morální intuici: „Žij dobře a snaž se udělat něco dobrého ve světě.“ Jak říká Amia Srinivasan:

Ale čím méně jsou čísla jistá, tím méně užitečné jsou výpočty a tím více se nakonec spoléháme na zdravý rozum, abychom rozhodli, co má smysl dělat. Opravdu potřebujeme sofistikovaný model, aby nám řekl, že bychom se neměli zapojovat do rizikových hypoték (odpověď: ano), že je třeba reformovat americký vězeňský systém, nebo že by mohlo mít smysl angažovat se v politice, pokud si můžeme být jisti, že to neděláme pouze ze sobeckých důvodů? Čím složitější problém se efektivní altruismus snaží řešit – čím hlouběji se zapojuje do světa jako politické entity – tím méně výrazný je jeho přínos.

Efektivní altruisté, stejně jako všichni ostatní, narážejí na fakt, že svět je chaotický. A stejně jako ostatní, kteří chtějí svět zlepšit, musí dělat to, co považují za nejlepší, aniž by měli konečnou jistotu, že je to správné, nebo jakoukoli záruku, že to dělají správně.

Ještě znepokojivější než neschopnost modelu poskytnout užitečné rady mimo omezenou oblast kontrolovaných intervencí je jeho náchylnost k tomu, aby nám říkal přesně to, co chceme slyšet.

Efektivní altruismus přijímá ducha Singerova argumentu, ale chrání nás před jeho plným dopadem. Namísto toho, abychom snížili svůj životní standard na úroveň existenčního minima, jsme povzbuzováni k tomu, abychom začali s tradičním desátkem 10 % svého příjmu a postupně dělali každý rok o něco více. Tím se efektivní altruismus vyhýbá jedné z běžných námitek proti utilitarismu: že po nás chce příliš mnoho.

Ale není jasné, jak má tato úhybná taktika fungovat. MacAskill říká, že efektivní altruisté – stejně jako utilitaristé – se zavázali dělat co největší dobro. Zároveň však tvrdí, že je v pořádku užívat si pohodlného životního stylu, pokud hodně darujete na charitu.

Buď efektivní altruismus, stejně jako utilitarismus, požaduje, abychom dělali co největší dobro, nebo pouze žádá, abychom se snažili svět trochu zlepšit. První možnost je skutečně radikální: vyžaduje, abychom zásadně změnili své každodenní životy způsobem, který je pro většinu lidí nepředstavitelný. (Singer ve své nedávné knize The Most Good You Can Do opakuje svou výzvu k přesně takové změně. Larissa MacFarquhar ve své knize Strangers Drowning líčí příběhy „extrémních altruistů“, kteří tuto výzvu vyslyšeli.)

Druhá možnost – že bychom se měli snažit věci zlepšovat – je sdílena každým věrohodným morálním systémem a každým slušným člověkem. Pokud se efektivní altruismus omezuje pouze na to, aby nás učinil efektivnějšími při pomoci druhým, je těžké proti němu něco namítat. Ale v takovém případě je také těžké vidět, co nového v oblasti morálního poznání nabízí, natož jak by mohl být „posledním sociálním hnutím, které kdy budeme potřebovat“.

V této pasáži je mnoho, s čím souhlasím. Ale existuje poměrně dobrá odpověď na závěrečnou poznámku Amii Srinivasan: „V takovém případě je také těžké vidět, co EA nabízí v oblasti nového morálního poznání, natož jak by mohlo být ‚posledním sociálním hnutím, které kdy budeme potřebovat‘.“

Pokud by šlo pouze o intelektuální argument, souhlasil bych s ní. Ale: EAs to skutečně udělali. Vytvořili instituce, které se skutečně soustředí kolem této myšlenky. A to je hodnotné a inovativní.

Vnitřní kritika principu EA

Vraťme se opět k principu EA: „Efektivní altruismus znamená používat důkazy a rozum k tomu, abychom vykonali co největší dobro na světě.“ Diskutoval jsem o některých praktických symptomech implicitních problémů tohoto principu a také o potížích s vytyčením jeho hranic. Nyní se zaměřím na přímou kritiku samotného principu.

Mnohé problémy jsou jen standardní námitky, které se používají proti morálnímu utilitarismu. Nejsem bohužel odborníkem na tyto argumenty, ale stručně vyjádřím svůj vlastní názor: dobro není zaměnitelné (fungibilní), takže jakákoli kvantifikace je zjednodušením. A nejen to: někdy je kvantifikace přímo chybná a velmi zavádějící. Kvantifikace může být praktickou pomůckou při rozhodování mezi kompromisy; může být užitečná také pro naznačení (nikoli však závazné) morální argumentace. Ale nemá žádný fundamentální status.

Z tohoto důvodu jsou pojmy jako „zvyšování dobra“ nebo „největší dobro“ užitečnými pomůckami, ale je zásadní chybou s nimi nakládat jako se základními principy. Navíc je problematický i samotný pojem jediného dobra. Existuje mnoho různých dobrých věcí, které jsou zásadně neměřitelné, nesouměřitelné a nelze je spojovat dohromady do jediné jednotky dobra.

Tyto námitky považuji za přesvědčivé. Utilitarismus je užitečný jako praktická pomůcka a nástroj generování nových nápadů. Ale nejsem utilitarista, pokud jde o základní povahu světa.

(Tangenciálně: je zajímavé zamyslet se nad tím, jaká pravda se skrývá v výroku bývalého generálního tajemníka OSN Daga Hammarskjölda: „Je vznešenější se plně oddat jednomu člověku než usilovně pracovat na spáse mas.“ To rozhodně není postoj EA. A přesto si myslím, že na tom něco značného je.)

Méně centrálním, ale zajímavým bodem je část principu, která hovoří o „používání důkazů a rozumu“. Význam těchto pojmů se v průběhu lidské historie mění, někdy skokově. Mnohé z největších úspěchů lidstva byly radikálními změnami v tom, co myslíme důkazy a rozumem.

Standardy důkazů a rozumu z 11. století jsou velmi odlišné od těch dnešních; očekávám, že standardy z 31. století budou opět zcela jiné.

Tento bod lze do jisté míry řešit drobnou úpravou. Princip by mohl být změněn například na: „Používat naše nejlepší současné standardy důkazů a rozumu k tomu, abychom vykonali co největší dobro na světě.“ Taková formulace by zdůraznila vědomí, že tyto standardy se vyvíjejí.

Různé

Toto jsou čtyři témata, kterým bych se rád věnoval podrobněji, ale rozhodl jsem se je ponechat mimo rámec současných poznámek. Chci je zde jen zmínit, i když riskuji, že stručný popis bude snadno špatně pochopen. Všechna čtyři témata si skutečně zaslouží rozsáhlý rozbor:

Nečitelnost: Častým argumentem proti efektivnímu altruismu (EA) je, že podceňuje nečitelné aktivity. Typická odpověď zastánců EA je další forma „EA džuda“, což je bojový pokřik byrokrata: „Uděláme to čitelné!“ Prostě zjistíme, jak moc užitečný je raný vědecký výzkum / dětská narozeninová oslava / nové typy sochařství. Přesto, čím více druhů aktivit děláme čitelnými, tím více se mění a rozšiřuje penumbra nečitelnosti: a právě v této penumbře vznikají některé z nejhlubších tvůrčích děl a nejtransformativnějších životních změn. V mnoha typech práce, když jsou výsledky takové, jaké jste očekávali – nebo když vůbec dokážete výsledky pochopit – přicházíte o obrovskou příležitost. V penumbře nečitelnosti se „důkazy a rozum“ začínají definitoricky rozpadat. Také mám podezření, že jako základní povahový rys jsem v této nečitelné penumbře nejšťastnější, a právě proto mám takový problém pochopit EA: připadá mi to jako cizí jazyk, kde mi něco zásadního uniká. Naopak, když mluvím s lidmi z EA o nečitelnosti, často se na mě dívají, jako bych měl druhou hlavu. Oni považují nečitelnost za něco, co je třeba překonat a minimalizovat; já ji vnímám jako základní, neoddiskutovatelný fakt o tom, jak svět funguje. Čím více nečitelnosti překonáte, tím více nové nečitelnosti vzniká, a tím větší je potřeba takové práce.

„EA je kult / EA je náboženství“: To jsou běžná tvrzení, která se obvykle používají jako součást kritických útoků. Myslím, že jsou často vyslovována bezmyšlenkovitě nebo neupřímně, spoléhajíc na pejorativní konotace slova „kult“. Je pravda, že EA jako hnutí má některé společné rysy s kulty; totéž však platí o horolezectví, obdivu k hudbě Boba Dylana a mnoha dalších aktivitách. Podstatné, na co stojí za to dávat pozor, je, že – stejně jako u každého silného, přitažlivého a rostoucího hnutí – EA může přitahovat charismatické podvodníky, kteří se snaží zneužívat ostatní. To je reálný problém. A rozhodně stojí za to se proti tomu bránit. Nemyslím si ale, že by EA bylo k tomu náchylnější než jakákoli jiná silná ideologie.

Longtermismus / existenční rizika / bezpečnost AI: Toto téma si zaslouží vlastní poznámky. Obecně mám pozitivní pohled na práci na existenčních rizicích; obdivuji například nedávnou knihu Tobyho Orda na toto téma. O většině práce na bezpečnosti AI si však nemyslím nic dobrého, i když existuje několik lidí, kteří odvádějí dobrou práci, a přidružená práce (například na férovosti, interpretovatelnosti, vysvětlitelnosti atd.), která je velmi hodnotná.

Atmosféra a estetika: Přítel mi poukázal na to, že EA má velmi specifickou a poměrně neobvyklou atmosféru, která se výrazně liší od mnoha jiných kultur. To mi přijde pravdivé a zajímavé. Nejsem si jistý, co si o tom myslet. Totéž platí o estetice: EA tíhne k velmi instrumentální a specifické estetice. Je zajímavé to zvážit v kontextu umění: historicky téměř vždy čistě instrumentální přístupy k umění vedly ke špatnému umění. Bylo by krásné vidět umělecké hnutí v EA, které by vycházelo z něčeho neinstrumentálního!

Shrnutí

EA je inspirující životní filozofie, která dává smysl. Zve lidi, aby se hluboce spojili s určitou představou většího dobra, přispěli k tomuto dobru a učinili ho centrálním bodem svého života. EA v praxi dokázal přímo přinést pozoruhodné množství dobra do světa a zlepšit životy lidí. Je skvělé mít k dispozici konverzační rámec „jak udělat co nejvíce dobra“ jako hodnotnou a předpokládanou výchozí perspektivu. EA v praxi také poskytuje silnou komunitu, pocit sounáležitosti a sdílené hodnoty mnoha lidem. Jako morální průkopníci přináší EA pozoruhodnou sadu nových veřejných statků.

To vše činí EA atraktivní jako životní filozofii, poskytující orientaci, smysl a jasné, silné jádro s podpůrnými institucemi. Bohužel, silně pojatý EA je slabou životní filozofií s nedostatečnými hranicemi, které mohou lidem způsobit značné utrpení, a nedokáže naplnit základní potřeby. EA v praxi je příliš centralizovaný, příliš zaměřený na absolutní výhody; trh často odvádí lepší práci při poskytování určitých druhů soukromých (nebo privatizovatelných) statků. Nicméně EA v praxi pravděpodobně odvádí lepší práci při poskytování některých druhů veřejných statků než mnohé stávající instituce. EA se příliš spoléhá na online charisma: nablýskaná, ale povrchní diskuse o tématech, jako je argument simulace, existenční rizika a bezpečnost AI, má tendenci dominovat konverzaci, namísto hlubší práce. (To neznamená, že neexistují kvalitní diskuse o těchto tématech.) EA v praxi je příliš spojen s existujícími mocenskými systémy a málo je zpochybňuje nebo mění. Přivlastnění termínu „efektivní“ je chytrý marketing a způsob budování hnutí, ale intelektuálně neupřímné. EA považuje nečitelnost za problém k vyřešení, nikoli za základní podmínku. Kvůli tomu selhává v určitých druzích kreativní a estetické práce. Morální utilitarismus je užitečný, ale omezený praktický nástroj, který zaměňuje kvantifikaci užitečnou pro rozhodování za fundamentální fakt světa.

V těchto poznámkách jsem EA ostře kritizoval. Ale neposkytl jsem jasně a přesvědčivě formulovanou alternativu. Je to jako říkat, že něčí strava složená z nanuků a čokoládových tyčinek není ideální, aniž bych nabídl lepší potraviny; může to být správné, ale není to okamžitě využitelné. Vzhledem k obrovské emocionální potřebě, kterou lidé mají po silném systému dávajícím smysl, neočekávám, že by to mělo velký dopad na tyto lidi. Je příliš snadné mávnout nad těmito problémy rukou nebo je ignorovat jako věci, které lze vyřešit přidáním nějakých výjimek. Psát tyto poznámky mi však pomohlo lépe pochopit, proč nejsem EA, a zároveň proč si myslím, že by EA principy – s velmi výraznými úpravami – mohly tvořit hodnotnou součást širší životní filozofie. Ale zatím nerozumím tomu, co ta širší životní filozofie je.

Jinde

Doporučuji podívat se na kritiku efektivního altruismu a na tyto čtyři kategorie kritik EA. Po dokončení prvního návrhu těchto poznámek byla oznámena soutěž na téma kritik EA; budu zvědavý na jednotlivé příspěvky. Design této soutěže je možná bohužel postaven na již existujících myšlenkách EA.

Poznámky a odkazy

Všechny poznámky a odkazy najdete na konci původního článku.