Červnový newsletter 2024

Milí členové a příznivci efektivního altruismu v Česku,

dny se začínají zase pomalu zkracovat a nás čekají opět zásadní otázky pro budoucnost lidstva v kontextu technologií a governance. Tentokrát v podobě jednodenní konference, ze které mám velkou radost. Podařilo se nám totiž hezky vybalancovat přednášky, díky kterým získáte přehled o tématu, a přednášky, kde s vámi řečníci nasdílí svůj vhled získaný ve významných mezinárodních i místních institucích. Pokryjeme témata klíčová pro budoucnost: AI governance, technická AI safety, biosecurity a nanotechnologie.

Dále pak s radostí oznamuji, že otevírámwe opět letní stáže pro studenty všeho věku, kde si pod naším vedením mohou vyzkoušet výzkum, projektovou práci, ale i event management a komunikaci. Proniknou tak do výše zmíněných technických témat i dalších, více měkkých, jako je např. výběr smysluplné kariéry. Budeme rádi, když nám pomůžete nabídku dostat k relevantním studentům.

Těším se na viděnou na konferenci!

S přáním inspirativního letního konferenčního období,

Hana Kalivodová

[email protected] | Calendly

Pozvánky na akce

• Konference: Technologie a dlouhodobá budoucnost lidstva – 29. 6. ve Fixed Point v Praze 
• Cowork chata, 17.–⁠24. 8., Chalupa u Lištičky, Masákova Lhota 21 (poblíž Vimperka) –⁠ budeme společně pracovat na chatě v přírodě. Přihlašujte se zde.

Michal Keda radí, co si přečíst

Veřejné povědomí

🐔 Kampaně za ukončení klecových chovů drůbeže chované na vajíčka fungují. Až 89 % korporací, které na základě kampaní slíbily, že se přestanou podílet na klecových chovech, splnily své závazky a opravdu přestaly. Potvrzuje se, že dobrá korporátní kampaň je jednou z intervencí proti utrpení zvířat, které fungují a jsou velmi efektivní. Report mluví o stovkách milionů zvířat, jejichž životy byly zlepšeny prací relativně malých týmů.
Předpokladem těchto kampaní je, že veřejnost je těmto krokům nakloněna, respektive že týrání (i tzv. hospodářských) zvířat není společensky tolerováno. Kampaně se pak o tento sociologický fakt opírají při komunikaci s prodejci, výrobci, ale i politiky. 

🦠 Varování před budoucími pandemiemi je nevděčná práce. Málokdo chce slyšet, nebo možná i věřit tomu, že nás brzy může potkat další pandemie potenciálně horší než covid. Čím více budeme tuto možnost vytěsňovat z našeho povědomí, tím více se bohužel stává pravděpodobnou. Ptačí chřipka H5N1 je patogen, u kterého víme, jaké kroky se musí stát, aby se realizoval jeho pandemický potenciál. Kelsey Piper, trochu v americkém kontextu, vyzývá čtenáře, ať úplně riziko pandemií nevypouští z mysli, jakkoli nepříjemné myšlenky to jsou, a hlavně ať dávají najevo svým zastupitelům, že je třeba investovat do pandemické prevence a přípravy. To platí i v Česku, kde ze setkání s odborníky na toto téma víme, jak málo reálných změn na základě zkušenosti s covidem proběhlo.

Kariéra

Trying to do more good popisuje životní cestu jednoho efektivního altruisty, snažícího se dostát svým ideálům. Což je něco, co je pro mě osobně důležité. Z příspěvku si můžete vzít různá moudra, ale já nejvíc vnímám, že ani pro programátora z Google nebylo snadné najít vhodnou práci s velkým dopadem a darování peněz ze štědrého platu je docela těžké překonat. Zároveň, když je člověk novým příležitostem otevřen, tak je větší šance, že se najdou.

Příspěvek Priors and Prejudice na LessWrong může být odrazový můstek k malému osobnímu zamyšlení. Poukazuje na to, jak některé předpoklady a nahodilé okolnosti můžou mít velký vliv na náš světonázor. 

AI novinky

„The AGI race has begun. We are building machines that can think and reason. By 2025/26, these machines will outpace many college graduates. By the end of the decade, they will be smarter than you or I; we will have superintelligence, in the true sense of the word. Along the way, national security forces not seen in half a century will be unleashed, and before long, The Project will be on. If we’re lucky, we’ll be in an all-out race with the CCP; if we’re unlucky, an all-out war,“” píše na začátku 165stránkového textu Leopold Aschenbrenner. Jedná se o ambiciozní výhled na následující dekádu od předního výzkumníka umělé inteligence. Text je velmi diskutovaný, ale kdo to nechce číst celé, znatelné zkrácení lze najít například na EA fóru. 

PROGRAMY A WORKSHOPY

Další příležitosti

• CHAI nabízí Research Fellowship

Stále otevřené příležitosti z minulých newsletterů

• Rethink Wellbeing otevírá přihlášky do svého programu, jehož cílem je zvýšit vaši psychickou odolnost a produktivitu spolu s komunitou podobně smýšlejících lidí.
• Mid-Career Biodefense Bootcamp Fellowship s předními odborníky biosecurity a policy v této oblasti. Remote + 3denní workshop ve Washingtonu.
• Foresight Institute’s AI Safety Grant Program je otevřen pro přihlášky v oblastech neurotechnologických přístupů k bezpečnosti AI; bezpečnosti, kryptografii a doplňkových přístupů pro informační bezpečnost a bezpečných a prospěšných multipolárních scénářů AI.

Open Philanthropy poptává grantové přihlášky v následujících oblastech:

• The University Organizer Fellowship
• Career development and transition funding
• Projects to grow our capacity for reducing global catastrophic risks
• Course development grants
• The translation of web content related to AI safety, global catastrophic risks, effective altruism and adjacent topics
• Benchmarking LLM agents on consequential real-world tasks 

Dobrovolnické pozice

• AI Standards Lab nabízí možnost zapojení s minimálním časovým závazkem (2–5 hodin týdně) prostřednictvím recenze a komentování existujících příspěvků ke standardům, na jejichž vývoji laboratoř pracuje. 
• Dobrovolnická pozice podpory výzkumu – Reducing the risk of Great Power War
• Allfed, organizace zabývajicí se zvyšováním připravenosti na globální katastrofy, nabízí dobrovolnické pozice. 

Konference EAG

• EAGxUtrecht (5. 7.–7. 7.), poslední možnost se přihlásit je 23. června.
• EAGxToronto (16. 8.–18. 8.)
• EAGx Berkley (7.–8. 9. 2024)
• EAGx Berlin (13.–15. 9. 2024)
• Cambridge Conference on Catastrophic Risk (17–18. 9. 2024)
• EA Global: Boston 2024 (1.–3. 11. 2024)

Jiné konference

• Human-aligned AI Summer School se bude konat 16.–20. července v Praze, přihlášky otevřeny.

PRACOVNÍ PŘÍLEŽITOSTI V ZAHRANIČÍ A VZDÁLENĚ

• 80,000 hours zve lidi, kteří chtějí pomáhat snižovat rizika spojená s umělou inteligencí, aby vyplnili dotazník. Odpovědi budou sdíleny s organizacemi zaměřenými na tuto oblast.
• Probably Good spouští nový průběžně aktualizovaný seznam pracovních míst s velkým dopadem. 

• Aktuální pozice (remote a v Evropě) na 80,000 Hours job board:
  • AI safety a policy
  • Biosafety a pandemická připravenost
  • Globální zdraví
  • Animal welfare

AI safety

• Epoch AI nabízí pozici ve výzkumu: ML Distributed Systems, také mají otevřený formulář Expression of interest.
• METR (dříve ARC Evals) – Machine Learning Research Engineer, Machine Learning Research Scientist a Eval production lead
• Open Philanthropy nabízí následující pozice:
  • Director of Partnerships
  • Program Officer/Senior Program Associate – Global Health and Wellbeing, Lead Exposure
  • Program Associate/Senior Program Associate – Innovation Policy
  • Business Operations Manager
• Future of Life Institute nabízí následující pozice, kromě toho má také otevřený formulář na Rolling Applications:
  • AI Compute Security & Governance Technical Program Manager
  • Drone Swarm Project Lead – Request for Proposal
• Constellation nabízí pozici Program Manager a Senior Program Manager, Berkeley, CA
• Centre for the Governance of AI nabízí následující pozice:
  • Research Fellow
  • Research Scholar (General)
  • Research Scholar (Technical Research)
  • Research Scholar (Special Projects)

Forecasting

• Futurersearch – organizace kombinující forecasting a AI – nabízí tyto pozice: Full-Stack Software Engineer, Research Engineer a Research Scientist. 
• Forecasting Research Institute nabízí několik pozic z různých oblastí.
  • Part-Time Research Assistant
  • Part-Time Content Editor
  • Data Analyst
  • Research Analyst
  • Part-Time Operations Assistant

Globální zdraví

• GiveWell nabízí pozici ve výzkumu, outreach a v operations. 

Ostatní

• Non-Trivial nabízí pozici Head of Outreach and Communications, deadline 4. srpna. 
• Don Efficace nabízí pozici Research Program Manager
• The Nuclear Threat Initiative nabízí pozice:
  • Program Officer/Senior Program Officer, Nuclear Materials Security (NMS)
  • Senior Program Officer/Director, Global Biological Policy and Programs (NTI | bio), Focus: Biotech Governance
• Allfed nabízí pozici Policy Associate.
• Founders Pledge nabízí pozici Research Communicator.

Stále otevřené příležitosti z minulých newsletterů

AI safety

• FAR AI – operations, komunikace, inženýrství, výzkumný pracovník a další pozice (remote/Berkeley, průběžné přihlašování)
• Anthropic hledá výzkumníky na pozice v AI safety. Pozice jsou převážně v USA, ale nabízejí i několik remote pozic nebo pozice v Londýně.
• Charity Entrepreneurship – Director of Outreach (průběžné přihlášky)
• METR (dříve ARC Evals) hledá náročné úkoly pro agenty LLM. Jsou vítány příspěvky s nápadem na úkol, specifikaci a implementaci (s odměnou ve výši 20 $, 200 $ a 2000–4000 $, respektive až 4000 $). V případě předložení zajímavých úkolů můžou nabídnout plný úvazek. Nedávno byl na toto téma hackathon, kterého se zúčastnilo i několik lidí z ČR a dotáhli svůj nápad až k implementaci. 
• Blue Dot nabízí pozici AI Governance Teaching Fellow, což je remote part- nebo full-time pozice facilitování, plánování a příprava obsahu jejich seminářů. 
• Justin Shovelain hledá výzkumníka v oblasti strategie a implementace AI governance. Podle popisu se jedná o vstupní pozici v oboru AI safety. Minimálně byste měli znát obsah semináře o AI safety; Tallinn, Estonsko. 
• Atla – Alignment Research Engineer, Londýn
• Sage hledá člověka na programování a design “visual explainers” pokroku a rizik umělé inteligence. 

Biosecuriy

• Různé pozice |CEPI: cílem CEPI je urychlit vývoj vakcín proti nově se objevujícím infekčním nemocem a umožnit lidem přístup k těmto vakcínám během epidemií. Pozice jsou od manažerských až po výzkumné.
• Zde je databáze pracovních pozic na začátku kariéry pro budování dovedností souvisejících s biologickou bezpečností.
• Convergent Research hledá Head of Sequencing/Senior Scientist. Convergent Research se zabývá výzkumem v pandemické připravenosti, lokace je New York. 

Animal welfare

• V databázi Tälist můžete najít pracovní pozice v oblasti alternativních proteinů.

Ostatní

• Foresight nabízí roční Foresight Fellowship 2025.
• Sage hledá člověka na navrhování, budování, rozvíjení a hodnocení jejich forecastingových nástrojů. 
• The Future of Life Foundation – Project Lead/Founder – Windfall Trust
• Charity Entrepreneurship nabízí pozici Director of Outreach

Financování / soutěže

• 80,000 Hours vytvořilo seznam výzev a soutěží souvisejících s nejpalčivějšími problémy.
• Esejní soutěž „The Automation of Wisdom and Philosophy“, $25K v odměnách, první cena $10K, uzávěrka je 14. července.
• The Center for AI Safety nabízí $250K v odměnách pro jednotlivce nebo týmy, které vyvinou benchmarky robustnosti, monitorování nebo bezpečnostních aplikací pro AI systémy.
• The OpenAI Cybersecurity Grant Program nabízí financování návrhů na kybernetickou bezpečnost.
• Emergent Ventures financuje vysoce škálovatelné nápady na nápady, jejichž cílem je identifikovat talenty STEM mezi globálně nedostatečně zastoupenými skupinami.

ZORGANIZUJ SI SÁM

Chybí vám nějaký specifický formát událostí nebo specifické téma? Rádi bychom vás podpořili v uspořádání něčeho svého, podle vlastního vkusu. Můžete například zorganizovat jeden z pravidelných měsíčních meetupů. Připravili jsme manuál s náměty, co se dá udělat, a šablonu s checklistem, pokud jste již rozhodnutí, co zorganizovat. Rádi vám s čímkoliv pomůžeme. Kontaktujte Vojtu ohledně konzultací tématu, formy a ohledně prostorů v Praze a Honzu Votavu ohledně prostorů v Brně. Případně stačí vyplnit tento dotazník. Pokud jste z jiného města, EA zdroje, na něž naleznete odkaz v manuálu, radí, jak vybrat prostory i pokud okolo ještě existující komunitu nemáte. Budeme rádi, když se najde parta EAs i v jiných městech!