Červencový newsletter 2024

| Posted on |

Milí členové a příznivci efektivního altruismu v Česku,

děkujeme všem, kteří se zúčastnili naší konference Technologie a budoucnost lidstva a pomohli nám vytvořit skvělou atmosféru nasátou myšlenkami. Pokud jste se zúčastnili a odnesli jste si nějaký nápad, jak nám technologie mohou pomoci s vývojem směrem k lepší budoucnosti, budeme rádi, když nám dáte zpětnou vazbu. Pro ty, kteří se nemohli zúčastnit, jsme připravili několik videí.

Pokud plánujete proniknout hlouběji do některého z našich témat, konference EAG(x) jsou největšími setkáními, kde si můžete poslechnout přednášky a promluvit si s lidmi, které zajímají stejné otázky jako vás. EAGxPrague bohužel bude až na jaře, a tak doporučujeme se přihlásit na zářijové EAGxBerlin, kde díky největší evropské koncentraci efektivních altruistů potkáte s největší pravděpodobností někoho urputně studujícího zrovna vaši otázku. Konference jsou určeny jak studentům tak profesionálům, kteří se chtějí posunout k více efektivní a altruistické práci, ale také organizacím, které chtějí sdílet své poznatky a rozšířit svou síť potenciálních spolupracovníků.

Na podzim místo EAGx chystáme po vzoru červnové konference několik specializovaných jednodenních setkání. Plánujeme otevřít témata, jako jsou nanotechnologie, posunout se dále v otázce prevence pandemií a věnovat se i filozofickým aspektům wellbeingu, jako je například sentience. Nechceme zanedbávat ani naši tradiční bezpečnost AI a foresight + decision-making. Budu ráda, pokud mi napíšete, jaká další téma s potenciálně velkým pozitivním dopadem by v ČR mohla být umocněna díky propojení lidí, kteří se jimi zabývají. A pokud nechcete, aby vám nějaké zásadní setkání na vaše oblíbené téma uniklo, můžete si zde přihlásit upozornění.

Hana Kalivodová

[email protected] | Calendly

Pozvánky na akce

Cowork chata, 17.–⁠24. 8.

Chalupa u Lištičky, Masákova Lhota 21 (poblíž Vimperka)

Budeme společně pracovat na chatě v přírodě. Konkrétně se zaměříme na zvyšování povědomí o technologiích, biosecurity, bezpečnosti AI, smysluplné práci a kariérních možnostech pomocí článků a příspěvků na našich sociálních sítích. Pokud nám chcete pomoci s komunikací, naučit se formulovat obtížné myšlenky a ponořit se do vyjmenovaných témat, přihlašte se.

Očekáváme, že se chaty bude účastnit mix studentů pracujících v týmech na kampaních a mix lidí, kteří se zabývají relevantními tématy déle a budou pracovat na svých relevantních projektech. Pro brigádníky je účast zdarma, pro ty, kteří budou pracovat na vlastních projektech, bude požadován příspěvek na ubytování.

Přihlašujte se zde.

O čem přemýšlíme

Ráda bych v našem newsletteru zavedla novou občasnou rubriku, která vám napoví, o čem se bavíme v komunitě a jaké otázky nám přijdou důležité. Diskuzní témata vznikají často organicky a ideálně vrcholí tím, že se skupina lidí zorganizuje na Slacku do malé čtenářské skupinky nebo uspořádá komunitní meetup, kde se téma probere. Ráda bych nabídla i ostatním čtenářům a čtenářkám nakouknutí pod pokličku našich interních diskuzí a zviditelnila možnost se zapojit.

Pokud budete chtít diskutovat více do hloubky téma z této rubriky, napište mi o pozvánku do Slacku.              

~ Hana Kalivodová

A o čem přemýšlíme nyní? Na EA foru proběhl týden debat zaměřených na AI welfare. Pokud souhlasíte s myšlenkou, že morální vývoj civilizace má jít cestou expanze morálních kruhů (rozšiřování počtu a typu entit, které považujeme za morálně významné), jistě narazíte i na otázku, jak by mohly morální status získat stroje, respektive umělé inteligence. Jakkoliv nepravděpodobně to může znít, otázka je to důležitá, protože umělé inteligence se dají snadno kopírovat a jejich počty nejspíš mohou růst řádově rychleji než biologické populace. Kdyby zároveň bylo možné, aby takové inteligence trpěly, a z nějakého důvodu by se to skutečně dělo, znamenalo by to morální katastrofu. Filozofové jistě znají slavný článek Thomase Nagela „How is it like to be a bat?“ a kladou si otázku, jaké to je být DALL-E 2. I když generativní modely nejspíš nic ani vzdáleně necítí, co jsou nutné podmínky pro to, aby AIs něco cítily? Fenomenální vědomí, valenční zkušenost? Nebo můžeme přijít s nějakou méně biocentrickou definicí procesování zpětné vazby z okolí? Pokud ve vás podobné otázky probouzí zvědavost, diskutujte s námi na Slacu nebo se rovnou přihlašte na S-Risk fellowship, který pořádá Center for Reducing Suffering. CRS je výzkumná organizace zabývající se prohlubováním našich znalostí o morálních aspektech utrpení, vyjasňování makrostrategické situace a identifikací vysokoprioritních intervencí. Pracují v ní známé osobnosti jako Brian Tomasik, Tobias Baumann či Magnus Vinding.

„Maybe if a reinforcement learning agent is getting negative rewards, it’s feeling pain to some very limited degree. And if you’re running millions or billions of copies of that, creating quite a lot, that’s a real moral hazard.“ – Sam Altman (OpenAI) v rozhovoru s Ezrou Kleinem (2021)

Novinky ze světa

  • Soem Zeijlmans a Ruben Dieleman znovuzaložili organizaci Effective Environmentalism. Pokud vám klimatická témata v EA prostředí chyběla, můžete se podívat na jejich webové stránky, přihlásit se k jejich newsletteru, kde plánují měsíčně vydávat články o efektivních environmentálních činech, příležitostech a odkazovat na zajímavé čtení. Můžete je také sledovat na Linkedinu či Twitteru (X).
  • Future of Life Institut (FLI) vyhlásil kreativní soutěž o ceny v hodnotě $50,000.
    • Future of Life Institute je nezávislá nezisková organizace s cílem snížit rizika a řídit transformační technologie ve prospěch lidstva, se zaměřením speciálně na umělou inteligenci (AI).
    • Cílem soutěže je vytvořit edukativní materiály ztvárňující rizika Superinteligence.
    • Soutěž nemá žádné vstupní požadavky, lze se přihlásit v týmu se svým příspěvkem do 31. srpna 2024.

Fundraisujeme!

Pokud si myslíte, že vám spolek přináší nějakou hodnotu nebo vám pomohl v minulosti, budeme rádi za příspěvek na infrastrukturu pro ty, kdo chtějí mít pozitivní dopad. Ve spolku historicky nevybíráme členské poplatky, ale pokud chcete, můžete nám přispět libovolnou částkou (doporučená částka je 500 Kč) jednorázově nebo pravidelně jako roční příspěvek.

Pokud se chcete dozvědět více o současných projektech spolku, doporučujeme tento článek. K dispozici je také článek o základech efektivního darování zde.

PROGRAMY A WORKSHOPY

Stále otevřené příležitosti z minulých newsletterů

  • CHAI nabízí Research Fellowship.
  • Rethink Wellbeing otevírá přihlášky do svého programu, jehož cílem je zvýšit vaši psychickou odolnost a produktivitu spolu s komunitou podobně smýšlejících lidí.
  • Mid-Career Biodefense Bootcamp Fellowship s předními odborníky biosecurity a policy v této oblasti. Remote + 3denní workshop ve Washingtonu.
  • Foresight Institute’s AI Safety Grant Program je otevřen pro přihlášky v oblastech neurotechnologických přístupů k bezpečnosti AI; bezpečnosti, kryptografii a doplňkových přístupů pro informační bezpečnost a bezpečných a prospěšných multipolárních scénářů AI.
  • Center for the Governance of AI nabízí Winter Fellowship 2025 v oblasti AI governance, deadline 11. 8.

Open Philanthropy poptává grantové přihlášky v následujících oblastech:

Dobrovolnické pozice

  • AI Standards Lab nabízí možnost zapojení s minimálním časovým závazkem (2–5 hodin týdně) prostřednictvím recenze a komentování existujících příspěvků ke standardům, na jejichž vývoji laboratoř pracuje.
  • Dobrovolnická pozice podpory výzkumu – Reducing the risk of Great Power War
  • Allfed, organizace zabývajicí se zvyšováním připravenosti na globální katastrofy nabízí dobrovolnické pozice. Z Česka pro ně dobrovolničilo již několik lidí, pro více informací můžete napsat na [email protected]. 

Konference EAG

Jiné konference

ZORGANIZUJ SI SÁM

Chybí vám nějaký specifický formát událostí nebo specifické téma? Rádi bychom vás podpořili v uspořádání něčeho svého, podle vlastního vkusu. Můžete například zorganizovat jeden z pravidelných měsíčních meetupů. Připravili jsme manuál s náměty, co se dá udělat, a šablonu s checklistem, pokud jste již rozhodnutí, co zorganizovat. Rádi vám s čímkoliv pomůžeme. Kontaktujte Vojtu ohledně konzultací tématu, formy a ohledně prostorů v Praze a Honzu Votavu ohledně prostorů v Brně. Případně stačí vyplnit tento dotazník. Pokud jste z jiného města, EA zdroje, na něž naleznete odkaz v manuálu, radí, jak vybrat prostory i pokud okolo ještě existující komunitu nemáte. Budeme rádi, když se najde parta EAs i v jiných městech!

PRACOVNÍ PŘÍLEŽITOSTI V ZAHRANIČÍ A VZDÁLENĚ

V 80,000 Hours výrazně rozšířili svůj poradenský program a pokud přemýšlíte o pozici s dopadem, velmi doporučujeme se přihlásit.

AI safety

  • Epoch AI nabízí nové pozice ve výzkumu:
    • Project Lead, Mathematics Reasoning Benchmark
    • Question Writer, Math Benchmark
    • ML Distributed Systems Senior Researcher
    • Také mají otevřený formulář Expression of interest.
  • METR (dříve ARC Evals) nabízí několik pozic:
    • Head of People
    • Machine Learning Research Engineer/Scientist
    • Senior Machine Learning Research Engineer/Scientist
    • Eval Production Lead
    • Také mají otevřený formulář Expression of interest.
  • Future of Life Institute nabízí následující pozice, kromě toho má také otevřený formulář na Rolling Applications:
    • Operations Associate
    • AI Compute Security & Governance Technical Program Manager
    • Drone Swarm Project Lead – Request for Proposal
  • Constellation nabízí několik operations pozic v Berkeley, Kalifornii
  • Meta nabízí pozici Postdoctoral Researcher FAIR (PhD), AI Security
  • Le Centre pour la Sécurité de l’IA (CeSIA) (nezisková organizace se sídlem v Paříži, která si klade za cíl podporovat odpovědný rozvoj umělé inteligence prostřednictvím advokacie, výzkumu a vývoje a podpory aktérů v ekosystému umělé inteligence) nabízí dvě pozice v Paříži:
    • Research Engineer, Technical Project Manager, Benchmarks for the Evaluation of LLM Safeguards
    • Head of Policy
  • AI safety Institute v rámci britského ministerstva pro vědu nabízí pozice v oblasti AI safety
  • Future matters nabízí pozici Strategy Consultant in AI safety and biosecurity
  • Elicit nabízí pozici Machine Learning Engineer

Biorisk

  • BlueDot Impact nabízí pozici Biosecurity Teaching Fellow, který bude facilitovat jejich Biosecurity semináře. Deadline 15. 9.

Globální zdraví

Ostatní

Stále otevřené příležitosti z minulých newsletterů

AI safety

  • Centre for the Governance of AI nabízí následující pozice:
    • Research Fellow
    • Research Scholar (General)
    • Také mají otevřený formulář Expression of interest na pozici Research Assistant
  • FAR AI – operations, komunikace, inženýrství, výzkumný pracovník a další pozice (remote/Berkeley, průběžné přihlašování), také mají otevřený formulář Expression of interest na pozici Research Engineer.
  • Anthropic hledá výzkumníky na pozice v AI safety. Pozice jsou převážně v USA, ale nabízejí i několik remote pozic nebo pozice v Londýně.
  • Charity Entrepreneurship – Director of Outreach (průběžné přihlášky)
  • METR (dříve ARC Evals) hledá náročné úkoly pro agenty LLM. Jsou vítány příspěvky s nápadem na úkol, specifikaci a implementaci (s odměnou ve výši 20 $, 200 $ a 2000–4000 $, respektive až 4000 $). V případě předložení zajímavých úkolů můžou nabídnout plný úvazek. Nedávno byl na toto téma hackathon, kterého se zúčastnilo i několik lidí z ČR a dotáhli svůj nápad až k implementaci.
  • Justin Shovelain hledá výzkumníka v oblasti strategie a implementace AI governance. Podle popisu se jedná o vstupní pozici v oboru AI safety. Minimálně byste měli znát obsah semináře o AI safety; Tallinn, Estonsko.
  • Atla – Alignment Research Engineer, Londýn
  • Sage hledá člověka na programování a design “visual explainers“ pokroku a rizik umělé inteligence.

Biosecuriy

  • Různé pozice |CEPI: cílem CEPI je urychlit vývoj vakcín proti nově se objevujícím infekčním nemocem a umožnit lidem přístup k těmto vakcínám během epidemií. Pozice jsou od manažerských až po výzkumné.
  • Zde je databáze pracovních pozic na začátku kariéry pro budování dovedností souvisejících s biologickou bezpečností.
  • Convergent Research hledá Head of Sequencing/Senior Scientist. Convergent Research se zabývá výzkumem v pandemické připravenosti, lokace je New York.

Forecasting

  • Futurersearch – organizace kombinující forecasting a AI – nabízí tyto pozice: Full-Stack Software Engineer, Research Engineer a Research Scientist.
  • Forecasting Research Institute nabízí několik pozic z různých oblastí.
    • Part-Time Research Assistant
    • Part-Time Content Editor
    • Data Analyst
    • Research Analyst

Animal welfare

  • V databázi Tälist můžete najít pracovní pozice v oblasti alternativních proteinů.

Financování / soutěže

  • Future of LIfe Institute vyzývá k podávání grantových přihlášky na téma „How to mitigate AI-driven power concentration“.
  • Future of Life Institute také vyhlásil soutěž o nejlepší kreativní vzdělávací materiály o superinteligenci, jejích rizicích a důsledcích této technologie pro náš svět. Deadline 31. 8.
  • Quarterly tournament in the $120,000 benchmark series od Metaculu začal tento měsíc. Série měří předpovědi AI proti lidským předpovědím. Chcete-li se zúčastnit Q3 (30 000 $), vytvořte si zde účet bota.
  • Food System Research Fund vyzývá k podávání přihlášek na své grantové příležitosti na rok 2024, které mají za cíl usnadnit a šířit výzkum, jenž urychlí přechod od potravinového systému založeného na živočišných produktech. Deadline 1. 9.
  • Good Food Institute vyzývá k podávání přihlášek na Alternative Protein Research grants.
  • Founders Pledge vyzývá k podávání grantových přihlášek na témata:
    • Global health and development
    • Global catastrophic risk
    • Climate
    • Animal welfare

Stále otevřené příležitosti z minulých newsletterů

Emergent Ventures financuje vysoce škálovatelné nápady na nápady, jejichž cílem je identifikovat talenty STEM mezi globálně nedostatečně zastoupenými skupinami.

Ostatní

Komunikační skupiny na WhatsAppu, Signalu a Telegramu

Abychom vám usnadnili přehled o dění ve Spolku a neunikla vám žádná zajímavá akce či příležitost (a že jich je celá řada), rozhodli jsme se založit skupiny na WhatsAppu, Signalu a Telegramu. V těchto kanálech se budou každé pondělí (podobně jako na Slacku) objevovat důležitá oznámení. Nebude je možné komentovat, aby vám nechodilo příliš nevyžádaných zpráv. Do skupin se můžete přidat zde:

Dobrým způsobem, jak být v obraze, je také přidat si spolkový kalendář akcí!

Na závěr ještě dva užitečné odkazy: