Říjnový newsletter 2024

| Posted on |

Milí členové a příznivci efektivního altruismu v Česku,

jako tradičně se nám rozjely podzimní semináře a třeba jste zaznamenali, že se na sociálních sítích snažíme komunikovat téma biosecurity. Je zajímavé, že AI probouzí silný veřejný zájem, ale možnost, že by mohlo být lidstvo méně nemocné zatím silné ohlasy nesklízí. Budeme proto rádi, pokud se s námi podělíte o své nápady, jak téma biologické bezpečnosti popularizovat a o tipy na osobnosti, co už to dělají. Shrnutí našeho současného přístupu můžete vidět v tomto článku.

A k důležitým věcem: vedu spolek již 3 roky a nastává čas se pomalu posunout někam dál a uvolnit tuto skvělou příležitost k osobnímu růstu někomu dalšímu, kdo se pustí do rozvoje zase v trochu jiných oblastech. Podařilo se nám vyladit různé akce, programy, partnerství a toky informací a hledáme někoho, kdo v současném stavu vidí další mezery, které už já tolik nevidím, a má chuť je ladit, aby se více lidí mohlo zaměřit na důležité, zanedbané a změnitelné problémy. Pokud vás zaujala tato příležitost, více informací o výběrovém řízení naleznete zde.

S přáním krásných podzimních dnů,

Hana Kalivodová

[email protected] | Calendly

Průzkum mezi lidmi pohybujícími se okolo českého EA spolku 2024

Oznamujeme spuštění průzkumu mezi všemi lidmi pohybujícími se v našem networku pro rok 2024! Cílem je získat hlubší vhled do dynamiky české komunity kolem efektivního altruismu a jeho témat a pochopit změny, které se udály v uplynulém roce. Vaše účast je pro nás nesmírně cenná. Dotazník je anonymní. Velmi si ceníme co nejširší účasti. Vyplnění dotazníku by vám nemělo zabrat více než 20 minut vašeho času. Předem děkujeme za účast na průzkumu!

Pozvánky na akce

  • Philosophy of Public Health, 22. 11. na Jihočeské univerzitě, konference prozkoumá etické a filozofické otázky spojené s veřejným zdravotnictvím a epidemií, včetně přednášek od předních odborníků z oblasti filozofie, biomedicíny a politiky. 
  • Towards Biosecurity: Communication, policy-making & technologies, 25. 11. Praha, konference nabídne diskuze o communication, policy-making a technologiích v kontextu biosecurity za účasti předních expertů.
  • Rationality meetups –⁠⁠⁠⁠⁠⁠ otevřená setkání dvakrát měsíčně od října do prosince s diskuzemi na témata racionalismu založená na dílech Scotta Alexandera, autora blogu Astral Codex Ten.

Nová skupina na Discordu pro studenty

Na základě setkání: „Také přemýšlíte o..? (Čaj a diskuze pro studenty)“ vznikla discordová skupina, která je určena studentům a studentkám zapojeným do naší komunity, ale i všem dalším zájemcům o myšlenky efektivního altruismu, racionality či morální filozofie. Pokud vás tato témata zajímají, připojit se můžete zde, stejně tak ji můžete doporučit dále.

O čem přemýšlíme

Michal Keda považuje za zajímavé

V USA se objevil startup, který nabízí do středoškolských laboratoří sadu na experimetny s CRISPRem za 2 dolary na žáka. Jedná se sice o předpřipravenou konkrétní reakci, ale pěkně to ukazuje technologický vývoj. Od objevu v roce 2012 přes Nobelovu cenu, za v té době už prokázané přínosy v roce 2020, až po sady, se kterými si můžou hrát středoškolaci uběhlo cca 12 let. Tahle zpráva je malý dílek do skládačky, proč efektivní altruisté považují hrozbu umělých pandemií za velmi vážný problém.

Další, podobný dílek skládačky souvisí s letošní Nobelovou cenou. Za chemii ji dostali Demis Hassabis a John Jumper za AI systém AlphaFold2 z roku 2020, který umožňuje předpovídat 3D strukturu proteinů z jejich DNA. Dříve se tento problém řešil dlouhou a odbornou prací v laboratoři. Typicky si šlo na studiu struktury jednoho proteinu postavit dosáhnutí PhD. Dnes to zvládá AlphaFold2. AI tedy pomáhá enormě zrychlovat výzkum a technologický pokrok.

Nelze opomenout, že Nobelovu cenu za fyziku dostali minulý týden Geoffrey Hinton a John Hopfield za svoji multioborovou práci na základech neuronových sítí a strojového učení. Hinton, který už dříve obdržel Turingovu cenu, patří posledních několik let mezi nejvýznamnější akademiky varující před možnou hrozbou, kterou pokročilá AI pro lidstvo představuje. O obou oceněních mluví Stanislav Fort v podcastu Respektu (47 min).

Na EA foru probíhal tématický týden diskuzí o utrpení zvířat a o globální chudobě. Uvedu jen dva články za všechny. První obhajuje a rozvíjí autorovu pozici, že v současnosti je lepší přispět mezní peníze na utrpení zvířat než na pomoc lidem v extrémní chudbě.
Z druhého tábora je článek představující několik argumentů, proč naopak práci na utrpení zvířat deprioritizovat. Většina bodů, se kterými do velké míry souzním, se týká pochyb o naší schopnosti s tímto problémem reálně něco dělat.

PROGRAMY A WORKSHOPY

  • Příležitost ke stáži v Incident and Emergency Preparedness Centre v rámci Mezinárodní agentury pro atomovou energii (IAEA) ve Vídni. Stáž je zaměřená na připravenost a reakci na nouzové situace. (DEADLINE 29. 10.)
  • Vídeňské centrum pro odzbrojení a nešíření (VCDNP) hledá uchazeče a uchazečky s nedávným nebo probíhajícím magisterským studiem v přírodních nebo příslušných společenských vědách na stáž v délce až šesti měsíců zaměřenou na výzkum a dialog o jaderném odzbrojení a nešíření jaderných zbraní. S možností měsíčního stipendia. (DEADLINE 17. 11.)
  • Program Health Security na Johns Hopkins University, který je spojen s Center for Health Security, přijímá přihlášky do doktorského programu v oblasti bezpečnosti zdraví. (DEADLINE 1. 12.)
  • Global Challenges pořádá třídenní workshop ve dnech 6.–⁠⁠⁠⁠⁠⁠9. prosince zaměřený na studenty či studentky, kteří se chtějí vážně zabývat tématy bezpečnosti AI a biosecurity a také kariérními možnostmi v těchto oblastech. Workshop se koná v Oxfordu a účast je zdarma, přičemž je k dispozici podpora na cestovní náklady.  (DEADLINE 27. 11.)
  • AI Winter Season v EA Hotelu nabízí coliving/coworking pro odborníky v AI safety v Blackpoolu, UK. Akce trvá do konce ledna 2025 a poskytuje plně zajištěné ubytování na principu „zaplať, co můžeš“. 

Dobrovolnické pozice

  • AISafety.com hledá remote dobrovolníky a dobrovolnice na podporu různých projektů zaměřených na bezpečnost AI. Pozice jsou otevřeny pro všechny úrovně dovedností.
  • AI Standars Lab nabízí možnost zapojení s minimálním časovým závazkem (2–5 hodin týdně) prostřednictvím recenze a komentování existujících příspěvků ke standardům, na jejichž vývoji laboratoř pracuje. 
  • Dobrovolnická pozice podpory výzkumu – Reducing the risk of Great Power War
  • ALLFED zveřejnil novou databázi obsahující řadu výzkumných projektů, se kterými mohou potenciální dobrovolníci a dobrovolnice pomoci. Dobrovolničení pro ALLFED často vede k vědeckému článku, je to tedy skvělá příležitost, jak obohatit svůj životopis ještě před koncem studia. Z Česka pro ně dobrovolničilo již několik lidí, pro více informací můžete napsat na [email protected]. 

Konference EAG

80,000 Hours výrazně rozšířil svůj poradenský program a pokud přemýšlíte o pozici s dopadem, velmi velmi vám doporučujeme se přihlásit. 

PRACOVNÍ PŘÍLEŽITOSTI V ZAHRANIČÍ A VZDÁLENĚ

AI safety

  • AI Governance Taskforce nabízí výzkumnou pozici v oblasti AI bezpečnosti, podzim 2024, s rozsahem 10 hodin týdně po dobu 6 týdnů. Práce na vysokoprofilovém projektu s vedením mentora. Možnost ovlivnit výzkumné otázky. Přihlášky jsou hodnoceny průběžně, projekt začne brzy po výběru kandidátů v říjnu.
  • Mithril Security – pařížský startup specializující se na kybernetickou bezpečnost nabízí následující pozice:
    • Juniorní odborník na bezpečnou architekturu AI inference serveru. Požadované znalosti: kryptografie, bezpečnost OS, Kubernetes, Terraform. 
    • Hardware security engineer
    • Frontier Model Forum hledá Operations Managera pro podporu činností v oblasti bezpečnosti AI, který bude zodpovědný za řízení každodenních operací, finanční management, HR funkce, event planning a další administrativní podporu.
  • Safe AI Forum (SAIF) hledá provozního manažera nebo Operations associate se zaměřením na finanční řízení, nábor, produkci akcí a zlepšování procesů.
  • GovAI hledá Talent Systems Specialist, který bude spravovat a zlepšovat jejich náborové procesy. (DEADLINE 3. 11.)
  • CeSIA hledá analytika pro správu AI, který se bude podílet na analýze politiky a vývoji doporučení v oblasti AI před nadcházejícím mezinárodním summitem a implementací pravidel EU AI Act.
  • PauseAI nabízí pozici Organizing Director.
  • Epoch AI nabízí kontraktorské pozice Senior Mathematical Problem Creator, kteří by vytvářeli originální a náročné matematické problémy pro nový standard v řešení problémů umělou inteligencí. 
  • Interface (evropský think tank zaměřený na digitální technologie a správu umělé inteligence, jehož cílem je poskytovat tvůrcům a politikům nestranné odborné znalosti) nabízí pozici studentského asistenta, který by podpořil výzkum a vývoj politik v oblasti zodpovědného využívání umělé inteligence. (DEADLINE 1. 11.)
  • Anthropic nabízí pozice:
  • AI safety Institute v rámci britského ministerstva pro vědu nabízí nové pozice.
  • LASR Labs nabízí pozici programového manažera.

Biosecurity

  • Google DeepMind hledá výzkumníka v oblasti biosecurity, který by využíval umělou inteligenci pro biologické aplikace, hodnotil potenciální biorizika, vyvíjel strategie pro jejich zmírnění a spolupracoval s širší komunitou v oblasti biosecurity. Požaduje se doktorát v biologickém oboru.

Animal welfare

  • Good Food Institute Europe hledá vzdáleného pracovníka pro zapojení dárců, který by posílil filantropickou podporu své mise zaměřené na transformaci výroby masa a řešení globálních výzev. 
  • The Good Food Institute hledá systémového a datového analytika pro Salesforce v Evropě. (DEADLINE 13. 11.)

Ostatní

Financování / soutěže

  • International Center for Future Generations hledá návrhy na vývoj metodologie pro hodnocení rizik spojených s uměle vytvořenými patogeny v souvislosti se záměrným nebo neúmyslným uvolněním. Tento projekt se zaměřuje na řešení bio-bezpečnostních výzev vyplývajících z rychlého rozvoje technologií v oblasti umělé inteligence a syntetické biologie.
  • Development Innovation Ventures (DIV) je program USAID, který poskytuje granty na financování inovativních řešení pro těžké vývojové výzvy zaměřující se na důkazy o efektivitě a nákladovosti.
  • AWS hledá návrhy pro výzkum zaměřený na využití strojového učení v oblasti kybernetické bezpečnosti. (DEADLINE 6. 11.)
  • Centre for Global Development hledá výzkumné návrhy v oblasti omezení otravy olovem. (DEADLINE 16. 12.)

Open Philanthropy poptává grantové přihlášky v následujících oblastech:

Fundraisujeme!

Pokud si myslíte, že vám spolek přináší nějakou hodnotu nebo vám pomohl v minulosti, budeme rádi za příspěvek na infrastrukturu pro ty, kdo chtějí mít pozitivní dopad. Ve spolku historicky nevybíráme členské poplatky, ale pokud chcete, můžete nám přispět libovolnou částkou (doporučená částka je 500 Kč) jednorázově nebo pravidelně jako roční příspěvek.

Pokud se chcete dozvědět více o současných projektech spolku, doporučujeme tento článek. K dispozici je také článek o základech efektivního darování zde.

ZORGANIZUJ SI SÁM

Chybí vám nějaký specifický formát událostí nebo specifické téma? Rádi bychom vás podpořili v uspořádání něčeho svého, podle vlastního vkusu. Můžete například zorganizovat jeden z pravidelných měsíčních meetupů. Připravili jsme manuál s náměty, co se dá udělat, a šablonu s checklistem, pokud jste již rozhodnutí, co zorganizovat. Rádi vám s čímkoliv pomůžeme. Kontaktujte Vojtu ohledně konzultací tématu, formy a ohledně prostorů v Praze a Honzu Votavu ohledně prostorů v Brně. Případně stačí vyplnit tento dotazník. Pokud jste z jiného města, EA zdroje, na něž naleznete odkaz v manuálu, radí, jak vybrat prostory i pokud okolo ještě existující komunitu nemáte. Budeme rádi, když se najde parta EAs i v jiných městech!

Komunikační skupiny na WhatsAppu, Signalu a Telegramu

Abychom vám usnadnili přehled o dění ve Spolku a neunikla vám žádná zajímavá akce či příležitost (a že jich je celá řada), rozhodli jsme se založit skupiny na WhatsAppu, Signalu a Telegramu. V těchto kanálech se budou každé pondělí (podobně jako na Slacku) objevovat důležitá oznámení. Nebude je možné komentovat, aby vám nechodilo příliš nevyžádaných zpráv. Do skupin se můžete přidat zde:

Dobrým způsobem, jak být v obraze, je také přidat si spolkový kalendář akcí!

Na závěr ještě dva užitečné odkazy:

STÁLE OTEVŘENÉ PROGRAMY A WORKSHOPY Z MINULÝCH NEWSLETTERŮ

  • The Cosmos Fellowship hledá uchazeče s „potenciálem pro špičkovou odbornou znalost AI a hluboký filozofický vhled“, kteří budou pracovat ve spolupráci s Human-Centered AI Lab na Univerzitě v Oxfordu (nebo v jiných hostitelských institucích) na nezávislých projektech s možností využít mentorství. Jedná se o sponzorovaný fellowship. (DEADLINE 1. 12.)
  • European Network for AI Safety (ENAIS) a členové EA Belgium hledají spolupracovníky na založení AI safety Brussels.
  • Nová verze úvodního kurzu Animal Advocacy Careers je určena pro ty, kteří chtějí nastartovat kariéru v oblasti obhajoby práv zvířat.
  • Gergő Gáspár z EA Hungary napsal článek na EA foru o iniciativě zaměřené na vytvoření centra pro bezpečnost AI v Bruselu, s cílem podpořit výzkum a politickou práci. Pokud máte relevantní odborné znalosti a zájem se zapojit, jste zváni k podání přihlášky a podpoře tohoto projektu.
  • Ambitious Impact (dříve Charity Entrepreneurship) právě otevřel přihlášky na několik programů, které mohou zásadně ovlivnit vaši kariéru:
    • Charity Entrepreneurship Incubation Program vás připraví na založení neziskové organizace s vysokým dopadem.
    • Founding to Give Program vás naučí, jak založit ziskový podnik s cílem darovat velké sumy peněz na charitu. 
    • Research Training Program pomáhá rozvíjet výzkumné dovednosti pro dosažení pozitivního dopadu.
  • CHAI nabízí Research Fellowship – momentálně zavřené přihlašování, ale mělo by se otevřít během podzimu 2024
  • Rethink Wellbeing otevírá přihlášky do svého programu, jehož cílem je zvýšit vaši psychickou odolnost a produktivitu spolu s komunitou podobně smýšlejících lidí. Probíhá od začátku léta.
  • Mid-Career Biodefense Bootcamp Fellowship s předními odborníky biosecurity a policy v této oblasti. Remote + 3denní workshop ve Washingtonu.
  • Justin Shovelain hledá výzkumníka v oblasti strategie a implementace AI governance. Podle popisu se jedná o vstupní pozici v oboru AI safety. Minimálně byste měli znát obsah semináře o AI safety; Tallinn, Estonsko. 

STÁLE OTEVŘENÉ PRACOVNÍ PŘÍLEŽITOSTI V ZAHRANIČÍ A VZDÁLENĚ

AI safety

  • METR (dříve ARC Evals) nabízí několik pozic:
    • Head of Operations
    • Machine Learning Research Engineer/Scientist
    • Senior Machine Learning Research Engineer/Scientist
    • Task Bounty
    • Také mají otevřený formulář Expression of interest.
  • Future of Life Institute nabízí následující pozice, kromě toho má také otevřený formulář na Rolling Applications:
  • Constellation nabízí několik operations pozic v Berkeley, Kalifornii
    • Program Manager
  • Le Centre pour la Sécurité de l’IA (CeSIA) (nezisková organizace se sídlem v Paříži, která si klade za cíl podporovat odpovědný rozvoj umělé inteligence prostřednictvím advokacie, výzkumu a vývoje a podpory aktérů v ekosystému umělé inteligence)  nabízí dvě pozice v Paříži:
    • Research Engineer, Technical Project Manager, Benchmarks for the Evaluation of LLM Safeguards
    • Head of Policy
  • AI safety Institute v rámci britského ministerstva pro vědu nabízí pozice v oblasti AI safety
    • Research Scientist / Research Engineer – General Application
    • Evals Technical Programme Manager & Strategy Lead
    • Cyber Security Researcher 
    • Research Scientist – Safety Cases
    • Research Scientist / Research Engineer – Narrow AI Tools for Bio-Chem
    • Research Scientist / Research Engineer – Cyber Misuse 
    • Research Scientist / Research Engineer – Safeguards, Controls, & Mitigations
    • Research Scientist / Research Engineer – Autonomous Systems
    • Senior Prompt Engineer
    • Senior Software Engineer
  • Elicit nabízí pozici Machine Learning Engineer, Frontend Engineer, Senior Software Engineer
  • Centre for the Governance of AI nabízí následující pozice:
    • Research Fellow
    • Research Scholar (General)
    • Také mají otevřený formulář Expression of interest na pozici Research Assistant.
    • Executive Assistant to the Director
  • FAR AI – operations, komunikace, inženýrství, výzkumný pracovník a další pozice (remote/Berkeley, průběžné přihlašování), také mají otevřený formulář Expression of interest na pozici Research Engineer.
  • Anthropic hledá výzkumníky na pozice v AI safety. Pozice jsou převážně v USA, ale nabízejí i několik remote pozic nebo pozice v Londýně.
  • Charity Entrepreneurship – Director of Outreach (průběžné přihlášky)
  • METR (dříve ARC Evals) hledá náročné úkoly pro agenty LLM. Jsou vítány příspěvky s nápadem na úkol, specifikaci a implementaci (s odměnou ve výši 20 $, 200 $ a 2000–4000 $, respektive až 4000 $). V případě předložení zajímavých úkolů můžou nabídnout plný úvazek. Nedávno byl na toto téma hackathon, kterého se zúčastnilo i několik lidí z ČR a dotáhli svůj nápad až k implementaci. 
  • Sage hledá člověka na programování a design “visual explainers“ pokroku a rizik umělé inteligence. 
  • Cambridge Boston Alignment Initiative (CBAI) nabízí pozici Operations Associate (MIT AI Alignment).

Globální zdraví

Biosecuriy

  • Zde je databáze pracovních pozic na začátku kariéry pro budování dovedností souvisejících s biologickou bezpečností.
  • Convergent Research hledá Head of Sequencing/Senior Scientist. Convergent Research se zabývá výzkumem v pandemické připravenosti, lokace je New York. 

Forecasting

  • Forecasting Research Institute nabízí několik pozic z různých oblastí.
    • Part-Time Research Assistant
    • Part-Time Content Editor
    • Data Analyst
    • Research Analyst
    • Chief of Staff

Animal welfare

  • V databázi Tälist můžete najít pracovní pozice v oblasti alternativních proteinů.

Ostatní

  • GiveWell nabízí pozici Senior Accountant.
  • Don Efficace nabízí pozici Research Program Manager.
  • The Nuclear Threat Initiative nabízí pozice:
    • Program Officer/Senior Program Officer, Nuclear Materials Security (NMS)
    • Senior Program Officer/Director, Global Biological Policy and Programs (NTI | bio), Focus: Biotech Governance
  • Sage hledá člověka na navrhování, budování, rozvíjení a hodnocení jejich forecastingových nástrojů. 

Stále otevřené příležitosti Financování / soutěže z minulých newsletterů