Zářijový newsletter 2024

| Posted on |

Milí členové a příznivci efektivního altruismu v Česku,

na začátku září proběhla akce zaměřená na studenty a studentky, v jejímž rámci vznikla nová discordová skupina. Je určena nejen studentům zapojeným do naší komunity, ale také všem dalším zájemcům o myšlenky efektivního altruismu, racionality a morální filozofie. Byli bychom moc rádi, pokud byste ji doporučili lidem ve vašem okolí, kteří by ji mohli ocenit. Odkaz na přihlášení naleznete níže v tomto newsletteru.

Jak můžete vidět v našem kalendáři, podzim bude opravdu nabitý. Vracíme se trochu ke kořenům spolku, který začínal jako LessWrong skupina, a začínáme pořádat sérii racionalistických setkání každé dva týdny. Kromě toho bych rád vyzdvihl zejména konferenci o biosecurity, která se uskuteční na konci listopadu. 

A nezapomeňte také, že je otevřeno přihlašování na naše semináře! Také ještě máme volná místa na World-Café.

A to nejlepší na závěr: Peter Singer bude v Praze! Dejte si do kalendářů pátek 27. září 15:00, hlavní budova AV ČR!

Těšíme se na vás!

Vojtěch Brynych

[email protected] | Calendly

Pozvánky na akce

Peter Singer v Praze

⏰ Pátek, 27. září v 15:00

📍Hlavní budova AV ČR, Národní 3, 117 20 Staré Město, Praha, sál č. 206

Peter Singer, světově uznávaný filosof a jeden ze zakladatelů hnutí efektivního altruismu, navštíví Prahu a představí své myšlenky o efektivním altruismu a etiky.

Semináře

Přihlašování na naše semináře je otevřené:

Přihlašování je otevřené do konce září, nebo do zaplnění kapacity. Semináře začínají od 7. 10. Budeme rádi, pokud je zmíníte svým známým nebo nasdílíte na sociálních sítích:

Nová skupina na Discordu pro studenty

Na základě setkání: „Také přemýšlíte o..? (Čaj a diskuze pro studenty)“ vznikla discordová skupina, která je určena studentům a studentkám zapojeným do naší komunity, ale i všem dalším zájemcům o myšlenky efektivního altruismu, racionality či morální filozofie. Pokud vás tato témata zajímají, připojit se můžete zde, stejně tak ji můžete doporučit dále.

Michal Keda považuje za zajímavé

Ze světové filantropie

Nejdůležitější zpráva, které jste si během prázdnin pravděpodobně nevšimli*y, možná je, že Warren Buffet po své smrti přenechá majetek svým detěm, a ne Bill & Melinda Gates Foundation. Článek se mi nelíbí. Je příliš konfrontační a v rozporu s touto citací z Dobré úmysly nestačí: „The point of this isn’t to lay blame, or to claim that some ways of doing good are ,unworthy’. Rather, it’s simply to work out which ways of doing good are best, and to do those first. This project is crucial because, as we’ll discuss, the best ways of doing good are very good indeed.“

Nicméně 100 miliard dolarů nepůjde ověřené instituci s dobrými výsledky, zejména v boji proti nemocem postihujícím stovky milionů lidí. 100 miliard dolarů dokáže mít obrovský dopad na svět, tak uvidíme, jak s takovým majetkem dokáží Buffetovi potomci naložit. Budou muset vše utratit do deseti let od jeho smrti.

EA v běžném životě

Jednoduchá forma advokacie může být nechávat si “platit“ darem na efektivní charitu. Ať už vám kamarád má poslat dorovnání útraty v čajovně nebo třeba na bazaru prodáváte knížku, můžete místo peněz na svůj účet nabídnout, že vám bude stačit nějaký doklad o platbě na dobré účely. Já osobně jsem to před přečtením článku párkrát udělal a myslím, že to vždy mělo relativně dobrý ohlas. Možná to teď začnu dělat víc. 

Alternativní proteiny

Rostlinné náhražky a syntetické maso před pár lety prošly investiční bublinou. Vyvinutí chutově, senzoricky a cenově konkureční náhražky by zcela jistě mělo ohromný dopad na morální katastrofu, kterou jsou velkochovy. Lewis Bollard v krátkém shrnutí popisuje aktuální situaci na trhu, výzkumu a svoje očekávání budoucnosti. Pro zvířata bohužel cestu za alternativními proteiny rámuje jako maraton, ne sprint.

AI  🤖 koutek

Eliezer Yudkowsky se před rokem a půl u Lexe Fridmana dost neúspěšně snažil vysvětlit, v čem může být nebezpečná určitá forma agentní obecné umělé inteligence, která umí přemýšlet stejně dobře, ale mnohonásobně rychlej, než lidští géniové typu Alberta Einsteina. Desetiminutové animované video to naopak vysvětluje velmi dobře.

Největší novinkou posledních dní je zveřejnění modelu o1 firmou OpenAI. Hlavním tahákem je schopnost uvažovat a řešit problémy daleko lépe než dosud existující modely. Problémem tiskových zpráv ale vždy je, že jim nelze věřit. Firmy se pochopitelně snaží svůj produkt ukázat v co nejlepším světle a OpenAI má historii manipulativních statistik během představování nového produktu. Youtuber AI Explained vytvořil 30 minut dlouhé a informacemi nabité video, na které jsem osobně velmi čekal. Kromě toho, že shrnuje celý technický paper, tak má i vlastní neveřejný benchmark se záludnými otázkami, na kterých jsem byl zvědavý, jak si o1 povede.
Pořád zdaleka není tak dobrý jako průměrný člověk, ale velký kvalitativní skok oproti veškeré konkurenci nastal.

Programy a workshopy

  • The Cosmos Fellowship hledá uchazeče s „potenciálem pro špičkovou odbornou znalost AI a hluboký filozofický vhled“, kteří budou pracovat ve spolupráci s Human-Centered AI Lab na Univerzitě v Oxfordu (nebo v jiných hostitelských institucích) na nezávislých projektech s možností využít mentorství. Jedná se o sponzorovaný fellowship. Deadline 1. 12.
  • Program ML Alignment & Theory Scholars (MATS) je vzdělávací seminář a nezávislý výzkumný program. Přihlášky na zimu 2023–24 jsou již otevřeny. DEADLINE 6. 10.
  • Berkeley AI Safety Initiative for Students (BASIS) otevírá přihlášky do BASIS Projects Fall 2024, nabízejí projekty s mentory v oblasti ML Safety research. DEADLINE 23. 9.
  • Future Impact Group (FIG) otevřelo přihlášky do výzkumného felloshipu, jehož cílem je nastartovat ranou kariéru nebo usnadnit přechod do oblasti AI politiky či technického filozofického výzkumu v pozdější fázi. DEADLINE 28. 9.
  • European Network for AI Safety (ENAIS) a členové EA Belgium hledají spolupracovníky na založení AI safety Brussels.
  • Nová verze úvodního kurzu Animal Advocacy Careers je určena pro ty, kteří chtějí nastartovat kariéru v oblasti obhajoby práv zvířat.

Dobrovolnické pozice

  • AISafety.com hledá remote dobrovolníky na podporu různých projektů zaměřených na bezpečnost AI. Pozice jsou otevřeny pro všechny úrovně dovedností.
  • AI Standars Lab nabízí možnost zapojení s minimálním časovým závazkem (2–5 hodin týdně) prostřednictvím recenze a komentování existujících příspěvků ke standardům, na jejichž vývoji laboratoř pracuje. 
  • Dobrovolnická pozice podpory výzkumu – Reducing the risk of Great Power War
  • ALLFED zveřejnil novou databázi obsahující řadu výzkumných projektů, se kterými mohou potenciální dobrovolníci pomoci. Dobrovolničení pro Allfed často vede k vědeckému článku, je to tedy skvělá příležitost, jak obohatit svůj životopis ještě před koncem studia. Z Česka pro ně dobrovolničilo již několik lidí, pro více informací můžete napsat na [email protected]. 

Konference EAG

80,000 Hours výrazně rozšířil svůj poradenský program a pokud přemýšlíte o pozici s dopadem, velmi velmi vám doporučujeme se přihlásit. 

AI safety

Globální zdraví

Animal welfare

Ostatní

  • ARIA hledá Programme Director, který bude tři roky utvářet a vést projekty na základě vlastní vědecké nebo technické vize. DEADLINE 23. 9.

Financování / soutěže

  • International Center for Future Generations hledá návrhy na vývoj metodologie pro hodnocení rizik spojených s uměle vytvořenými patogeny v souvislosti se záměrným nebo neúmyslným uvolněním. Tento projekt se zaměřuje na řešení bio-bezpečnostních výzev vyplývajících z rychlého rozvoje technologií v oblasti umělé inteligence a syntetické biologie.

Open Philanthropy poptává grantové přihlášky v následujících oblastech:

Fundraisujeme!

Pokud si myslíte, že vám spolek přináší nějakou hodnotu nebo vám pomohl v minulosti, budeme rádi za příspěvek na infrastrukturu pro ty, kdo chtějí mít pozitivní dopad. Ve spolku historicky nevybíráme členské poplatky, ale pokud chcete, můžete nám přispět libovolnou částkou (doporučená částka je 500 Kč) jednorázově nebo pravidelně jako roční příspěvek.

Pokud se chcete dozvědět více o současných projektech spolku, doporučujeme tento článek. K dispozici je také článek o základech efektivního darování zde.

ZORGANIZUJ SI SÁM

Chybí vám nějaký specifický formát událostí nebo specifické téma? Rádi bychom vás podpořili v uspořádání něčeho svého, podle vlastního vkusu. Můžete například zorganizovat jeden z pravidelných měsíčních meetupů. Připravili jsme manuál s náměty, co se dá udělat, a šablonu s checklistem, pokud jste již rozhodnutí, co zorganizovat. Rádi vám s čímkoliv pomůžeme. Kontaktujte Vojtu ohledně konzultací tématu, formy a ohledně prostorů v Praze a Honzu Votavu ohledně prostorů v Brně. Případně stačí vyplnit tento dotazník. Pokud jste z jiného města, EA zdroje, na něž naleznete odkaz v manuálu, radí, jak vybrat prostory i pokud okolo ještě existující komunitu nemáte. Budeme rádi, když se najde parta EAs i v jiných městech!

Komunikační skupiny na WhatsAppu, Signalu a Telegramu

Abychom vám usnadnili přehled o dění ve Spolku a neunikla vám žádná zajímavá akce či příležitost (a že jich je celá řada), rozhodli jsme se založit skupiny na WhatsAppu, Signalu a Telegramu. V těchto kanálech se budou každé pondělí (podobně jako na Slacku) objevovat důležitá oznámení. Nebude je možné komentovat, aby vám nechodilo příliš nevyžádaných zpráv. Do skupin se můžete přidat zde:

Dobrým způsobem, jak být v obraze, je také přidat si spolkový kalendář akcí!

Na závěr ještě dva užitečné odkazy:

STÁLE OTEVŘENÉ PROGRAMY A WORKSHOPY Z MINULÝCH NEWSLETTERŮ

  • Talos Fellowship je 8týdenní online program zaměřený na politiku EU v oblasti AI, po kterém následuje 7denní summit v Bruselu a 4-6měsíční stáž v evropském think tanku. Stipendium zahrnuje individuální koučink a finanční podporu pro rozjezd kariéry v oblasti technologické politiky. DEADLINE 13. 10. 
    • Talos Network je organizace zaměřená na rozvoj talentů pro kariéru v oblasti politiky AI v Evropě s cílem snížit rizika spojená s pokročilou AI.
  • Gergő Gáspár z EA Hungary napsal článek na EA foru o iniciativě zaměřené na vytvoření centra pro bezpečnost AI v Bruselu, s cílem podpořit výzkum a politickou práci. Pokud máte relevantní odborné znalosti a zájem se zapojit, jste zváni k podání přihlášky a podpoře tohoto projektu.
  • Ambitious Impact (dříve Charity Entrepreneurship) právě otevřel přihlášky na několik programů, které mohou zásadně ovlivnit vaši kariéru:
    • Charity Entrepreneurship Incubation Program vás připraví na založení neziskové organizace s vysokým dopadem.
    • Founding to Give Program vás naučí, jak založit ziskový podnik s cílem darovat velké sumy peněz na charitu. 
    • Research Training Program pomáhá rozvíjet výzkumné dovednosti pro dosažení pozitivního dopadu.
  • Úřad OSN pro otázky odzbrojení v Ženevě nabízí neplacenou stáž zaměřenou na aktivity spojené s odzbrojením. Stážista bude pomáhat s přípravou oficiálních dokumentů, vedením záznamů a podporou různých konvencí, jako je Konference o odzbrojení a Úmluva o biologických zbraních. Stáž je na vstupní úrovni DEADLINE 27. 9.
  • Existential Risk Observatory nabízí Research internship – „How to pause AI“. DEADLINE 30. 9.
  • CHAI nabízí Research Fellowship – momentálně zavřené přihlašování, ale mělo by se otevřít během podzimu 2024
  • Rethink Wellbeing otevírá přihlášky do svého programu, jehož cílem je zvýšit vaši psychickou odolnost a produktivitu spolu s komunitou podobně smýšlejících lidí. Probíhá od začátku léta.
  • Mid-Career Biodefense Bootcamp Fellowship s předními odborníky biosecurity a policy v této oblasti. Remote + 3denní workshop ve Washingtonu.
  • Foresight Institute’s AI Safety Grant Program je otevřen pro přihlášky v oblastech neurotechnologických přístupů k bezpečnosti AI; bezpečnosti, kryptografii a doplňkových přístupů pro informační bezpečnost a bezpečných a prospěšných multipolárních scénářů AI. – DEADLINE 30. 9.
  • Justin Shovelain hledá výzkumníka v oblasti strategie a implementace AI governance. Podle popisu se jedná o vstupní pozici v oboru AI safety. Minimálně byste měli znát obsah semináře o AI safety; Tallinn, Estonsko. 

 

STÁLE OTEVŘENÉ PRACOVNÍ PŘÍLEŽITOSTI V ZAHRANIČÍ A VZDÁLENĚ

AI safety

  • METR (dříve ARC Evals) nabízí několik pozic:
    • Head of Operations
    • Machine Learning Research Engineer/Scientist
    • Senior Machine Learning Research Engineer/Scientist
    • Task Bounty
    • Také mají otevřený formulář Expression of interest.
  • Future of Life Institute nabízí následující pozice, kromě toho má také otevřený formulář na Rolling Applications:
  • Constellation nabízí několik operations pozic v Berkeley, Kalifornii
    • Program Manager
  • Le Centre pour la Sécurité de l’IA (CeSIA) (nezisková organizace se sídlem v Paříži, která si klade za cíl podporovat odpovědný rozvoj umělé inteligence prostřednictvím advokacie, výzkumu a vývoje a podpory aktérů v ekosystému umělé inteligence)  nabízí dvě pozice v Paříži:
    • Research Engineer, Technical Project Manager, Benchmarks for the Evaluation of LLM Safeguards
    • Head of Policy
  • AI safety Institute v rámci britského ministerstva pro vědu nabízí pozice v oblasti AI safety
    • Research Scientist / Research Engineer – General Application
    • Evals Technical Programme Manager & Strategy Lead
    • Cyber Security Researcher 
    • Research Scientist – Safety Cases
    • Research Scientist / Research Engineer – Narrow AI Tools for Bio-Chem
    • Research Scientist / Research Engineer – Cyber Misuse 
    • Research Scientist / Research Engineer – Safeguards, Controls, & Mitigations
    • Research Scientist / Research Engineer – Autonomous Systems
    • Senior Prompt Engineer
    • Senior Software Engineer
  • Elicit nabízí pozici Machine Learning Engineer, Frontend Engineer, Senior Software Engineer
  • Centre for the Governance of AI nabízí následující pozice:
    • Research Fellow
    • Research Scholar (General)
    • Také mají otevřený formulář Expression of interest na pozici Research Assistant.
    • Executive Assistant to the Director
  • FAR AI – operations, komunikace, inženýrství, výzkumný pracovník a další pozice (remote/Berkeley, průběžné přihlašování), také mají otevřený formulář Expression of interest na pozici Research Engineer.
  • Anthropic hledá výzkumníky na pozice v AI safety. Pozice jsou převážně v USA, ale nabízejí i několik remote pozic nebo pozice v Londýně.
  • Charity Entrepreneurship – Director of Outreach (průběžné přihlášky)
  • METR (dříve ARC Evals) hledá náročné úkoly pro agenty LLM. Jsou vítány příspěvky s nápadem na úkol, specifikaci a implementaci (s odměnou ve výši 20 $, 200 $ a 2000–4000 $, respektive až 4000 $). V případě předložení zajímavých úkolů můžou nabídnout plný úvazek. Nedávno byl na toto téma hackathon, kterého se zúčastnilo i několik lidí z ČR a dotáhli svůj nápad až k implementaci. 
  • Sage hledá člověka na programování a design “visual explainers“ pokroku a rizik umělé inteligence. 

Biosecuriy

  • Zde je databáze pracovních pozic na začátku kariéry pro budování dovedností souvisejících s biologickou bezpečností.
  • Convergent Research hledá Head of Sequencing/Senior Scientist. Convergent Research se zabývá výzkumem v pandemické připravenosti, lokace je New York. 

Forecasting

  • Forecasting Research Institute nabízí několik pozic z různých oblastí.
    • Part-Time Research Assistant
    • Part-Time Content Editor
    • Data Analyst
    • Research Analyst
    • Chief of Staff

Animal welfare

  • V databázi Tälist můžete najít pracovní pozice v oblasti alternativních proteinů.
  • Compassion in World Farming hledá manažera výzkumu pro jejich program zaměřený na vodní živočichy, který bude odpovědný za vývoj výzkumných zdrojů a řízení projektů. Pozice je k dispozici ve Francii, Nizozemsku, Itálii, Polsku a Spojeném království. DEADLINE 24. 9.
  • Animal Welfare Observatory nabízí remote pozici projektového koordinátora, který bude řídit a optimalizovat pracovní postupy projektů, zlepšovat procesy pomocí Asany a podporovat neustálé zlepšování v jejich iniciativách.

Ostatní

  • Amplify (nová organizace poskytující marketingovou podporu skupinám zaměřeným na efektivní altruismus.) hledá marketingového specialistu na 20-30 hodin týdně pro 6-10měsíční smlouvu. Práce zahrnuje optimalizaci reklam na sociálních médiích, komunikaci s týmem a vedení projektu. Práce je na dálku, DEADLINE 23. 9.
  • GiveWell nabízí pozici Senior Accountant
  • Don Efficace nabízí pozici Research Program Manager
  • The Nuclear Threat Initiative nabízí pozice:
    • Program Officer/Senior Program Officer, Nuclear Materials Security (NMS)
    • Senior Program Officer/Director, Global Biological Policy and Programs (NTI | bio), Focus: Biotech Governance
  • Sage hledá člověka na navrhování, budování, rozvíjení a hodnocení jejich forecastingových nástrojů. 
  • The Future of Life Foundation – Project Lead/Founder – Windfall Trust
  • Charity Entrepreneurship nabízí pozici Director of Outreach

Stále otevřené příležitosti Financování / soutěže z minulých newsletterů

 

Komunikační skupiny na WhatsAppu, Signalu a Telegramu

Abychom vám usnadnili přehled o dění ve Spolku a neunikla vám žádná zajímavá akce či příležitost (a že jich je celá řada), rozhodli jsme se založit skupiny na WhatsAppu, Signalu a Telegramu. V těchto kanálech se budou každé pondělí (podobně jako na Slacku) objevovat důležitá oznámení. Nebude je možné komentovat, aby vám nechodilo příliš nevyžádaných zpráv. Do skupin se můžete přidat zde:

Dobrým způsobem, jak být v obraze, je také přidat si spolkový kalendář akcí!

Na závěr ještě dva užitečné odkazy: