World-Café konference: Kontrola, manipulace, koordinace

Díky technologiím a automatizaci nabývají pojmy kontrola, manipulace či koordinace nových významů.

Chtěli bychom Vám nabídnout prostor se vzájemně inspirovat a nasdílet si způsoby, jakými přemýšlíte o daných pojmech z pohledu různých oborů a pod vlivem různých zkušeností. Sdílení bude probíhat formou world café konference.

Co je World Café?

Během konference absolvujete pět intenzivních kol 30 minutových diskuzí, každé zaměřené na nějaké téma. Tento moderovaný formát je navržen pro přesný počet účastníků, vybraných tak, aby zajistili bohatost perspektiv a zkušeností. Odnést si můžete vhledy a životní zkušenosti jak od ostatních účastníků, tak našich moderátorů.

Přihlašovat se můžete zde.

Témata jednotlivých diskuzních stolů budou upřesněna, předběžně to mohou být následující:

• Strukturální rizika – Může AI hýbat politickými, sociálními a ekonomickými strukturami tak, že vytvoří tlak na decision-makery, že i ti kompetentní s dobrými úmysly zvolí nákladné nebo riskantní možnosti? (Game-teoreticý pohled na jadernou strategii, cybersecurity, monopoly, eroze soukromí a přesun pracovních sil)
• Manipulace a klamavost AI – Lžím se často daří v oblasti politické i byznysové, kampaňové sliby nejsou plněny a některé firmy obcházejí externí evaluace. Jak mohou takové praktiky využít AI systémy, které již nyní vykazují emergentní schopnost klamat (viz CICERO)? Jak poznat, zda už není AI systém schopný sledovat cíle, které vedou k instrumentálně racionálním strategiím jako je hromadit moc a zdroje (např. Peníze a výpočetní sílu)?
• Goodhart’s Law – Goodhartův zákon říká, že jakmile se stane metrika cílem, přestane být dobrou metrikou, čili pokud si stanovíme jeden konkrétní cíl, lidé budou mít tendenci optimalizovat na tento cíl bez ohledu na důsledky. Jaké jsou varianty tohoto zákona? Jak je to relevantní pro nové technologie jako např. Reinforcement learning?
• Koordinace a důvěra –  Proč tribalismus a segregace vedou k horším důsledkům než strategie založené na kordinaci? Jaké mechanismy mohou vést ke snížení nebo zvýšení důvěry a koordinace ve společnosti? Jakou to celé má aplikovatelnost v řízení státu?