AI jako existenční riziko #dnyAI

Přijďte se dozvědět a prodiskutovat, proč někteří z nejvýznamnějších ML výzkumníků varují, že pokročilá AI může představovat existenční riziko pro naši civilizaci, zatímco jiní nevidí skoro žádná rizika.

Čeká nás blok krátkých přednášek a nasledných diskuzí. Přednáška vždy uvede téma a vysvětlí základní koncepty. Následná diskuze bude sloužit k hledání jádra potenciálního nesouhlasu a snaze vyjasnit si koncepty. V případě souhlasu bude diskuze naopak možnost, jak jít do tématu hlouběji.

18:00–18:15 Úvod a představení

18:15–18:30 Přednáška: AI alignment aneb jak chytře a hloupě AI systémy obchází zadání
Technická část večera. Představíme konkrétní způsoby, jakými současné systémy „obchází“ zadání. Jaké jsou základní techniky co s tím dělat.
18:30–19:00 Diskuze

19:00–19:15 Přednáška: Proč není konsenzus a jak se k tomu postavit?
Filozofická část večera. Čemu a proč věřit, prakticky na tématu existenčních AI rizik. Jací významní výzkumníci se bojí, že AI představuje existenční riziko? Proč to nejsou všichni? Co je racionální si myslet a dělat, pokud je tak mnoho v sázce, ale nevíme, jak dobré jsou argumenty jednotlivých stran?
19:15–19:45 Diskuze

19:45-20:00 Přednáška: Je AI existenční riziko?
Budou představeny další způsoby, jakými se AI může lidem vymknout z rukou a argumenty, proč tomu může být těžké zabránit.
20:00–20:45 Diskuze

20:45-21:00 oficiální závěr
21:00–00:00 neorganizovaná diskuze