Toto je volný neoficiální překlad článku „This Can’t Go On“ z blogu Cold Takes. Autor: Holden Karnofsky. Tento text začíná argumentem, že žijeme v pozoruhodném století, a to nejen v pozoruhodné éře. Předchozí části této série se zaměřovaly na zvláštní budoucnost, která by nás mohla jednou čekat (možná za 100 let, možná za 100 000 […]
Rubrika: Existenční rizika
Katastrofické pandemie
Vedle dalších globálních katastrofických biologických rizik, jako je bioterorismus nebo biologické zbraně, představují pro lidstvo zásadní existenční hrozbu pandemie. Čím rychleji postupuje biotechnologický pokrok, tím více se zvyšuje pravděpodobnost, že bude snazší vyrábět (ať už úmyslně, nebo náhodou) extrémně nebezpečné patogeny s potenciálně větší ničivou silou, než měl virus SARS-CoV-2, který způsobuje COVID-19. Na příští pandemii […]
Rizika umělé inteligence
Očekává se, že v příštích několika desetiletích dojde v oblasti umělé inteligence k tak výraznému pokroku, že stroje budou schopny vykonávat řadu činností – ne-li všechny – lépe než lidé. Tak vyspělá technologie může znamenat velký přínos a pomoci vyřešit v současnosti neřešitelné globální problémy. Zároveň by však mohla představovat vážná rizika, vzniklá ať už náhodně […]
Mechanismy existenčních rizik z AI
Umělá inteligence má potenciál stát se jednou z nejvíce transformativních technologií, jakou kdy lidstvo vynalezlo. V důležitosti se v budoucnu může vyrovnat přelomovým objevům, jako je vynález kola, průmyslová revoluce nebo objev ohně. Skutečně pokročilá AI nám může pomoci překonat nemoci, chudobu, stárnutí a mnoho problémů, se kterými se jako civilizace nebo jednotlivci potýkáme. Pokud […]