Rizika umělé inteligence

Očekává se, že v příštích několika desetiletích dojde v oblasti umělé inteligence k tak výraznému pokroku, že stroje budou schopny vykonávat řadu činností – ne-li všechny – lépe než lidé. Tak vyspělá technologie může znamenat velký přínos a pomoci vyřešit v současnosti neřešitelné globální problémy. Zároveň by však mohla představovat vážná rizika, vzniklá ať už náhodně (například pokud nedokážeme najít technická řešení problémů spojených s bezpečností systémů AI), nebo záměrně (třeba pokud systémy AI vystupňují geopolitické konflikty). Domníváme se, že na snížení těchto rizik je potřeba výrazněji zapracovat.

Některá rizika plynoucí z pokročilé AI by mohla být existenční – tj. mohla by způsobit vyhynutí lidstva, případně umožňovat pokračování lidské existence pouze v trvale dystopických podmínkách. Na otázku, jak lze tuto rychle se blížící, přelomovou technologii bezpečně rozvíjet a integrovat do naší společnosti, zatím neexistuje uspokojivá odpověď. Hledání takové odpovědi představuje velmi zanedbanou a pravděpodobně řešitelnou oblast, na níž podle našich odhadů po celém světě přímo pracuje pouze asi 400 lidí. Tím pádem je klidně možné, že katastrofa vyplývající z AI je v současnosti nejpalčivějším problémem, který by měl svět řešit – a že lidé, kteří k tomu mají předpoklady, udělají nejlépe, investují-li své úsilí právě do této oblasti.

Smysluplná práce na tomto problému může mít podobu technického výzkumu tvorby bezpečných systémů AI, strategického výzkumu konkrétních rizik, která by AI mohla představovat, či politického šetření způsobů, jakými by společnosti a vlády mohly tato rizika zmírnit. Pokud se podaří takové hodnotné politické strategie vytvořit, bude zapotřebí lidí, kteří je budou zavádět a realizovat. Mnoho příležitostí k pozitivnímu dopadu se pak nabízí i v doplňujících rolích, jaké představují například provozní manažeři, novináři, filantropové a další.

Prioritizace podle webu 80,000 Hours:  Doporučená oblast – nejvyšší priorita. Podle 80,000 Hours jde o jeden z nejpalčivějších problémů světa.

Hodnocení důležitosti, zanedbanosti a řešitelnosti problému podle webu 80,000 Hours:

Důležitost

Umělá inteligence bude mít nejrůznější dopady a zajisté má potenciál vykonat mnoho dobrého. Nás však znepokojuje především možnost extrémně špatných důsledků AI, zejména existenční katastrofy. Na základě cizích odhadů, které vycházejí z různých metod, celkově odhadujeme – ač jsme si tímto číslem velmi nejistí – že pravděpodobnost existenční katastrofy způsobené umělou inteligencí v příštích 100 letech je přibližně 10 %. Tento odhad se může s dalším výzkumem výrazně změnit: podle některých odborníků na bezpečnost AI je to jen 0,5 %, podle jiných zase mnohem více než 50 %. My ani jednu možnost nevylučujeme. Celkově však zastáváme stanovisko, že vývoj umělé inteligence představuje pro dlouhodobý rozkvět lidstva větší hrozbu než jakýkoli jiný problém, o kterém víme.

Zanedbanost

V roce 2020 bylo na snižování katastrofických rizik spojených s AI vynaloženo přibližně 50 milionů dolarů – zato do rozvoje schopností AI se investovaly miliardy dolarů. Ačkoliv odborníci na AI projevují v souvislosti s bezpečností AI stále větší obavy a zájem, na snižování pravděpodobnosti existenční katastrofy spojené s AI podle našich odhadů přímo pracuje nadále jen asi 400 lidí (s 90% intervalem spolehlivosti v rozmezí od 200 do 1000). Z nich se asi tři čtvrtiny věnují technickému výzkumu bezpečnosti AI a zbytek se zaměřuje na výzkum strategií (a dalšího řízení) a zvyšování povědomí o tomto problému.

Řešitelnost

Výrazně přispět k prevenci katastrofy vyplývající z AI bude zřejmě obtížné, avšak existuje mnoho možných směrů výzkumu. Jde o velmi mladou oblast. Celý problém považujeme za středně řešitelný, ačkoliv je třeba přiznat vysokou míru nejistoty – opět zde narážíme na skutečnost, že odhady řešitelnosti bezpečnosti AI se velmi liší.

Konkrétní mechanismy, jak se může pokročilá AI vymknout kontrole, popisuje tento článek na našem blogu: Mechanismy existenčních rizik z AI.

Tento text je upravený překlad z webu 80,000 Hours: https://80000hours.org/problem-profiles/artificial-intelligence/.