Jestli nás něco vyhubí, tak technologie – možná už za sto let, varují vědci

Londýn – Lidstvo před sebou má možná posledních sto let existence. Podle Institutu budoucnosti lidstva Oxfordské univerzity nás neohrožují ani tak pandemie, přírodní katastrofy, asteroidy nebo jaderná válka, ale technologický pokrok. Ten již předčil naše schopnosti kontrolovat možné následky a rovná se prý nebezpečné zbrani v rukou dítěte.

Experti ve své studii s názvem Existenciální riziko jako celosvětová priorita uvádějí, že politici se realitě vyhynutí celé lidské rasy musí vážně věnovat. BBC v této souvislosti připomíná, že loni bylo publikováno více odborného materiálu o jízdě na snowboardu než o problematice vyhynutí lidstva.

Mezinárodní tým vědců, matematiků a filozofů z jmenovaného institutu řeší technologické hrozby, kterým možná brzy bude muset lidstvo čelit. Futurolog Nick Bostrom, který institut vede, se domnívá, že před sebou můžeme mít poslední století života lidstva. Podle Bostroma můžeme být klidní, pokud jde o pandemie či přírodní katastrofy. Ty poslední tečku v jeho historii neučiní, ačkoli mohou způsobit kolosální ztráty na životech. Nick Bostrom se domnívá, že šance tyto katastrofy přežít jsou na naší straně, neboť jsme již přečkali tisíce let nemocí, hladomorů, záplav, zemětřesení, predátorů či přírodních změn. Nebezpečím pro nás v rámci jednoho století není zřejmě ani dopad asteroidu, neboť takové riziko je „mimořádně malé“. Také doposud bezprecedentní světové válečné konflikty ve 20. století nebo epidemie španělské chřipky růst populace nezastavily. Případná jaderná válka by sice přinesla děsivou destrukci, ale dostatek lidí pro pokračování lidského rodu by ji jistě přežil.

Podle Bostroma nicméně lidstvo dosáhlo nového druhu technologické éry, která naši budoucnost může ohrozit jako doposud nic předtím. Tvrdí, že technologický pokrok již předčil naše schopnosti kontrolovat možné následky, což přirovnal k nebezpečné zbrani v rukou dítěte. Experimenty v oblastech syntetické biologie, nanotechnologie či umělé inteligence rychle spějí do nechtěné a nepředvídatelné oblasti. Největší výzvou budoucích vlád podle něj bude kontrola a zabránění zneužití této vědy.

Nick Bostrom
Nick Bostrom

Obavy plynou také z toho, jak umělá inteligence či inteligentní stroje zareagují na vnější svět. Počítačem řízená inteligence může být mocným nástrojem v průmyslu, medicíně, zemědělství či ekonomice, zároveň ale může být zcela lhostejná k jakýmkoli vedlejším škodám.

Sean O'Heigeartaigh, který v institutu pracuje jako genetik, to přirovnává k algoritmům používaným v automatizovaném burzovním obchodování. Tyto matematické příkazy mohou mít ničivé důsledky pro skutečnou ekonomiku a skutečné lidi. „Je velmi nepravděpodobné, že by (umělá inteligence) chtěla škodit,“ řekl O'Heigeartaigh. Dodal ale, že vždy existuje riziko nezamýšlené posloupnosti událostí, kdy něco začne škodit poté, co je převedeno do jiného prostředí.

Americký expert na superinteligenci strojů Daniel Dewey, který dříve pracoval pro společnost Google, hovoří o „explozi inteligence“, kdy se rostoucí moc počítačů stává méně předvídatelná a kontrolovatelná. „S touto technologií můžete činit věci s efektem řetězové reakce, takže s velmi málo zdroji v počátku můžete uskutečnit projekty, které mohou zasáhnout každého na tomto světě,“ řekl o umělé inteligenci, biotechnologii a nanotechnologii.