Auringon täytyy paistaa

Yaaay! We're doomed! - Anders Sandberg tiivistää Global Catastrophic Risks -konferenssin satoa kymmeneen pointtiin.

1. Ennen riskit tulivat luonnosta, nyt ne tulevat ihmisistä. Olemme vähentäneet luontoriskejä teknologialla, mutta nostaneet teknologiariskejä.
2. Top-riskit ovat bioaseet, nanoaseet, superäly ja muut isot pamaukset, joiden todennäköisyys on nyt melko pieni, mutta nousee jatkuvasti kehityksen kanssa.
3. Todennäköisyyksiä on hankala arvioida oikein. Asteroidin iskeytyminen ei kenties vaikuta todennäköiseltä seuraavien vuosikymmenien aikana, mutta jos ajattelee kymmenien tuhansien vuosien aikajanaa, se iskee melko varmasti jossakin kohdassa.
4. "Paksu häntä" tarkoittaa, että pienikin katastrofi (esim. sota) voi kasvaa suureksi ja lopussa tulee enemmän uhreja kuin alussa ja keskivaiheilla yhteensä. Ja yhdessä suuressa sodassa tulee enemmän uhreja kuin kaikissa sinne tänne ripotelluissa pienissä sodassa yhteensä. Mutta varoja ei tietenkään ole järkevää sijoittaa tänä päivänä auringon elämän pidentämiseksi, koska se muuttuu punaiseksi jättiläiseksi todennäköisesti vasta viiden miljardin vuoden kuluttua (tosin sijoittaminen ihmisen paranteluun tai tekoälyyn on pitkällä tähtäimellä ajateltuna sijoittamista myös auringon elämän pidentämiseen, tottakai).
5. Katastrofisuojien ja varmuusvarastojen rakentaminen on järkevää, mutta suuria ruoka- ja lääkevarastoja ei haluta seisottaa ja päivittää turhaan, jos resursseilla voisi auttaa nykyihmisiä. Löytyy kuitenkin varmasti ihmisiä, jotka olisivat valmiita lähtemään ennakkopakolaisiksi ja elämään ikään kuin katastrofi olisi tapahtunut, suljettuina puoleksi vuodeksi kerrallaan vanhaan kaivokseen. Kuuasema tai Mars-tukikohta olisivat myös tällaisia varmuuskopioita, joissa ihmiset olisivat kuin vapaaehtoisina pakolaisleirillä.
6. Katastrofin jälkeinen globaali kaaos saattaa tappaa ihmisiä enemmän kuin itse katastrofi (tähän olisi yksi vastaus outkvisitio).
7. Kognitiiviset harhat, ajatteluvirheet ja antiikkiset peukalosäännöt voivat olla harmittomia arkielämässä, mutta katastrofeja pohtiessa ne voivat olla tappavia (esimerkkinä se, että jos ajattelee itseään kehittävän tekoälyn ryhtyvän automaattisesti alistamaan ihmisiä "koska ihminen tekisi niin", silloin keskittyy väärään riskiin ja oikeat riskit jäävät huomaamatta).
8. Kulttuurilliset ja yhteiskunnalliset voimat ovat järkevän valmistautumisen esteitä. Uskovaiset tuhlaavat suuria määriä rahaa olemattomiin riskeihin valmistautumiseen ja ottavat sijoitusneuvoja astrologeilta. Riskejä käytetään keppihevosina oman poliittisen ideologian tai arvojen ajamiseen sen sijaan, että niitä pyrittäisiin estämään järkevästi. Uskovaisten maailmankuva vuotaa järkevien ihmisten maailmaan ja uskonnottomatkin ihmiset erehtyvät sisäistämään uskonnollisten ihmisten teknologiaa kohtaan tuntemat asenteet (ja sanaston) ja alkavat puhua "tekoälyjumalasta", "robottikultista" ja "rapture of the nerdsistä", asettaen itsensä huomaamattaan samalle irrationaaliselle linjalle uskovaisten kanssa.
9. Riskiluokkien pohtiminen riippuu pohtijan näkemyksistä. Suuret ja epätodennäköiset katastrofit vetoavat niihin, jotka lähestyvät riskejä ideologisesta näkökulmasta, kun taas teknokraatit haluavat keskittyä selkeärajaisiin ja konkreettisiin riskeihin.
10. Tämä aikakausi saattaa oikeasti olla tärkein aikakausi tehdä suuria riskejä koskevia suuria päätöksiä. Katastrofeista ei jää ketään jäljelle oppimaan virheistä, joten proaktiivinen asenne on välttämätön.

Tervehdys kaikille uusille lukijoille. Tässä blogissa seurataan ihmislajin olemassaoloa uhkaavia eksistentiaaliriskejä yhtä pakkomielteisesti kuin juorulehdistö seuraa Hollywoodin julkkisten liikkeitä.