13.1.04

Luopumisen psykologia

Yhä uudelleen tuntuu tulevan esiin sellainen ajatus, että ihmiskunnan pitäisi pysäyttää teknologinen kehitys ja luopua siitä kokonaan. Tällainen ajatus ei vain yksinkertaisesti toimi.

Miksi se ei toimi?

Koska ihmiskunta ei voi luopua teknologisesta kehityksestä. “Ihmiskunta” ei voi päättää yhtenäisenä porukkana kertakaikkiaan yhtään mitään, koska olemme kaikki yksilöitä. Vaikka sinä päättäisit luopua kaikesta teknologiasta, naapurisi ei siitä luovu. Vaikka Suomi määräisi teknologisen kehityksen pysähtymään, se ei pysähtyisi – se saattaisi hidastua, mutta jatkuisi joka tapauksessa sekä Suomen rajojen sisäpuolella että vielä nopeammin ulkomailla.

Opettavainen tarina: vuonna 1636 Japani eristäytyi muista maista lähes täysin, minkä seurauksena se jäi kehityksestä pahasti jälkeen. Vuonna 1853 sen oli kuitenkin pakko avautua kehitykselle, kun amerikkalaiset sotalaivat tulivat Edon (nykyisen Tokion) rantamille. Höyrylaivat tulivat Japanilaisille sellaisena tulevaisuusshokkina, että he käsittivät joutuvansa kolonisoiduiksi alta aikayksikön, elleivät ryhtyisi kehittymään ja nopeasti. Romanttisen pysähtynyt Edo-kausi päättyi, kun todellisuus iski päin kasvoja.

Teknologiasta luopuminen on tunteisiin vetoava ajatus, koska ihmisen perusreaktio uhkaavaan vaaraan on juosta pää kolmantena jalkana karkuun. Jos ihmiselle kerrotaan, että uusi teknologia tuo mukanaan hienoja parannuksia elämään, mutta saattaa tuoda mukanaan myös uusia vaaroja, riski on heti liian suuri otettavaksi. Sellainen käsite kuin välttämätön riski on pelokkaalle ihmiselle täysin tuntematon. Välttämätön riski on kuitenkin välttämätön juuri siksi, ettei sitä voi välttää – kehitystä tulee joka tapauksessa tapahtumaan, ja jos se ei tapahdu meidän toimestamme, se tapahtuu naapureidemme toimesta. Ja meidän on kuitenkin jossain vaiheessa sopeuduttava naapureidemme kehitykseen.

Kuten Punaisen Kuningattaren Periaate sanoo: evoluutiosysteemin täytyy kehittyä jatkuvasti eteenpäin vain säilyttääkseen kelpoisuutensa suhteessa systeemeihin, joiden kanssa se kehittyy.


Luopumisen psykologiasta johtuen on hyvin epätodennäköistä, että luopumista kannattavat hyväksyvät tai tekevät suunnitelmia sellaisen mahdollisuuden varalle, että epäystävällinen tekoäly tullaan rakentamaan heistä huolimatta. Niinpä luopumisen kannattajat eivät todennäköisesti näe, kannattavatko he toiminnallaan epäystävällistä tekoälyä suhteessa ystävälliseen tekoälyyn, tai hidastavatko he ystävällisen tekoälyn rakentamista suhteessa laskentatehoon, tai hidastavatko he tekoälyä suhteessa nanoteknologiaan. Eivätkä he todennäköisesti edes välitä.
- Eliezer Yudkowsky, Creating Friendly AI: Policy implications

Ei kommentteja: