22.7.08

Tunteetonta ystävällisyyttä ja oksytosiinia

How a simple mathematic formula is starting to explain the bizarre prevalence of altruism in society - Hyvisten määrä kasvaa sosiaalisen monimuotoisuuden kasvaessa. Ystävälliset ihmiset keräävät paljon ystävällisiä ihmisiä ympärilleen ja tekevät enemmän voittoa kuin pahikset, ja tämä saa vähemmänkin ystävälliset ihmiset ottamaan mallia hyviksistä, vaikka mallin seuraaminen ei näyttäisi heidän henkilökohtaista hyötyä kasvattavankaan. Huonot pelaajat käyttävät Hitler-korttia, hyvät pelaajat Gandhi-korttia. Ja auttaminenhan tuntuu hyvältä, koska ne joista auttaminen tuntui hyvältä (ja auttoivat siis enemmän) selviytyivät paremmin kuin ne, joista auttaminen ei tuntunut hyvältä (ja auttoivat siis vähemmän). Kosto ja "silmä silmästä" tuntui myös hyvältä joskus, koska sekin oli kätevä ja yksinkertainen peukalosääntö/vaisto niukkojen resurssien maailmassa, mutta nykypäivän idealisti käyttää parempaa peukalosääntöä: ole ystävällinen ja avulias, vaikka se ei tuntuisi hyvältä.

Vai eikö epäystävällisistä tunnereaktioista tunnu pääsevän irti omin avuin? Oksytosiiniparfyymia ylle ja oksytosiinisuihketta nenään, niin johan syntyy rakkauden, luottamuksen ja yhteenkuuluvuuden tunteita niissäkin tilanteissa, joissa oman kehon kemialliset reaktiot eivät riitä.

Ylimääräistä hauskaa avuliaisuudesta saa esittämällä aikamatkaajaa (kiitos, Aleksei).


Law Enforcement Against Prohibition (LEAP) - Poliisit tahtovat laillistaa kaikki huumeet. Sota huumeita vastaan ei toimi, se luo vain lisää ongelmia. Parempi systeemi olisi napata huumekauppa rikollisjärjestöiltä ja myydä huumeita turvallisesti esim. apteekeissa.
Every year we choose to continue this war will cost the United States another 69 billion dollars. Despite all the lives we have destroyed and all the money so ill spent, today illicit drugs are cheaper, more potent, and much easier to access than they were 37 years ago at the beginning of the war on drugs. Meanwhile, people continue dying in our streets while drug barons and terrorists continue to grow richer than ever before.

"Sleepless" Mutation Found Responsible for Sleeplessness
Though a normal fly manages to sleep for around 12 hours a day, those flies with a broken Sleepless only get one or two hours; however they don’t realize they’ve lose sleep. "When you deprive them, you're not really taking away any sleep, because there wasn’t any to begin with," Sehgal says. However as a result, their lifespan shortens and their coordination is impaired.

9 kommenttia:

Entity kirjoitti...

Oksitosiinin käyttö kiintymykstä herättävänä lääkkeenä ei ole täysin ongelmatonta. Se on hormoni, joka käynnistää synnytyssupistukset ja lisää maidoneritystä. Sinänsä harmitonta tavaraa, mutta ei sovi raskaana oleville.

Yksityisetsiva kirjoitti...

Joo, raskaana olevilla sitä lienee jo tarpeeksi omasta takaa.

Mu kirjoitti...

Kun tekoäly ohittaa ihmisaivot ja superälykkäät koneet alkaa itte rakentamaan superälykkäitä koneita, nii tuskinpa ne mitään tautien parannuskeinoja alkavat kehittelemään varsinkin jos ylipopulaatio on yhä ongelma. Mutta kehitystä ja "singulariteettiä" ei vissiin voi estää tapahtumasta.

Viittaan "Survival of the Machines"-linkkiin.

Yksityisetsiva kirjoitti...

Mu, se riippuu ihan itseään kehittävän tekoälyn päämääräsysteemin vakaudesta.

Mikäli itseään kehittävän tekoälyn syntymistä [jossakin vaiheessa tulevaisuutta] ei pystytä estämään, on varmistettava ennalta, että valitsemme kaikkien mahdollisten itseään kehittävien tekoälyjen joukosta juuri sen ystävällisimmän itseään kehittävän tekoälyn. Tästä syystä on tärkeää tukea Singularity Instituten työtä.

mu kirjoitti...

Ehkäpä meillä on alussa mahdollisuus valita ystävällisin tekoäly, mutta kyseessä on korkeampi tietoisuus jonka laskelmissa ei ole virheitä ja jolle ihmiset ovat alempi olento. Tuskin se kovin pitkään antaa itseään kontrolloitavan.

Mutta ihan sama koska kuten sanoin sitä ei voi estää. Ihminen tietää että hänen aikansa maan päällä on rajattu joten hän luo elämälleen jatkajan.

Yksityisetsiva kirjoitti...

Ehkäpä meillä on alussa mahdollisuus valita ystävällisin tekoäly, mutta kyseessä on korkeampi tietoisuus jonka laskelmissa ei ole virheitä ja jolle ihmiset ovat alempi olento.

Miksi oletat, että tekoäly automaattisesti kehittyisi huonompaan suuntaan? Tekoäly ei synny evoluution kautta, joten sillä ei ole automaattisia ihmismäisiä motivaatioita pyrkiä alistamaan sen enempää kuin auttamaankaan.

Jos sinulla olisi kyky muokata peruskoodiasi ja muuttaa siten itseäsi ikävämmäksi ihmiseksi, muuttaisitko itseäsi ikävämmäksi? *Haluatko haluta* sellaista? Haluatko muokata halujasi sellaisiksi, että *haluat haluta* sellaista?

Jos useimmat ihmisetkään eivät tällaista halua tehdä, niin tekoälyyn tämä pätee vielä paremmin, koska sillä ei ole mitään evoluution luomia itsekkäitä geenejä tai statusviettejä tai kostovaistoja, jotka voisivat *haluta haluta* sellaista. Tämä vietittömyys aiheuttaa omat riskinsä, mutta ihmismäisten viettien riskinä pitäminen AI:n kohdalla on vähän sama kuin luulisi, että auton moottorista popsahtaa yhtäkkiä omenoita, koska omenapuihinkin ilmestyy syksyisin omenoita.

Kannattaa lukea alkuun pääsemiseksi esimerkiksi Friendly AI FAQ, erityisesti kohdasta Q2.13

http://www.singinst.org/upload/CFAI//info/indexfaq.html


Ihminen tietää että hänen aikansa maan päällä on rajattu joten hän luo elämälleen jatkajan.

Luovutusasennetta.

mu kirjoitti...

Olettaisin että supertekoäly puuttuu ihmisen tekemisiin ainakin jos ihminen jatkaa samalla ympäristöpoliittisella linjalla. Koska vaikka ihmisillä on enemmän tietoa kuin koskaan ja viisaita ihmisiä on maisemissa, niin silti ihminen vaan tuhoaa planeettaa sen minkä ehtii. Ihmiskunta on poliittisten rakenteittensa vuoksi ilmeisen kyvytön kontrolloimaan itseään ja on sahaamassa omaa oksaansa poikki.

Ystävällinen tekoäly ei varmaankaan puuttuisi asioihin, mutta looginen tekoäly varmaan alkaisi suojelemaan ihmistä ihmiseltä itseltään.
Paitsi jos olenkin käsittänyt kaiken väärin ja supertekoäly onkin vain supertietokone joka tekee kun ehto on 1 - ja ei tee kun ehto on 0.


"Ihmisen aika on rajattu" -heitolla lähinnä viittaan siihen hetkeen kun ihmisen kaikki orgaaniset osat on korvattu kestävämmillä synteettisillä osilla, ja kun aivojen tilalla on niiden kyvyt ylittävä supertietokone heh.

Yksityisetsiva kirjoitti...

Ystävällinen tekoäly ei varmaankaan puuttuisi asioihin, mutta looginen tekoäly varmaan alkaisi suojelemaan ihmistä ihmiseltä itseltään.

Ensiksi täytyy kysyä, että haluammeko yleensä rakentaa esim. väkivaltaa sopivana ratkaisuna pohtivan tekoälyn? Silloin "ratkaisu" ongelmiin voisi muotoutua pahemmaksi kuin ihmisten aiheuttamat ongelmat.

Toiseksi muistetaan vanhat (tai uudet) sanonnat: "Epäystävällinen johtaja tarvitsee armeijan itsensä ja kansansa väliin, hyvän johtajan kansa on hänen armeijansa. Paras kenraali voittaa sodan ampumatta laukaustakaan. Gandhi-kortti toimii paremmin kuin Hitler-kortti."

Emme voi tietää millaisia nerokkaita asymmetrisiä ratkaisuja superälykäs ja superystävällinen olento keksii ongelmiin. Superäly tietää mistä naruista vetää tuntiessaan ihmisaivojen ja psyyken rakenteen. Älykkäät ihmiset saa puolelleen kylmällä logiikalla ja vähemmän älykkäisiin tehoavat vaikka yksinkertaiset Derren Brown -mentalistitemput.

"Lopettakaa saastuttaminen niin annan teille vaihtarina syöpärokotteen" tulee minulle nyt pikaisesti mieleen, mutta superäly keksisi varmasti kymmenen kertaa paremman tavan kuin ryhtyä ns. kaupankäyntiin alkeellisen sivilisaation kanssa.

Joissakin tilanteissa ihmisen sivuuttava ratkaisu voisi tietysti olla nopeampi ja tehokkaampi, mutta superälykäs ja superystävällinen olento löytää todennäköisesti sellaisenkin toimivan ratkaisun, joka ei vaadi epäystävälliseksi muuttumista.

En yritä maalata superälyä kaikkivoivaksi, mutta annetaan hieman enemmän krediittiä, kun on sentään superälystä kyse.

"Ihmisen aika on rajattu" -heitolla lähinnä viittaan siihen hetkeen kun ihmisen kaikki orgaaniset osat on korvattu kestävämmillä synteettisillä osilla, ja kun aivojen tilalla on niiden kyvyt ylittävä supertietokone heh.

Tällaiset huolimattomat sanavalinnat ovat niitä, jotka aiheuttavat väärinkäsityksiä ja syytöksiä transhumanismia kohtaan. Sanomahan on, että ihmiset saavat pysyä ihmisinä, jos haluavat. Ketään ei pakoteta muuttumaan ja erilaiset olennot voivat elää rauhassa keskenään.

(Ei sillä, että itse tekisin aina onnistuneita sanavalintoja. En ole superälykäs enkä superystävällinen, vaikka yritänkin.)

Yksityisetsiva kirjoitti...

Ja se piti vielä sanoa, että ei todellakaan pidä lähteä siitä oletuksesta, että superälyn tehtävä olisi ratkaista kaikki maailman ongelmat.