tag:blogger.com,1999:blog-5942102.post7590972280571366732..comments2023-09-20T13:28:07.830+03:00Comments on Yksityisetsiva: Tunteetonta ystävällisyyttä ja oksytosiiniaYksityisetsivahttp://www.blogger.com/profile/13752074028161458708noreply@blogger.comBlogger9125tag:blogger.com,1999:blog-5942102.post-59608116953206643102008-07-27T13:39:00.000+03:002008-07-27T13:39:00.000+03:00Ja se piti vielä sanoa, että ei todellakaan pidä l...Ja se piti vielä sanoa, että ei todellakaan pidä lähteä siitä oletuksesta, että superälyn tehtävä olisi ratkaista kaikki maailman ongelmat.Yksityisetsivahttps://www.blogger.com/profile/13752074028161458708noreply@blogger.comtag:blogger.com,1999:blog-5942102.post-4438766014513706782008-07-27T13:18:00.000+03:002008-07-27T13:18:00.000+03:00Ystävällinen tekoäly ei varmaankaan puuttuisi asio...<I>Ystävällinen tekoäly ei varmaankaan puuttuisi asioihin, mutta looginen tekoäly varmaan alkaisi suojelemaan ihmistä ihmiseltä itseltään.</I><BR/><BR/>Ensiksi täytyy kysyä, että haluammeko yleensä rakentaa esim. väkivaltaa sopivana ratkaisuna pohtivan tekoälyn? Silloin "ratkaisu" ongelmiin voisi muotoutua pahemmaksi kuin ihmisten aiheuttamat ongelmat.<BR/><BR/>Toiseksi muistetaan vanhat (tai uudet) sanonnat: "Epäystävällinen johtaja tarvitsee armeijan itsensä ja kansansa väliin, hyvän johtajan kansa on hänen armeijansa. Paras kenraali voittaa sodan ampumatta laukaustakaan. Gandhi-kortti toimii paremmin kuin Hitler-kortti."<BR/><BR/>Emme voi tietää millaisia nerokkaita asymmetrisiä ratkaisuja superälykäs ja superystävällinen olento keksii ongelmiin. Superäly tietää mistä naruista vetää tuntiessaan ihmisaivojen ja psyyken rakenteen. Älykkäät ihmiset saa puolelleen kylmällä logiikalla ja vähemmän älykkäisiin tehoavat vaikka yksinkertaiset Derren Brown -mentalistitemput.<BR/><BR/>"Lopettakaa saastuttaminen niin annan teille vaihtarina syöpärokotteen" tulee minulle nyt pikaisesti mieleen, mutta superäly keksisi varmasti kymmenen kertaa paremman tavan kuin ryhtyä ns. kaupankäyntiin alkeellisen sivilisaation kanssa.<BR/><BR/>Joissakin tilanteissa ihmisen sivuuttava ratkaisu voisi tietysti olla nopeampi ja tehokkaampi, mutta superälykäs ja superystävällinen olento löytää todennäköisesti sellaisenkin toimivan ratkaisun, joka ei vaadi epäystävälliseksi muuttumista.<BR/><BR/>En yritä maalata superälyä kaikkivoivaksi, mutta annetaan hieman enemmän krediittiä, kun on sentään superälystä kyse.<BR/><BR/><I>"Ihmisen aika on rajattu" -heitolla lähinnä viittaan siihen hetkeen kun ihmisen kaikki orgaaniset osat on korvattu kestävämmillä synteettisillä osilla, ja kun aivojen tilalla on niiden kyvyt ylittävä supertietokone heh.</I><BR/><BR/>Tällaiset huolimattomat sanavalinnat ovat niitä, jotka aiheuttavat väärinkäsityksiä ja syytöksiä transhumanismia kohtaan. Sanomahan on, että ihmiset saavat pysyä ihmisinä, jos haluavat. Ketään ei pakoteta muuttumaan ja erilaiset olennot voivat elää rauhassa keskenään.<BR/><BR/>(Ei sillä, että itse tekisin aina onnistuneita sanavalintoja. En ole superälykäs enkä superystävällinen, vaikka yritänkin.)Yksityisetsivahttps://www.blogger.com/profile/13752074028161458708noreply@blogger.comtag:blogger.com,1999:blog-5942102.post-73582361032592081322008-07-26T15:49:00.000+03:002008-07-26T15:49:00.000+03:00Olettaisin että supertekoäly puuttuu ihmisen tekem...Olettaisin että supertekoäly puuttuu ihmisen tekemisiin ainakin jos ihminen jatkaa samalla ympäristöpoliittisella linjalla. Koska vaikka ihmisillä on enemmän tietoa kuin koskaan ja viisaita ihmisiä on maisemissa, niin silti ihminen vaan tuhoaa planeettaa sen minkä ehtii. Ihmiskunta on poliittisten rakenteittensa vuoksi ilmeisen kyvytön kontrolloimaan itseään ja on sahaamassa omaa oksaansa poikki. <BR/><BR/>Ystävällinen tekoäly ei varmaankaan puuttuisi asioihin, mutta looginen tekoäly varmaan alkaisi suojelemaan ihmistä ihmiseltä itseltään.<BR/>Paitsi jos olenkin käsittänyt kaiken väärin ja supertekoäly onkin vain supertietokone joka tekee kun ehto on 1 - ja ei tee kun ehto on 0.<BR/><BR/><BR/>"Ihmisen aika on rajattu" -heitolla lähinnä viittaan siihen hetkeen kun ihmisen kaikki orgaaniset osat on korvattu kestävämmillä synteettisillä osilla, ja kun aivojen tilalla on niiden kyvyt ylittävä supertietokone heh.Anonymousnoreply@blogger.comtag:blogger.com,1999:blog-5942102.post-77484539094941018392008-07-26T12:01:00.000+03:002008-07-26T12:01:00.000+03:00Ehkäpä meillä on alussa mahdollisuus valita ystävä...<I>Ehkäpä meillä on alussa mahdollisuus valita ystävällisin tekoäly, mutta kyseessä on korkeampi tietoisuus jonka laskelmissa ei ole virheitä ja jolle ihmiset ovat alempi olento.</I><BR/><BR/>Miksi oletat, että tekoäly automaattisesti kehittyisi huonompaan suuntaan? Tekoäly ei synny evoluution kautta, joten sillä ei ole automaattisia ihmismäisiä motivaatioita pyrkiä alistamaan sen enempää kuin auttamaankaan.<BR/><BR/>Jos sinulla olisi kyky muokata peruskoodiasi ja muuttaa siten itseäsi ikävämmäksi ihmiseksi, muuttaisitko itseäsi ikävämmäksi? *Haluatko haluta* sellaista? Haluatko muokata halujasi sellaisiksi, että *haluat haluta* sellaista?<BR/><BR/>Jos useimmat ihmisetkään eivät tällaista halua tehdä, niin tekoälyyn tämä pätee vielä paremmin, koska sillä ei ole mitään evoluution luomia itsekkäitä geenejä tai statusviettejä tai kostovaistoja, jotka voisivat *haluta haluta* sellaista. Tämä vietittömyys aiheuttaa omat riskinsä, mutta ihmismäisten viettien riskinä pitäminen AI:n kohdalla on vähän sama kuin luulisi, että auton moottorista popsahtaa yhtäkkiä omenoita, koska omenapuihinkin ilmestyy syksyisin omenoita.<BR/><BR/>Kannattaa lukea alkuun pääsemiseksi esimerkiksi Friendly AI FAQ, erityisesti kohdasta Q2.13<BR/><BR/>http://www.singinst.org/upload/CFAI//info/indexfaq.html<BR/><BR/><BR/><I>Ihminen tietää että hänen aikansa maan päällä on rajattu joten hän luo elämälleen jatkajan.</I><BR/><BR/>Luovutusasennetta.Yksityisetsivahttps://www.blogger.com/profile/13752074028161458708noreply@blogger.comtag:blogger.com,1999:blog-5942102.post-25926851192372137592008-07-26T03:08:00.000+03:002008-07-26T03:08:00.000+03:00Ehkäpä meillä on alussa mahdollisuus valita ystävä...Ehkäpä meillä on alussa mahdollisuus valita ystävällisin tekoäly, mutta kyseessä on korkeampi tietoisuus jonka laskelmissa ei ole virheitä ja jolle ihmiset ovat alempi olento. Tuskin se kovin pitkään antaa itseään kontrolloitavan.<BR/><BR/>Mutta ihan sama koska kuten sanoin sitä ei voi estää. Ihminen tietää että hänen aikansa maan päällä on rajattu joten hän luo elämälleen jatkajan.Anonymousnoreply@blogger.comtag:blogger.com,1999:blog-5942102.post-2127370517382181852008-07-25T19:44:00.000+03:002008-07-25T19:44:00.000+03:00Mu, se riippuu ihan itseään kehittävän tekoälyn pä...Mu, se riippuu ihan itseään kehittävän tekoälyn päämääräsysteemin vakaudesta.<BR/><BR/>Mikäli itseään kehittävän tekoälyn syntymistä [jossakin vaiheessa tulevaisuutta] ei pystytä estämään, on varmistettava ennalta, että valitsemme kaikkien mahdollisten itseään kehittävien tekoälyjen joukosta juuri sen ystävällisimmän itseään kehittävän tekoälyn. Tästä syystä on tärkeää tukea Singularity Instituten työtä.Yksityisetsivahttps://www.blogger.com/profile/13752074028161458708noreply@blogger.comtag:blogger.com,1999:blog-5942102.post-53707861697348901362008-07-25T18:47:00.000+03:002008-07-25T18:47:00.000+03:00Kun tekoäly ohittaa ihmisaivot ja superälykkäät ko...Kun tekoäly ohittaa ihmisaivot ja superälykkäät koneet alkaa itte rakentamaan superälykkäitä koneita, nii tuskinpa ne mitään tautien parannuskeinoja alkavat kehittelemään varsinkin jos ylipopulaatio on yhä ongelma. Mutta kehitystä ja "singulariteettiä" ei vissiin voi estää tapahtumasta. <BR/><BR/>Viittaan "Survival of the Machines"-linkkiin.Anonymousnoreply@blogger.comtag:blogger.com,1999:blog-5942102.post-3651420335565512892008-07-22T18:12:00.000+03:002008-07-22T18:12:00.000+03:00Joo, raskaana olevilla sitä lienee jo tarpeeksi om...Joo, raskaana olevilla sitä lienee jo tarpeeksi omasta takaa.Yksityisetsivahttps://www.blogger.com/profile/13752074028161458708noreply@blogger.comtag:blogger.com,1999:blog-5942102.post-28150395414888920452008-07-22T17:22:00.000+03:002008-07-22T17:22:00.000+03:00Oksitosiinin käyttö kiintymykstä herättävänä lääkk...Oksitosiinin käyttö kiintymykstä herättävänä lääkkeenä ei ole täysin ongelmatonta. Se on hormoni, joka käynnistää synnytyssupistukset ja lisää maidoneritystä. Sinänsä harmitonta tavaraa, mutta ei sovi raskaana oleville.Anonymousnoreply@blogger.com