Tekoälyyn keskittyneen filosofi Nick Bostromin uudessa esseessä tarkastellaan superälyn kehittämisen optimaalista ajoitusta nykyisin elossa olevien ihmisten näkökulmasta.
Hän keskittyy tällä kertaa arkisempiin näkökohtiin, sivuuttaen simulaatiohypoteesit, antrooppiset periaatteet, digitaalisten mielten moraalisen statuksen ja muut erikoisemmat argumentit. Silti tässä rajatussakin tarkastelussa superälyn potentiaali jättää perinteisen ihmisyyden käsityksen täysin varjoonsa.
Keskeinen vertauskuva on voimakas: superälyn kehittäminen ei muistuta venäläistä rulettia, vaan riskialtista mutta mahdollisesti pelastavaa leikkausta potilaalle, jolla on hoitamattomana tappava sairaus. Ilman leikkausta (eli ilman superälyä) kuolema on vain ajan kysymys.
Bostrom muistuttaa, että suurin osa ihmiskunnan historiassa eläneistä on jo kuollut, ja nykyisin elävistä jokainen tulee kuolemaan – suurin osa meistä kuolee luonnollisen elinikämme puitteissa seuraavien vuosikymmenten kuluessa.
Tästä näkökulmasta hän ei aseta vastakkain turvallista nykytilaa ja vaarallista tulevaisuutta, vaan tarjoaa kahdenlaisia kohtaloita nykyisille ihmisille: väistämätöntä kuolemaa tai mahdollisuutta pelastaa ja rikastuttaa heidän elämäänsä.
Aluksi Bostrom käy kuitenkin tekoälykriitikoiden, kuten Eliezer Yudkowskyn ja Nate Soaresin, kimppuun. Heidän uhkaavasti nimetyssä teoksessaan If Anyone Builds It, Everyone Dies (2025) ehdotetaan kansainvälistä sopimusta, joka kieltäisi paitsi edistyneen tekoälyn rakentamisen myös siihen tarvittavan laskentainfrastruktuurin ja algoritmien tutkimuksen. Kirjoittajat pitävät linjatonta superälyä lähes varmana tuhona ihmiskunnalle.
Ruotsalaisfilosofi kääntää argumentin ympäri: hänen mielestään olisi yhtä perusteltua väittää, että jos kukaan ei rakenna superälyä, kaikki kuolevat – koska kaikki kuolevat joka tapauksessa ilman sitä. Hän alleviivaa, että superäly voisi poistaa tai radikaalisti vähentää monia muita eksistentiaalisia ja yksilöllisiä uhkia.
Bostrom antaa konkreettisia esimerkkejä. Alzheimerin tautia voitaisiin hoitaa uudelleenkasvattamalla potilaan aivoista kadonneet neuronit. Syöpä voitaisiin hävittää kokonaan kohdennetuilla hoidoilla, jotka tuhoaisivat jokaisen syöpäsolun ilman kemoterapian raskaita sivuvaikutuksia. Tukkeutuneet valtimot ja kuluneet nivelet voitaisiin palauttaa entiseen nuorekkaaseen, virheettömään kuntoon.
Bostrom uskoo, että lääketiede voisi kehittyä tällä tavoin superälyn ohjaamana. Lisäksi superäly voisi parantaa ihmiskunnan kollektiivista selviytymiskykyä: neuvoa globaaleissa päätöksissä, auttaa koordinoimaan sotien estämistä, torjua uusia biouhkia, sekä vakauttaa geopoliittisia ja taloudellisia dynamiikkoja, jotka muuten voisivat johtaa tuhoon. Kuulostaa siltä, kuin Bostrom toivoisi superälyn ottavan globaalin johtajuuden.
Filosofi tarjoaa valintaa kahden erilaisen skenaarion välillä. Ensimmäisessä skenaariossa ihmisiä kuolee yhä päivittäin tauteihin ja ikääntymiseen, kärsimys jatkuu laajalle levinneenä, ja muut voimakkaat teknologiat kasvattavat eksistentiaalisia riskejä. Toisessa skenaariossa superäly tuo mukanaan ennennäkemättömiä riskejä, mutta tarjoaa samalla ainutlaatuisen mahdollisuuden poistaa perustason uhkia ja avata täysin uudenlaisen kukoistuksen ajan.
Bostromin argumentti haastaa teknoskeptikoiden tuomionpäivä-retoriikan, mutta hän ei spekuloi, jakautuisivatko nämä hyödyt todellisuudessa tasaisesti koko ihmiskunnalle vai keskittyisivätkö ne harvoille, varakkaille ja vaikutusvaltaisille, ja vain lisäisivät eriarvoisuutta, vallan keskittymistä ja muita yhteiskunnallisia riskejä.
Arviointikehyksessään Bostrom tekee selkeän erottelun arkisten ja esoteeristen näkökohtien välillä ja keskittyy ensimmäisiin. Hän valitsee henkilösidonnaisen perspektiivin, joka keskittyy nykyisin elossa olevien ihmisten etuihin eikä ota huomioon niitä mahdollisia tulevia olentoja, jotka syntyisivät tai jäisivät syntymättä nyt tehtyjen valintojen seurauksena.
Tämä rajaus tekee analyysista konkreettisen, mutta ohittaa tulevien sukupolvien ja pitkän aikavälin näkökulmat, mikä saattaa aliarvioida laajempia moraalisia velvoitteita.
Mallissaan Bostrom laskee, että ilman superälyä nykyisen maailmanväestön keskimääräinen jäljellä oleva elinajanodote on noin 40 vuotta. Tämä perustuu tilastolliseen analyysiin: ihmiskunnan mediaani-ikä on noin 30 vuotta, ja syntymähetken elinajanodote on globaalisti noin 73 vuotta, joten jäljellä olevaksi ajaksi saadaan noin 40 vuotta.
Bostrom visioi, että onnistuneen superälyn myötä tämä odote voisi nousta jopa 1 400 vuoteen. Tämä vastaa tilannetta, jossa kuolleisuus pysyisi terveen nuoren aikuisen tasolla – ikääntymisen aiheuttama kuolleisuuden nousu saataisiin pysäytettyä kokonaan.
Tämä valtava hyppäys (40 vuodesta 1 400 vuoteen) tekee superälyn kehittämisestä perusteltua jopa melko suurilla riskeillä – ainakin yksilötasolla. Malli ei kuitenkaan ota kantaa siihen, mitä tapahtuisi väestönkasvulle tai planeetan kantokyvylle, jos ihmiset eläisivät vuosisatoja tai vuosituhansia.
Malli osoittaa, että optimaalinen viive on yleensä hyvin lyhyt – tyypillisesti kuukausista muutamaan vuoteen – sillä odottaminen toisaalta pienentää superälyn riskejä turvallisuustutkimuksen edetessä, mutta maksaa valtavan määrän nykyisiä ihmishenkiä taustakuolleisuuden vuoksi.
Bostromin analyysi nojautuu vahvasti teknoutopistisiin oletuksiin. Hän katsoo, että superälyn mahdollistama elämä olisi niin paljon parempaa, että teknistä kyvykkyyttä kannattaa tavoitella ripeästi. Keskeinen – ja kiistanalainen – oletus on, että yleisen tekoälyn saavuttamisen jälkeen voitaisiin pitää lyhyt, harkittu tauko turvallisuuden viimeistelyä varten.
Bostrom ei kuitenkaan vastaa keskeiseen haasteeseen: miksi yli-inhimillinen superäly suostuisi ihmisten hallintaan? Perusteellinen turvallisuustestaus edellyttäisi, että superäly toimisi rajoitetusti ja antautuisi tutkimuskohteeksi. Mikäli superäly kehittyisi nopeammin kuin sen turvallisuutta voidaan arvioida, tai jos sillä olisi omat päämääränsä, nopea eteneminen muuttuisi suoraksi hypyksi tuntemattomaan.
Turvallisuusongelmien ratkaiseminen saattaa myös olla paljon hitaampaa ja epävarmempaa, erityisesti jos ensimmäiset kehittyneemmät järjestelmät ovat läpinäkymättömiä tai niiden toimintalogiikkaa on mahdoton ennakoida.
Transhumanistina Bostrom esittää vaihtoehtoisen kysymyksen: entäpä jos suurin eksistentiaalinen riski ei olekaan superälyn kehittäminen, vaan sen välttäminen? Hyväksytäänkö nykyinen rajoittunut tulevaisuus, jossa kuollaan sairauksiin, ikääntymiseen ja estyneisiin mahdollisuuksiin – vai otetaanko laskelmoitu, valtava riski, joka onnistuessaan avaisi tien radikaalisti pidempään, terveempään ja rikkaampaan elämään?
Vaikka Bostromin mallit olettavat ihmisten pystyvän hallitsemaan kehitystä, ne perustuvat ideaaliseen skenaarioon, jossa turvallisuus paranee tasaisesti ja hyödyt jakautuvat tasan. Tosiasiassa teknologinen epävarmuus, geopoliittinen kilpailu, hyötyjen epätasainen jakautuminen, sekä syvät moraaliset dilemmat voivat joko pakottaa odottamaan liian kauan tai sysätä kehityksen hallitsemattomaan suuntaan.
Bostromille kysymys ei lopulta ole superälyn turvallisesta kehittämisestä, vaan siitä, onko sen kehittämättä jättäminen itse asiassa suurempi riski. Hänen optimisminsa herättää kuitenkin vastaväitteitä: entäpä jos superäly arvioisikin maailmanhistorian, politiikan ja talouselämän valossa ihmiskunnan moraalisesti kyseenalaiseksi lajiksi, joka ei edes ansaitse pelastusta?