Hogyan fogják az AGI-k befolyásolni a világot? A terület legtöbb kutatója szerint, ha egyszer feltalálják őket, nem lesz lehetséges „feltalálatlanná” tenni őket, visszazárni a szellemet a palackba. Csak az eszköz és előnyeinek egyetemes, bolygószintű feladása tudná megakadályozni, hogy az AGI-kat használják, bevessék, és mélyen befolyásolják a világot. Úgy vélik, hogy már csak az üzleti előnyök is olyan drámaiak lesznek, hogy elképzelhetetlen, hogy a vállalatok ne használnák ki optimalizálási és problémamegoldó képességeik felsőbbrendűségét.
Mivel a nyílt forráskódú AGI-k jobban fognak teljesíteni, mint a tulajdonosi rendszerek, elérhetőségük el fog terjedni, és előnyeik a lehető legszélesebb csoporthoz fognak eljutni, amely képes kihasználni őket.
Hasonlóan ahhoz, ahogy az elektronikai ipar keresztlicencelési megállapodásokon keresztül terjeszti egy-egy csoport találmányának előnyeit, amíg azt általánosan el nem fogadják, ami ugródeszkát jelent a következő generációs megoldásokhoz, az AGI-k el fogják terjeszteni az innovációt az üzleti modellekben, a társadalmi szerveződésben, és hatással lesznek az egyének életére, mindent átalakítva maguk körül világszerte.
A lassú felemelkedésnek nevezett gondolkodási iskola ezt a folyamatot, amelyet az intelligenciarobbanás táplál, évtizedekben írja le.
Gyors felemelkedés
A gyors felemelkedés iskolája azt mondja, hogy lefekszel aludni, és amikor felébredsz, a körülötted lévő világ felismerhetetlenné válik.
Sok minden, amit ebben a könyvben tárgyalunk, a tudományos-fantasztikus történetek alapvető eleme. Némelyik a hitetlenség felfüggesztéséből profitál az olvasó részéről, és vannak feltételezések, gyakran explicit módon arról, hogyan fog végbemenni a technológiai fejlődés, és mi lehetséges valóban elméletileg vagy gyakorlati szinten.
A gyors felemelkedés víziója, ahogy fent leírtuk, bármilyen konkrét formát is öltene, egy olyan alapvető átalakulásról, amely az egész világot felöleli, hogy órák alatt radikálisan megváltoztassa, határozottan azok birodalmába tartozik, amelyek megterhelik a képzeletet.
Az AGI-k képessége arra, hogy erőforrásokat gyűjtsenek céljaikhoz, és innovatív megoldásaik átalakító ereje bizonyosan példa nélküli lesz. Milyen gyorsan kezd majd egy önfejlesztő AGI olyan tudást használni, amely csak számára hozzáférhető?
Az intelligencia skálái
Korábban, amikor egy adott cél 100%-ának önkényességét írtuk le, a téma a DNS és a biológia volt. De valószínűleg világos, hogy az emberi szintű intelligencia, amelyet egy bizonyos ponton az AGI-k problémamegoldó képességei fognak mutatni, hasonlóan önkényes.
Az önfejlesztés intelligenciarobbanása kevés figyelmet fog fordítani a feltételezett 100-as IQ értékekre (definíció szerint bármely embercsoport átlaga), 140-re, amely felett valakit zseninek tekintenek, vagy 1000-re. Nehéz lesz hagyományos módon mérni az AGI-k intelligenciáját, ami bizonyos problémák megoldásának sebességén alapul, nemcsak a matematikában, hanem a verbális készségekben is. A sebesség, a robusztusság, a rugalmasság és a kreativitás lesznek azok a kritériumok, amelyekkel ezeket az új típusú intelligenciákat értékelik. Feltételezve, hogy új skálákat dolgoznak ki az IQ mérésére, amelyek magukban foglalják az AGI-k specifikus képességeit, lehetséges, hogy egy emberi 100-hoz képest ezeken az új skálákon az övék ezres vagy milliós nagyságrendű lehet.
Nem könnyű elképzelni, milyen módon nyilvánulna meg egy 1 000 000-s IQ-val rendelkező AGI. Hogyan döntene arról, hogy interakcióba lépjen az emberekkel? A hangyákkal való hasznos interakció képtelenségünk analógiája, és pozitív, de korlátozott interakcióink korlátai például a kutyákkal, jelentőségteljes, bár riasztó lehet.
Irányíthatatlan-e a szuperintelligencia?