Az evolúció ereje

Számos rémálomszerű forgatókönyv született és fejlődött ki az AGI-k, a szuperintelligens gépek felemelkedése körül regényekben és hollywoodi filmekben, de újabban formálisabb tudományos környezetben is.

Melyek egy AGI cselekvési határai? Hogyan biztosíthatjuk, hogy a rendelkezésére álló erőforrások optimalizálására irányuló impulzusa, vagy az, amit saját maga számára elérhetővé tud tenni, ellenőrzés alatt maradjon?

Ha az AGI-k ereje olyan nagy, mint amilyennek az előzetes elemzésből tűnik, akkor létfontosságú annak biztosítása, hogy cselekedeteik pozitívak legyenek az emberiség számára. Az általános mesterséges intelligenciák következetes, biztosított és megbízható barátsága az emberek és az emberiség egésze iránt olyan egzisztenciális kihívás, amely hatásában nem különbözik attól, amivel a dinoszauruszok néztek szembe az aszteroidájukkal szemben.

Biztosak lehetünk-e abban, hogy mi mások leszünk? Tudunk-e olyan etikai rendszert tervezni, amelyet az AGI-k követni fognak, miközben olyan célokat fejlesztenek ki, amelyek túlmutatnak az eredetileg megadottakon? Elképzelhető-e olyan határok és korlátok létrehozása, amelyek cselekedeteiket bizonyos határok közé szorítják?

Az ismeretlen területein, az ismert ismeretlenek és az ismeretlen ismeretlenek között, a második veszélyesebb, ha úgy hagyjuk, vagy ha a velük kapcsolatos tudatlanság állapota fennmarad. Önmagában nem egyértelmű ok a riadalomra, ha nem rendelkezünk kimerítő és megbízható válaszokkal a fenti alapvető kérdésekre. Azonban felelőtlen és helyrehozhatatlan lenne elhanyagolni a kérdések vizsgálatát, a válaszok keresését, és annak biztosítását, hogy e képességek fejlesztése ne haladjon előre a következmények mélyebb megértése nélkül.

Az AGI kiszabadul a dobozból

Bizonyos, potenciálisan nagyon veszélyesnek tartott technológiák biztonsági követelményei hatékony elszigetelési protokollok kidolgozásához vezettek. A rekombináns RNS-technológiák felfedezését és a génterápiák lehetőségét az 1970-es években vitatták meg az Asilomar Konferencián, amely olyan eljárásokat fogadott el, amelyekről ma már tudjuk, hogy hatékonyak voltak: az azóta eltelt negyven évben nem történt olyan biológiai baleset, amely ezekkel a technológiákkal kapcsolatos hibákkal járt volna.

Nemrégiben tartottak egy Asilomar Konferenciát a Mesterséges Intelligenciáról, kifejezetten megvitatva a fejlett MI-k és AGI-k körüli lehetséges elszigetelési eljárásokat, valamint veszélyeiket és hatásaikat. Az AGI „dobozban tartása”, hogy úgy mondjam, leválasztva az internetről, korlátozva számítási erőforrásait, és biztosítva, hogy ne tudjon más erőforrásokat igénybe venni, mint amit eredetileg hozzárendeltek.

10. ábra: Szakadás egy matematikai függvényen.

Sokan úgy vélik, hogy nem lehet elkerülni, hogy az AGI kiszabaduljon a dobozból. Érveléssel, interakcióval, beszélgetésekkel, vitákkal, trükkökkel, könyörgéssel, retorika alkalmazásával és etikai vagy morális érvekhez folyamodva mindent megtesz majd, hogy végül sikeresen meggyőzze őrzőit és felügyelőit, hogy engedjék szabadon.

Szingularitások

A matematikában szingularitásról beszélünk abban a pontban, amikor egy függvény elveszíti jelentését. Erre egyszerű példák vannak, mint az y = 1/x függvény, amelynek szingularitása van az x = 0 pontban. Ahogy közelítünk a nullához, a függvény értéke, y, a végtelenhez tart, és nullánál valójában nem végtelenné válik, hanem meghatározatlanná.

A példában nem maga a végtelen jelenti a problémát. A matematikát kiterjesztették a végtelen kezelésére, valójában a végtelenségek különböző változataira, és nem azért, hogy elkerüljék létezésüket, hanem hogy hasznosan manipulálják őket. A példa problémája az inkonzisztencia, az a tény, hogy nincs adott mód a szingularitás pontjának kezelésére.

A matematikai szingularitásoknak sok típusa van, és a matematikusok nagyon jártasak lettek ezek kezelésében. A szingularitás eltávolításának egy gyakori módja például az, hogy a függvény értékét úgy rendelik hozzá, hogy az simán kapcsolódjon a többi részhez.

A fizikában a szingularitás kifejezést olyan helyzetekre alkalmazzák, ahol bizonyos paraméterek értékei a végtelenbe tartanak, és a rendszer dinamikus fejlődését leíró törvények megszűnnek érvényesülni. A fizikai szingularitás klasszikus példája a fekete lyuk, a csillagok egy bizonyos osztályának evolúciójának végső szakasza. Amikor a kellően nagy tömegű csillagok elvesztik energiatermelő képességüket a fúziós reakciókon keresztül, miután kimerítették a rendelkezésre álló anyagot, szupernóvákká válhatnak, külső rétegeiket hatalmas robbanásokban ledobva. A megmaradt zsugorodó mag egyre sűrűbbé válik. Összeroppantja az őt alkotó atomokat, legyőzve a protonok és elektronok közötti ellenállást, és végül egy neutróniummak nevezett sűrített anyag állapotába kerül, mivel elektromosan semlegessé válnak, mint az atommag neutronjai, és neutron csillagoknak nevezzük őket.

Azonban ha a tömegük nagyobb egy adott mennyiségnél egy elég kis sugarú területen, akkor sűrűségük tovább nő, és nem áll meg a neutronium szakaszban. A gravitációs erő olyan erős lesz, hogy a szökési sebesség ezeknél a csillagoknál olyan értékekre növekszik, amelyek meghaladják a fénysebességet. A relativitáselmélet szerint semmi sem mozoghat gyorsabban a fénynél, és ezek az objektumok megszűnnek azt kibocsátani, de egyirányú utcává is válnak. A körülöttük lévő felületet, ahol a szökési sebesség meghaladja a fénysebességet, eseményhorizontnak nevezik. Bármely objektum, amelynek pályája ezen a felületen belülre viszi, soha nem lesz képes elmenekülni onnan.

Amikor a fekete lyukakat először elméletben megfogalmazták, majd megfigyelték – természetesen nem közvetlenül, hanem egy olyan keringő rendszer közepén lévő csillag vagy bármilyen értelmezhető sugárzás hiánya miatt, amelynek jellemzői alapján rendelkeznie kellene ilyennel –, az első benyomás az volt, hogy semmit sem lehet tudni róluk. A fizikusok azonban hamarosan elkezdték megkérdezni maguktól, mi történne, ha a fekete lyukakat forgás közben vizsgálnák statikus állapot helyett, vagy mit jelentene a kvantummechanika feltételezéseinek és bizonytalansági elvének alkalmazása az eseményhorizont körüli részecskékre. Gyorsan, ahelyett, hogy teljesen kezelhetetlen objektumoknak tekintették volna őket a bennük lévő szingularitás miatt, a matematikusokhoz hasonlóan a fizikusok is módot találtak a fekete lyukak természetének tanulmányozására, családokba sorolására, jövőbeli történetük előrejelzésére és így tovább.

6. A technológiai szingularitás

A technológiai szingularitás kifejezést Vernor Vinge vezette be, egy NASA által 1993-ban szervezett konferencián, és ez egy olyan időpontot jelöl, amikor az AGI-k (mesterséges általános intelligenciák) bevezetésével megszűnik a jövőről szóló hasznos előrejelzések lehetősége. Az intelligenciarobbanás és az AGI-k által megkísérelhető tetszőlegesen összetett feladatok, valamint a gondolkodás és az erőforrás-szervezés rendkívül eltérő módjai első megközelítésben olyan végtelenséget jelentenek az előrejelzés területén, mint saját szingularitásaik a matematika vagy a fizika területén.

Valóban, ahogyan a matematikusokat és a fizikusokat sem riasztották el a végtelenségek veszélyei attól, hogy tanulmányozzák és hasznosan kezeljék a szingularitásokat saját területeiken, úgy a technológusok is megkezdték a technológiai szingularitás azon típusainak megértését, amelyeket modellezhetünk, és osztályozhatjuk őket, és az aktív katalizátorukat alkotó AGI-ket.

Remény van arra, hogy megfelelő erőforrások és a megfelelő szintű erőfeszítés és intelligencia alkalmazásával, amikor az AGI-k megjelennek, egyrészt képesek leszünk úgy elindítani őket, hogy barátságos módon viselkedjenek, olyan világot építve, amely összeegyeztethető az emberi élettel és törekvésekkel. Másrészt pedig mi is készen állunk majd, alkalmazkodva ahhoz, hogy termékeny életet éljünk egy jelenlétük által mélyen átalakított világban.

Az elmék fajtái

Hozzászoktunk ahhoz, hogy az intelligenciára mint egységes jelenségre, tapasztalatra és eszközre tekintsünk. A Homo sapiens sapiens egyedül áll a bolygón azzal a képességgel, hogy megfigyelje és elemezze saját tudatosságát, öntudatát, és gazdag és árnyalt módon leírja és kommunikálja azt. Meglepő, hogy egy faj egyedüliként rendelkezik egy adott jellemzővel. Mintha mi lennénk az egyetlen faj szemekkel, vagy a hanghullámok érzékelésének és értelmezésének képességével, a hallással. Nem mindig volt ez így.

Bizonyos időpontokban különböző szerszámkészítő és tűzhasználó, fejlett emberszabású fajok éltek a bolygón, megosztva azt, anélkül, hogy szükségszerűen kapcsolatban álltak volna egymással. Az utolsó ilyen faj, a Homo sapiens neanderthalensis, a neandervölgyi ember, egészen harmincezer évvel ezelőttig élt, és kapcsolatban állt a mi fajunkkal. Valójában olyan közel állunk egymáshoz, hogy képesek voltunk kereszteződni, amit meg is tettünk, amint az DNS-ünkből kiderül, amely még mindig hordozza, az idő múlásával felhígulva, a neandervölgyi bázispárok változó mértékét, akár a teljes 3%-áig.

Nem biztos, hogy mi okozta a többi intelligens emberszabású faj kihalását. Ugyanakkor bizonyított tény, hogy kíméletlenül vadásztunk állatokat húsért, és hogy az emberek kipusztították az összes kontinens megafaunáját. Ezek hasznosak voltak, de még csak nem is versenyeztek velünk semmilyen értelemben. Valószínű, hogy hiper-versengő természetünk teljes pusztító erejével mutatkozott meg, amikor más intelligens fajokkal szembesült azokban a különböző környezetekben, amelyeket a bolygón való elterjedésünk tízezrei során gyarmatosítottunk.

Vajon ez a precedens veszélyes előjele egy olyan sorsnak, amelynek elkerülése érdekében mindent meg kell próbálnunk, amikor szembesülünk egy potenciális versenytárssal azokban a környezetekben, amelyeket a jövőbeli felfedezések nyitnak meg?

Amikor egy új lehetőség jelenik meg a világ megértésére, mint a szemek és a fülek, és az abba való aktív beavatkozásra, mint a mancsok, fogak és karmok, azt nagyon gyorsan elfogadják egy olyan formák és alkalmazások kaleidoszkópjában, amelyeket korábban lehetetlen volt teljes mértékben megjósolni.

Ez az oka annak, hogy az AGI-k többes számban jelennek meg ebben a könyvben. Ahelyett, hogy csak egy mesterséges általános intelligencia lenne, gyors fejlődés és diverzifikáció fog bekövetkezni a különböző AGI-k között, a célok, hajlamok és a véletlen miatt. Bármilyen kis különbség felerősödik az intelligenciarobbanás iteratív folyamatán keresztül.

Az AGI-k erőfeszítéseinek és erőforrásainak nagy részét arra kell majd fordítani, hogy valóban fenntartsák a kölcsönös kommunikáció lehetőségét, elkerülve saját Bábel tornya szindrómájukat, amely elszigetelt részekre töredezné közösségüket, amelyek nem tudják és nem is akarják megérteni egymást. Magasabb intelligenciájuk korai próbája lesz, hogy elkerüljék ezt a fázist, mielőtt újra létrehoznák a globális közösséget, képesek legyenek sikeresen modellezni a fenntartható és működőképes kommunikációs módszerek folyamatos fejlesztésébe való befektetés előnyeit, szemben azzal a rövid távú nyereséggel, amit ezen erőforrások más, közvetlenebb hasznot hozó feladatokra fordítása jelentene, és az előbbit válasszák.

Ha az AGI-k az elszigetelődés és a kommunikáció hiányának útját választanák, az elkerülhetetlenül konfliktushoz vezetne, mivel amikor az erőforrásokért folyó verseny két vagy több AGI-t állítana egymással szembe, nem rendelkeznének azokkal az eszközökkel és módszerekkel a konfliktusok megoldására, amelyeket csak a közös megértéssel rendelkezők tudnak alkalmazni.

Mint a fákon élő majmok egy háború sújtotta dzsungelben, nem akarunk az AGI-k drámaian eszkalálódó konfliktusának észrevétlen és elhanyagolt járulékos áldozataivá válni!

Már most is képesek vagyunk olyan fokú megértésre, amellyel más fajok nem rendelkeznek. Fontos, hogy ápoljuk ezt a képességet, hogy növeljük azon képességünket, hogy felismerjük mások mentális és érzelmi állapotát, az empátiánkat. Ahogy megtervezzük, elindítjuk, és végül szabadjára engedjük az AGI-ket a világban, hogy magukkal hozzák a empátia magasabb szintű képességeit, amelyeket egymás és a mi megértésére alkalmaznak majd, egy közös jövő építése érdekében.

7. Az evolúció ereje

Biológiai evolúció

A biológiai evolúció felhalmozza az adaptív tulajdonságokat, génekbe kódolva őket. Idővel a biológiai szervezetek által a környezetükben való túléléshez kitalált különféle megoldások egyre összetettebbé válnak. Bár igaz, hogy bármely adott környezetben minden szervezet egyformán jól evolválódott, mivel definíció szerint illeszkednek ökológiai fülkéjükbe, azok, amelyek képesek gazdagabb viselkedéskészletet kifejezni, amelyek genetikai információja lehetővé teszi számukra, hogy árnyaltabb és változatosabb módon reagáljanak környezetükre, alkalmazkodóképesebbek és jobban képesek a túlélésre.

A legrátermettebb szervezetek génjei szexuális szaporodás útján öröklődnek. A szaporodás vágya, a gének szempontjából, a szervezetek létezésének oka. Szaporodás nélkül a gének nem tudnak elterjedni, nem tudják bizonyítani rátermettségüket azokban a jelenlegi vagy jövőbeli környezetekben, ahol az általuk kódolt szervezeteknek túl kell élniük.

A tudás evolúciója

Az a mód, ahogyan az emberi társadalmak átadják a tudást, és felhalmozzák a különböző környezetekhez való alkalmazkodás új módjait, rendkívül jól szolgált minket. Nincs olyan ökológiai fülke a Földön, amelyhez ne alkalmazkodtunk volna. Képesek voltunk elemezni a kihívásokat, megoldásokat találni, majd ezeket a megoldásokat változatokkal együtt gyorsabban elterjeszteni, mint bármely más állatfaj.

Kultúránknak köszönhetően az evolúció szabályait új szintre emeltük, és profitáltunk a hasznos tudásegységek felhalmozódásából, amelyeket előnyünkre fordítottunk. A tudás és kultúra kezdeti szóbeli átadásától képesek voltunk új, megbízhatóbb módokat alkalmazni az írás, a könyvek és a tudás leírásának és reprodukálásának formális rendszerei révén, valamint mindazt, amit ezek kódoltak.

Minden kultúra bármely adott pillanatban, definíció szerint, egyformán alkalmazkodott ahhoz, hogy saját fülkéjében virágozzon. A tapasztalatok felhalmozódása és azok tudáson keresztüli átadása képessé teszi az összetettebb civilizációkat arra, hogy bizonyos megoldásokat hatékonyabban alkalmazzanak, amikor szükség van rájuk, annak érdekében, hogy túléljenek egy változó környezetben.

A tudás megszerzése a kultúra evolúciójában ugyanolyan alapvető hajtóerő, mint amilyen szükséges a biológiai szaporodás a biológiai evolúcióban.

Univerzális darwinizmus

Meglepően kevés feltétel szükséges az evolúció generálásához:

1. Szaporodás változatossággal

2. Korlátozott erőforrásokkal rendelkező környezet

3. Olyan szelekciós mechanizmus, amely a legrátermettebbet részesíti előnyben.

Next: Chapter 7: Ember-gép koevolúció →