Mit tegyünk ma?

Érzelmi számítástechnika

A billentyűzetek, az optikai karakterfelismerés és a beszédfelismerés mind olyan módszerek, amelyekkel bemenetet generálhatunk számítógépeinknek. Egyre több megbízható, gyors és elég hatékony módszer áll rendelkezésre az arcfelismeréshez, és ennek következtében arra is, hogy arckifejezéseinket is bemenetként használjuk. A fényképezőgépek újabb modelljei olyan automatikus beállításokkal rendelkeznek, amelyek nemcsak a rekesznyílás vagy más optikai beállítások tekintetében delegálják a fénykép elkészítését, hanem magának a felvételnek az időzítésében is. A kamera felismeri, amikor az alanyok mosolyognak és nyitva van a szemük, és ennek megfelelően készíti el a fényképet, maximalizálva annak valószínűségét, hogy elégedettek leszünk velük. Ez példa arra, hogyan olvasnak érzelmeket a számítógépek.

13. ábra: A felhasználói felületek úgy fejlődnek, hogy olvassák gondolatainkat.

A Facebook által néhány évvel ezelőtt több százezer felhasználóján végzett kísérlet nagy visszhangot váltott ki. Mindenki számára, kivéve azokat, akiknek csak néhány kapcsolatuk vagy kedvelt oldaluk van, egyértelmű kellene, hogy legyen, hogy a hírfolyam nem tudja megjeleníteni az összes bejegyzést, ami egy adott időtartam alatt keletkezik, hacsak nem gördülnek olyan gyorsan, hogy reménytelenül olvashatatlanná válnak. Következésképpen természetes és szükséges, hogy csak egy részüket jelenítsék meg, amit a Facebook rutinszerűen tesz mindenki hírfolyamával. A bizonyos elemek megjelenítésének kritériumai folyamatosan fejlődnek, és a Facebook tulajdonosi és versenyképes jellege miatt nem nyilvánosak. (Jó kihívás lenne a nyílt forráskódú együttműködési projektek támogatói számára, hogy sikeres alternatívát találjanak a Facebook helyett, ahol a közösségi hálózatnak nem kell monetizálnia úgy, hogy termékké válsz a hirdetők számára, teljesen elosztott, így nem lehet leállítani vagy cenzúrázni, és amelynek algoritmusai a hírek vagy a barátok bejegyzéseinek kiválasztására mind elérhetők a felhasználók számára opcionális elemzésre vagy finomhangolásra, valamint teljesen nyíltak és átláthatóak.)

Paradox módon a Facebook-kísérlet ellen irányuló sok ellenállás oka az volt, hogy ezúttal ismertté váltak a hírelemek kiválasztásának kritériumai. A felhasználók néhány százezre átlagosan negatív kulcsszavakkal ellátott híreket kapott, míg egy megfelelő csoport átlagosan pozitív tartalmakat. A kísérletezők hipotézise az volt, hogy ennek következtében mindkét csoport tagjai nagyobb valószínűséggel írnak olyan bejegyzéseket, amelyek megfelelnek a nekik mutatott hírek érzelmi töltésének. Elég nyilvánvaló, mondhatná valaki. De ez egy számítógép, amely emberi érzelmeket használ megjelenítéséhez.

Mi érzelmi gépek vagyunk, és biztosítanunk kell, hogy a számítógépek felismerjék ezt, és a folyamat során ők maguk is érzelmi gépekké váljanak. Sok feladatunkat jobban vagy rosszabbul lehet elvégezni a nap adott időszakában; nem függnek erősen egy adott órától vagy perctől, de érzelmi állapotaink egyértelműen befolyásolják őket. Az, hogy képesek vagyunk kihasználni szükségleteink, céljaink és viselkedésünk részletes megértését érzelmi szempontból is valamiben, ami olyan egyszerű, mint a feladatlistánk, növelni fogja jólétünket és termelékenységünket.

Etikai legjobb gyakorlatok

Az érzelmi számítástechnika, valamint sok más itt leírt technológia ereje, legyen szó jelenlegi vagy jövőbeli technológiákról, döbbenetes. A felelősségteljes iparágak felismerik, hogy nem hagyhatják figyelmen kívül az externáliákat, és felkészülnek arra, hogy felelősséget vállaljanak termékeik teljes életciklusáért. A gyógyszeripari és biotechnológiai vállalatok már régóta etikai bizottságokat alkalmaznak kísérleteik felügyeletére, elemzésére és irányítására, hogy biztosítsák, nem hagyják figyelmen kívül eljárásaik etikai következményeit, függetlenül végtermékeik feltételezett előnyeitől.

A hatékony cselekvések és technológiák etikai következményeinek e szintű társadalmi tudatossága szükségszerűen a legjobb gyakorlatok egyetemes szintű elfogadásához vezet majd, a vállalatok és szervezetek részéről. Amikor legközelebb filozófia szakos hallgatóval találkozol, mondd meg neki, hogy szerinted szakmája robbanásszerű növekedést fog tapasztalni minden iparágban.

Elengedhetetlen lesz, hogy az emberi megértést ezekben a témákban megfelelő személyes és interperszonális eszközökkel bővítsük, automatizálva és méretezve a folyamatot, hogy megbízhatóvá tegyük, és lehetővé tegyük mindenki számára az alkalmazását.

Az empátia kiterjesztése

Az a tudatossági és öntudatossági szint, amelynek elérését ezek az eszközök segíteni fogják, példa nélküli a történelemben. A tudatlanság, rasszizmus és idegengyűlölet, amely a múlt konfliktusainak nagy részét hajtotta, elfogadhatatlan egy olyan világban, ahol tudás, multikulturális megértés és globálisan összekapcsolt tolerancia (és termonukleáris fegyverek) van jelen.

Az, hogy képesek vagyunk felismerni mások szükségleteit, értékeit és érzelmeit, az empátia képessége, és olyan eszközöket fogunk létrehozni, amelyek kiterjesztik és bővítik ezt, leküzdve természetes érzékeink és érzelmi reakcióink egyébként diktált korlátait.

Tegyük magunkat nélkülözhetővé!

A „számítógép” kifejezés eredetileg egy személyt jelentett, jellemzően egy nőt, aki mechanikus számológépek előtt ült, és egész nap ismétlődő, elmecsorbító műveleteket végzett. Digitális számítógépeink most már milliárdszor gyorsabban képesek elvégezni ezeket a műveleteket, és az emberi energiát és kreativitást, amit korábban ezekre fordítottunk, máshol lehet bevetni.

Amikor a mechanikus szövőszékek kezdték növelni a termelékenységet a textiliparban, és egyetlen ilyen gép tudta elvégezni azt, amit korábban tucatnyi munkás csinált, a ludditák mozgalma ellenezte ezt a változást, odáig menve, hogy elpusztították azokat a gépeket, amelyek ellopták az emberi munkahelyeket. De megérte ezeket a munkahelyeket megőrizni?

Technológiai civilizációnk pályáján meglepő adatpont, hogy az első mezőgazdasági társadalmak tagjainak átlagos magassága alacsonyabb volt, mint a vadászó-gyűjtögető elődeié. Ez szorosan összefügg a rendelkezésre álló kalóriákkal, az egészséggel, az élettartammal és általában az életminőséggel. A 19. századi iparosodás hulláma során a munkásosztály életminősége siralmas volt, semmilyen védelem nem volt a kizsákmányolás ellen, nem voltak oktatási, egészségügyi szolgáltatások, és általános volt a gyermekmunka, de a tendencia továbbra is az volt, hogy egyre több ember költözött városokba.

Néhány évvel ezelőtt az Amazon közel egymilliárd dollárért megvásárolt egy robotgyártó céget, amelynek önvezető platformjai képesek voltak megtartani azokat a kocsikat, amelyeket a raktári dolgozók használtak. A különböző online rendelt termékek a raktár bármely pontján lehettek, különböző polcokon, és ahelyett, hogy ellenőrizni kellett volna, mi hol van, az emberi raktári munkásokat, most a kocsik vezetik a megfelelő helyre, ahol beteszik a szükséges csomagot a kocsiba, készen a csomagolásra és szállításra. Néhány hónappal ezelőtt, hogy természetesen a következő szintre lépjen, az Amazon versenyt szervezett egy ügyes robotkéz kifejlesztésére, egy olyan látórendszerrel együtt, amely az önvezető robotplatformra szerelhető, és amely megszüntetné a legtöbb, ha nem az összes olyan raktári munkát, amelyet ma emberek végeznek.

Ahogy a számítógépek egyre több feladatra képesek, sokan aggódnak, hogy az embereknek nem marad semmi tennivalójuk. Ez alaptalan aggodalom, ahogy az első iparosodás idején kétszáz évvel ezelőtt is az volt. De ahhoz, hogy a technológiai fejlődés az emberi jólétre fordítódjon, fel kell ismernünk a múlt tanulságait. Tízezer évbe telt, míg a mezőgazdasági társadalmak eljutottak oda, ahol most vagyunk, ahol a népesség három százaléka táplálja a többieket. Nagyon rögös út áll előttünk, mielőtt teljes mértékben mindenkinek átadhatnánk az okos rendszerek előnyeit, és meg kell és meg is tudjuk védeni azokat, akik nem tudnak lépést tartani, egy egyébként vak és önző változás legrosszabb következményeitől.

A társadalmak felelőssége

Csodálatos, gazdag globális civilizációt építettünk, amely képes megfelelni a következő kihívásnak: hogy valóban gondoskodjon tagjairól. Túl sok társadalom hanyagolja el alapvető felelősségét abban, hogy táplálja, fenntartsa és védelmezze azokat az egyéneket, akiket nem lehet egyszerűen eldobni és hagyni, hogy lemaradjanak, ahogy az biztosan megtörténne abban, ami az emberiség előtt az evolúció természetes állapota volt. Ez nem az a kérdés, amit kegyetlenül és tévesen a génállomány gyengítésével közelítenek meg. Az emberi tapasztalatok és lehetőségek gazdag szövetét nem lehet a puszta alkalmasság primitív és reduktív skálájával mérni. Nem vagyunk túl az evolúción, de túl vagyunk egy olyan vak evolúción, amely nem képes befogadni és fenntartani azt a potenciált, amelyet minden egyes egyén kifejez.

Nincs garancia arra, hogy képesek leszünk megoldani jövőbeli kihívásainkat csak azért, mert csodálkozva botladozva válságról válságra, okossággal és puszta szerencsével képesek voltunk megoldani a múltbelieket. Ha együttműködünk a közelgő problémák jobb előrejelzésében, az lehetővé teszi forgatókönyvek kidolgozását és módszerek tesztelését, mielőtt azokra szükség lenne, és gyorsabb bevezetésüket. A tudomány és a mérnöki tudományok csodálatos módszerek még a legnehezebb problémák megoldására is. Képesnek kell lennünk arra, hogy támaszkodjunk az egyének feltalálói erejére, akik olyan csapatokban dolgoznak, amelyek lehetővé teszik számukra az ötletek együttes használatát, és egymás erősségeinek kiegészítését, olyan kulturális, gazdasági és politikai környezetben, amely megbízhatóan támogatja őket, a hosszabb távú szemlélet erejével. És szükségünk van a társak hozzájárulásainak nyílt megosztására, amely lehetővé teszi, hogy az ötleteket közös céljaink és értékeink közös java érdekében összegyűjtsük.

A túlzott szerénység szinte mindig helytelen, egy ellenőrzési eszköz, ahol a kezdeményezést elfojtják, és a potenciális kudarc terhe és stigmája megakadályozza az egyént abban, hogy akár megpróbáljon sikert elérni. Az alázatosság szinte mindig helyes, felismerve, hogy a közösség az, ami támogatást nyújt, és szilárd kiindulópontot ad a kiválóság kibontakozásához, nem pedig elszigetelten és egyedülállóan állva egy sivatagban. A tudományban és felfedezésben tevékenykedő zsenik és forradalmárok szerepe és sorsa, akik nem voltak alázatosak küldetésükben és ellentétesek voltak azzal, amit mindenki más gondolt abban az időben, de mégis igazuk volt, és sikerük bizonyította igazukat, és megerősödtek, ha lehetetlen volt rendszerezni és utánozni őket követésükben, és történelmi jelentőségükben, különösen drámai.

Elég-e hétmilliárd egyén? A következő világjárvány, a közeledő aszteroida, az eszkalálódó politikai és katonai konfliktus, amely termonukleáris háborúban végződik? Ezek megoldható fenyegetések lesznek? Készen állunk-e arra, hogy megtámadjuk azokat az ismeretlen ismeretleneket, amelyek váratlanul érhetnek minket? Az emberi elme potenciálját, hogy a felfedezés és megértés új magasságaiba jusson, nem szabad elpazarolni. A globális civilizáció felelőssége annak biztosítása, hogy mindenkinek lehetősége legyen hozzájárulni ehhez a küldetéshez.

A moralitás tudományának és mérnöki megközelítésének szükségessége

Az univerzum fekete dobozát fokozatosan felnyitotta az emberi felfedezés. Bekukucskáltunk, fényt vetettünk különböző sarkaiba, megfejtettük, amit láttunk, és a darabokat új eszközök építőkockáiként használtuk fel. Az intelligencia és technológiai civilizációnk egyedülálló, amennyire most látjuk. Létrejöttük kibontakozó jelenségei, amelyek nyitott szemmel tekintenek a világra és arra, ami benne történik, ahelyett, hogy csak hagynák az eseményeket kibontakozni, új felelősségeket teremtenek, amelyekkel most kezdünk szembenézni.

A fekete doboz egyik sarka, ahol nagyon érdekes kibontakozó jelenségek halmozódtak fel, most készen áll arra, hogy a tudomány éles fényében vizsgáljuk meg. A moralitás megértését dogmatikus nézetekre, bronzkori agyagtáblákra hagytuk, vizsgálat nélkül, nagyon hosszú ideig. Nem csak felhatalmazva kell éreznünk magunkat arra, hogy felvegyük a kihívást, hogy a tudomány eszközeivel értékeljük azt, anélkül, hogy bármilyen maradék középkori alsóbbrendűségi érzés lenne bennünk, hogy büszkén teszteljük az eredményeket. Most már szükségszerű, hogy ezt megtegyük, tekintettel az autonóm gépek megjelenésére a globális színtéren, amelyek döntései hatással lesznek életünkre, és természetüknél fogva elkerülhetetlenül erkölcsi és etikai jellegűek lesznek.

Igen, az önvezető autó mérlege nagyon gyorsan és megdöbbentő erővel fog átbillenni annak előnyös oldalára. Nem lesz olyan eset, amikor nehéz dönteni az érme két oldala között. Ez nem elég ok arra, hogy elkerüljük a világos, átlátható, nyílt és elszámoltatható szabályok és viselkedések meghatározását, amelyek irányítják döntéseinket, még akkor is, ha azok nem fognak életre-halálra szóló következményekkel járni. A klasszikus példa, amikor én biciklimmel az önvezető autó elé kanyarodok, és annak választania kell, hogy egy gyerekekkel teli iskolabusznak ütközik, hogy engem elkerüljön, vagy engem öl meg, hasznos, ha lehetővé teszi, hogy kezdjük feltenni a kérdéseket arról, hogyan születnek ezek a döntések. Nem arról van szó, hogy előre kidolgozzuk a válaszokat.

Nincs olyan teljes táblázat, amely a bemenet alapján megadhatná a helyes kimenetet. Néhány ezredmásodperc alatt, nemcsak a példa forgatókönyvében, hanem nap mint nap több tízmilliárd esetben milliárdnyi okos gépnek kell kemény úton kitalálnia, mit akar tenni. Csak akkor lehet megtenni a következő lépést, és megkérni a mérnököket, hogy termékeikben valósítsák meg az e tudományt irányító szabályokat, ha erőteljes és nyílt vita folyik a moralitás tudományos alapjairól.

Amikor az első számítógépek megszülettek, az elektromágnességnek és a kvantummechanikának az egyes elektronok viselkedési törvényeit magyarázó elméletei már teljesen kialakultak. Alkalmazásaik olyan környezetekben történtek, amelyek túl összetettek voltak ahhoz, hogy elméleti szempontból előre jelezhetők legyenek, és alapos kísérletezésre, feltalálásra és innovációra volt szükségük, amelyek ugyanolyan alapvetőek voltak, mint az elméletek, amit sikerük bőségesen bizonyított, valamint a fizikai Nobel-díjak, amelyeket mind a kísérletezőknek, mind az elméletalkotóknak odaítéltek.

Most ugyanerre kell törekednünk, más szinten és más témában, habozás nélkül, hogy biztosítsuk, hogy az okos autonóm gépeket megvalósítók kezét szilárd tudományos elméletek vezessék arról, mit jelent erkölcsösnek lenni.

Ez a küldetés nagyon ellentmondásos lesz, különösen azok szemében, akik a dogmatikus világnézetek egyre zsugorodó területeire húzódtak vissza, és elfordulnak attól, hogy az ész és a tudomány a legjobb útmutató az univerzum magyarázatára, és hogy maguk adjanak értelmet cselekedeteinknek, és célt életünknek.

Next: Chapter 9: Mit tegyünk holnap? →