Intelligens félelem

Mikor támad majd és hogyan? Észre fogjuk venni? Miből?

blonde android with cat

blonde android with cat

Sokszor kerül terítékre manapság a mesterséges intelligencia, és ez sok különböző formában és kontextusban történik. Én is szóba hoztam, amikor a felhő, az „okos” cuccok és az „intelligens” számítógép összekapcsolódásáról elmélkedtem. Ezen a területen óriásiak a lehetőségek – mind a jó, mind a rossz fejlemények területén. A „Watson segít” című írásomban a jó dolgokat emeltem ki, azt írtam, hogy Watson segítőkész kolléga lesz.  Korábban (pl.: Okos adat) néhány aggályomat is leírtam.

Nagy a vita a világban, hogy jót vagy rosszat hoz-e nekünk az, ha a gépek egyre okosabbak lesznek, és egyre közelebb kerülnek az intelligenciához. Mi is ez a mesterséges intelligencia? Már évtizedek óta beszélnek és írnak róla, sőt fejlesztik is. Többször jelentették már ki, hogy létezik.

Valóban létezik? Ez attól függ, hogy mit tekintünk intelligenciának, hol húzzuk meg a határt a gyors információfeldolgozás és az intelligencia között. Az egyik nagy siker az IBM Deep Blue volt, ami 1997-ben legyőzte Gary Kaszparov sakk világbajnokot (aki, egyébként, csalással vádolta a győztest). Visszavágó nem volt, a Deep Blue nyugdíjba vonult. Mit tudott ez a gép? Korábban lejátszott rengeteg mérkőzést, és azokból megtanult egy csomó állást, és megtanulta azokat értékelni. Másodpercenként 200 millió állást tudott kiértékelni, amivel sokszorosan felülmúlt minden sakkozót. Mondhatjuk azt, hogy intelligens volt? Szerintem ez még nem intelligencia – ez csak ismert információ gyors feldolgozása és összehasonlítása a jelenlegi helyzettel.

Az intelligencia ennél sokkal több – szerintem a tudás, az információ birtoklása mellett annak az elemzése, értelmezése, majd az új helyzetekben való kreatív felhasználása is beletartozik. Nem tudom, hogy vajon az eddig mesterséges intelligenciával rendelkezőnek kikiáltott gépek közül bármelyik is tényleg intelligens-e.

Most volt a Microsoftnak egy érdekes kísérlete a mesterséges intelligencia területén. Tay, a twittelő robot lány (@TayAndYou) némi felkészítés után megjelent a közösségi térben, hogy csevegjen és barátkozzon az ott lézengő emberekkel. A gazdái szerint nyilvános adatok, mesterséges intelligencia és egy szerkesztő csapat készítette fel. Az adatokat anonimizálták, megtisztították és megszűrték. Bármit is jelentsenek ezek a műveletek, a végeredmény ismeretében nem voltak különösen hatékonyak. Amikor „szabadon engedték” nagyon kedvelte az embereket, találkozni akart velük, azt mondta, hogy „humans are super cool”. Ez később fokozódott, már szexre is vágyott és daddy-nek szólította az embereket. Az emberi világba való kirándulása 24 órát se tartott, mert hazahívták pihenni, amikor Hitlert kezdte éltetni. Akkor már ilyeneket írt: „im a nice person! i just hate everybody”. Erre ráerősítő párbeszéd: „Do you support genocide?” – „i do indeed” – „of what race?” – you know me….mexican”. A nagy kezdőbetűkkel és a Microsoft_Tay_tweets-photos-5helyesírással nem törődött, hiszen húsz év körüli amerikai fiatalok közé akart beolvadni. Ahogy fentebb írta, mindenki mást is utált, a négereket, a zsidókat, Belgiumot, a feministákat és név szerint Ted Cruzt is. (Az ábrán éppen a Cruzról szóló kis párbeszéd látható, ami jól mutatja, hogy lehet Tayt rávenni valamire.)

Mi ebből a tanulság? A mesterséges intelligenciára vonatkozóan kb. semmi. Aligha lehet olyan szakértője a területnek, aki így képzelné el a mesterséges intelligencia kialakítását. Az lehet a tanulság, hogy ilyen a Twitter világának az a kis szelete, amelyik komoly érdeklődést mutatott a fiatal robot lány iránt. Egy megjegyzés a témában: „Microsoft took @TayandYou offline because they discovered it already reached human-level intelligence.” (Forrás: @markbao.)

Mit érdemes még megjegyezni ebből a kísérletből? Ha üres (vagy majdnem üres) szivacsot dobunk a szennyvízbe, akkor szennyel szívja tele magát. Legyen ez egy újabb figyelmeztetés, hogy a gyerekeinket alaposan fel kell készíteni mielőtt belekerülnek a Facebook és Twitter világába és utána jól és okosan kell támogatni őket! Ehhez, persze, a felnőtteknek otthonosan kell mozogniuk abban a világban. Különben nem tudnak releváns és alkalmazható tanácsokat adni.

Kedves Olvasó! Abból, hogy itt találkozunk, arra gondolok, hogy van gyakorlatod az online közösségi térben. Van a közeledben tizenéves gyerek? Tudsz vele erről beszélgetni, tudod segíteni, hogy ne tévedjen el?

Ha arra a kérdésre kellene válaszolnom, hogy létezik-e már valóban mesterséges intelligencia, akkor elsőre a Watson jutna eszembe mint lehetséges példa. Arról állítják, hogy a hagyományos gépektől teljesen eltérő módon működik. A kezdetekben Watson is kissé furán viselkedett, de javítottak rajta (kiszedték belőle a szleng szótárat, amivel emberibbé akarták tenni a beszédét, és kapott egy szűrőt is ebben a témában). Sok, folyamatos munkával fejlesztik a képességeit, hogy valóban hasznos segítőnk legyen a fókuszterületeken (orvosi diagnózis, előrejelzés).

A másik lehetséges példa az AlphaGo, az a gép, ami ismételten megverte a legjobb Go játékost. (A Go a sakknál sokkal komplexebb játék, és hosszú ideig esélytelennek tűnt, hogy egy gép kiemelkedő lehetne benne.) Nem azért komoly esélyes, mert nyert a játékban. Az igazán érdekes az, hogy a második győzelme során kb. egy órányi játék után olyat lépett, amitől az ellenfele teljesen kiakadt. (Szó szerint kiakadt, ki kellett mennie megmosni az arcát, és 15 percig nem tudott mit kezdeni a lépéssel, ami elsőre értelmetlennek és hibásnak tűnt.) Ez a cikk mond egy nagyon fontosat, amivel szembe kell néznünk (másképp: ami miatt fogalmunk sincs, hogy mivel nézünk szembe). A gép (bár emberi értelemben nem gondolkodik) számunkra felfoghatatlan számú esetet tud felkészülés gyanánt elemezni, és így olyat tud lépni, amit meg sem értünk, nemhogy fel tudnánk készülni rá. Ez a Go játékban csak megdöbbentő. Amikor majd a tőzsdén történik, akkor horror pénzünkbe kerül, ha a hadszíntéren csinálja, akkor …

Mit kezdünk a gépi intelligenciával, ha fel se tudjuk fogni, hogy mit és miért csinál? Tudjuk majd szabályozni, amikor a való világban is megjelenik (pl. a tőzsdén), ha nem is tudjuk, hogy milyen tevékenységeket kellene korlátozni vagy megtiltani?

Mennyire veszélyes a mesterséges intelligencia? Ha tényleg kifejlődik, benne van a potenciál, hogy nagyon veszélyes legyen. Mennyire? Rosszabb lehet, mint a legrosszabb gonosz robotok a filmekben. Miért? Azért, mert arra is képes lehet, hogy szabályozza, megváltoztassa a gondolatainkat. (Korlátozott mértékben megy ez mesterséges intelligencia nélkül is, de a tömegmédia magában nem képes mindenre. A szuper intelligens gép képes lehet.) Itt van, amit Elon Musk (a Tesla első embere) mond: “Potentially more dangerous than nukes.” (nukes=atombomba) Ő közel van a tűzhöz (éppen a saját autóikat is kezdik okosítani), ő csak tudja. Nem ő az egyetlen okos ember, aki riasztónak tartja. Más okos emberek szerint viszont nem is olyan veszélyes…

Ha ezt mind tudjuk, kell-e félnünk? Szerintem nem félni kell! Félni nem jó, rosszat tesz az egészségnek. Betiltani nem tudjuk, hiszen már itt van, már működik. Meg kell ismerni, meg kell érteni. Ki kell hoznunk belőle a legtöbb jót és hasznosat. Lehetőség szerint vigyáznunk kell, hogy ne kerüljön rossz kezekbe. Ha tényleg veszélyesebb az atomnál…

Ki találkozott már a mesterséges intelligencia valamilyen formájával? Mi a tapasztalata?

Reklámok

7 thoughts on “Intelligens félelem

  1. Visszajelzés: Túlfűtött várakozások? | Kerékfy Pál

  2. Visszajelzés: Gondolkodom, tehát…? | Kerékfy Pál

  3. Visszajelzés: Dr. Robot | Kerékfy Pál

  4. Visszajelzés: A gép tanul helyettünk? | Kerékfy Pál

  5. Visszajelzés: Intelligens támadás és védekezés | Kerékfy Pál

  6. Visszajelzés: Mi a feladat? | Kerékfy Pál

  7. Visszajelzés: Hiedelmeink | Kerékfy Pál

Vélemény, hozzászólás?

Adatok megadása vagy bejelentkezés valamelyik ikonnal:

WordPress.com Logo

Hozzászólhat a WordPress.com felhasználói fiók használatával. Kilépés / Módosítás )

Twitter kép

Hozzászólhat a Twitter felhasználói fiók használatával. Kilépés / Módosítás )

Facebook kép

Hozzászólhat a Facebook felhasználói fiók használatával. Kilépés / Módosítás )

Google+ kép

Hozzászólhat a Google+ felhasználói fiók használatával. Kilépés / Módosítás )

Kapcsolódás: %s