Mit vesz el tőlünk?

Sok mindenről írnak és beszélnek, amikor arról volt szó, hogy ez a sok új technológia mit vesz el az embertől. Az ITBN konferencián a Kivégzési parancs kapcsán előjött valami új.

Szeptemberben tartották a szokásos kétnapos IT biztonsági konferenciát, és idén izgalmas elkalandozásoknak lehettünk szem- és fültanúi. A múlt héten írtam Csányi Vilmos etológus előadásáról, aki talán még csak meg sem említette a biztonságot, mégis nagyon témába vágott a mondandója.

Mindkét napot kerekasztal-beszélgetés kezdte a Kivégzési parancs (Kill Command) film ürügyén. A helyi résztvevőkön kívül velünk volt Bentley Kalu (Robinson) is Skype-on keresztül.

A film egyik kulcsszereplője egy fiatal nő (Mills), akibe kis korában beültettek egy chipet, ami együttműködik az emberi szervezetével, és kapcsolódik egy nagy hálózathoz is. Így ő egyszerre ember is és gép is. Különleges képességekkel rendelkezik, amik az emberek számára csodálatosak és ijesztőek, bár valójában csak gyors adatátviteli és adatelemzési képességeket kap a géptől. Ha jól értelmezem a filmet, nincs szó mesterséges intelligenciáról, hanem a gép és az ember képességeinek összeolvadása teremti meg a szuperembert.

A film kapcsán érdekes kérdések merülnek fel az ember és a gép kapcsolatáról. Az egyik ilyen kérdés az érzelmek lehetősége. Mit éreznek az emberek a velük együtt élő, dolgozó, embernek látszó gépek iránt? Kialakulnak érzelmeik a gépi kolléga iránt? A filmben az egyik ember katona megmenti Mills életét, amikor megsérül a harcban. Teszi ezt annak ellenére, hogy egyáltalán nem kedveli, komoly ellenérzései vannak a géppel szemben. Vajon miért? Az első napi beszélgetés egyik résztvevője magyar katonákkal együtt nézte meg a filmet. A film utáni beszélgetés során a katonák azt mondták, hogy a gépet bajtársnak tekintenék, és akár meg is halnának érte. Vajon ebben szerepe van annak, hogy csinos fiatal nő testében van a robot? Kialakulhat romantikus érzelem az ember és a gép-ember között?

Elvárjuk az emberi viselkedést az embernek látszó gépektől? Számít a kinézete? Mi lesz a mimikával, általában a metakommunikációval? A filmben a gépesített nőnek nem ültek ki érzelmek az arcára, „póker arca” volt, bármilyen helyzetbe került. Az sem derült ki számomra, hogy érzelmi vagy racionális okok vezették, amikor ember bajtársait próbálta megmenteni. Nem derült ki, hogy milyen ember – ha egyáltalán ember. Van személyisége? Milyen az, ha a személyisége részben a gépben van?

A bajtársait irritálta, hogy mindent tud róluk, mindenkinek az aktáját egy pillanat alatt letölti és elemzi. Ez nem csak a filmben van így! A személyi asszisztensünk mindent tud a gazdájáról. A gépesített asszisztens még többet is, mint a jó titkárnő a főnökéről, hiszen napi 24 órát tölt vele. Nem csak azt tudja, ami hallható és látható, de mérheti a pulzusát, a vérnyomását és minden más fiziológiai adatát. Mindezt összeveti a rengeteg adatbázissal, és kialakít egy összeképet a gazdájáról. Még az érzelmeinket is megismeri. Jó ez nekünk? Akarunk ennyit tudni magunkról? Tényleg: melyik a valódi énünk, amit gondolunk magunkról, vagy amit a „mindentudó” gép tud rólunk? – kérdezte Réz András a beszélgetés közben.

Milyen emberi képességeik lesznek a robotoknak? Tudnak hazudni, félrevezetni? Azt mondhatnánk, hogy ez a beprogramozásuktól függ. Ez mégsem ennyire egyszerű, mert már a ma létező gépek is tudnak tanulni – erre rengeteg példa van (például az egymással alkudozó és egymást félrevezető robotok). Hogy fogunk majd velük alkudozni? Ők sose fáradnak el, se fizikailag, se mentálisan.

Létrehozzuk a robotokat, de tudjuk majd ellenőrizni, irányítani őket? Ha nem értjük a „gondolkodásukat”, nem tudjuk felmérni, hogy a döntéseik mögött milyen okok vannak, meg tudjuk majd ítélni a döntéseiket, vagy hozzászokunk, hogy úgyis nekik van igazuk? Ki lesz a felelős a gép tevékenységéért? Most még az a szabály, hogy az önvezető autóért a kormány mögött ülő ember felelős. És ha nincs kormány? A gyilkoló robotért ki felelős, a tulajdonosa? Mi történik, ha valaki távolról átprogramozza?

Az említett „emberi”, esetleg romantikus, vonulat mellett van a filmben egy sokkal ijesztőbb szál is. Mills alkotta meg a gyilkoló gépek szoftverét, de lassan elvesztette az irányítást felettük. A gépek eredeti feladata az lett volna, hogy átvegyék az emberektől a háborúzást, hogy az embereknek se ölniük, se meghalniuk ne kelljen. Öntanuló rendszert épített, amit összeengedtek a legjobb emberi alakulattal, azzal harcolva tanult újabb és újabb fogásokat (közben meg is ölt egy-egy embert). Végül már Mills is ellenséggé vált. Ő az utolsó összecsapásban emberi trükkel ölte meg az utolsó robotot. De talán mégsem… Valami ilyesmitől tartanak azok a befolyásos emberek (akik részben éppen ezt a technológiát fejlesztik), akik az ENSZ-hez fordultak, hogy akadályozza meg Pandora szelencéjének kinyitását.

Miért hozzuk létre az intelligenciával felruházott gépet? Teljesen racionális okok vannak mögötte, vagy benne van a büszkeség is, hogy ezt is meg tudjuk csinálni?

Létrehozunk valamit, ami nem organikus, de él. Mit kezdünk ezzel az élettel? Elismerjük, hogy élőlény, lesznek jogai?

Lesz lelke a robotnak? Lesznek érzelmei? Éppen most futottam bele ebbe a cikkbe, ami a robot és a szerelem kapcsolatáról szól, de – egyelőre – fordítva.

Egy fontos megállapítás a beszélgetésből: „A mesterséges intelligencia nem fogja megoldani az emberek közötti kapcsolat problémáját, mert nincs rá szüksége.” Valóban teljesen racionális lesz a robot?

Még egy izgalmas témakör, amiről volt szó röviden: Hol lesz a robotok agya? Külön-külön rendelkeznek majd intelligenciával, vagy egy központi agy irányítja őket? A filmben a központi gép csak információforrás volt Mills számára, de nem irányította őt közvetlenül. Mills ember, tehát van saját agya, de vajon egy robotba érdemes lesz saját agyat építeni, vagy elég lesz a központi? Hány ilyen központ lesz? Együttműködnek majd, vagy éppen ellenfelek lesznek? Kialakul egy világhálózat? Annak egy ura lesz?

Visszatérve a kezdeti kérdésre: mit vesz el tőlünk a technológia? Az utat, az odajutás élményét veszítjük el, ha a gép hipp-hopp megoldja a problémákat, megválaszolja a kérdéseket. Pedig ez az emberi lét élménye! Lemondunk erről a kényelem érdekében? Lehet, hogy drasztikusan változik meg az életünk a sokat tudó gépek miatt?

Ez az írás túlnyomórészt az ITBN napkezdő beszélgetései alapján készült. Sokkal több benne a kérdés, mint a válasz. Ha válaszolni nem is tudunk, a kérdések mégis fontosak, mert érdemes gondolkozni a lehetőségeken.

Reklámok

Hiedelmeink

Milyen hiedelmei lesznek a mesterséges intelligenciával felruházott robotnak? Lesz benne emberi?

Nagyon sok érdekes előadást volt szerencsém meghallgatni (megnézni) a múlt héten az ITBN konferencián, és szeretném az élményeim egy részét megosztani az olvasóimmal, akik nagy részének eszébe se jutna, hogy éppen IT biztonsági konferenciára kellene mennie. Miért traktálom őket is ezzel? Csak azért, mert nem az IT biztonság volt a konferencia fő témája, hanem az ember és az egyre intelligensebb gép együttműködésére fókuszált. Ez is volt a mottója: „Man and machine: Bound to cooperate”, és Mills, a Kill Command (Kivégzési parancs) film női főszereplője volt az arca, aki géppel egyesített ember vagy emberbe ültetett gép. Mindkét reggel filmbejátszásokkal tarkított kerekasztal-beszélgetéssel indítottak, aminek egyik résztvevője a Robinsont játszó Bentley Kalu volt.

Nagyszerű volt Csányi Vilmos etológust hallgatni – és nyilván nem meglepő, hogy nem informatikáról és biztonságról volt szó, de tökéletesen illett az előadása a konferenciába. Az ember és a mesterséges intelligencia viszonyáról beszélt, és mindjárt az elején kaptunk tőle egy definíciót. Az intelligencia az a képesség, hogy valaki vagy valami képes magát az adott környezetben hosszú ideig fenntartani. Ez a biológus definíciója, és számomra sokkal használhatóbb, mint a pszichológusoké. Ők úgy oldják meg azt a konfliktust, hogy vajon az IQ-teszt jól méri-e az intelligenciát, hogy éppen azt használják definíciónak: az az intelligencia, amit az IQ-teszt mér. Ez nagyon precíz meghatározás, csak éppen meglehetősen használhatatlan. A biológus által adott definíció egészen más, és sokkal több helyzetben értelmezhető. Csányi szerint az intelligencia egy túlértékelt fogalom, mert valójában nem egy csodás, minden probléma megoldására alkalmas tulajdonság. Ebben az értelemben sok minden lehet intelligens, akár egy baktérium is, hiszen nagyon bonyolult vegyi folyamatokat vezérel a fennmaradása és szaporodása érdekében. Intelligens lehet növény, állat, ember, sőt maga a bioszféra is! Az oroszlán rengeteg matematikai és fizikai „ismeretet” használ fel, amikor vadászik. Hasonlóképpen a gazella is, amikor elmenekül az oroszlán elől. Az állati intelligencia individuális, az emberé bonyolultabb, mert a nyelv segítségével hiedelemvilágot tud létrehozni. (Csányi tudományos terminológiájában a hiedelem kicsit mást jelent, mint a köznyelvben – a következőkből kiderül majd.)

A hiedelemre az első példája az az ember volt, aki a vadon talált gyümölcsöt próbálja megismerni, majd kialakít róla egy képet: ehető – nem ehető, jó ízű, nyersen vagy főzve jó. Amikor ezeket a gondolatokat a nyelv segítségével a többiekkel megosztja, majd azok is kiegészítik a saját tapasztalataikkal, közösségi hiedelem lesz belőle. Így képes egy egész közösség a tapasztalatát cserélni, átadni, fejleszteni. Ez nagy különbség az állatokhoz képest! – mondja Csányi. Az állat a saját tudata börtönében van.

Hadd szúrjak itt közbe egy kérdést. Amikor a maguknak saját nyelvet alkotó robotokat a Facebook kutatói kikapcsolták, vajon – esetleg tudat alatt – éppen az a félelem vezette őket, hogy azok majd a saját nyelvükön ellenőrizhetetlenül fejlesztik a közös tudásukat?

A hiedelmekben sok tévedés van (Csányi példái: homeopátia, angyalok, kísértetek). A sok hiedelem terjed, kavarog a közösségben, a tévedéseket kiszűrjük. Az ezeket selejtező társadalmi folyamat a kreativitás forrása. A közösség terjeszti, ellenőrzi, reprodukálja a hiedelmeket és kinyeri a fontos tudást belőlük.

Maga a rendszer kreatív. Az ember világa – akárcsak maga a bioszféra – rendkívül gazdag. Része a kultúra és a művészet is. A kreativitás forrása a molekulák különbsége, a szelekció, a formák különbözősége. Ezekben vannak kis eltérések, és a végén az életképes marad meg.

Itt mutatott rá Csányi az ember és a gép közötti fontos különbségre: Az embernek sok olyan tulajdonsága van, ami a gépnek nincs: agresszivitás, hatalomvágy, birtoklási vágy, érzelmek. Az ember világa nem a racionális döntéseken alapszik. Beépítjük ezeket a tulajdonságokat az „intelligens” gépbe?

Itt mindjárt megemlített egy hiedelmet a mesterséges intelligenciával kapcsolatban: Olyan lesz, amilyennek megépítjük. Valóban?

Érdekes párhuzamot vont a robotokkal és az istenekkel kapcsolatos gondolataink között:

  • A robot: segít – emberszerű – extrém intelligens ember – szingularitás – mindent tud.
  • Az isten: uralja a környezetét, érzelmei vannak – uralja az embert, segít, büntet, igazságos – uralja a világegyetemet, mindenható, igazságos. Először sok isten volt, lehetett választani közülük, később csak egy maradt, a legnagyobb.

A két gondolkodási folyamat nagyon hasonló!

Csányi szerint a robot nem tud okos lenni, ha nem építjük bele az ehhez szükséges elemeket; csak olyat tud megcsinálni, ami bele van építve.

Hadd szúrjak itt megint be egy gondolatot – nem ellentmondva a tudósnak. A gép azokkal a képességekkel rendelkezik, amiket beleépítünk. Ez igaz, de mi van akkor, ha a tanulás és az önfejlesztés képességét is beleépítjük? Lehetséges ez? A válasz attól függ, hogy mit értünk tanuláson. Ha az emberi szakmák elsajátítása közben használt tanulást (mások munkájának megfigyelését, majd a látottak alkalmazását a saját munkánkban), akkor erre már ma is képes a gép. Ez az RPA (robotic process automation) és fejlettebb formája, az IPA (intelligent process automation), amikről például a Robotember című cikkemben írtam.

Más példa: az AlphaGo. Az a program önmaga ellen játszott le milliárdnyi GO játszmát. Így tett szert olyan tudásra, amivel nem csak megverte az egyik legjobb emberi játékost, de kétségbe esésbe is kergette azzal, hogy értelmetlennek tűnő lépései voltak. Vagyis a szuper szakember nem értette, hogy mit csinál a gép – és a gép volt a jobb. Erre se lehet azt mondani, hogy a GO játék tudását építette bele az ember a gépbe. Nem, a játék megtanulásának a képességét építette bele, és azt úgy tudta felhasználni a gép, hogy „okosabb” lett az embernél.

Kell félnünk a robottól? Nem tudom! Az emberi történelem azt mutatja, hogy van okunk félni minden találmánytól, ami békés célokra, a javunkra használható, mert gonosz módon is bevethető.

Vajon Csányi definíciója alapján lehet intelligens egy gép? Képes fenntartani magát a saját környezetében hosszú ideig? Ezen jól el lehet gondolkozni… Mit jelent a „fenntartani” és mennyi a „hosszú” idő? Mi az a „saját környezet”, mekkora változás mellett kell fennmaradnia, hogy intelligensnek tekintsük?

Ez a cikk jelentős részben Csányi Vilmosnak az idei ITBN konferencián látott, hallott előadásán alapszik.

Diplomás robot?

Az elmúlt három héten az automatizálás és a robotok meglévő, elérhető és a közeli jövőben lehetséges munkahelyi alkalmazásairól írtam. Ismertettem kutatások eredményeit és konkrét alkalmazási példákat:

Holnapután egy kicsit ugrunk, mert a múlt heti ITBN (IT biztonsági) konferencia egyik előadása alapján írok valamiről, de az a “valami” nem IT és nem biztonság lesz.

Kell a diploma?

Milyen területen tanuljon, diplomázzon a mai fiatal? Mivel tud hosszú távra biztos jövedelmet szerezni?

Ezek a kérdések mindig aktuálisak voltak, de még sose volt ennyire gyors a változás, sose volt ennyire bizonytalan a következő egy-két évtized.

Abban meglehetős az egyetértés, hogy a fizikai munkakörök jelentős része automatizálható – a gyári munkától a mezőgazdaságon át a szolgáltatásokig. Vajon érdemes még egyáltalán szakmát tanulni? Most még igen, még rengeteg jó szakemberre van szükség a világon, de nagyon gyors a változás abban, hogy mit hagynak meg nekünk a gépek.

Azt is látjuk már néhány éve, hogy a „fehér galléros” munkakörökben is gyorsan terjed a gépesítés. Az irodai, adminisztratív munkákat (pl. a pénzügyi osztályokon) tízezrével alkalmazott „robotok” veszik át. Azért tettem idézőjelbe a robotot, mert ezek a robotok nem láthatók, nem jelennek meg a maguk fizikai valójában, hiszen csak szoftverekről van szó. Ezek a szoftverek gyorsan megtanulják az egyszerű, ismétlődő lépésekből álló munkafolyamatokat az emberektől, majd átveszik tőlük. A pillanatnyi hatása annyi ennek a folyamatnak, hogy az emberek érdekesebb, alkotóbb, hasznosabb munkát kapnak. A cikkekben ismertetett esetekben nem járt elbocsátással az sem, amikor 1800 ilyen robot állt be, sőt az sem, amikor a pénzügyi osztályon a dolgozók 80%-át cserélték le ilyen robotokra.

Eddig diploma nélkül betölthető munkakörökben láttuk a robotok jelentős elterjedését. Vajon mi a helyzet a diplomásokkal? A nem műszaki területeken komoly dolgok történnek, mutatok néhány példát.

Jogi területen vannak ígéretes kezdetek. Az egyik terület a dokumentumok elemzése abból a szempontból, hogy mennyire relevánsak egy adott jogvita szempontjából. Angliában már születtek olyan bírósági határozatok, amik elismerték az ilyen módszerek helyénvalóságát. Ezekben az ügyekben emberi munka és kulcsszavas keresés helyett szoftvert alkalmaztak dokumentumok relevanciájának eldöntésére. A bíró indoklása el is magyarázza, hogy hogyan (a Predictive Coding fejezetben található).

Mik voltak a szempontok? Költség és konzisztencia. Az adott ügyben 3 millió dokumentumot kellett átnézni, és azok közül kiválogatni az ügy eldöntésében lényegeseket. Ezt emberi erővel sok pénz és idő felhasználásával lehetne megtenni, és egyáltalán nem biztos, hogy nem lenne benne sok hiba. A szoftveres megoldás a “mesterséges intelligencia” szokásos betanítási módszerét követte: kisebb mintán (1600-1800) megmutatják a szoftvernek, hogy mik a fontos dokumentumok, majd a szoftver keres. Az eredmények egy részét megvizsgálják emberek, és visszajeleznek a gépnek, hogy jól dolgozott-e, ami ennek alapján tanul, ügyesedik.

Ez még csak a kezdet, itt a gépnek még elég csekély szerepe van a per eldöntésében, de már ezen a kezdeti szinten is számít a szoftver minősége és az esetleges szándékosan beleírt “hiba” (amire néhány példát láthatunk ebben a cikkben). A mesterséges intelligencia kutatói arra számítanak, hogy hamarosan ennél komolyabb szerepe is lesz a gépnek jogi területen is, ezért a mesterséges intelligencia alapelvei között is esik szó erről a problémáról.

Itt még nem érnek véget a jogi alkalmazási lehetőségek! Egy fiatal (19 éves) programozó egy év munkával és az IBM Watson felhasználásával megalkotta a DoNotPay szolgáltatást. Ez kezdetben csak a parkolási büntetések megfellebbezésében nyújtott segítséget. Hogyan tud segíteni? Kikérdezi az ügyfelet a körülményekről, majd a válaszok alapján megírja a fellebbezést. Már az első pár hónapban (akkor még csak egy államban) 3 millió dollárt szerzett vissza az ügyfeleinek. Idén nyár óta már az USA 50 államában és az Egyesült Királyságban segít 1000 különböző fajta jogi eljárásban.

Ez csak egy apró falatja a nagy tortának, és a nagy játékosok sokkal több időt, pénzt és szakértelmet tudnak bevetni, mint ez a fiatal programozó, aki teljesen ingyen nyújtja a szolgáltatást. Pillanatnyilag főleg a kezdő jogászokat érinti az ügy, az ő munkájukat tudja gyorsabban, pontosabban és olcsóbban elvégezni a gép. Ez nem kevés! A McKinsey becslése szerint a jogászok összes munkájának 23%-át lehet így automatizálni a technika mai szintjén. A kezdő diplomások helyett vagy mellett gépek lesznek a jogi csapatok tagjai, őket fogják a tapasztalt vezetők irányítani. Érdekes jövő! Ismerve a világcégek szemléletét (a kezdőkből a lelket is kipréselik, elképesztő óraszámban dolgoztatják, és apró hibákért is kirúgják őket), a napi 24 órában, villámgyorsan, kevés hibával dolgozó robotok lesznek a főnökök kedvenc munkatársai. Vajon kapnak majd kedvezményeket, előléptetést, jobb irodát?

Természetesen, a DoNotPay nem jogász. Itt egy csomó ok, amiért nem az.

Az lényeges, hogy jelenleg csak a nagy egységes (vagy közel egységes) jogrendszerű és egységes nyelvű területek jönnek szóba, ott lehet igazán hatékonyan alkalmazni a technológiát. A magyar jogászokat még nem fenyegeti ez a veszély, de az EU jogharmonizációja növeli a gépek alkalmazási lehetőségét. El tudom képzelni, hogy a GDPR (általános adatvédelmi rendelkezés, ami 2018 májusában lép érvénybe) – lévén új terület és egységes – lehet a „robot jogász” egyik első alkalmazása az Európai Unióban.

Olvastam egy másik érdekes jogi alkalmazást, ez Lisa, az elfogulatlan robot. Elsősorban arra találták ki, hogy szerződések kidolgozásában segítse egyszerre mindkét felet. Az ügyvédek nem dolgozhatnak egyszerre mindkét oldalnak, de a robot akár ezt is megteheti. A felek elmondják neki, hogy mit akarnak elérni, és segítséget kapnak tőle (akár egy elkészített szerződés formájában) ahhoz, hogy a megtalálják a kölcsönösen előnyös megoldást, a win-win eredményt. Megalkotói arra a problémára kerestek megoldást, hogy az emberek és a kis cégek jelentős része nem fordul ügyvédhez, mert nincs rá ideje, nem is érti, amit az ügyvéd mond, kényelmetlenül érzi magát, ha ügyvéddel kell tárgyalnia, munkaidőn kívül alig talál ügyvédet stb.

Nem a jogi munka az egyetlen, ahol már megvetette a lábát az automatizált tanácsadás! Az orvosok munkájának egy részét is kiválóan tudja elvégezni a gép. Arról nincs szó, hogy egy orvos minden feladatát el tudná látni, de fontos részterületeken gyors, pontos és olcsó tud lenni. Nincs messze az idő (sőt, talán már itt is van), amikor néhány fitnesz és egészségügyi kütyü és szoftver, valamint a felhőben ülő elemző rendszer komoly szerepet vállalhat az egészségügyi alapellátásban. Ha mellette még videókapcsolatba is lehet lépni az orvossal, aki minden mérési eredményünket és azok gépi kiértékelését látja, akkor gyorsabban, pontosabban, olcsóbban lesz elsődleges diagnózisunk. Erre is vannak már működő példák – nem meglepő módon elsősorban Amerikában. Kedves Olvasó, ha érdekel, mit tud és hogyan működik egy ilyen eszköz, itt találhatod a leírását. Annak, aki sok időt szeretne eltölteni a téma tanulmányozásával, ezt a hosszú listát tudom ajánlani.

Jó hír, hogy itthon is vannak már olyan háziorvosok, akik örömmel fogadják, ha a betegük otthoni mérések eredményeit hozza a rendelőbe. Így sokkal megalapozottabb lehet a diagnózis, mint egy pillanatban mért adatok alapján.

Itt még nem ér véget a példák hosszú sora! Vannak olyan kutatások, amik szerint a felsőoktatásban is érdemes bevetni a gépesített tanárt. Az első sikereket a matematika tanításában érték el. Itt sem arról van szó, hogy megszabadulnak a humán tanároktól – a gép csak a munkájuk egy részét veszi át (és csinálja eredményesebben, kevesebb kimaradó diákkal).

Szóval, vissza a kezdeti kérdésemhez: milyen diplomának induljon neki a fiatal? A fenti példákat mind humán területekről hoztam, de ez nem jelenti azt, hogy pl. mérnökök munkája ne lenne veszélyben.

Milyen tudás kell ahhoz, hogy az elkövetkező évtizedekben legyen jó és érdekes munkája az embernek? Hivatkoznék Bőgel professzor három évvel ezelőtti előadására: adattudóssá kell válni, olyan emberré, aki a gépek által összegyűjtött mérhetetlen mennyiségű és változatosságú adat feldolgozását, elemzését tudja irányítani. Ehhez érdemes több szakmában járatosnak lenni. Az adattudósok manapság főleg orvosok, biológusok, fizikusok, asztrofizikusok. Mi bennük a közös? A szakmájuk tudásanyaga szerteágazó. A lényeg az, hogy sok dolog iránt kell érdeklődni, sok dologhoz kell érteni (köztük a matematikához is, de nem kell matematikusnak lenni).

Azt hiszem, nem is az a kérdés, hogy miből legyen diplomája az embernek. Inkább az a kérdés, hogy az új, digitális, elektronikus világhoz mi a viszonya. A jogi, orvosi, oktatási, mérnöki munkát végző gépeket emberek hozzák létre, ők tanítják be őket. Olyan emberek, akik az adott szakterületen és a gépek világában is otthonosan mozognak. Talán ez a megfejtés: tanuljuk meg a mesterséges intelligencia világát!

 

Robot kollégák

Az elmúlt két héten az automatizálás és a robotok meglévő, elérhető és a közeli jövőben lehetséges munkahelyi alkalmazásairól írtam. Ismertettem kutatások eredményeit és konkrét alkalmazási példákat:

Holnapután mélyebbre merülünk, és a diplomások kilátásairól is szó lesz.

Mi a feladat?

Mit bízhatunk az új kollégára? Milyen munkát tud nem csak gyorsan, de pontosan is végezni? Hol vannak a határai, miben pontos, miben hibázik?

A múlt héten az általános trendek és lehetőségek voltak terítéken. Láttuk, hogy a nagy felmérések szerint jelenleg a munkahelyi tevékenységek fele automatizálható, de teljes mértében csak a foglalkozások 5%-a váltható ki géppel. Ez a nagy különbség azért van, mert szinte minden munkakörben vannak olyan feladatok, amiket még nem igazán lehet robotra bízni. Mik ezek? Új dolgok kitalálása, logikai következtetések, több résztvevő tevékenységének koordinálása, beszédértés, érzelmi intelligencia, de még a lépcsőre vagy létrára való felmászás se megy valami jól a robotoknak, hogy ne csak szellemi tevékenységeket mondjunk.

A részleges automatizálás is veszélyezteti a munkahelyeket, hiszen csökken a szükséges dolgozók száma. Különböző számok jöttek ki a felmérésekben, de mindenki nagyjából az emberi tevékenységek felét látja rövid távon veszélyben. Itt nem csak és nem elsősorban a fizikai munka területén jönnek a nagy változások, hiszen a gyárakban már előrehaladott az automatizálás. Megindult ez a folyamat a „fehér galléros” munkák körében is az RPA és az IPA miatt. Ezek bevezetésével az irodai munkát veszik át a szoftveres robotok (ld. az előző cikkemet).

Megmutatok most néhány (elképzelt) esettanulmányt, amiből jobban meg lehet érteni a meglévő műszaki megoldások szerepét az emberi munka helyettesítésében. A példák forrása a McKinsey Global Institute, A future that works: Automation, employment, and productivity című 2017. januári tanulmánya.

Biztos mindenki járt már kórház sürgősségi osztályán, vagy látta valamelyik sikeres amerikai kórházsorozatot. Induljunk ki az ott végzett tevékenységekből, és nézzük meg, hogy mit tudunk ma automatizálni! A beérkező beteg azonnal kaphat egy jól ismert okos karkötőt, ami méri az életfunkcióit. Ezek már nem csak pulzust és vérnyomást tudnak mérni, de még olyan bonyolult adatot is, mint a vér oxigénszaturációja. Az első gyors laborvizsgálatokat is jól lehet automatizálni. Sőt a laboreredményeket és a karkötő által mért értékeket összevető, összefüggéseiben értékelő szoftver is készen van már. Ez a sürgősségi nővér vagy rezidens keze alá dolgozik, segít a prioritások, a kezelési sorrend gyors eldöntésében. Maga a diagnózis is részben ezeken alapszik, de a beteggel való beszélgetés, a nem verbális jelek megfigyelése is fontos, így a végső szó az orvosé, akit a gépek segítenek, hogy gyorsabban és kevesebb hibával döntsön. A betegszállítás és a műszerek mozgatása, sőt a gyógyszerkiadás is lényegében teljesen automatizálható. A McKinsey becslése szerint egy (amerikai) sürgősségi osztály munkájában az elért haszon nagyobb része a kevesebb emberi munkából (Az emberi munka felét lehetne automatizálni!), kisebb része a minőség javulásából származik (költségcsökkenés, rövidebb várakozás, kevesebb hiba). Ezekre igencsak szükség van, mert a várakozási idő tipikusan két óra feletti, és horror összegek mennek el műhibaperekre.

Nézzünk egy másik közismert szituációt, a boltot, ahova vásárolni járunk! A kiskereskedelem is elkezdett már változni, már egyre több folyamatot tudnak digitálisan végezni, sőt akár a buszmegállóban várakozva is meg tudjuk rendelni az árukat, de még mindig sok dolgozóra van szükség a boltokban. Egy csomó egyszerű munkát simán át tudnának venni a gépek, pl.: polcok feltöltése, takarítás, de már az önkiszolgáló pénztárak is megjelentek. Egy kis további technika bevetésével a boltba belépve felismerhet a virtuális eladó, személyre szólóan üdvözölhet és nekünk szóló, testreszabott információt és tanácsokat adhat. A polcok között automatikusan tud követni a bevásárlókocsink. A polcról levett árut azonnal tudja pótolni az automatizált raktár. Sőt, az is egyszerűen megoldható, hogy ne is legyen bevásárlókocsira szükségünk, hanem csak megbökjük, amit meg akarunk venni, és a kijáratnál vár az összekészített csomag (vagy hazakísér a robot a csomaggal, vagy hazahozza a drón). A megtakarítás nagy hányada a kisebb alapterületű boltból és raktárból származik majd. Emellett jelentős lesz a munkaerő-megtakarítás is, a becslés szerint 65% körül. A technikai fejlesztések egyben a vásárlók jobb kiszolgálását, a vásárlói élmény javítását is jelenthetik. A McKinsey szerint itt is nagyjából a költségek háromszorosa lehet a nyereség (akárcsak az előbbi egészségügyi példában).

A tanulmányban elemeznek még három területet: repülőgépek karbantartása, olaj- és gázkitermelés, jelzáloghitel-ügyintézés. Az első két területen fontos nyereség, hogy kevesebb veszélyes munkát kell az embereknek végezniük, gyorsabb és koraibb a hibák észlelése, jobb a megelőző karbantartás. A jelzáloghitelek esetében az emberi munka 55-85%-kal csökkenhet. A most átlagosan 37 napos elbírálási idő hat nap is lehet. Ha még a folyamatokon is javítanak, akkor akár egy napon belül is megtörténhet.

A számok az USA-beli helyzeten alapulnak, és nem mindenhol ugyanezek az eredmények várhatók. A haszon kiszámításánál nem vették figyelembe a társadalmi költséget, ami az alacsony képzett munkaerő feleslegessé válásából származik. Abban nincs egyetértés a szakemberek között, hogy fel tudja-e szívni más terület ezeket az embereket, és át lehet-e képezni őket más munkákra. A sok és olcsó rendelkezésre álló munkaerő pedig lassítja az automatizálás terjedését, amíg nem lesz sokkal olcsóbb a gép.

A társadalmi hatás tekintetében idézek két megállapítást az előbb említett tanulmányból. Az egyik 1966-ból származik, és azt veti fel, hogy meg kell tanítani az embereket a megnövekvő szabadidejük értelmes felhasználására: „In the longer run, significant changes may be needed in our society—in education, for example—to help people find constructive and rewarding ways to use increasing leisure” (Technology and the American economy: Report of the National Commission on Technology, Automation, and Economic Progress, US Department of Health, Education, and Welfare, 1966). A világban körülnézve nem látom, hogy ez sikerült volna az eltelt ötven év alatt.

A másik idézet frissebb, és arra mutat rá, hogy jelentős divergencia figyelhető meg a termelékenység és a fizetések között, a dolgozók részesedése csökken a megtermelt értékből. „However, in recent years, there has been a notable divergence between productivity and pay, and the labor share of income has declined in many advanced economies” (Josh Bivens and Lawrence Mishal, Understanding the historic divergence between productivity and a typical worker’s pay: Why it matters and why it’s real, Economic Policy Institute briefing paper number 406, September 2015; Poorer than their parents? Flat or falling incomes in advanced economies, McKinsey Global Institute, July 2016). Ezt a jelenséget már bő tíz éve észrevették, és gazdasági szempontból nem az a baj vele, hogy igazságtalan, hanem az, hogy hiányzik a vásárlóerő.

Mik azok a területek, amik a technológia mai szintjén nem vagy alig gépesíthetők? Ha több érzékszervünkből érkező információkat kell együtt kezelni és elemezni, akkor sokkal jobbak vagyunk a gépeknél. Nem tudom, meddig lesz még meg ez az előnyünk. Valószínűleg addig, amíg az ember olcsóbb, mint ez összes érzékszervvel rendelkező gép. Új ötletek kitalálása vagy új összefüggések felfedezése se nagyon megy még a gépeknek, de az AlphaGo példája óvatosságra int. (Emlékeztetőül: úgy verte meg a GO egyik legjobb játékosát, hogy az nem is értette a gép lépéseinek a célját.) Nem megy a gépeknek még sok szereplő (ember és gép) munkájának irányítása, koordinálása. Általában gyengék az emberi beszéd finomságainak megértésében, az érzelmek felismerésében, a megfelelő reakciókban. A gépesített eladó nem ismeri fel a betérő vevő érzelmi állapotát, kedélyét, fájdalmát, ezért nem is tud megfelelően beszélni vele.

Ezek azok a hiányosságok, amik miatt még az „okos” gépek, akár mesterséges intelligenciával felruházva, se tudják teljesen átvenni az embertől a munkát, hanem csak egyes munkafolyamatokat lehet átadni nekik.

Itt látok meglehetős bizonytalanságot. Mi lenne az? Elég erős tendencia az online vásárlás, az online bankolás, az automatizált ügyfélszolgálat, az internetes egészségügyi tanácsadás, a fitnesz „kütyük” által adott életmódtanácsok megfogadása stb. Lehet, hogy egyre kevésbé van igényünk arra, hogy a másik oldal, a szolgáltató törődjön az érzelmeinkkel? Lehet, hogy annyi törődés elegendő lesz, amennyit az arcfelismeréssel vagy hangelemzéssel azonosított érzelmeinkre válaszul egy robottól kaphatunk? (Mindkét technológia évek óta használatban van.)

Robotember

Az új kolléga nagyon rendes, udvarias, segítőkész és precízen dolgozik. Sose okoz problémát. Ha nem tud valamit, kérdez, és elsőre megtanulja. Bárcsak mind ilyenek lennének!

Igen, és éjt nappallá téve dolgozik, sose pihen, mindig szorgoskodik az új robot kolléga. Milyen vele együtt dolgozni? Elveszi majd az én munkámat is? Egy-két lusta és ügyetlen kollégát már elküldtek, mert ő jobban csinálja. Rám is sor kerül majd?

A múlt héten a vezető szempontjából írtam a munka világáról, annak megváltozásáról. Az értékes fiatal szakemberek bevonzása és megtartása mellett maguknak a csúcsvezetőknek a megváltozott munkájáról volt szó.

Ma visszatérek arra, hogy az új technológiák (mesterséges intelligencia, gépi tanulás, robotok) milyen változást idéznek elő a munkahelyeken. Hogy alakul az alkalmazottak száma? Tömeges lesz az elbocsátás? Csökken vagy nő az alkalmazottak száma?

Általában csökkenést várnak, de abban nagyon nincs egyetértés az elemzők körében, hogy a munkahelyek számában mekkora változás (csökkenés) várható. Akik növekedést jósolnak, azok ezt pusztán a történelemre alapozzák (eddig egyik ipari forradalom se csökkentette a munkahelyek számát).

Lássunk néhány jóslatot (nem nevezném becslésnek őket):

  • A munkakörök 47%-a van erős veszélyben az automatizálás miatt (Carl Benedikt Frey and Michael A. Osborne, The future of employment: How susceptible are jobs to computerisation? Oxford Martin School, September 17, 2013)
  • Az OECD átlagában a munkahelyek 57%-át érinti az automatizálás, de Indiában 69%, Kínában 77% az arány. (Technology at Work v2.0: The future is not what it used to be, Citibank, January 2016)
  • Az OECD-ben a munkahelyek 9%-a automatizálható teljes mértékben, de nagyok a különbségek, pl.: Koreában 6%, Ausztriában 12%. (Melanie Arntz, Terry Gregory, and Ulrich Zierahn, The risk of automation for jobs in OECD countries: A comparative analysis, OECD Social, Employment and Migration working paper number 189, OECD, May 2016)
  • 2015 és 2020 között az automatizálás és a technológiai fejlődés 7,1 millió munkahely eltűnését és 2 millió új munkahelyet jelentheti a 15 legnagyobb fejlett és fejlődő országban. Az eltűnő munkahelyek kétharmada az irodai és adminisztratív területen várható. (The future of jobs: Employment, skills, and workforce strategy for the fourth Industrial Revolution, World Economic Forum, January 2016)
  • A jelenlegi technológia mellett a munkahelyi tevékenységek közel fele automatizálható. A foglalkozások kevesebb mint 5%-a automatizálható teljes mértékben. Az automatizálható tevékenységek 1,1 milliárd dolgozót érintenek (ennek fele Indiában, Japánban, Kínában és az USA-ban van). A termelékenységet évente 0,8-1,4%-kal növelheti az automatizálás évtizedekig. (McKinsey Global Institute analysis)

Miért ekkora a különbség a számok és a százalékok között? Nem csak azért, mert mások és máskor írták. Mást és másképp vizsgáltak, az egyikben az érintett munkakörökről, a másikban a megszűnő munkahelyekről, a harmadikban foglalkozásokról van szó. Az sem mindegy, hogy a tevékenységek egy része, vagy a teljes munkakör automatizálható.

Lesznek olyan munkahelyek, amelyek teljesen megszűnnek – sőt, nem csak lesznek, már meg is szűntek. Tavasszal írtam arról a nagy biztosítóról, ahol az RPA (robotic process automation) segítségével 81%-kal csökkentették az egyik osztályon a dolgozók számát. A Deutsche Bank vezére nemrég nyilatkozta, hogy nagyon sok dolgozójuk munkája szűnik meg az automatizálás miatt. Ezeken a helyeken olyan tevékenységeket végeznek, amelyek nem igényelnek emberi intelligenciát, hanem jórészt egyszerű szabályok követését – így valóban nincs szükség az emberre. Egy darabig még kell ember a szokatlan helyzetek és a kivételek kezelésére, de várhatóan azokat is meg lehet tanítani a gépnek. Ez a további fázis már kezdi elérni a mesterséges intelligencia határát, és ezért IPA (intelligent process automation, intelligens folyamatautomatizálás, vagy csak intelligent automation) a neve. Az RPA és az IPA egyik legfontosabb jellemzője, hogy nem igényel változtatást a cég folyamataiban. Egyszerűen csak „beültetik” a gépet az ember helyére. Ez, persze, azt is jelenti, hogy korántsem aknázzák ki technológia összes lehetőségét. Miért csinálják mégis így? Nem kell hozzányúlni a folyamatokhoz, minden mehet a régi, jól bevált módon. Csak annyi a változás, hogy a gép gyorsabban és pontosabban végzi a rutin munkát. Ha egy speciális helyzetben emberi beavatkozás kell, az ember a megszokott programokat és képernyőket használja. A robot tanítása is egyszerű: csak másolnia kell az emberi kolléga tevékenységét.

Ugyan sokat írnak erről az RPA-ról, de talán nem mindenki tudja, miről van szó. Aki szokott internetes üzletben vásárolni, nyilván észrevette, hogy bármely nap, bármely napszakban is adja fel a rendelését, azonnal megkapja a visszaigazoló levelet. A kártyás fizetés után szintén azonnal jön arról is a levél. Ezeket nem ember küldi, mint ahogy a csomag feladásáról szólót sem. Egyszerű, automatizált folyamatok vannak a háttérben. Nos, ez nem RPA. Másrészt, olyan üzlettel is lehet találkozni, amelyik csak munkaidőben, és jókora késéssel küldi a leveleket. Ezek elsősorban a boltban árusítanak, és az internetes (és telefonos vagy papíron történő) rendelés csak kiegészítő lehetőség, és a boltban (vagy a raktárban) dolgozzák fel a megrendelést. Ha átutalással fizetünk, akkor a beérkezett összeg és a megrendelés párosítása egy külön folyamat, ez sem automatikus.

Miért így csinálják, miért nem alakították ki az internetes rendelés sajátos és gyorsabb folyamatát? Egy új folyamat kialakítása pénzbe kerül, be kell tanítani a dolgozókat, két párhuzamos folyamat ugyanarra a tevékenységre nem gazdaságos, és kockázatos is. Na, itt léphet be a robot, az RPA! Nem kell hozzányúlni egyik folyamathoz sem, csak be kell ültetni egy „robotot”. Nem kell különösen okosnak lennie, hiszen az internetes rendelés és fizetés számítógépes folyamatokon keresztül történik, nem lehet félreértés, nem kell intelligencia a megértéséhez.

Miben különbözik ettől az IPA? Képzeljük el, hogy papíron érkezett megrendelést kell bevinni a rendszerbe! Meg kell érteni a levelet, meg kell benne találni a megrendelő nevét, a szállítási és a számlázási címet, a kért határidőt, a fizetési módot, és persze a megrendelt árucikkeket. Észre kell venni azt is, ha valami külön kívánságot is írt a megrendelő. Itt még nincs vége! Az átutalással érkezett pénzt össze kell hozni a megrendeléssel. Azt is kezelni kell, ha több részletben érkezik a pénz. Amikor megvan minden megrendelt áru, össze kell állíttatni a csomagot stb. Ugye el tudjuk képzelni, mennyi kisebb-nagyobb probléma és kérdés merülhet fel ezekben a folyamatokban? Itt már kell intelligencia, kell gondolkozni, nem teljesen automatikus a munka. Ez az IPA (intelligens folyamatautomatizálás) területe. Az ember szerepét részben vagy teljesen átvevő robotot be kell tanítani erre a munkára.

Ha már tanítás: Hogyan is tanul a gép, a mesterséges intelligencia?

Az egyik tanítási módszer a „felügyelt” tanítás (supervised learning): megmutatjuk a gépnek, hogy mit kell tennie, ha egy-egy adott helyzetbe kerül. Például: ha a bejövő átutalásban tudja azonosítani a megrendelőt és stimmel az összeg, akkor fogadja el a fizetést akkor is, ha nem adta meg a vevő a megrendelés számát. A megrendelő azonosítása sem azt jelenti, hogy betűről betűre megegyezik a megrendelésen és az átutalásban a név, lehetnek rövidítések, ismerhetjük már korábbi vásárlásokból a vevő számlaszámát, stb. Ezeket a dolgokat az ügyintézők jól tudják, a munkájuk során kitapasztalják, tapasztalt kollégáiktól megtanulják, és ugyanígy tovább is adhatják a gépnek (ami majd elveszi az ő munkájukat), vagyis az emberek között is szokásos tanulási formáról van szó.

A megszerzett tudás átvitele egy másik területre (transfer learning vagy inductive transfer) se valami új csoda. Itt arról van szó, hogy új helyzetekben alkalmazzuk a már megszerzett ismereteket, például: megtanultuk egy képen felismerni az személyautókat, és ennek alapján a teherautókat is megtanuljuk felismerni. A daganatos betegségek diagnózisában használt okos gépet is szokták egyéb (nem orvosi) képeken tanítani.

Szintén ismerjük a saját emberi világunkból a jutalmazással és büntetéssel való megerősítést a tanulásban (reinforcement learning). Itt nem sokat magyarázunk a gépnek, hanem az elvégzett munka után plusz vagy mínusz pontokat adunk neki – ebből tanul. Erre nagyon jó példa, ahogy az alkudozást tanították meg a gépeknek a Facebook egyik kísérletében. Mesterséges intelligenciával felruházott robotok kapták azt a feladatot, hogy alkudozzanak egymással néhány tárgy elosztása ügyében. Mindenképpen egyezségre kellett jutniuk, a saját maguk számára legjobb eredményt kellett elérniük, és – természetesen – nem ismerték egymás céljait (kinek, melyik tárgy, mennyire értékes). Azt vették észre, hogy előre be nem programozott viselkedési módokra jöttek rá a robotok, pl.: félrevezetés. Az alku elején úgy tettek, mintha valamelyik tárgy megszerzése nagyon fontos lenne, pedig az nem is kellett, csak az értékét akarták felverni. Ez már emberi viselkedés, ugye? Majd, amikor robotokkal kötünk üzletet, nem leszünk könnyű helyzetben, hiszen ők sokkal gyorsabban elemeznek, sokkal több lehetőséget tudnak elemezni, és se fizikailag, se mentálisan nem fáradnak el.

Most már tudjuk, hogy miképpen tanul a mesterségesen intelligens gép vagy robot, és közben arra is láttunk példákat, hogy milyen munkakörökben és milyen tevékenységekben helyettesíthetik az embert. Egyelőre (a technika mai szintje mellett) viszonylag kevés olyan foglalkozás van, amiben teljesen kiváltható az ember robottal, de a munkahelyek többségét érintheti valamilyen mértékben.

Folytatás: Mi a feladat?

(A cikkben jelentősen támaszkodtam a McKinsey Global Institute, A future that works: Automation, employment, and productivity című 2017. januári tanulmányára).

 

Intelligens támadás és védekezés

Várom a pillanatot, amikor mesterséges intelligenciával felokosított (felfegyverzett) robotok fognak egymással harcolni a kibertérben.

Vajon ez a távoli jövő zenéje, vagy hamarosan elkezdődik, vagy már folyamatban is van?

Source: SecureWorks Counter Threat Unit

Nem tudom, de talán a cikk végére többet tudunk majd a témáról…

Hogy jutott ez ma az eszembe? Nemrég olvastam (és röviden írtam is) a Mia Ash által (inkább nevében) megtervezett és felépített adathalászással egybekötött kibertámadásról. Mi volt ennek az érdekessége? A támadó hónapokat töltött azzal, hogy felépítsen egy vonzó és nagyon hihető online személyiséget.

Ez a Mia Ash Londonban élő fényképész, a húszas évei közepén járó fiatal nő, akinek hiteles online jelenléte van sok helyen (LinkedIn, Facebook, Blogger, WhatsApp), és rendszeresen ír is mindenhova. A szövegei rendes angolsággal, az adott hely szokásainak megfelelően íródnak. Fényképei is vannak, és elsőre teljesen rendben lévőnek látszanak. Természetesen, ezek „újrahasznosított” szövegek és képek, vagyis más (valódi) személyektől származnak, és kissé át vannak alakítva, hogy ne lehessen egyszerű kereséssel megtalálni az eredetit. (Nem is egy helyről szerezte őket.)

A LinkedIn adatai között ötszáznál több szakmai kapcsolatot találunk. Ezeknek nagyjából fele szintén fényképész. A másik fele viszont a feltételezett célközönségből kerül ki: középvezetők, műszaki vagy informatikai szakterületen, a technológiai, energetikai, egészségügyi, légügyi és tanácsadási szektorokban. Olyan emberek, akiknek tipikusan értékes hozzáférési jogaik vannak a cégük hálózatához.

A LinkedIn csak a kiindulópont és a bizalom felépítésének színtere. Később kapcsolatba lép az áldozattal a Facebookon, majd segítséget kér, egy kérdőív kitöltését. Ez egy Excel táblázat, amit „a megfelelő működés érdekében” a céges számítógépükön kell megnyitnia. Itt el is akadhatna a támadás, hiszen egy ilyen kérés gyanút ébreszthetne az áldozatban. Valamiért mégsem ébresztett gyanút, amiben szerepe lehetett a szépen lassan kiépített bizalomnak és esetleges vonzalomnak. Egy ilyen letöltés indította el a vizsgálatot, mert a megcélzott cég védelmi rendszere észlelte a PupyRAT kódot. Sőt, nem tértek napirendre az ügy fölött, hanem ki is vizsgáltatták külső szakértővel. Így került képbe a Dell SecureWorks Counter Threat Unit (CTU) csapata, akik később közzé is tették vizsgálatuk eredményeit. Érdemes elolvasni!

Nem megyek bele a többi részletbe, minden elolvasható a fent hivatkozott elemzésben (és még sokan mások is írtak az ügyről). A tanulság is viszonylag egyszerű: még a hozzáértő embereket is át lehet verni, ha elég sokat és elég jól dolgozunk. Az egyik átvert ember egy nagy tanácsadó cég informatikai biztonsági vezetője!

Hogy jön ide a mesterséges intelligencia? Ebben a támadásban valószínűleg sok emberi munka ölt testet. Ha elemezzük a sikeres és a kevésbé sikeres elemeit és tanulunk belőle, akkor ugyanezt meg tudjuk csináltatni egy géppel is, sőt akár egy kicsivel jobban is. Mit lehetne javítani? Például a szövegek és a képek lopottak voltak, és csak minimálisan változtattak rajtuk, így megfelelő keresési módszerrel meg lehetett találni az eredetijüket.

Ha az egészet automatizáljuk, akkor ugyanannyi idő és munka ráfordításával rengeteg ilyen célú online „személyt” tudunk létrehozni. Miért lenne ez jó? Ha a létrehozott identitást nem használjuk egyidejűleg több célpont elleni támadásra, akkor kisebb az esélye a lebukásnak. Az senkiben sem kelt gyanút, ha egy egyébként jól felépített „személy” egyetlen célszeméllyel lép kapcsolatba. Ha le is bukik az egyik, a többi száz vagy ezer gond nélkül dolgozhat tovább a többi célszeméllyel.

Természetesen, nem csak a létrehozásukat, hanem az üzemeltetésüket is lehet automatizálni. A robot számára nem probléma több száz vagy ezer „személy” nevében rendszeresen írni. Az se nehéz feladat, hogy más és más témákról írjon, és nyilván válaszolni is tud a hozzászólásokra. Talán még a Watsonra sincs szükség ehhez, de az egész biztosan meg tudja csinálni.

A legsikeresebb támadás az, amiben nincs „rendszer”, hiszen a védelem „minták” felismerésén alapszik. Az igazán sikeres támadó minden egyes áldozatot másképp támad meg, testre szabja a módszereit a célpontnak megfelelően. Az ilyet nagyon nehéz felfedezni. Vannak már ilyenek? Igen, vannak: a „ProjectSauron” névre keresztelt támadás öt évig működött szépen csendben, mire felfedezték. Ezt még valószínűleg hagyományos módszerekkel, sok-sok emberi munkával hozták létre, és finomították folyamatosan, éveken keresztül. A tanulási képességekkel felruházott robot még jobbat tud majd alkotni!

Ha már az előbb szóba jött a Watson: vajon használják már támadások létrehozására és levezénylésére? Valószínűleg nem, hiszen csak egy van belőle, az is az IBM tulajdonában, és a felhőből lehet használni, bérelni. Nyilván alaposan ellenőrzik, hogy ki és mire használja. A használat főleg orvosi, de megjelenik játékokban, lakások automatizálásában és városi utcák karbantartásában is.  Vajon becsúszik egy-egy rosszindulatú felhasználó is? Aligha.

Source BakerHostetler

Az IBM azt viszont már kitűzte maga elé, hogy a támadások észlelésében és elhárításában kapjon szerepet a Watson. Azt tervezik, hogy a nagyvállalati rendszerekben keletkező iszonyú sok információt fogja feldolgozni és elemezni. Köztudott, hogy a túlterhelt biztonsági szakértők és rendszerek nem tudnak mindennel időben foglalkozni, és az információ tengerében eltűnik az a néhány csepp, amire fel kellene figyelni. Sok felmérés készül arról, hogy mennyi ideig tart egy informatikai támadás észlelése, és nem szívderítőek az eredmények. Kisebbségben vannak azok a vállalatok, amelyek egy napon belül észreveszik, hogy történt valami, és sok helyen tart hetekig vagy hónapokig. És ez csak az észleléshez szükséges idő! A támadás megállítása, a károk elhárítása még csak ezután következik…

Mit várnak Watsontól? Gyorsan, egy szempillantás alatt elemezze információk tömkelegét, és találja meg az összefüggéseket a különböző rendszerekben észlelt és nehezen összekapcsolható események között. Ha sikerül ezeket a kapcsolatokat felfedezni, akkor azonnal kiderül, hogy önmagukban ártalmatlannak tűnő események együttesen támadásra utalnak.

Source: Kaspersky

Jelenleg az a legnehezebben kezelhető feladat, hogy a sok-sok helyen keletkező, és sokszor semmilyen riasztást sem generáló események közötti összefüggéseket felfedezzük. Mire gondolok? Teljesen ártalmatlan dolgokra, például felhasználó sikeres bejelentkezése, hozzáférés valamihez, amihez van joga, program elindítása, levelezés stb. Ilyen események milliói történnek naponta egy nagyvállalati rendszerben, és szinte mindig ártalmatlanok, de egyszer-egyszer valamilyen támadás van mögöttük, a felhasználó nevében a vírus (vagy hasonló) tevékenykedik. Észre lehetne venni? Igen! A támadó nem ismerheti olyan mélységben a rendszereinket és a felhasználóinkat, mint mi magunk. Nem tudhatja tökéletesen utánozni a felhasználó munkáját, viselkedését. (Egyelőre nem is kell ezzel törődniük, mert az informatikai biztonsági rendszerek sehol se tartanak ezen a területen – néhány kezdeti próbálkozástól eltekintve.)

Talán most egyszer, kivételesen eljön az az idő, hogy a védekezési módszerek fejlesztése nem kullog a támadási módszerek fejlesztése mögött, hanem előtte jár, és a még ki sem talált módszerek ellen is véd! Ez megvalósulhat, ha a Watson tényleg beül az üzemeltetők és a biztonsági szakemberek mellé, és segít nekik:

  • kiszűrni a hasznos információt a sok lényegtelen közül, és
  • megtalálni a rejtett összefüggéseket a látszólag ártalmatlan események között.

Milyen lesz, amikor mindkét oldalon mesterséges intelligenciával felfegyverzett robot áll? Ez lesz az igazi megmérettetés! Nem a Watson az egyetlen „intelligens” szupergép, ott van az AlphaGo és a D-Wave kvantumszámítógép.

Melyikre (vagy milyen még ismeretlen technikára) teszik rá a „rossz fiúk” vagy inkább az államilag támogatott támadók a kezüket először? Sok országnak van már ütőképes kiberhadserege…

 

 

A gép tanul helyettünk?

Mit tesz velünk, a munkánkkal és az életünkkel a mesterséges intelligencia?

Pontosabban, nem maga a mesterséges intelligencia teszi majd, hanem az, ahogy felhasználjuk. Ez is egy általános célú technológia, ami vélhetőleg hasonló nagyságrendű változásokat hoz majd az életünkben, mint korábban az általános célú technológiák (gőzgép, elektromosság, belső égésű motor). Általában mesterséges intelligenciáról beszélünk, és ez a terület annyira szerteágazó, hogy nem is mindig tiszta és világos, hogy részére gondolunk.

Vannak kísérletek a mesterséges intelligencia kereteinek és határainak megalkotására. Az egyik érdekes próbálkozás az „Asimolar AI Principles” nevet viseli. Ez egy 23 alapelvből álló lista, amit januárban állított össze sok okos ember egy konferencián, és azóta több ezren csatlakoztak hozzájuk. Én úgy látom, hogy ezek inkább óhajok, mintsem várhatóan betartható szabályok. Emlékezzünk arra, hogy Asimov végtelenül egyszerű három törvényét sem sikerült a robotoknak betartaniuk! Egy korábbi írásomban egy kicsit részletesebben belementem ebbe a témába: Mesterségesen etikus.

Egy pozitív megközelítés szerint a mesterséges intelligencia valójában felszabadítja az embert a „robot”, az unalmas, gépies munka alól. Az ilyet átveszi a gép, és az embernek megmarad az alkotó tevékenység. Úgy érzem, hogy ez az optimizmus nem teljesen indokolt, mert már látszik az is, hogy a gépek nagyon bonyolult döntések meghozatalát is kezdik átvenni az emberektől. Valójában még mindig az ember hozza a döntést, azonban a gép tesz javaslatot a döntésre. Az a gép, amelyik egy pillanat alatt elemzett annyi információt, amennyit az ember csak napok vagy hetek alatt nézhetett volna át. Ha az ember utána akarna nézni annak, hogy a gép jól következtetett-e, akkor elveszítené a gyors döntés előnyét. A gyors döntésen emberi életek vagy üzleti eredmények múlhatnak! Ezért valószínűleg általában el fogja fogadni a gép javaslatát. A géppel együtt dolgozó emberek tudása szép lassan elkopik majd, így egyre kevésbé fognak tudni beleszólni a döntésbe, vagyis teljesen alárendelik magukat a gép programjának.

Az itt az érdekes, hogy nem is a gép programjáról van szó. A programot ember írja, és elvileg ismeri a működését. (Azért csak „elvileg”, mert a valóságban ezek a bonyolult programok tele lehetnek hibákkal – akárcsak a sokkal egyszerűbbek.) Azonban itt nem programról van szó, mert a lényeg a gépi tanulás (machine learning, ML).

A gépi tanulás azért fontos, mert a bonyolult kérdésekben hozott döntési folyamatainkat nem tudjuk algoritmusba önteni. Van ott intuíció, asszociáció, vagy valami más, amit nem tudunk precízen elmagyarázni. Így számítógépes program formájában sem tudjuk leírni, vagyis nem tudjuk a szokásos módon automatizálni. Itt lép be a gépi tanulás. Miben más a gépi tanulás, mint ahogy az ember tanul? Tulajdonképpen nagyon hasonlít ahhoz, ahogy a kisgyerek tanul – példákból, mások tapasztalatából.

A vezető nélküli autózás egyik fejlesztője, a magyar AImotive cég megtanítja a szoftverét az utcán előforduló „objektumok” (autók, gyalogosok, motorkerékpárok, biciklik, tereptárgyak) felismerésére és megkülönböztetésére. Ezt nem úgy teszi, hogy szabályokat táplál a gépbe, hanem videók tömkelegét mutatja be a gépnek, és ezeken a videókon emberek kategorizálják az objektumokat. Az Udacity nevű cég egyik vezetője a kereskedők és a vevők online beszélgetéseit elemezte, és „sikeres” – „sikertelen” címkékkel látta el a beszélgetéseket. Ebből kiderült, hogy mik a jó és mik a rossz válaszok egy-egy szituációban. A WorkFusion háttérfolyamatok optimalizálását végzi (számlák kezelését és nagy összegű pénzügyi tranzakciókat). Itt sem elég a szabályokat „beleönteni” a gépbe. Sokkal hatékonyabb az, ha a gép megfigyeli az emberek munkáját, és „felfedezi” az összefüggéseket, megtanulja, hogy mik voltak a jó és a rossz döntések. Szóval, más példájából tanul, akárcsak a gyerek.

Egyes esetekben az a kiűzött cél, hogy a gép teljesen átvegye az emberi tevékenységet, és azt jobban és gyorsabban csinálja. Ez a cél a vezető nélküli autók esetében, amikben végül nem is lesz se kormány, se pedál. Az előbb említett kereskedelmi rendszerben nem volt cél az ember „kiküszöbölése”. A gép csak figyeli a kereskedő és a vevő beszélgetését, és tanácsokat ad. Ezzel 58%-os javulást értek el a kereskedők munkájában. Hasonló folyamat zajlik a daganatos betegségek diagnózisában is: a képfelismerő rendszer megszabadítja az onkológus szakorvost a sejtek osztályozásától, a gép tudja megkülönböztetni a beteg és az egészséges sejteket egymástól. Az orvos a beteggel való kommunikációra és a magasabb szintű elemzésre több időt tud fordítani. Értékesebb munkát tud végezni.

Amikor a gép korábbi példákból tanul, ezekből építi fel a tudását, majd a tudása alapján dönt, az emberi asszociációra valamelyest hasonló módon „gondolkodik”. Az a helyzet áll elő, hogy a gép nem tudja egyszerűen elmagyarázni, megindokolni a döntését, ha az ember kolléga megkérdezi, hogy miért ezt vagy azt a döntést javasolta. Ez azt is jelenti, hogy az ember (aki a végső döntést meghozza, és a felelősséget viseli) nem igazán tudja ellenőrizni a javaslatot.

A tanulás során felhasznált adatokban lehetnek elfogult döntések eredményei. Ebben az esetben a gép is hasonlóan elfogult lesz. Ezt a lehetőséget nagyon jól (és szélsőségesen) illusztrálta a Microsoft Tay nevű twittelő robotjának az esete.

A nagyon bonyolult elemzések eredményét az ember nem fogja tudni megérteni, ellenőrizni, jóváhagyni. Tulajdonképpen ez sem jövő idő már. Az AlphaGo gép, ami megverte a legjobb Go játékost, olyanokat lépett, amit az emberi ellenfele fel se tudott fogni, nem értette a lépések lényegét és célját. Ha a szakterület legjobb elméje sem érti a gépet, akkor egy átlagosan jó szakember, hogyan fogja megérteni és elfogadni vagy elutasítani a gép döntési javaslatát?

A tanulás módszeréből adódik, hogy a gép statisztikai alapon dönt. Ez sokszor jó megoldás, ha rengeteg esetben kell döntést hozni, és a cél az összességében jó döntés, de egy-egy tévedés belefér. Ezt nyilván nem akarjuk vállalni, amikor emberéletekről van szó. De mégis vállaljuk, ha orvosi diagnosztikában és terápiában hoznak döntéseket a gépek. Itt végtelenül nem egyszerű a helyzet, hiszen a gyorsabb, és az esetek nagy részében jó döntést kell a sokkal-sokkal lassabb döntéssel összevetni. A lassabb döntés is emberéletekbe kerülhet!

A hibás döntéseket nehéz lesz felismerni, ha nem látjuk át, hogy mi vezetett a döntéshez. Ha nekünk napokba kerülne az adatokat elemezni, vajon várunk annyi időt, vagy szabad folyást engedünk a gép javaslatának?

Itt most eszembe jutott a korábban említett 23 alapelv egyike: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd?

Azt is mondhatnánk, hogy a cél nem az, hogy minden döntés hibátlan legyen, hanem legalább olyan jó legyen, mint az emberek döntései. Nekünk magunknak is vannak előítéleteink, hibázunk, és nem mindig tudjuk rendesen elmagyarázni a döntéseinket. Ha a gép kicsivel kevesebbet hibázik, akkor már nyertünk! Nyertünk? Lehet, hogy túl sokat tudok az informatikáról…? Az nyugtalanít, hogy nem csak tévedés lehet a rossz döntések mögött, hanem valakinek a szándékossága is. Ez nem olyan különös, embereknél is előfordul a szándékos rosszakarat. A veszélyt abban látom, hogy a számítógépet „istenítjük”, elfogadjuk helyesnek azt, ami a gépből kijön. Nem kellene…

Nos, Kedves Olvasó, szerinted ez az írás pozitív vagy negatív lett? Örömmel vagy aggodalommal várod ezt a szép, új jövőt (ami már jelentős részben jelen)?

Uborkaszezon OFF

Közel három hónapja nem írtam, és most már nagyon úgy érzem, hogy itt az ideje!

Közben elég sokat olvastam, és még több olvasnivalót írtam össze. Nekifogtam ezek áttekintésének, és remélhetőleg a héten írásmű is keletkezik az olvasmányok rendszerezése során.

Az utóbbi időben a mesterséges intelligencia volt a témám, legutóbb orvosi témáról írtam. Ennek apropója a Magyarországi vezető Informatikusok Szövetsége és a Pannon Egyetem közös egészségügyi informatikai összejövetele volt, ahol az „önkiszolgáló egészségügyet” jártam körül a hozzá nem értő szempontjából. (Szerencsére voltak a hallgatóságban hozzáértők is, így nagyon jó beszélgetés lett belőle.)

Ezt megelőzően azzal foglalkoztam, amit megeszünk, vagyis az új technológiák mezőgazdasági és élelmiszeripari alkalmazásaival. Ezeken a területeken is egyre több mesterséges intelligencia jelenik meg, és nagy hatása lesz (kezd lenni) a minőségre. Remélem, pozitív hatása!

Mi várható tőlem a közeljövőben? Újra beleásom magam a mesterséges intelligenciába és a környező területekbe. Nem hanyagolom el az olyan elkerülhetetlen mellékszálakat sem, mint a biztonság, hálózatok, internetre kötött mindenfélék.

Az első mondatban azt írtam, hogy közel három hónapja nem írtam. Ez – persze – nem igaz. Ide, a saját blogomba tényleg nem írtam, de a Balatonakarattyai Fürdőtelep Egyesület (aminek tagja vagyok) weblapján elég sok írásom jelent meg. Ha valakit esetleg érdekel: https://akarattyafurdo.wordpress.com

Rövid írásaimban közzétettem és kommentáltam sok cikket, amit a hónapok során olvastam. Ezek többé-kevésbé alaposan csoportosítva is vannak:

Ez utóbbi egyfajta kurátori tevékenység. Szeretem összegyűjteni az elolvasott cikkeket, és eltenni a megjegyzéseimet is velük együtt. Erre kiválóan alkalmas a scoop.it, és egyben másoknak is segíthetek, akik egy-egy őket érdeklő témában keresnek olvasnivalót. Úgy gondolom, hogy a szimpla megosztásnál sokkal hasznosabb az, ha a saját véleményemet is hozzáteszem.

Jó olvasgatást!

Igyekszem hamarosan újra jelentkezni

Harcostársak

“Két pálmaszál, vállvetve az eget hordozni termett” – ezek vagyunk együtt, ember és robot?

Az idézet forrása: Madách Imre Mózes c. tragédiája

A múlt héten a robotika és a mesterséges intelligencia alapelveiről, törvényeiről írtam, Asimov egyszerű (vagy – mint kiderült – talán mégsem olyan egyszerű) három (később négy) törvényétől a mesterséges intelligencia idén megalkotott 23 alapelvéig.

Amikről Asimov írt, azok az események még valahol a távoli jövőben vannak, de a mesterséges intelligencia már itt van, egyre inkább része az életünknek, beleszól, átalakítja, esetleg lerombolja.  Míg Asimov úgy találta ki a robotokat, hogy a pozitron agyukból, annak megsemmisítése nélkül, lehetetlen kivenni a három törvényt, amik megakadályozzák, hogy kárt okozzanak és ellenszegüljenek az embernek, az idei 23 alapelvet nem lenne nehéz kivenni a mesterséges „agyakból”, ha egyáltalán bennük lennének.

Mennyire aggódjunk? Kiknek van ma hozzáférésük azokhoz a technológiákhoz és ahhoz a rengeteg pénzhez, ami a mesterséges intelligencia megalkotásához és használatához kellenek? Azt gondolhatnánk, hogy keveseknek, szinte senkinek. Ez pillanatnyilag valóban így látszik, de már ma sem egészen igaz. A Watson lényegében mindenki számára hozzáférhető, a tudása és az elemzési képessége felhasználható távolról is (a felhőn keresztül). Hamarosan más gyártók is megjelennek, talán még erősebb és gyorsabb megoldásokkal. Amit ember megalkot, azt másik ember meg fogja szerezni, élni fog vele, vissza fog vele élni. Ne számítsunk biztonságra, mert az nem létezik. Elég csak arra gondolni, hogy az amerikai titkosszolgálatok internetes támadó eszközeit is széles körben használják a terroristák.

Evezzünk békésebb vizekre! Hosszú ideje és sok helyen lehet arról olvasni, hogy milyen fajta munkákat vesz el az embertől a gépesítés, az automatizálás, a robotok és a mesterséges intelligencia. Az előbbiek tulajdonképpen azt a sort folytatják, amit az ipari forradalom gépei kezdtek el – a fizikai munkából végeznek el egyre többet a gépek, és egyre kevesebb marad az embernek. Hadd korrigáljak! A gépek semmit se vesznek el – a gépeket üzembe állító cégek döntenek úgy, hogy ezentúl nem ember végzi azt a munkát. Miért? Ez a kapitalizmus törvénye. Ha valamit meg csinálni gyorsabban, olcsóbban, pontosabban, akkor használni kell az új technikát. Nincs ebben semmi meglepő!

Milyen munkák kerülnek robotok kezébe, amikor ellátjuk őket mesterséges intelligenciával? Nemrég olvastam ezt a listát egy oxfordi kutató tollából, ami elsőre meglepő lehet:

  • Középvezető
  • Eladó, kereskedő (commodity)
  • Jelentésíró, sportriporter, pénzügyi újságíró
  • Könyvelő
  • Orvos

Szerinte ez az első 5 munkakör, amit átvesznek a robotok. Meglepetés? A harmadik és főleg a negyedik nem igazi meglepetés, a többin lehet csodálkozni (a cikkben vannak részletek és magyarázatok). Nem tudom, hogy igaza van-e, majd meglátjuk. Azt is mondja, hogy két évtizeden belül a mai munkahelyek 47%-a tűnik el ennek a folyamatnak a következtében az USA-ban.

Több példa és mélyebb elemzés található az NJSZT novemberi konferenciájáról írt egyik cikkemben. Gondolkodom, tehát…?

Fontos, hogy a mai munkahelyekről van szó, hiszen újfajta munkák jönnek közben létre. Itt egy lista arról, hogy a Gartner szerint az olajiparban milyen új tevékenységeket végeznek majd az emberek a digitális világban:

  • Digitális technológia és megoldások feltalálása, fejlesztése
  • A robotok és az automatizálás kockázatainak csökkentése
  • Online támadások elleni védelem
  • Az új szellemi termékek menedzselése
  • Az üzlet átszervezése

Ha összevetjük a két listát, mit látunk? Vajon az oxfordi kutató szerint munka nélkül maradó emberek mind el tudnak helyezkedni ezekben az új munkakörökben? Talán… Annak van esélye, aki képzett és alkalmazkodóképes is egyszerre.

Egy ígéretes (vagy aggasztó, attól függően, hogy honnan nézzük) fejlemény az RPA (robotic process automation), vagyis az a megoldás, amikor a robot (egy kis mesterséges intelligenciával megspékelve) átveszi az emberek helyét, de úgy hogy közben nem kell megváltoztatni a vállalati folyamatokat. Ebben az a nagyszerű, hogy a bevezetése egyszerű, akár részlegesen is be lehet vezetni, vagyis ember és robot végezheti egymás mellett ugyanazt a tevékenységet. További részletek: Felhő, kütyük, okosság.

Eszébe jutott erről valakinek az a csodálatos lehetőség, hogy objektíven lehet majd összehasonlítani az ember és a robot teljesítményét és a munkájuk minőségét? Ki győz majd? Ki marad?

Nos, itt még nincs vége! Az RPA után a következő lépés az IPA (intelligent process automation). Olyan szépet ír róla a McKinsey, hogy nem tudom nem ide másolni:

In essence, IPA “takes the robot out of the human.” At its core, IPA is an emerging set of new technologies that combines fundamental process redesign with robotic process automation and machine learning. It is a suite of business-process improvements and next-generation tools that assists the knowledge worker by removing repetitive, replicable, and routine tasks. And it can radically improve customer journeys by simplifying interactions and speeding up processes.

Segít az embernek, megszabadítja a robottól, az ismétlődő, egyforma tevékenységektől. Itt van még a következő mondat, ami a fejlődést vetíti előre:

IPA mimics activities carried out by humans and, over time, learns to do them even better.

Magyarra fordítva: megtanulja az embertől az általa végzett tevékenységet, majd megtanulja jobban (és gyorsabban) elvégezni. Nem állom meg, leírom, ami erről eszembe jutott. Volt kollégáim azt kapták utolsó feladatuknak, hogy néhány hónap alatt tanítsák be az utódaikat, akik olcsóbban végzik el a munkájukat. Sokan tényleg hősiesen, sok extra erőfeszítéssel és rengeteg többletmunkával meg is tették ezt. Ezek az utódaik már az IPA robotokat fogják betanítani a munkaviszonyuk megszűnése előtt?

Mik a kilátások? Az előbb említett cikk egyik példája szerint az RPA bevezetésével (ami egy kis szelete az IPA-nak) egy nagy biztosító az egyik területen 81%-kal tudta csökkenteni a munkaerő-szükségletet. Persze, ez nem azt jelenti, hogy elküldtek ennyi embert, csak más munkakörbe kerültek.

Legközelebb azzal folytatom, hogy mit tud még ez az IPA, mit ad nekünk (dolgozóknak, munkáltatóknak, és a vevőknek, ügyfeleknek). Már amennyi eddig látszik belőle…

Folytatás: Kell a gép?

Mesterségesen etikus

Mesterségesen etikus és humánus intelligencia. Ez a nagy közös cél. Megvalósul?

Tegnap én voltam az egyik fogás a Hitachi Data Systems üzleti reggelijén, és jó kedvvel, jó étvággyal fogyasztottak a jelenlévők. Szuper társaság jött össze, és inkább beszélgetés, mint előadás volt ez a másfél óra. Úgy láttam, hogy mindenkit érdekelt a téma, az „összekapcsolt mindenség”. Engem is arra ihletett, hogy – az ott megbeszéltekre is támaszkodva – részletesen kifejtsem egy-egy szegletét.

Blogom rendszeres olvasóim és azok, akik figyelik rövidebb írásaimat már tudják, hogy több mint egy éve elkezdtem beleásni magamat a számítási felhő, az internetre kapcsolt eszközök (IoT) és a mesterséges intelligencia egymással való kapcsolatába. Bár nem mindig világos és egyértelmű, hogy mit is értünk ezeken a fogalmakon, nagyjából sejtjük.

A három terület összekapcsolódására már sok példát láttunk, például az autózás, a logisztika és az egészségügy területén. A jövőt ebben a témában sem könnyű megjósolni, de a hivatásos jósok között nagy az egyetértés abban, hogy jelentős fejlemények vannak előttünk, és nem valami távoli jövőben, hanem idén és egy-két éven belül. Nem olyan nagy csoda egy ilyen jóslat, hiszen már elkezdtek megtörténni a jó és a rossz dolgok is. Az útjainkon futnak önmagukat vezető autók, az orvosi diagnosztikában és a gyógyításban is használják a „gondolkodó” gépet és a sok-sok „okos” kütyüt, az informatikai tevékenységek közül rengeteget automatizáltak már, a könyvelésben és a könyvvizsgálatban is egyre terjednek az ilyen megoldások, és megjelentek az emberekkel kommunikáló robotok is.

Ha már robotok: Asimov megalkotta a robotika három törvényét:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Ha alaposan belegondolunk, már az első törvény is nehéz értelmezési feladatot ad egy robotnak (egy embernek is), de később kiderült, hogy nem is elégséges, mert nem csak az egyes emberre, hanem az emberiségre is gondolni kell. Ezért egészítette ki R. Daneel Olivaw egy nulladik törvénnyel a listát:

0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie, hogy az emberiség bármilyen kárt szenvedjen.

A többi törvényt kiegészítette a nulladik megsértésének tilalmával is. Na, ezt még nehezebb értelmezni, volt robot, amelyiknek az agya le is olvadt miközben a feladat megoldásával küzdött. Olivaw végül tudta értelmezni és alkalmazni ezt az új törvényt, ami miatt kárt is kellett okoznia emberben. (Ő robot volt, de felül tudott emelkedni robot mivoltán az emberiség érdekében.)

Ez „csak” fantasztikus irodalom, de mi van a valóságban? Az eddig megalkotott robotokban, intelligens gépekben vannak ilyen törvények? Rakott beléjük ilyesmit valaki? Ha igen, ki hozta meg a döntést? Lehet olvasni etikai tanácsokról, de egyelőre nem sokat tudunk a működésükről és a döntéseikről (ha voltak olyanok). Közérdeklődésre tarthat számot a Google, hiszen az egyik legnagyobb játékos. Amikor három éve megvette a DeepMind céget, a megállapodás része volt egy ilyen szervezet felállítása, de még ma sem tudjuk, hogy kik a tagjai és csinált-e már valamit. Majd megtudjuk, amikor itt lesz az ideje… Más cégek nyitottabbak, de nem találtam sok konkrétumot.

Azokban az „intelligens” rendszerekben, amikről tudunk, még nincs sok valódi döntés a gép kezében, inkább csak elemzi a lehetőségeket, és a saját véleményével együtt felajánlja a döntést hozó embernek. Persze, az emberi történelemből tudjuk, hogy a szakértők rendszeresen megvezetik a döntéshozókat, így ebben az esetben sem zárhatjuk ki a lehetőséget.

A valódi döntéseket hozó rendszerekre való felkészülés ideje mégis eljött már, és sok okos ember össze is ült januárban, hogy megalkossa a mesterséges intelligencia alapelveit. Nem sikerült nekik az asimovihoz hasonló három-négy pontból álló listát készíteniük, de 23 pontba bele tudtak mindent foglalni, amit fontosnak tartottak. Elolvastam és igyekeztem megérteni az általuk megfogalmazott alapelveket, és egyet tudok érteni velük. Azonban úgy érzem, hogy ez csak óhajok listája, és rengeteg akadálya van annak, hogy teljesüljenek. Egy részükkel „csak” az a baj, hogy még soha, semmilyen technikai fejlesztés esetében nem teljesültek, és – ahogy én látom – a kapitalizmus körülményei között nem is teljesülhetnek. (Arról fogalmam sincs, hogy más társadalmi rendszerben teljesülhetnek-e.)

Mik ezek?

Az első öt pont a kutatás alapelveit szögezi le, közöttük olyanokat, mint a gazdasági, jogi, etikai és társadalomtudományi kutatások finanszírozását; együttműködést, bizalmat és átláthatóságot a kutatásban és a fejlesztésben; a biztonsági szabványok betartását a fejlesztési verseny során. Látott már valaki olyan műszaki fejlesztést, ahol ezeket betartották? Be lehet ezeket tartani?

A többiek hasonlóak, pl.: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd? Emlékezzünk arra, hogy a GO játék bajnoka nem értette meg az ellene játszó gép lépését! Az egy primitív masina volt a jövő önállóan gondolkodó és ítéletet hozó robotjához képest.

Hogy értsük azt, hogy az önálló gépnek a céljai és a viselkedése legyenek összhangban az emberi értékekkel? Ki definiálja az „emberi értékeket”? Kinek az értékrendje számít?

Azt írják elő, hogy az egész emberiség javára kell fordítani az előálló eredményeket, és a lehető legtöbb ember előnyére. Igen, valóban így kellene lennie! Hol van az a társadalmi-gazdasági rendszer, amiben bármit is az egész emberiség javára fordítottak?

Az sem lényegtelen kérdés, hogy mi a hierarchia a 23 alapelv között. Ha ütközés van, melyik erősebb? Ez egyáltalán nem lényegtelen kérdés! Már az eredeti három törvény esetében is óriási különbséget okoz a sorrendjük megváltoztatása.

Az a helyzet, hogy nem valami távoli jövőről beszélünk – a mesterséges intelligencia már most történik. Ahogy fent írtam, még csak döntés-előkészítést végez, de abban is nagy hatalom rejlik. Mi fogja vissza a fejlesztők (egy megtévedt fejlesztő) vagy a hekkerek kezét, amikor óriási hatalomhoz és pénzhez juthatnak a döntések befolyásolásával?

Mennyire közeli ez a jövő? Az IDC szerint 2019-re minden internetre kötött (IoT) eszköz mesterséges intelligenciával dolgozik majd. Minden, azaz 100%! Mik lesznek a legnagyobb területek? Orvosi diagnózis és kezelés, minőségmenedzsment a gyárakban. Mindkettőben óriási lehetőségek vannak hatalom és pénz vonatkozásában!

Ahogy ezeket írom, magamban azon töprengek, hogy mit látok rosszul. Tényleg reménytelen ezeknek az elveknek a betartása, vagy valamit nagyon elnéztem? Segítsen ki valaki!