A gép tanul helyettünk?

Mit tesz velünk, a munkánkkal és az életünkkel a mesterséges intelligencia?

Pontosabban, nem maga a mesterséges intelligencia teszi majd, hanem az, ahogy felhasználjuk. Ez is egy általános célú technológia, ami vélhetőleg hasonló nagyságrendű változásokat hoz majd az életünkben, mint korábban az általános célú technológiák (gőzgép, elektromosság, belső égésű motor). Általában mesterséges intelligenciáról beszélünk, és ez a terület annyira szerteágazó, hogy nem is mindig tiszta és világos, hogy részére gondolunk.

Vannak kísérletek a mesterséges intelligencia kereteinek és határainak megalkotására. Az egyik érdekes próbálkozás az „Asimolar AI Principles” nevet viseli. Ez egy 23 alapelvből álló lista, amit januárban állított össze sok okos ember egy konferencián, és azóta több ezren csatlakoztak hozzájuk. Én úgy látom, hogy ezek inkább óhajok, mintsem várhatóan betartható szabályok. Emlékezzünk arra, hogy Asimov végtelenül egyszerű három törvényét sem sikerült a robotoknak betartaniuk! Egy korábbi írásomban egy kicsit részletesebben belementem ebbe a témába: Mesterségesen etikus.

Egy pozitív megközelítés szerint a mesterséges intelligencia valójában felszabadítja az embert a „robot”, az unalmas, gépies munka alól. Az ilyet átveszi a gép, és az embernek megmarad az alkotó tevékenység. Úgy érzem, hogy ez az optimizmus nem teljesen indokolt, mert már látszik az is, hogy a gépek nagyon bonyolult döntések meghozatalát is kezdik átvenni az emberektől. Valójában még mindig az ember hozza a döntést, azonban a gép tesz javaslatot a döntésre. Az a gép, amelyik egy pillanat alatt elemzett annyi információt, amennyit az ember csak napok vagy hetek alatt nézhetett volna át. Ha az ember utána akarna nézni annak, hogy a gép jól következtetett-e, akkor elveszítené a gyors döntés előnyét. A gyors döntésen emberi életek vagy üzleti eredmények múlhatnak! Ezért valószínűleg általában el fogja fogadni a gép javaslatát. A géppel együtt dolgozó emberek tudása szép lassan elkopik majd, így egyre kevésbé fognak tudni beleszólni a döntésbe, vagyis teljesen alárendelik magukat a gép programjának.

Az itt az érdekes, hogy nem is a gép programjáról van szó. A programot ember írja, és elvileg ismeri a működését. (Azért csak „elvileg”, mert a valóságban ezek a bonyolult programok tele lehetnek hibákkal – akárcsak a sokkal egyszerűbbek.) Azonban itt nem programról van szó, mert a lényeg a gépi tanulás (machine learning, ML).

A gépi tanulás azért fontos, mert a bonyolult kérdésekben hozott döntési folyamatainkat nem tudjuk algoritmusba önteni. Van ott intuíció, asszociáció, vagy valami más, amit nem tudunk precízen elmagyarázni. Így számítógépes program formájában sem tudjuk leírni, vagyis nem tudjuk a szokásos módon automatizálni. Itt lép be a gépi tanulás. Miben más a gépi tanulás, mint ahogy az ember tanul? Tulajdonképpen nagyon hasonlít ahhoz, ahogy a kisgyerek tanul – példákból, mások tapasztalatából.

A vezető nélküli autózás egyik fejlesztője, a magyar AImotive cég megtanítja a szoftverét az utcán előforduló „objektumok” (autók, gyalogosok, motorkerékpárok, biciklik, tereptárgyak) felismerésére és megkülönböztetésére. Ezt nem úgy teszi, hogy szabályokat táplál a gépbe, hanem videók tömkelegét mutatja be a gépnek, és ezeken a videókon emberek kategorizálják az objektumokat. Az Udacity nevű cég egyik vezetője a kereskedők és a vevők online beszélgetéseit elemezte, és „sikeres” – „sikertelen” címkékkel látta el a beszélgetéseket. Ebből kiderült, hogy mik a jó és mik a rossz válaszok egy-egy szituációban. A WorkFusion háttérfolyamatok optimalizálását végzi (számlák kezelését és nagy összegű pénzügyi tranzakciókat). Itt sem elég a szabályokat „beleönteni” a gépbe. Sokkal hatékonyabb az, ha a gép megfigyeli az emberek munkáját, és „felfedezi” az összefüggéseket, megtanulja, hogy mik voltak a jó és a rossz döntések. Szóval, más példájából tanul, akárcsak a gyerek.

Egyes esetekben az a kiűzött cél, hogy a gép teljesen átvegye az emberi tevékenységet, és azt jobban és gyorsabban csinálja. Ez a cél a vezető nélküli autók esetében, amikben végül nem is lesz se kormány, se pedál. Az előbb említett kereskedelmi rendszerben nem volt cél az ember „kiküszöbölése”. A gép csak figyeli a kereskedő és a vevő beszélgetését, és tanácsokat ad. Ezzel 58%-os javulást értek el a kereskedők munkájában. Hasonló folyamat zajlik a daganatos betegségek diagnózisában is: a képfelismerő rendszer megszabadítja az onkológus szakorvost a sejtek osztályozásától, a gép tudja megkülönböztetni a beteg és az egészséges sejteket egymástól. Az orvos a beteggel való kommunikációra és a magasabb szintű elemzésre több időt tud fordítani. Értékesebb munkát tud végezni.

Amikor a gép korábbi példákból tanul, ezekből építi fel a tudását, majd a tudása alapján dönt, az emberi asszociációra valamelyest hasonló módon „gondolkodik”. Az a helyzet áll elő, hogy a gép nem tudja egyszerűen elmagyarázni, megindokolni a döntését, ha az ember kolléga megkérdezi, hogy miért ezt vagy azt a döntést javasolta. Ez azt is jelenti, hogy az ember (aki a végső döntést meghozza, és a felelősséget viseli) nem igazán tudja ellenőrizni a javaslatot.

A tanulás során felhasznált adatokban lehetnek elfogult döntések eredményei. Ebben az esetben a gép is hasonlóan elfogult lesz. Ezt a lehetőséget nagyon jól (és szélsőségesen) illusztrálta a Microsoft Tay nevű twittelő robotjának az esete.

A nagyon bonyolult elemzések eredményét az ember nem fogja tudni megérteni, ellenőrizni, jóváhagyni. Tulajdonképpen ez sem jövő idő már. Az AlphaGo gép, ami megverte a legjobb Go játékost, olyanokat lépett, amit az emberi ellenfele fel se tudott fogni, nem értette a lépések lényegét és célját. Ha a szakterület legjobb elméje sem érti a gépet, akkor egy átlagosan jó szakember, hogyan fogja megérteni és elfogadni vagy elutasítani a gép döntési javaslatát?

A tanulás módszeréből adódik, hogy a gép statisztikai alapon dönt. Ez sokszor jó megoldás, ha rengeteg esetben kell döntést hozni, és a cél az összességében jó döntés, de egy-egy tévedés belefér. Ezt nyilván nem akarjuk vállalni, amikor emberéletekről van szó. De mégis vállaljuk, ha orvosi diagnosztikában és terápiában hoznak döntéseket a gépek. Itt végtelenül nem egyszerű a helyzet, hiszen a gyorsabb, és az esetek nagy részében jó döntést kell a sokkal-sokkal lassabb döntéssel összevetni. A lassabb döntés is emberéletekbe kerülhet!

A hibás döntéseket nehéz lesz felismerni, ha nem látjuk át, hogy mi vezetett a döntéshez. Ha nekünk napokba kerülne az adatokat elemezni, vajon várunk annyi időt, vagy szabad folyást engedünk a gép javaslatának?

Itt most eszembe jutott a korábban említett 23 alapelv egyike: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd?

Azt is mondhatnánk, hogy a cél nem az, hogy minden döntés hibátlan legyen, hanem legalább olyan jó legyen, mint az emberek döntései. Nekünk magunknak is vannak előítéleteink, hibázunk, és nem mindig tudjuk rendesen elmagyarázni a döntéseinket. Ha a gép kicsivel kevesebbet hibázik, akkor már nyertünk! Nyertünk? Lehet, hogy túl sokat tudok az informatikáról…? Az nyugtalanít, hogy nem csak tévedés lehet a rossz döntések mögött, hanem valakinek a szándékossága is. Ez nem olyan különös, embereknél is előfordul a szándékos rosszakarat. A veszélyt abban látom, hogy a számítógépet „istenítjük”, elfogadjuk helyesnek azt, ami a gépből kijön. Nem kellene…

Nos, Kedves Olvasó, szerinted ez az írás pozitív vagy negatív lett? Örömmel vagy aggodalommal várod ezt a szép, új jövőt (ami már jelentős részben jelen)?

Uborkaszezon OFF

Közel három hónapja nem írtam, és most már nagyon úgy érzem, hogy itt az ideje!

Közben elég sokat olvastam, és még több olvasnivalót írtam össze. Nekifogtam ezek áttekintésének, és remélhetőleg a héten írásmű is keletkezik az olvasmányok rendszerezése során.

Az utóbbi időben a mesterséges intelligencia volt a témám, legutóbb orvosi témáról írtam. Ennek apropója a Magyarországi vezető Informatikusok Szövetsége és a Pannon Egyetem közös egészségügyi informatikai összejövetele volt, ahol az „önkiszolgáló egészségügyet” jártam körül a hozzá nem értő szempontjából. (Szerencsére voltak a hallgatóságban hozzáértők is, így nagyon jó beszélgetés lett belőle.)

Ezt megelőzően azzal foglalkoztam, amit megeszünk, vagyis az új technológiák mezőgazdasági és élelmiszeripari alkalmazásaival. Ezeken a területeken is egyre több mesterséges intelligencia jelenik meg, és nagy hatása lesz (kezd lenni) a minőségre. Remélem, pozitív hatása!

Mi várható tőlem a közeljövőben? Újra beleásom magam a mesterséges intelligenciába és a környező területekbe. Nem hanyagolom el az olyan elkerülhetetlen mellékszálakat sem, mint a biztonság, hálózatok, internetre kötött mindenfélék.

Az első mondatban azt írtam, hogy közel három hónapja nem írtam. Ez – persze – nem igaz. Ide, a saját blogomba tényleg nem írtam, de a Balatonakarattyai Fürdőtelep Egyesület (aminek tagja vagyok) weblapján elég sok írásom jelent meg. Ha valakit esetleg érdekel: https://akarattyafurdo.wordpress.com

Rövid írásaimban közzétettem és kommentáltam sok cikket, amit a hónapok során olvastam. Ezek többé-kevésbé alaposan csoportosítva is vannak:

Ez utóbbi egyfajta kurátori tevékenység. Szeretem összegyűjteni az elolvasott cikkeket, és eltenni a megjegyzéseimet is velük együtt. Erre kiválóan alkalmas a scoop.it, és egyben másoknak is segíthetek, akik egy-egy őket érdeklő témában keresnek olvasnivalót. Úgy gondolom, hogy a szimpla megosztásnál sokkal hasznosabb az, ha a saját véleményemet is hozzáteszem.

Jó olvasgatást!

Igyekszem hamarosan újra jelentkezni

Harcostársak

“Két pálmaszál, vállvetve az eget hordozni termett” – ezek vagyunk együtt, ember és robot?

Az idézet forrása: Madách Imre Mózes c. tragédiája

A múlt héten a robotika és a mesterséges intelligencia alapelveiről, törvényeiről írtam, Asimov egyszerű (vagy – mint kiderült – talán mégsem olyan egyszerű) három (később négy) törvényétől a mesterséges intelligencia idén megalkotott 23 alapelvéig.

Amikről Asimov írt, azok az események még valahol a távoli jövőben vannak, de a mesterséges intelligencia már itt van, egyre inkább része az életünknek, beleszól, átalakítja, esetleg lerombolja.  Míg Asimov úgy találta ki a robotokat, hogy a pozitron agyukból, annak megsemmisítése nélkül, lehetetlen kivenni a három törvényt, amik megakadályozzák, hogy kárt okozzanak és ellenszegüljenek az embernek, az idei 23 alapelvet nem lenne nehéz kivenni a mesterséges „agyakból”, ha egyáltalán bennük lennének.

Mennyire aggódjunk? Kiknek van ma hozzáférésük azokhoz a technológiákhoz és ahhoz a rengeteg pénzhez, ami a mesterséges intelligencia megalkotásához és használatához kellenek? Azt gondolhatnánk, hogy keveseknek, szinte senkinek. Ez pillanatnyilag valóban így látszik, de már ma sem egészen igaz. A Watson lényegében mindenki számára hozzáférhető, a tudása és az elemzési képessége felhasználható távolról is (a felhőn keresztül). Hamarosan más gyártók is megjelennek, talán még erősebb és gyorsabb megoldásokkal. Amit ember megalkot, azt másik ember meg fogja szerezni, élni fog vele, vissza fog vele élni. Ne számítsunk biztonságra, mert az nem létezik. Elég csak arra gondolni, hogy az amerikai titkosszolgálatok internetes támadó eszközeit is széles körben használják a terroristák.

Evezzünk békésebb vizekre! Hosszú ideje és sok helyen lehet arról olvasni, hogy milyen fajta munkákat vesz el az embertől a gépesítés, az automatizálás, a robotok és a mesterséges intelligencia. Az előbbiek tulajdonképpen azt a sort folytatják, amit az ipari forradalom gépei kezdtek el – a fizikai munkából végeznek el egyre többet a gépek, és egyre kevesebb marad az embernek. Hadd korrigáljak! A gépek semmit se vesznek el – a gépeket üzembe állító cégek döntenek úgy, hogy ezentúl nem ember végzi azt a munkát. Miért? Ez a kapitalizmus törvénye. Ha valamit meg csinálni gyorsabban, olcsóbban, pontosabban, akkor használni kell az új technikát. Nincs ebben semmi meglepő!

Milyen munkák kerülnek robotok kezébe, amikor ellátjuk őket mesterséges intelligenciával? Nemrég olvastam ezt a listát egy oxfordi kutató tollából, ami elsőre meglepő lehet:

  • Középvezető
  • Eladó, kereskedő (commodity)
  • Jelentésíró, sportriporter, pénzügyi újságíró
  • Könyvelő
  • Orvos

Szerinte ez az első 5 munkakör, amit átvesznek a robotok. Meglepetés? A harmadik és főleg a negyedik nem igazi meglepetés, a többin lehet csodálkozni (a cikkben vannak részletek és magyarázatok). Nem tudom, hogy igaza van-e, majd meglátjuk. Azt is mondja, hogy két évtizeden belül a mai munkahelyek 47%-a tűnik el ennek a folyamatnak a következtében az USA-ban.

Több példa és mélyebb elemzés található az NJSZT novemberi konferenciájáról írt egyik cikkemben. Gondolkodom, tehát…?

Fontos, hogy a mai munkahelyekről van szó, hiszen újfajta munkák jönnek közben létre. Itt egy lista arról, hogy a Gartner szerint az olajiparban milyen új tevékenységeket végeznek majd az emberek a digitális világban:

  • Digitális technológia és megoldások feltalálása, fejlesztése
  • A robotok és az automatizálás kockázatainak csökkentése
  • Online támadások elleni védelem
  • Az új szellemi termékek menedzselése
  • Az üzlet átszervezése

Ha összevetjük a két listát, mit látunk? Vajon az oxfordi kutató szerint munka nélkül maradó emberek mind el tudnak helyezkedni ezekben az új munkakörökben? Talán… Annak van esélye, aki képzett és alkalmazkodóképes is egyszerre.

Egy ígéretes (vagy aggasztó, attól függően, hogy honnan nézzük) fejlemény az RPA (robotic process automation), vagyis az a megoldás, amikor a robot (egy kis mesterséges intelligenciával megspékelve) átveszi az emberek helyét, de úgy hogy közben nem kell megváltoztatni a vállalati folyamatokat. Ebben az a nagyszerű, hogy a bevezetése egyszerű, akár részlegesen is be lehet vezetni, vagyis ember és robot végezheti egymás mellett ugyanazt a tevékenységet. További részletek: Felhő, kütyük, okosság.

Eszébe jutott erről valakinek az a csodálatos lehetőség, hogy objektíven lehet majd összehasonlítani az ember és a robot teljesítményét és a munkájuk minőségét? Ki győz majd? Ki marad?

Nos, itt még nincs vége! Az RPA után a következő lépés az IPA (intelligent process automation). Olyan szépet ír róla a McKinsey, hogy nem tudom nem ide másolni:

In essence, IPA “takes the robot out of the human.” At its core, IPA is an emerging set of new technologies that combines fundamental process redesign with robotic process automation and machine learning. It is a suite of business-process improvements and next-generation tools that assists the knowledge worker by removing repetitive, replicable, and routine tasks. And it can radically improve customer journeys by simplifying interactions and speeding up processes.

Segít az embernek, megszabadítja a robottól, az ismétlődő, egyforma tevékenységektől. Itt van még a következő mondat, ami a fejlődést vetíti előre:

IPA mimics activities carried out by humans and, over time, learns to do them even better.

Magyarra fordítva: megtanulja az embertől az általa végzett tevékenységet, majd megtanulja jobban (és gyorsabban) elvégezni. Nem állom meg, leírom, ami erről eszembe jutott. Volt kollégáim azt kapták utolsó feladatuknak, hogy néhány hónap alatt tanítsák be az utódaikat, akik olcsóbban végzik el a munkájukat. Sokan tényleg hősiesen, sok extra erőfeszítéssel és rengeteg többletmunkával meg is tették ezt. Ezek az utódaik már az IPA robotokat fogják betanítani a munkaviszonyuk megszűnése előtt?

Mik a kilátások? Az előbb említett cikk egyik példája szerint az RPA bevezetésével (ami egy kis szelete az IPA-nak) egy nagy biztosító az egyik területen 81%-kal tudta csökkenteni a munkaerő-szükségletet. Persze, ez nem azt jelenti, hogy elküldtek ennyi embert, csak más munkakörbe kerültek.

Legközelebb azzal folytatom, hogy mit tud még ez az IPA, mit ad nekünk (dolgozóknak, munkáltatóknak, és a vevőknek, ügyfeleknek). Már amennyi eddig látszik belőle…

 

Mesterségesen etikus

Mesterségesen etikus és humánus intelligencia. Ez a nagy közös cél. Megvalósul?

Tegnap én voltam az egyik fogás a Hitachi Data Systems üzleti reggelijén, és jó kedvvel, jó étvággyal fogyasztottak a jelenlévők. Szuper társaság jött össze, és inkább beszélgetés, mint előadás volt ez a másfél óra. Úgy láttam, hogy mindenkit érdekelt a téma, az „összekapcsolt mindenség”. Engem is arra ihletett, hogy – az ott megbeszéltekre is támaszkodva – részletesen kifejtsem egy-egy szegletét.

Blogom rendszeres olvasóim és azok, akik figyelik rövidebb írásaimat már tudják, hogy több mint egy éve elkezdtem beleásni magamat a számítási felhő, az internetre kapcsolt eszközök (IoT) és a mesterséges intelligencia egymással való kapcsolatába. Bár nem mindig világos és egyértelmű, hogy mit is értünk ezeken a fogalmakon, nagyjából sejtjük.

A három terület összekapcsolódására már sok példát láttunk, például az autózás, a logisztika és az egészségügy területén. A jövőt ebben a témában sem könnyű megjósolni, de a hivatásos jósok között nagy az egyetértés abban, hogy jelentős fejlemények vannak előttünk, és nem valami távoli jövőben, hanem idén és egy-két éven belül. Nem olyan nagy csoda egy ilyen jóslat, hiszen már elkezdtek megtörténni a jó és a rossz dolgok is. Az útjainkon futnak önmagukat vezető autók, az orvosi diagnosztikában és a gyógyításban is használják a „gondolkodó” gépet és a sok-sok „okos” kütyüt, az informatikai tevékenységek közül rengeteget automatizáltak már, a könyvelésben és a könyvvizsgálatban is egyre terjednek az ilyen megoldások, és megjelentek az emberekkel kommunikáló robotok is.

Ha már robotok: Asimov megalkotta a robotika három törvényét:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Ha alaposan belegondolunk, már az első törvény is nehéz értelmezési feladatot ad egy robotnak (egy embernek is), de később kiderült, hogy nem is elégséges, mert nem csak az egyes emberre, hanem az emberiségre is gondolni kell. Ezért egészítette ki R. Daneel Olivaw egy nulladik törvénnyel a listát:

0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie, hogy az emberiség bármilyen kárt szenvedjen.

A többi törvényt kiegészítette a nulladik megsértésének tilalmával is. Na, ezt még nehezebb értelmezni, volt robot, amelyiknek az agya le is olvadt miközben a feladat megoldásával küzdött. Olivaw végül tudta értelmezni és alkalmazni ezt az új törvényt, ami miatt kárt is kellett okoznia emberben. (Ő robot volt, de felül tudott emelkedni robot mivoltán az emberiség érdekében.)

Ez „csak” fantasztikus irodalom, de mi van a valóságban? Az eddig megalkotott robotokban, intelligens gépekben vannak ilyen törvények? Rakott beléjük ilyesmit valaki? Ha igen, ki hozta meg a döntést? Lehet olvasni etikai tanácsokról, de egyelőre nem sokat tudunk a működésükről és a döntéseikről (ha voltak olyanok). Közérdeklődésre tarthat számot a Google, hiszen az egyik legnagyobb játékos. Amikor három éve megvette a DeepMind céget, a megállapodás része volt egy ilyen szervezet felállítása, de még ma sem tudjuk, hogy kik a tagjai és csinált-e már valamit. Majd megtudjuk, amikor itt lesz az ideje… Más cégek nyitottabbak, de nem találtam sok konkrétumot.

Azokban az „intelligens” rendszerekben, amikről tudunk, még nincs sok valódi döntés a gép kezében, inkább csak elemzi a lehetőségeket, és a saját véleményével együtt felajánlja a döntést hozó embernek. Persze, az emberi történelemből tudjuk, hogy a szakértők rendszeresen megvezetik a döntéshozókat, így ebben az esetben sem zárhatjuk ki a lehetőséget.

A valódi döntéseket hozó rendszerekre való felkészülés ideje mégis eljött már, és sok okos ember össze is ült januárban, hogy megalkossa a mesterséges intelligencia alapelveit. Nem sikerült nekik az asimovihoz hasonló három-négy pontból álló listát készíteniük, de 23 pontba bele tudtak mindent foglalni, amit fontosnak tartottak. Elolvastam és igyekeztem megérteni az általuk megfogalmazott alapelveket, és egyet tudok érteni velük. Azonban úgy érzem, hogy ez csak óhajok listája, és rengeteg akadálya van annak, hogy teljesüljenek. Egy részükkel „csak” az a baj, hogy még soha, semmilyen technikai fejlesztés esetében nem teljesültek, és – ahogy én látom – a kapitalizmus körülményei között nem is teljesülhetnek. (Arról fogalmam sincs, hogy más társadalmi rendszerben teljesülhetnek-e.)

Mik ezek?

Az első öt pont a kutatás alapelveit szögezi le, közöttük olyanokat, mint a gazdasági, jogi, etikai és társadalomtudományi kutatások finanszírozását; együttműködést, bizalmat és átláthatóságot a kutatásban és a fejlesztésben; a biztonsági szabványok betartását a fejlesztési verseny során. Látott már valaki olyan műszaki fejlesztést, ahol ezeket betartották? Be lehet ezeket tartani?

A többiek hasonlóak, pl.: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd? Emlékezzünk arra, hogy a GO játék bajnoka nem értette meg az ellene játszó gép lépését! Az egy primitív masina volt a jövő önállóan gondolkodó és ítéletet hozó robotjához képest.

Hogy értsük azt, hogy az önálló gépnek a céljai és a viselkedése legyenek összhangban az emberi értékekkel? Ki definiálja az „emberi értékeket”? Kinek az értékrendje számít?

Azt írják elő, hogy az egész emberiség javára kell fordítani az előálló eredményeket, és a lehető legtöbb ember előnyére. Igen, valóban így kellene lennie! Hol van az a társadalmi-gazdasági rendszer, amiben bármit is az egész emberiség javára fordítottak?

Az sem lényegtelen kérdés, hogy mi a hierarchia a 23 alapelv között. Ha ütközés van, melyik erősebb? Ez egyáltalán nem lényegtelen kérdés! Már az eredeti három törvény esetében is óriási különbséget okoz a sorrendjük megváltoztatása.

Az a helyzet, hogy nem valami távoli jövőről beszélünk – a mesterséges intelligencia már most történik. Ahogy fent írtam, még csak döntés-előkészítést végez, de abban is nagy hatalom rejlik. Mi fogja vissza a fejlesztők (egy megtévedt fejlesztő) vagy a hekkerek kezét, amikor óriási hatalomhoz és pénzhez juthatnak a döntések befolyásolásával?

Mennyire közeli ez a jövő? Az IDC szerint 2019-re minden internetre kötött (IoT) eszköz mesterséges intelligenciával dolgozik majd. Minden, azaz 100%! Mik lesznek a legnagyobb területek? Orvosi diagnózis és kezelés, minőségmenedzsment a gyárakban. Mindkettőben óriási lehetőségek vannak hatalom és pénz vonatkozásában!

Ahogy ezeket írom, magamban azon töprengek, hogy mit látok rosszul. Tényleg reménytelen ezeknek az elveknek a betartása, vagy valamit nagyon elnéztem? Segítsen ki valaki!