A mesterséges intelligencia (MI vagy angol rövidítéssel AI) egyre kevésbé teoretikus, mindinkább gyakorlatias fogalommá válik. Alkalmazásával egyre többször lehet találkozni a legváltozatosabb területeken, a kereskedelemtől az orvostudományon és logisztikán át a hadiiparig. Ahol azonban az intelligencia megjelenik, fel kell tűnnie az etika kérdésének is. Miként értelmezhető ez az ember–gép kapcsolatokban?

A magyar piac – méretéből és fejlettségéből adódóan – folyamatosan követő üzemmódban van. Egy-egy innovatív technológia csupán akkor találja meg a helyét a hazai gazdaságban, ha már kellően olcsóvá vált a világ fejlettebb piacain. Hiába van meg ugyanis itthon az alapos technológiai ismeret, hiába jön a kreatív, „isteni szikra”, a megvalósítás a legritkább esetben képzelhető el honi talajon.

Mindez különösen igaz olyan átfogó iparágegyüttes esetében, mint amilyen a mesterséges intelligencia. Őszintén: ki merne a mai magyar utakra engedni egy vezető nélküli autót? Ilyen tesztet nem lehet modellezni, nem lehet tanulni. Még a közlekedési-infrastrukturális-kulturális fejlettségükben nálunk előrébb járó országokban is jelentős kérdéseket kell megoldani, ha az intelligens autók technológiája eléri az emberi teljesítőképességet – állítják a szakemberek.

Napjaink autóvezetői ugyanis gyakran fittyet hánynak a szabályokra: nem állnak meg a stoptáblánál, jóval a megengedett sebességhatár felett közlekednek. Vajon hogyan lenne képes egy udvarias és törvénytisztelő robotjármű boldogulni egy ilyen környezetben?

Szerencsére azonban az MI uralta technológiák megvalósításukkor nem állnak meg az ipar vagy a gazdaság határvonalánál: teljes értékű társadalmi-szociális-kulturális változ(tat)ásokat követelnek meg.

A gépi megismerés és az MI etikája

A mesterséges intelligencia fejlesztésére szakosodott Association for the Advancement of Artificial Intelligence (AAAI) nevű szervezet huszonkilencedik konferenciáján – amelyet idén januárban tartottak a Texas állambeli Austinban – a szakemberek mélyreható vitát folytattak a mesterséges intelligencia és az etika viszonyáról.

Meggyőzés és többirányú érzelem

Emberként még mindig ugyanazt a három eszközt használjuk a meggyőzés céljaira, mint amit évszázadokkal ezelőtt Arisztotelész felvázolt. Az éthosz a beszélő kvalitásaira (így a karizmájára) támaszkodik; a pátosz révén érzelmeket és szenvedélyt közvetít, hogy közönsége egy bizonyos lelkiállapotba kerüljön; míg a logosz hivatott arra, hogy az érvelés szavakban is megfogható formát öltsön.

Az ember–gép kapcsolatokban azonban újra kell gondolni az emberi meggyőzés szerepét, és kiterjedtebben kell foglalkozni vele – mind emberi, mind gépi összefüggésben. Tekintettel arra, hogy a gépek értékrendje és karaktere különböző lehet, mindez igaz a gépeken alkalmazott vagy azokon telepített leghatékonyabb meggyőzési rendszerekre is.

A kutatók teljesen bizonytalanok annak a kérdésnek a megválaszolásában, vajon morálisan elfogadható-e, ha egy rendszer azért hazudik, hogy meggyőzze az embert… Egyre inkább előtérbe kerül annak a szükségszerűsége, hogy egy átfogó jövőbeli világrendszernél az etika és a valóság kapcsolatának kérdéseit egy gondolkodó gép nézőpontjából kell vizsgálni. A digitális társadalom e rendszerének pedig – egymással kölcsönhatásban – aktív szereplői lehetnek a posztbiológiai és egyéb intelligens lények is.

Melanie Swan technológiai újító és filozófus a Kurzweil AI blogon vonta le ezzel kapcsolatos következtetéseit. Swan szerint ugyan többféle számítógépes etikai rendszer létezik, ugyanakkor nincsenek átfogó szabványok, nem jöttek létre általános érvényű etikai modulok, és a meglévőkbe sem sikerült beilleszteni olyan egyetemes elveket, mint amilyen például az emberi méltóság védelme, a tájékozott beleegyezés, a magánélet szentsége vagy az előnyök és károk elemzése.

A számítógépes etikai rendszerekkel szembeni fontos követelmény, hogy képesek legyenek rugalmasan alkalmazni a különböző etikai rendszereket, pontosabban tükrözve az intelligens emberek valós helyzetekben történő viselkedését. Az egyszerű modellek ugyanis nem elég hatékonyak ahhoz, hogy a közvetlenül előttük álló döntések során kezelni tudnának például az igazságossághoz hasonló, átfogó emberi fogalmakat.

Fontos, hogy a gépi rendszerek létrehozzák a haszonelvűséget meghaladó olyan kiterjedtebb modelljeiket, mint amilyen az „első látásra” megközelítés. Ez bonyolultabb fogalmakkal operál: intuitív kötelezettségekkel, megjelenik benne a reputáció, valamint a világ számára hasznos célok bővítése és a lehetséges károk minimalizálásának célkitűzése. Mindez jól tükrözi azokat a valós élethelyzeteket, ahol egyszerre többféle etikai kötelezettségnek eleget téve kell megtenni a megfelelő lépéseket.

A filozófiához hasonlóan a számítógépes etika területén létező modulok között is teret nyert a metaetika gondolata: megtöbbszörözött etikai keretek hivatottak az értékelés és integráció megvalósítására.

Integrált rendszerre van például szükség ahhoz, hogy egy intelligens autó közlekedhessen a „felokosított” autópályán. A francia ETHICAA (Ethics and Autonomous Agents – szabadon fordítva: az etika és automatikus jogosultság) projekt célja, hogy beágyazott integrált metaetikus rendszereket fejlesszen.

Modulárisan vagy közvetlenül

Éles vita bontakozott ki a szakemberek körében arról is, hogy vajon a gépi etikának külön modulokként kell-e integrálódnia, vagy közvetlenül kell-e részt vennie a rendszeres döntéshozatalban. Annak ellenére, hogy a legjobb az lenne bármilyen döntéshozatal során, hogy az etikai alapon történjen, most – a fejlesztés korai szakaszában – a legkönnyebben különálló modulként kivitelezhetők az etikai rendszerek.

Más kérdés, hogy az egyes etikai modellek jelentős kulturális eltéréseket tükrözhetnek: érdemes csak például a kollektivista és individualista társadalmak különbözőségére gondolni – valamint arra, hogy ezeket az eszményeket hogyan lehet lefordítani az etikai modulok kódnyelvére.

Mindazonáltal szerencse, hogy már a megvalósítás kezdeti szintjén viszonylag könnyen elérhetők a kívánt funkciók: konszenzus teremthető annak a kérdésnek a megválaszolásában, hogyan bánjanak velünk, emberekkel az általunk létrehozott robotok. A számítógépes etikai modulok és a gép viselkedése egyfajta „etikai Turing-teszt” révén kontrollálható. Meghatározható, milyen mértékben felelnek meg a gép adta válaszok az etikus emberi válaszoknak.

Önjáró halálosztagok

A gépi megismerés, illetve az etika területén értelemszerűen hangsúlyos helyen szerepel az „önjáró” halálos fegyverek kérdése – sőt, a betiltásuknak is nagy a tábora –, mivel a fegyverrendszerek egyre inkább önálló, saját döntéseikre támaszkodnak az emberi input helyett.

Folyamatos korrekció a megoldás?

A számítógépes etikai rendszereknek különböző megközelítési formáik léteznek. Egyesek megkísérlik felsorolásszerűen elrendezni az összes érintett elvet és folyamatot, mások az olyan etikai magatartási rendszerek kifejlesztése mellett kardoskodnak, mint az „első látásra” megközelítés kötelezettsége, esetleg olyan formában, hogy a gépi tanulási algoritmusokat nagy adatkorpuszokon futtatják.

Mindezeket meghaladni, illetve ötvözni látszik az értékalapú gondolkodás révén a korrigálható rendszerek megvalósítása, amely abból a feltételezésből indul ki, hogy egy MI-rendszer sohasem lehet teljes, mindig magában hordja a potenciális veszély, hiba lehetőségét.

A magasan fejlett, korrigálható MI-rendszer az emberekkel kialakított folyamatos interakció révén végig nyitott az értékek online tanulására, módosítására és javítására, és képes áthidalni a kompetencia terén tátongó szakadékot – a ma még nem is létező emberi erkölcsi fogalmak megbízható futtatását az MI-rendszereken, illetve a potenciális jövőbeni társadalmi tevékenységek összehangolását.

Az ellenzők azzal érvelnek, hogy túlzás a teljes autonómia, és hogy e fegyverek esetében már nem értelmezhető – mint pozitív kötelezettség – az „emberi ellenőrzés” fogalma, és nem felelnek meg a genfi egyezmény Martens-féle klauzulájának sem, hiszen a teljesen önálló fegyverek számára gyakorlatilag ismeretlen a humanitás és a lelkiismeret fogalma.

A támogatók tábora ugyanakkor azt állítja, hogy a gépi etika meghaladhatja az emberi erkölcsöt, és sokkal pontosabban is alkalmazható. Etikai szempontból szerintük nem világos, miért kellene más elveket alkalmazni a fegyverrendszereknél, mint a többi gépi rendszer esetében.

Tizenhét másodperc

Hasonlóan éles a vita az MI-rendszerek orvosi célú alkalmazásánál is. A nálunk Grace-klinika címen futott Grey’s Anatomy második évadának csúcspontja volt például az a szituáció, amikor két intézmény vezető sebésze vívott egymással közelharcot egyetlen épen maradt átültethető szívért. Fejből tudták, milyen bonyolult algoritmus rendezi sorba az élet és a halál mezsgyéjén várakozókat, így azt is, mi kell saját betegük lista élére kerüléséhez.

Azzal, ami történt, mindazonáltal nem számolhattak előre: mi történik, amikor valaki – akinek lehetősége van rá – szándékosan idéz elő az automata protokoll prioritási rendjének „jobban tetsző” állapotot? E ponton jól érzékelhető volt, mi minden vár még a fejlesztőkre az etikai elvek biztonságos, minden esetlegességet kizáró érvényesítésére az intelligens rendszerekben.

A vakcinától a gyorsétteremig

Egy amerikai startup cég, a Matternet egy kisméretű pilóta nélküli elektromos helikopter kifejlesztésén kezdett dolgozni még az évtized elején, amely a maga 2 kilogrammos hasznos tehernyi kapacitásával gyógyszereket, vakcinákat és vérmintákat hivatott szállítani távoli helyekre. A felhasználó elhelyezi a küldeményt a raktérben, megnyom egy gombot a helikopteren, hogy szálljon fel és teljesítse a szállítási feladatot. A jelek szerint annyira megnyugtató az etikai elvek maradéktalan betartása, hogy jelenleg már a svájci posta és a SwissCargo partnereként folynak ezeknek a drónoknak a tesztjei.

Nagyobb elektromos helikoptereket is gazdaságosan át lehet alakítani pilóta nélkülivé. Egy német cég, az E-Volo repülőalkalmatossága Volocopter névre hallgat. A maga 16 rotorjával úgy néz ki, mintha egy gyerekek számára készült számítógépes repülőjáték felnagyított változata lenne. Megfelelő szoftverrel ellátva a személyzet nélküli Volocopterek az áruszállítás területén jelenthetnek alternatívát, hiszen képesek kikerülni a zsúfolt utakat, és a robotjárművek alkalmazása valódi megoldás lehet a gyorsételek kiszállításánál is.

Munka, szabadidő: új definíció?

Az automatizált gazdaság egyik nagy ígérete szerint az embereket egyre több fizikai, valamint kognitív tevékenység alól mentesítik az MI-rendszerek. És közben közeledünk egy jóslat beteljesüléséhez: John Maynard Keynes már 1930-ban, a gazdasági válság kellős közepén úgy számolt, hogy 2030-ra a gazdasági fejlődésnek és a gépesítésnek köszönhetően a munkahét mindössze 15 órás lesz – vagyis a szabadidő és nem a munka lesz a meghatározó életmódunkban.

Számos gondolkodó érvel a munka fogalmának szükségszerű újradefiniálása mellett. Az automatizált gazdaság – párosulva a garantált alapjövedelemre irányuló kezdeményezésekkel és a szűkösséget elutasító gondolkodásmóddal – idejétmúlttá teheti a kötelezettségen alapuló munkát. Bőséges tér nyílik a “munka” produktív tevékenységként való újraértelmezésére – az értelmes ember identitástudatának és önértékelésének kiteljesítésétől az önmegvalósításon, társadalmi hovatartozáson keresztül az együttműködési képességek fejlesztéséig. Így a „vége a munka korszakának” lehet, hogy csak annyit jelent: „vége a kötelező munkának”.

Varga János
szabadúszó újságíró