A mesterséges intelligencia (MI) már ma is része az életünknek - s ha az alábbi szempontokat besszük figyelembe a fejlesztése során, akkor elképesztő mértékben javulhat az emberiség helyzete az előttünk álló évtizedekben, évszázadokban...
Facebook oldalunkra kiraktuk a BENEFICIAL AI 2017 konferencia 23 pontból álló irányelveit. Azoknak, akik kevésbé tudnak angolul, az alábbiaknak a magyar nyelvű (nyers) fordítást ismertetjük.
Kutatási kérdések
1) A kutatás célja: A MI célja nem irányítatlan, hanem hasznos (jótékony) intelligencia létrehozása.
2) A kutatás finanszírozása: Az MI beruházásokat a jótékony használatot biztosító kutatások finanszírozásával kellene összekötni, ideértve a számítógép-tudomány, a közgazdaságtan, a jog az etika és a társadalomtudomány vitás kérdéseivel, u.m.:
- Hogyan tudjuk úgy kialakítani a jövő MI rendszereit, hogy azok ellássák funkciójukat működési zavarok vagy a hekkelés veszélye nélkül?
- Hogyan lehet a jólétet növelni az automatizálás révén úgy, hogy közben fenntartsuk az emberek erőforrásait és a célt?
- Hogyan tudjuk továbbfejleszteni a jogi rendszereinket, hogy azok méltányosabbak és hatékonyabbak lehetnek, lépést tartsanak az MI-vel és kezeljék az MI-vel összefüggő kockázatokat?
- Milyen értékekkel kellene az MI-t összehangolni, milyen legyen a jogi és etikai státusza?
3) Tudomány és politika kapcsolata: Konstruktív és egészséges eszmecserére van szükség az MI kutatók és a döntéshozók között.
4) Kutatási kultúra: Az együttműködés, a bizalom és az átláthatóság kultúráját kell elősegíteni az MI kutatók és fejlesztők között.
5) A versengés elkerülése: Az MI-t fejlesztő csapatoknak aktívan együtt kellene működniük a biztonsági szabványok megkerülésének megakadályozására.
Etika és értékek
6) Biztonság: Az MI rendszereknek igazolható módon biztonságosnak kell lenniük a működési élettartamuk során, amennyire csak lehetséges és megvalósítható.
7) Meghibásodás átláthatósága: Ha egy MI rendszer kárt okoz, meg kell tudni állapítani annak okát.
8) Igazságszolgáltatási átláthatóság: Bármely autonóm rendszer részvételét a jogi döntéshozatalban illetékes emberi hatóság által kielégítően ellenőrizhető módon kell indokolni.
9) Felelősség: Fejlett rendszerek tervezői és fejlesztői érintettek a használat, az esetleges visszaélések és egyéb fellépések hatásai tekintetében, és felelősek az ilyen hatások alakításában.
10) Értékek összehangolása: A nagymértékben autonóm MI rendszereket úgy kell kialakítani, hogy működésük során a céljuk és viselkedésük összhangban legyen az emberi értékekkel.
11) Emberi értékek: Az MI rendszereket úgy kell kialakítani és működtetni, hogy megfeleljenek az emberi méltóság, jogok, szabadságjogok elveinek és a kulturális sokszínűségnek.
12) Személyes adatvédelem: Biztosítani kell mindenki számára a jogot, hogy hozzáférjenek, kezeljék és ellenőrizzék az általuk generált adatokat, amikot felhatalmazzák az MI rendszereket az adataik elemzésére és felhasználására.
13) Szabadság és személyiségi jogok: Az MI személyes adatok esetében történő alkalmazása nem korlátozhatja ésszerűtlenül a személyek valós vagy vélt szabadságát.
14) Közös haszon: Az MI technológiáknak minél több ember számára hasznot és lehetőséget kell jelentenie.
15) Közös jólét: Az MI nyújtotta gazdasági jólét széles körben kell, hogy érvényesüljön, és az egész emberiség javát kell szolgálnia.
16) Ember általi ellenőrzés: Embereknek kell dönteniük arról, hogy döntéseket delegáljanak-e az MI rendszereknek az emberek által választott célok elérésére.
17) A felforgatás kizárása: A fejlett MI rendszerek általi irányításnak tiszteletben kell tartania és javítania kell azokat a társadalmi és polgári folyamatokat, amelyektől a társadalom egészsége függ, anélkül, hogy azokat felforgatná.
18) Az MI és a fegyverkezési verseny: El kell kerülni a halálos autonóm fegyverekkel folytatott versenyt.
Hosszabb távú kérdések
19) A lehetőségekkel kapcsolatos elővigyázatosság: Mivel e tekintetben nem alakult ki konszenzus, el kell kerülni minden komoly feltételezést a jövőbeni MI lehetőségek felső határairól.
20) Jelentőség: A fejlett MI alapvető változást hozhat a földi élet történetében, ezért ennek megfelelő gondossággal és erőforrásokkal kell tervezni és kezelni.
21) Kockázatok: Az MI rendszerek kockázataira - különösen a katasztrofális vagy egzisztenciális kockázatokra - megfelelően fel kell készülni és a várható hatással arányos enyhítési erőfeszítéseket kell tenni.
22) Rekurzív önfejlesztés: A rekurzív önfejlesztésre vagy önsokszorosításra kialakított MI rendszerekre, amelyek gyors mennyiségi vagy minőségi növekedést eredményezhetnek, szigorú biztonsági és ellenőrzési intézkedéseket kell alkalmazni.
23) Közös jószág: A szuperintelligenciát kizárólag a közös etikai elvek szolgálatára, az egész emberiség javára kell kifejleszteni, nem pedig egy államéra vagy szervezetére.