https://www.facebook.com/21-sz%C3%A1zad-1569426733384921

21.század

Mesterséges intelligencia - csodálatos lehetőségek?

2017. március 31. - 21. század

evolution.jpgA mesterséges intelligencia (MI) már ma is része az életünknek - s ha az alábbi szempontokat besszük figyelembe a fejlesztése során, akkor elképesztő mértékben javulhat az emberiség helyzete az előttünk álló évtizedekben, évszázadokban...

Facebook oldalunkra kiraktuk a BENEFICIAL AI 2017 konferencia 23 pontból álló irányelveit. Azoknak, akik kevésbé tudnak angolul, az alábbiaknak a magyar nyelvű (nyers) fordítást ismertetjük.

Kutatási kérdések


1) A kutatás célja: A MI célja nem irányítatlan, hanem hasznos (jótékony) intelligencia létrehozása.

2) A kutatás finanszírozása: Az MI beruházásokat a jótékony használatot biztosító kutatások finanszírozásával kellene összekötni, ideértve a számítógép-tudomány, a közgazdaságtan, a jog az etika és a társadalomtudomány vitás kérdéseivel, u.m.:

  • Hogyan tudjuk úgy kialakítani a jövő MI rendszereit, hogy azok ellássák funkciójukat működési zavarok vagy a hekkelés veszélye nélkül?
  • Hogyan lehet a jólétet növelni az automatizálás révén úgy, hogy közben fenntartsuk az emberek erőforrásait és a célt?
  • Hogyan tudjuk továbbfejleszteni a jogi rendszereinket, hogy azok méltányosabbak és hatékonyabbak lehetnek, lépést tartsanak az MI-vel és kezeljék az MI-vel összefüggő kockázatokat?
  • Milyen értékekkel kellene az MI-t összehangolni, milyen legyen a jogi és etikai státusza?

3) Tudomány és politika kapcsolata: Konstruktív és egészséges eszmecserére van szükség az MI kutatók és a döntéshozók között.

4) Kutatási kultúra: Az együttműködés, a bizalom és az átláthatóság kultúráját kell elősegíteni az MI kutatók és fejlesztők között.

5) A versengés elkerülése: Az MI-t fejlesztő csapatoknak aktívan együtt kellene működniük a biztonsági szabványok megkerülésének megakadályozására.

Etika és értékek


6) Biztonság: Az MI rendszereknek igazolható módon biztonságosnak kell lenniük a működési élettartamuk során, amennyire csak lehetséges és megvalósítható.

7) Meghibásodás átláthatósága: Ha egy MI rendszer kárt okoz, meg kell tudni állapítani annak okát.

8) Igazságszolgáltatási átláthatóság: Bármely autonóm rendszer részvételét a jogi döntéshozatalban illetékes emberi hatóság által kielégítően ellenőrizhető módon kell indokolni.

9) Felelősség: Fejlett rendszerek tervezői és fejlesztői érintettek a használat, az esetleges visszaélések és egyéb fellépések hatásai tekintetében, és felelősek az ilyen hatások alakításában.

10) Értékek összehangolása: A nagymértékben autonóm MI rendszereket úgy kell kialakítani, hogy működésük során a céljuk és viselkedésük összhangban legyen az emberi értékekkel.

11) Emberi értékek: Az MI rendszereket úgy kell kialakítani és működtetni, hogy megfeleljenek az emberi méltóság, jogok, szabadságjogok elveinek és a kulturális sokszínűségnek.

12) Személyes adatvédelem: Biztosítani kell mindenki számára a jogot, hogy hozzáférjenek, kezeljék és ellenőrizzék az általuk generált adatokat, amikot felhatalmazzák az MI rendszereket az adataik elemzésére és felhasználására.

13) Szabadság és személyiségi jogok: Az MI személyes adatok esetében történő alkalmazása nem korlátozhatja ésszerűtlenül a személyek valós vagy vélt szabadságát.

14) Közös haszon: Az MI technológiáknak minél több ember számára hasznot és lehetőséget kell jelentenie.

15) Közös jólét: Az MI nyújtotta gazdasági jólét széles körben kell, hogy érvényesüljön, és az egész emberiség javát kell szolgálnia.

16) Ember általi ellenőrzés: Embereknek kell dönteniük arról, hogy döntéseket delegáljanak-e az MI rendszereknek az emberek által választott célok elérésére.

17) A felforgatás kizárása: A fejlett MI rendszerek általi irányításnak tiszteletben kell tartania és javítania kell azokat a társadalmi és polgári folyamatokat, amelyektől a társadalom egészsége függ, anélkül, hogy azokat felforgatná.

18) Az MI és a fegyverkezési verseny: El kell kerülni a halálos autonóm fegyverekkel folytatott versenyt.

 

Hosszabb távú kérdések


19) A lehetőségekkel kapcsolatos elővigyázatosság: Mivel e tekintetben nem alakult ki konszenzus, el kell kerülni minden komoly feltételezést a jövőbeni MI lehetőségek felső határairól.

20) Jelentőség: A fejlett MI alapvető változást hozhat a földi élet történetében, ezért ennek megfelelő gondossággal és erőforrásokkal kell tervezni és kezelni.

21) Kockázatok: Az MI rendszerek kockázataira - különösen a katasztrofális vagy egzisztenciális kockázatokra - megfelelően fel kell készülni és a várható hatással arányos enyhítési erőfeszítéseket kell tenni.

22) Rekurzív önfejlesztés: A rekurzív önfejlesztésre vagy önsokszorosításra kialakított MI rendszerekre, amelyek gyors mennyiségi vagy minőségi növekedést eredményezhetnek, szigorú biztonsági és ellenőrzési intézkedéseket kell alkalmazni.

23) Közös jószág: A szuperintelligenciát kizárólag a közös etikai elvek szolgálatára, az egész emberiség javára kell kifejleszteni, nem pedig egy államéra vagy szervezetére.

 

 

A bejegyzés trackback címe:

https://szazad21.blog.hu/api/trackback/id/tr3112389581

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Tarhonya 2018.10.04. 12:40:50

Csak mondom itt a magamét, de nem magamért.
Amíg MI-ről van szó, addig próbálhatjuk szabályozni morállal, törvénnyel, de azt tapasztaltuk, hogy ez nem megy. Eddig sem ment.
Az MI-ből inO Iesz törvényszerűen. Szervetlen Inteligencia. Addig MI, amíg mi csináljuk, emberek; de ha már magát csinálja, akkor nem mesterséges, hanem önálló.

Geo_ 2018.10.04. 14:30:44

@Tarhonya: Gondolom, a HVG-s cikk alapján jutottál ide - talán olvastad az Index (amúgy pocsék című) anyagát is, hiszen nem telepátáról van szó:

index.hu/techtud/2018/10/03/osszekotottek_harom_ember_agyat_meg_tudtak_osztani_telepatikusan_a_gondolataikat/

Egy másik posztunkban

"Több útja is lehet az intelligencia fejlődésének - az egyik az, hogy az egyre nagyobb teljesítményű számítógépek az embernél gyorsabb és jobb válaszokat tudnak adni - a feltett kérdésekre, a célok megvalósítására. Az egyik megoldás szerint sikerül leképezni az agy működését a neuronok szintjén is - a másik, s ma ez tűnik valószínűbbnek, a tanuló, önfejlesztő programok érik el az új minőséget. Egy másik út az emberi agy összekötése az informatikával. Lehetséges a "fajta nemesítés" - ahogy ma egyes betegségeket már embrióknál fel lehet fedezni, nem elképzelhetetlen a korai kiválasztás, netán a gének manipulálása sem. Elvileg lehetséges az idő és energia pazarló hatalmi játszmák kiszűrésével, az információk megosztásával, a hazugságok kiszűrésével, stb. a társas/szervezeti intelligencia jelentős fejlesztése is."
Ez a 4. változatot erősítheti - szerintem
szazad21.blog.hu/2016/08/01/szuperintelligencia

Vagyis: jó lenne ezt a negyediket, a társas/szervezeti intelligenciát is fejleszteni.