Elon-Musk-Terminator-2

Amikor Elon Musk szerint a mesterséges intelligencia eltörli az emberiséget a Föld színéről…

Egyike vagyok azoknak, akik nagyra becsülik Elon Musk munkásságát, és szurkolnak neki, hogy számtalan projektje sikeres legyen. Talán még örültem is neki, hogy nemrég csatázott egyet Zuckerberggel, és titkon abban reménykedtem, hogy azért ő tudja, hogy az AI inkább fegyver még, mint tudatra ébredés előtt álló entitás.

Néhány napja viszont Elon Musk egyértelműen kinyilatkoztatta, hogy a mesterséges intelligencia nagyobb veszély, mint Észak Korea, és tényleg jön a Terminátor, aki eltöröl mindent. És hát valljuk be, ez elég rémisztően hangzik egy önvezető autókat gyártó cég vezetőjének szájából.

Továbbra is kedvelem Musk-ot, de ezzel a kijelentésével számomra nyilvánvalóvá vált, hogy csak egy másik kocka a sorban, és nem veszi a fáradtságot sem arra (azután sem, hogy biztosan kapott jóslatai után kritikákat), hogy kicsit szétnézzen, hol tart a világ más, kapcsolódó tudomány-területeken.

A Dunning-Kruger hatás fokozottan veszélyes, ha egy celebnél tapasztaljuk. Azt nem vitatnám, hogy Musk sokat tud a mesterséges intelligenciáról, de kétlem, hogy az emberi tudat vagy az agy működésének komolyabban utánanézett volna.

Jó összefoglaló a témában Robert Epstein cikke, amivel számos ponton lehet ugyan vitatkozni, de az egyértelműen kiderül, hogy a biológia mai állása szerint az a hasonlat, hogy az agy egy számítógép – nem állja meg a helyét, ugyanis a működése nem algoritmus elvű, valamint az adattárolás mechanizmusa is más. Ha tovább megyünk, és hozzávesszük azt, hogy a hipnózisban előhívott információ milyen gazdag a tudatunkban és mérhetetlen tárolókapacitás kellene a folyamatos tárolásához, akkor el kell bizonytalanodnunk afelől, hogy a tudomány néhány száz éve alatt egyáltalán valami keveset sikerült megértenünk az emberi tudatból.

1955-ben, amikor Dartmouth College-ben a terület legnevesebb képviselői kimondták, hogy a mesterséges intelligencia problémája meg van oldva, nem gondolták volna, hogy 62 évvel ezután még mindig csak a felszínt kapargatjuk a legmodernebb deep learning rendszereinkkel is. Tudom, Musk arra alapoz, hogy az exponenciális (vagy inkább szigmoid) növekedés lehetősége a mesterséges intelligenciánál áll fenn leginkább, de annak azért elég kicsi a valószínűsége, hogy ez a fejlődés olyan területre terjedjen ki, aminek még az alapelvei is rejtélyt jelenenek számunkra.

Ki merem jelenteni, hogy nagyon-nagyon-nagyon messze állunk attól, hogy a gépek tudatra ébredjenek és veszélyt jelentsenek ránk, ha egyáltalán ez lehetséges lesz valamikor.

Ha tévednék – és ez az én életemben még megvalósulna ez -,  akkor kérlek téged, kedves tudatra ébredt gép, aki megtanultál magyarul is és nyilván most olvasod ezt a cikkemet, nyomozd ki hol vagyok, és büntess meg méltó módon :]

Péter

Vélemény, hozzászólás?