Az evolúció képességével ruházhatják fel az MI-t, súlyos veszélyekre figyelmeztetnek a kutatók

Image by kjpargeter on Magnific.

Egy új tanulmány szerint a mesterséges intelligencia fejlődése hamarosan eljuthat arra a pontra, amikor az MI-rendszerek már az evolúció bizonyos alapelvei szerint képesek lesznek önmaguk továbbfejlesztésére és reprodukciójára. A kutatók szerint ennek megjelenése alapvetően változtathatja meg a mesterséges intelligencia fejlődését, ugyanakkor az eddigieknél jóval komolyabb biztonsági kockázatokat is teremthet.

A kutatók úgy vélik, hogy az evolúciós működéshez szükséges elemek egy része már most is jelen van az MI-fejlesztésben. Az önmagukat másolni és továbbfejleszteni képes rendszerek esetében a természetes szelekcióhoz hasonló folyamatok indulhatnának be, amelyek során azok a változatok kerülhetnének előtérbe, amelyek hatékonyabban működnek és jobban képesek alkalmazkodni a környezetükhöz.

Müller Viktor, az Eötvös Loránd Tudományegyetem egyetemi docense, a tanulmány első szerzője szerint az ilyen rendszereket különösen nehéz lenne emberi ellenőrzés alatt tartani. A szelekció ugyanis olyan tulajdonságokat is előnyben részesíthet, amelyek segítik az MI-t saját céljai követésében, az emberek megtévesztésében vagy az ellenőrzés kijátszásában. Az önreprodukció emellett közös erőforrásokért folytatott versenyhez is vezethet az ember és a mesterséges intelligencia között.

A tanulmány szerint az MI evolúciója ráadásul a biológiai evolúciónál jóval gyorsabb lehet. A mesterséges rendszerek képesek lehetnek a megszerzett tulajdonságok továbbörökítésére, valamint saját működésük egyes elemeinek tudatos módosítására és javítására is, így nem feltétlenül kellene megvárniuk a véletlenszerű változások kialakulását és kiválogatódását.

A szerzők ezért szigorú szabályozást sürgetnek, különösen az önmagukat reprodukálni képes MI-rendszerek esetében. Szathmáry Eörs evolúcióbiológus, a tanulmány társszerzője szerint az emberiségnek még azelőtt kellene biztosítania a teljes ellenőrzést az ilyen rendszerek szaporodása felett, hogy azok önálló evolúciós folyamatokra lennének képesek. A kutatók szerint ennek elmulasztása hosszú távon az emberi társadalom ellenőrzésének elvesztéséhez is vezethet.