A mesterséges intelligencia (MI) egymilliárd ember halálát okozhatja, mondta Bill Gates az amerikai NBC televízióban. Erre reagál az alábbi cikk…/(szerk.)
Mátis Rudolf: Megkongatták az emberiség vészharangját?
Érdekes megfigyelni egy jelenséget a világunkban. Amennyiben a laikusok riogatnak egy adott témával, azt az emberek hajlamosak félvállról venni, amennyiben viszont a szakemberek is hasonló véleményt fogalmaznak meg, az emberek rögtön pánikolni kezdenek. Az elmúlt napokban pontosan ez történt. Az AI-iparág több meghatározó vezetője is arról beszélt, hogy a technológia fejlődésének üteme olyan gyors, hogy az már önmagában komoly biztonsági kockázatot jelenthet.
Itt már közel sem arról van szó, hogy vajon a mesterséges intelligencia el veszi-e a munkánkat vagy sem. Persze ez is fontos kérdés, de a mostani vita ennél egy szinttel komolyabb dolog. Vajon mi történik akkor, ha olyan rendszereket hoznak létre, amelyek képességei bizonyos területeken már meghaladják az emberét, miközben még mindig nem értjük tökéletesen, hogyan működnek, hogyan döntenek és hogyan viselkednek az egyes helyzetekben.
Dario Amodei, az Anthropic vezérigazgatója a közelmúltban a fejlesztés ütemének lassítását sürgette. Az elképzeléséhez más meghatározó technológiai szereplők, köztük az OpenAI vezetője, Sam Altman is csatlakozott. A vita középpontjában nem az áll, hogy le kellene állítani a fejlesztéseket, a kérdés inkább az, hogy a biztonsági rendszerek képesek-e hasonlóan gyors tempóban fejlődni.
A mesterséges intelligenciára továbbra sem egy betolakodóként vagy valami gonosz lényként kell tekintenünk. Nem akar uralkodni az emberiségen, nincs saját politikai programja, nem szövöget ármány terveket az emberiség elpusztítására. A veszély nem úgy néz ki, ahogy az egy hollywoodi film forgatókönyvében meg lenne írva. Nem szükséges hozzá fémből készült robotok hadserege. Elég lehet egy olyan rendszer, amelyhez túl sok jogosultságot adunk, amely önállóan képes döntéseket hozni, programokat futtatni, rendszerekhez hozzáférni vagy információt gyűjteni.
Az elmúlt napokban éppen ezért különösen figyelemre méltó, hogy több, az iparágból érkező ember már nem egyszerűen általános óvatosságra figyelmeztet. Egyes korábbi kutatók arról beszéltek, hogy a fejlesztési verseny miatt a vállalatok könnyen olyan helyzetbe kerülhetnek, amikor mindenki tudja, hogy lassítani kellene, mégis mindenki attól fél, hogy ha ő lassít, a konkurens megelőzi. De vajon lesz olyan szereplő, aki kimondja: eddig, és ne tovább! A mostani kapitalista világban aligha, azonban még léteznek csodák, reménykedjünk.
Az AI-val kapcsolatban továbbra is két szélsőséges nézőpont létezik. Az egyik szerint a mesterséges intelligencia hamarosan elpusztítja az emberiséget. A másik szerint minden aggodalom puszta technológiai pánik, és nincs más dolgunk, mint gyorsítani.
Még maguk a szakértők sem értenek egyet abban, hogy pontosan mekkora a kockázat, mikor jelenhetnek meg a legveszélyesebb képességek, és egyáltalán létrejöhet-e valaha olyan rendszer, amely ténylegesen kicsúszik az emberi ellenőrzés alól. Talán érdemes lenne a két szélsőséges vélemény között megtalálni az arany középutat.
Nem szükséges a pánikkeltés, azonban a felelőtlen optimizmus is veszélyes lehet, lassan, csendben érdemes felkészülni a legrosszabb forgatókönyv bekövetkezésére.
Biztonságos körülmények között a mesterséges intelligencia egy óriási lehetőség az emberek számára, és nem az emberiség pusztulásának egyik legnagyobb fenyegetője.
Gyorsíthatja a kutatást, segíthet az orvoslásban, az oktatásban, a programozásban, a mérnöki munkában, és olyan feladatokat végezhet el, amelyeket néhány évvel ezelőtt még elképzelni sem tudtunk volna. Éppen ezért lenne tragikus, ha a technológia iránti jogos lelkesedés miatt elhinnénk, hogy minden korlátozás ellensége az innovációnak.
A mesterséges intelligencia elterjedése óta talán most először kezd igazán komollyá válni az AI kontra ember vita. Amikor az iparág legnagyobb szereplői mondják azt, hogy lassítani kellene, azt érdemes komolyan venni.
A legnagyobb veszély talán éppen az lenne, ha az emberiség úgy rohanna bele a mesterséges intelligencia következő korszakába, hogy a biztonságunk nincs garantálva.
Mátis Rudolf forrás: https://ma7.sk/tollhegyen/megkongattak-az-emberiseg-veszharangjat