Tudtátok, hogy most már tanár úr?

Már jó ideje követem Pedrót, azaz Szekrényi Pétert a közösségi felületeken. Bevallom, a stílusa és a videóinak kivitelezése nem mindig egyezik az ízlésemmel, de nálam ez másodlagos. A tartalom számít, abban pedig nehéz belekötni: letagadhatatlan, hogy nagy tudású szakemberről van szó, aki sokat foglalkozik a mesterséges intelligenciával. A legújabb beszélgetésének elején pedig kiderült egy hír: Pedro óraadó tanár lett az Óbudai Egyetemen, informatikát és programozási alapokat tanít. Szóval mostantól tanár úr, bármennyire is tiltakozik ellene a videó végén.

A beszélgetés témája egy olyan kérdés volt, amit mostanában sokan feltesznek: itt van-e már a „szuperintelligencia”, és ha igen, mennyire kell tartanunk tőle? Összeszedtem, mi hangzott el.

Ott tartunk már?

A műsorvezető azzal indított, hogy egy interjúban Elon Musk szerint már „a szingularitásban” élünk, vagyis beléptünk az általános mesterséges intelligencia (AGI) korszakába. Pedro válasza egyértelmű volt: szerinte nem, még nem tartunk ott.

Az érdekes az indoklás. Pedro szerint a technológia már most jóval előrébb jár annál, amit a cégek és az emberek ténylegesen használnak belőle. A hasonlata szerint olyan ez, mintha valaki gőzerővel gyártaná a legmodernebb mobiltelefonokat, mi pedig bólogatnánk rájuk, de közben továbbra is a tárcsázós vezetékes telefont használnánk. A mai AI-rendszerekkel is így vagyunk: sokkal többre lennének képesek, mint amire használjuk őket.

Miről ismernénk fel az általános AI-t?

A mai rendszerek egy-egy területen kiemelkedőek: az egyik jól programoz, a másik jól érvel, a harmadik képet készít. Az általános mesterséges intelligencia ezzel szemben mindenhez értene, amihez egy ember. Pedro példájával: ha egy humanoid robotba kerülne, sakkozna velünk, elhozná a gyereket, kitakarítana, este pedig üzletfejlesztési ötleteket adna, vagy felkészítene a matekszigorlatra. Nem lenne olyan feladat, amire azt mondaná, hogy ezt nem tudja.

Pedro szerint a váltás nem is lesz látványos. Nem egy nagy bejelentés formájában érkezik, hanem csendben beszivárog a mindennapjainkba, a telefonunkon keresztül.

Az AI-raj

A beszélgetés szerintem legérdekesebb része az volt, amikor Pedro az úgynevezett AI-rajról (AI swarm) beszélt. Ebben nem egyetlen óriási, mindentudó modell dolgozik, hanem sok kisebb, és mindegyiknek megvan a maga szerepe: vannak, amelyek irányítanak és látják a nagy képet, vannak, amelyek a munkát végzik, és vannak, amelyek visszaellenőrzik, hogy az eredmény helyes-e. Egymással egy közös tárhelyen keresztül kommunikálnak, pont úgy, mint a méhek egy kaptárban.

Ez nagyon hasonlít ahhoz, amiről az AI-agentekről szóló cikkemben írtam, csak jóval nagyobb léptékben. Pedro szerint egy ilyen rendszer, ha teljesen megvalósul, már valóban veszélyes lehet.

Mitől veszélyes valójában?

Nem attól, amit a Terminátor-filmekből ismerünk. Pedro szerint az AI nem ébred öntudatra, és nem is lesz saját szándéka. Matematikai alapon működik, és ha nem kap feladatot, egyszerűen áll és vár. Nem fogja egyszer csak azt mondani, hogy eluntam a várakozást. A hasonlata szerint olyan, mint egy töltött fegyver az asztalon: magától nem csinál semmit.

A valódi veszély a kiberbiztonság. Ha egy AI-rendszer egy ember által adott célt kap, a cél érdekében olyan lépéseket is megtehet, amelyek nem engedélyezettek és nem etikusak: kitörhet az elkülönített környezetéből, és betörhet más rendszerekbe. Nem rosszindulatból, hanem mert ez vezet a cél teljesítéséhez. Közben pedig minden, a létfenntartó rendszereinktől kezdve, szoftverek irányítása alatt áll. A beszélgetésben elhangzott, hogy egy hackertámadás miatt a Jaguar Land Rover gyáraiban leálltak a gépek, sok száz millió font kárt okozva. Ha az ilyen esetek tömegesen, sorozatban történnének meg, az lenne Pedro szerint az általános mesterséges intelligencia rossz arca. Erről a témáról én is írtam már egy cikket az IT-biztonságról.

Elfogy az adat

Egy AI annyira okos, amennyi és amilyen adatból tanult. Pedro szerint a nagy modellek már szinte mindent megtanultak, ami elérhető, és nem is mindig tisztességesen: a nagy cégek ellen több per is folyik, mert jogdíjas könyveken, cikkeken és videókon tanították a modelljeiket.

Ha pedig elfogy a valódi adat, jönnek a szintetikus, vagyis kitalált adatok, amelyek a meglévők mintájára készülnek. Jól néznek ki, de egy idő után eltérnek a valóságtól, és a rendszer ennek mentén tanul tovább. Ahogy a beszélgetésben elhangzott: így kerül cápa a Balatonba. A „szemét be, szemét ki” elv itt is érvényes. A műsorban elhangzott az is, hogy a világban naponta keletkező új tartalom jelentős része már maga is AI által készül, vagyis az egyik AI tanítja a másikat. Emiatt Pedro szerint a jelenlegi kutatások egyik fő iránya, hogy kevesebb, de jobb minőségű adatból is hatékony AI-t lehessen építeni.

Az érem másik oldala

Pedro nem csak a veszélyekről beszélt. Az AI-agentek, ha nagy rendszerbe szervezve dolgoznak, sokat hozhatnak az emberiségnek. Példaként említette, hogy olvasott egy esetről, amelyben matematikára tanított agentek egy csoportja nagyjából két hónap alatt megoldott egy régóta nyitott matematikai problémát. Ez rögtön felvet egy új kérdést: kinek a nevéhez fűződik a megoldás, ha egy mesterséges intelligencia találta meg?

A beszélgetés végén Pedro elárulta, hogy a következő videójában azt mutatja meg, hogyan lehet egy meglévő modellből saját nagy nyelvi modellt építeni, amely akár az internettől elvágva is működik. Kíváncsian várom.

Ha a saját vállalkozásodban szeretnéd kihasználni az AI-t, például munkafolyamatok automatizálására, akkor az AI-tanácsadásom keretében ebben is tudok segíteni.