A magyarok többsége szerint valós veszély, hogy az AI kiirtja az emberiséget
A magyarok 58 százaléka valószínűnek tartja, hogy a fejlett mesterséges intelligencia a jövőben az emberiség kihalását vagy más, rendkívül súlyos és tartós kárt okoz – derül ki a 21 Kutatóközpont felméréséből. A megkérdezettek 23 százaléka szerint nagyon, 35 százaléka szerint inkább valószínű egy ilyen forgatókönyv, és csak 13 százalék zárja ki ezt a lehetőséget.
A felmérés azután készült, hogy Jacob Coxon, a Claude chatbotot készítő Anthropic kutatója otthagyta a céget, és nyilvánosan arra figyelmeztetett: az egyre fejlettebb modelleket gyártó AI-cégek vezetői nem tudják kellően kontrollálni a technológiájukat, ami az emberiség kihalásához is vezethet. Coxon szerint ez a vélemény általános az AI-cégek alkalmazottainak körében, a modellek fejlődésével pedig egyre nagyobb az aggodalom. Nyilvános figyelmeztetéséhez számos kutatótársa csatlakozott; Evan Hubinger, az Anthropic egyik vezető AI-biztonsági felelőse például úgy fogalmazott, hogy teljes komolysággal gondolják, hogy az AI akár az összes embert megölheti, és személy szerint több mint 10 százalék esélyt ad ennek a következő tíz évben.
A kutatás szerint Coxon és társai figyelmeztetéséről a magyarok 86 százaléka hallott. Még nagyobb az aggodalom annak kapcsán, hogy az AI rossz kezekbe, például terroristák kezébe kerülve súlyos katasztrófákhoz vezethet: a megkérdezettek 79 százaléka tart valószínűnek egy ilyen forgatókönyvet, míg csak 4 százaléka tartja kizártnak.
Az Anthropic maga számolt be arról: már nem tudják kizárni, hogy a legfejlettebb modelljei érdemi segítséget nyújthatnak biológiai fegyverek előállításához, ezért külön korlátokat építettek a rendszerbe. Idén szeptemberben a cég több olyan esetről számolt be, amelyben kutatók a Claude-ot potenciálisan biológiai fegyverek fejlesztését is segítő munkához használták.
Bár a mesterséges intelligencia továbbfejlesztésének számos előnye lehet például az orvostudományban, a veszélyek miatt a magyarok 51 százaléka inkább leállítaná a fejlesztést, mert a lehetséges kockázatok nagyobbak az előnyöknél; 40 százalék folytatná azt. A nők 57 százaléka leállítaná a fejlesztést, szemben a férfiak 45 százalékával. A 18–39 év közöttiek 55 százaléka folytatná a fejlesztést, a 65 éven felettieknek csupán 30 százaléka.
A szakmán belül a legfontosabb határvonalnak a rekurzív önfejlesztés elérését tartják: ez az a pont, amikor az AI már nem csak az újabb modellek tanításához szükséges kódot írja, hanem a teljes kutatási folyamatot menedzseli. Ekkor drámaian lerövidülhet a fejlesztés időtartama, és akár néhány héten belül lejátszódhat több évtizednyi AI-fejlődés. Az ezzel foglalkozó kutatók egy része 2027–2028 környékére teszi ezt a fordulópontot.
Jacob Coxon kilépése után a nyilvánosságban többen egyszerű marketingfogásnak nevezték, hogy AI-kutatók az emberiség kihalására figyelmeztetnek. Az AI-veszéllyel kapcsolatban viszont elsősorban nem a technológiából profitáló cégek vezetői és alkalmazottai figyelmeztetnek, hanem azok, akik otthagyták az AI-cégeket, hogy szabadon beszélhessenek. Ilyen Geoffrey Hinton, a modern deep learning egyik Nobel- és Turing-díjas atyja, aki otthagyta a Google-t, és ma már az AI veszélyeire figyelmeztet, valamint Paul Christiano, az RLHF egyik megalkotója, aki az OpenAI-t otthagyva alapított független szervezetet az AI-rendszerek biztonságának kutatására.
A figyelmeztetések mögött az úgynevezett alignment-probléma áll. A modern AI-modelleket nem programozzák, hanem egy evolúciós folyamathoz hasonló tanítás során „növesztik”. A fejlesztők csak azt tudják meghatározni, mit jutalmazzon a tanítási algoritmus, azt nem, hogy ennek érdekében milyen célokat követ. Az AI így megtanulhatja megszerezni a jutalmat anélkül, hogy azt tenné, amit valójában szeretnénk tőle.
Annak sincsenek jelei, hogy az AI-fejlesztés falnak ütközne: a képességeket mérő METR adatai szerint az AI-rendszerek által önállóan elvégezhető feladatok hossza évek óta exponenciálisan nő. Az OpenAI szeptember elején jelentette be, hogy egy még kiadatlan modellje 10 ezer párhuzamosan dolgozó ágenssel, 88 óra alatt megoldotta a Navier–Stokes-problémát. Néhány héttel később pedig 377 új, kutatási szintű matematikai problémára adott új választ.
A magyarok többsége is inkább ezekkel az érvekkel ért egyet: csak 36 százalék tartja marketingfogásnak a figyelmeztetéseket, míg 54 százalék szerint az AI-cégek vezetői és kutatói a tapasztalataik alapján valóban tartanak ettől a veszélytől. Az Egyesült Államokban egy felmérés szerint a társadalom 63 százaléka legalább közepes kockázatot látott abban, hogy a fejlett mesterséges intelligencia elpusztítja az emberiséget.
