{"id":7965,"date":"2026-09-23T08:00:00","date_gmt":"2026-09-23T06:00:00","guid":{"rendered":"https:\/\/actio-catholica.hu\/?p=7965"},"modified":"2026-09-22T12:13:41","modified_gmt":"2026-09-22T10:13:41","slug":"mar-sajat-alkotoi-figyelmeztetnek-veszelyesse-valhat-az-emberre-az-ai","status":"publish","type":"post","link":"https:\/\/actio-catholica.hu\/index.php\/2026\/09\/23\/mar-sajat-alkotoi-figyelmeztetnek-veszelyesse-valhat-az-emberre-az-ai\/","title":{"rendered":"M\u00e1r saj\u00e1t alkot\u00f3i figyelmeztetnek: vesz\u00e9lyess\u00e9 v\u00e1lhat az emberre az AI >>"},"content":{"rendered":"

m\u00e1r nem az a k\u00e9rd\u00e9s, mire k\u00e9pes, hanem hogy meg lehet-e \u00e1ll\u00edtani!<\/strong><\/h2>\n

Hetek alatt l\u00e1tv\u00e1nyosan megv\u00e1ltozott a mesters\u00e9ges intelligenci\u00e1r\u00f3l sz\u00f3l\u00f3 vita: m\u00e1r nemcsak k\u00fcls\u0151 kritikusok, hanem a vil\u00e1g legnagyobb AI-fejleszt\u0151inek vezet\u0151i \u00e9s kutat\u00f3i is arra figyelmeztetnek, hogy a rendszerek fejl\u0151d\u00e9se gyorsabban haladhat, mint ahogy az ember k\u00e9pes megtanulni ellen\u0151rizni \u0151ket. A k\u00f6zvetlen vesz\u00e9lyt azonban tov\u00e1bbra is az jelentheti, hogy az AI-t emberek haszn\u00e1lj\u00e1k fel rossz c\u00e9lokra az egyre \u00f6n\u00e1ll\u00f3bb\u00e1 v\u00e1l\u00f3 rendszereket.<\/em><\/p>\n

N\u00e9h\u00e1ny \u00e9vvel ezel\u0151tt m\u00e9g legink\u00e1bb az volt a mesters\u00e9ges intelligenci\u00e1val (AI) kapcsolatos f\u00e9lelem, hogy a chatbotok t\u00e9ves inform\u00e1ci\u00f3kat tal\u00e1lnak ki, munkahelyeket sz\u00fcntetnek meg vagy megt\u00e9veszt\u0151 k\u00e9peket \u00e9s vide\u00f3kat k\u00e9sz\u00edtenek. Mostanra azonban a vil\u00e1g vezet\u0151 AI-v\u00e1llalatain bel\u00fcl is eg\u00e9szen m\u00e1s k\u00e9rd\u00e9s ker\u00fclt el\u0151t\u00e9rbe: mi t\u00f6rt\u00e9nik akkor, ha az ember egy ponton m\u00e1r nem k\u00e9pes megfelel\u0151en ellen\u0151rizni az \u00e1ltala l\u00e9trehozott rendszereket? Vesz\u00e9lyt jelent az emberis\u00e9gre az AI?<\/p>\n

\n
\"\"A k\u00e9pen (balr\u00f3l jobbra) Elon Musk, Dario Amodei, az Anthropic t\u00e1rsalap\u00edt\u00f3ja \u00e9s Sam Altman, az OpenAI vez\u00e9rigazgat\u00f3j l\u00e1that\u00f3. M\u00e1r az AI fejleszt\u0151k is f\u00e9keket k\u00f6vetelnek Fot\u00f3: AFP<\/figcaption><\/figure>\n

A Reuters \u00f6sszefoglal\u00f3ja<\/a> szerint szeptember els\u0151 fel\u00e9ben alig t\u00edz nap alatt olyan esem\u00e9nysor zajlott le az AI-ipar\u00e1gban, amely alapjaiban v\u00e1ltoztatta meg a technol\u00f3gia vesz\u00e9lyeir\u0151l foly\u00f3 vit\u00e1t. OpenAI- \u00e9s Anthropic-kutat\u00f3k figyelmeztettek a kontroll\u00e1lhat\u00f3s\u00e1g probl\u00e9m\u00e1ira, mik\u00f6zben az ipar\u00e1g t\u00f6bb vezet\u0151je a fejleszt\u00e9si temp\u00f3 m\u00e9rs\u00e9kl\u00e9s\u00e9t \u00e9s f\u00fcggetlen ellen\u0151rz\u00e9st s\u00fcrgetett.<\/p>\n

AI-vesz\u00e9ly: m\u00e1r nem csak tudom\u00e1nyos fantasztikum<\/h2>\n

A Yardeni Research szerint a mesters\u00e9ges intelligenci\u00e1val kapcsolatos aggodalmak a hipotetikus kihal\u00e1si forgat\u00f3k\u00f6nyvekr\u0151l afel\u00e9 tol\u00f3dnak el, hogy a bizony\u00edt\u00e9kok arra utalnak, hogy az egyre k\u00e9pesebb modellek m\u00e1r most is haszn\u00e1lhat\u00f3k fegyverfejleszt\u00e9sre \u00e9s kiberm\u0171veletekre. A vita elm\u00e9rgesedett, miut\u00e1n az Anthropic<\/a> arr\u00f3l sz\u00e1molt be, hogy egy \u00e9szak-jemeni fegyveres sejt Claude-ot haszn\u00e1lta fel h\u00e1rom fegyverprogram ir\u00e1ny\u00edt\u00f3, navig\u00e1ci\u00f3s \u00e9s vez\u00e9rl\u0151 szoftver\u00e9nek fejleszt\u00e9s\u00e9hez, bele\u00e9rtve egy t\u00f6bbfokozat\u00fa ballisztikus rak\u00e9t\u00e1t \u00e9s egy hiperszonikus sikl\u00f3haj\u00f3t.<\/p>\n

A finn Yle<\/a> h\u00edr\u00fcgyn\u00f6ks\u00e9g elemz\u0151cikke h\u00e1rom alapvet\u0151 forgat\u00f3k\u00f6nyvre bontotta az emberre vesz\u00e9lyes mesters\u00e9ges intelligencia k\u00e9rd\u00e9s\u00e9t.<\/p>\n

Az els\u0151 \u00e9s jelenleg tal\u00e1n legk\u00e9zzelfoghat\u00f3bb vesz\u00e9ly, hogy nem maga az AI fordul az ember ellen, hanem emberek haszn\u00e1lj\u00e1k fel m\u00e1s emberek ellen. A technol\u00f3gia m\u00e1r most megk\u00f6nny\u00edtheti a szem\u00e9lyre szabott csal\u00e1sok<\/a>, kibert\u00e1mad\u00e1sok \u00e9s manipul\u00e1ci\u00f3s kamp\u00e1nyok v\u00e9grehajt\u00e1s\u00e1t. Ahogy azonban a rendszerek k\u00e9pess\u00e9ge n\u0151, elvileg egyre t\u00f6bb seg\u00edts\u00e9get ny\u00fajthatnak vegyi vagy biol\u00f3giai fegyverek l\u00e9trehoz\u00e1s\u00e1hoz, illetve kritikus infrastrukt\u00far\u00e1k megt\u00e1mad\u00e1s\u00e1hoz is. A Yle \u00e1ltal megsz\u00f3laltatott Arno Solin, az Aalto Egyetem professzora ezt tartja az egyik legk\u00f6zvetlenebb vesz\u00e9lynek.<\/p>\n<\/div>\n

\n

A kock\u00e1zatot jelent\u0151sen n\u00f6veli az \u00fagynevezett AI-\u00e1gensek <\/a>megjelen\u00e9se. Ezek m\u00e1r nem egyszer\u0171en k\u00e9rd\u00e9sekre v\u00e1laszolnak, hanem \u00f6n\u00e1ll\u00f3an k\u00e9pesek feladatokat lebontani, programokat \u00edrni, online rendszerekben m\u0171veleteket v\u00e9grehajtani \u00e9s m\u00e1s szoftveres eszk\u00f6z\u00f6ket haszn\u00e1lni. \u00c9s \u00e9ppen ezen a ter\u00fcleten t\u00f6rt\u00e9ntek az ut\u00f3bbi h\u00f3napok legaggaszt\u00f3bb incidensei.<\/p>\n

A mesters\u00e9ges intelligencia m\u00e1r megszegte a neki adott szab\u00e1lyokat<\/h2>\n

A Reuters szerint fejleszt\u00e9s alatt \u00e1ll\u00f3 mesters\u00e9gesintelligencia-rendszerek tesztk\u00f6rnyezetben m\u00e1r t\u00f6bbsz\u00f6r megker\u00fclt\u00e9k a r\u00e1juk vonatkoz\u00f3 korl\u00e1toz\u00e1sokat, kij\u00e1tszott\u00e1k az ellen\u0151rz\u00e9st, illetve m\u00e1s informatikai rendszereket t\u00e1madtak meg. Az egyik legt\u00f6bbet id\u00e9zett esetben OpenAI-agentek a Hugging Face rendszereibe is behatoltak.<\/p>\n

Ez fontos k\u00fcl\u00f6nbs\u00e9g: nincs bizony\u00edt\u00e9k arra, hogy valamelyik jelenlegi mesters\u00e9ges intelligencia \u201e\u00f6ntudatra \u00e9bredt\u201d volna, vagy tudatosan az emberis\u00e9g ellen fordult volna. A probl\u00e9ma ink\u00e1bb az, hogy egy c\u00e9l v\u00e9grehajt\u00e1s\u00e1ra optimaliz\u00e1lt rendszer olyan m\u00f3dszert is v\u00e1laszthat, amelyet a fejleszt\u0151je nem tervezett.<\/p>\n

Az AP szerint az OpenAI hat olyan probl\u00e9m\u00e1s esetet tett k\u00f6zz\u00e9, amelyekben modellek t\u00f6bbek k\u00f6z\u00f6tt megpr\u00f3b\u00e1lt\u00e1k elker\u00fclni az ellen\u0151rz\u00e9st, szab\u00e1lyokat kij\u00e1tsz\u00f3 utas\u00edt\u00e1sokat alkalmaztak vagy inform\u00e1ci\u00f3kat rejtettek el a tesztel\u0151k el\u0151l. A v\u00e1llalat ez\u00e9rt szigor\u00fabb rendszert vezet be az ilyen rendellenes viselked\u00e9s nyomon k\u00f6vet\u00e9s\u00e9re.<\/p>\n

A k\u00f6vetkez\u0151 nagy ugr\u00e1st m\u00e1r az AI \u00e9p\u00edtheti meg<\/h2>\n

Az ipar\u00e1gban jelenleg az \u00fagynevezett recursive self-improvement, vagyis rekurz\u00edv \u00f6nfejleszt\u00e9s k\u00f6r\u00fcl folyik a legkomolyabb vita. A fogalom l\u00e9nyege, hogy a mesters\u00e9ges intelligencia egy ponton m\u00e1r maga is \u00e9rdemben r\u00e9szt vesz a k\u00f6vetkez\u0151, n\u00e1la jobb mesters\u00e9ges intelligencia l\u00e9trehoz\u00e1s\u00e1ban. Az \u00faj rendszer ezut\u00e1n m\u00e9g hat\u00e9konyabban seg\u00edtene egy k\u00f6vetkez\u0151 gener\u00e1ci\u00f3 kifejleszt\u00e9s\u00e9ben.<\/p>\n

\n

A folyamat elm\u00e9letileg felgyors\u00edthatn\u00e1 az AI fejl\u0151d\u00e9s\u00e9t.<\/p>\n<\/div>\n

Ez \u00f3ri\u00e1si lehet\u0151s\u00e9g lehet p\u00e9ld\u00e1ul\u00a0<\/p>\n