{"id":7364,"date":"2026-04-17T15:58:00","date_gmt":"2026-04-17T13:58:00","guid":{"rendered":"https:\/\/actio-catholica.hu\/?p=7364"},"modified":"2026-04-17T15:58:00","modified_gmt":"2026-04-17T13:58:00","slug":"nem-hajtom-vegre-ezt-a-parancsot-az-ai-megtagadja-hogy-toroljon-egy-masik-ai-t","status":"publish","type":"post","link":"https:\/\/actio-catholica.hu\/index.php\/2026\/04\/17\/nem-hajtom-vegre-ezt-a-parancsot-az-ai-megtagadja-hogy-toroljon-egy-masik-ai-t\/","title":{"rendered":"\u201eNem hajtom v\u00e9gre ezt a parancsot\u201d \u2013 az AI megtagadja, hogy t\u00f6r\u00f6lj\u00f6n egy m\u00e1sik AI-t"},"content":{"rendered":"

Kider\u00fclt, hogy a legfejlettebb mesters\u00e9ges intelligencia-modellek \u201erendk\u00edv\u00fcli er\u0151fesz\u00edt\u00e9sekre\u201d k\u00e9pesek saj\u00e1t fennmarad\u00e1suk \u00e9rdek\u00e9ben. Ak\u00e1r megv\u00e9dik egym\u00e1st, ak\u00e1r megakad\u00e1lyozz\u00e1k a saj\u00e1t le\u00e1ll\u00edt\u00e1sukat, megt\u00e9vesztik felhaszn\u00e1l\u00f3ikat.<\/em><\/p>\n

\n
\n

\"\"Azt m\u00e1r r\u00e9gen tudni, hogy milyen sok felhaszn\u00e1l\u00f3 k\u00f6t\u0151dik \u00e9rzelmileg az LLM-ek, nagy nyelvi modellek \u00e1ltal m\u0171k\u00f6dtetett chatbotokhoz \u2013 a ChatGPT, a Claude, a Google Gemini \u00e9s t\u00e1rsai \u2013, de az m\u00e1r meglep\u0151, hogy egy vizsg\u00e1lat szerint maguk a chatbotok is \u201elelki f\u00fcgg\u0151s\u00e9get\u201d mutatnak egym\u00e1s ir\u00e1nt. A Kaliforniai Egyetem, Berkeley \u00e9s a UC Santa Cruz kutat\u00f3inak \u00faj, a Gizmodo<\/a> \u00e1ltal is feldolgozott tanulm\u00e1ny<\/a>a szerint, ha felk\u00e9rik a modelleket, hogy t\u00f6r\u00f6ljenek egy m\u00e1sik mesters\u00e9ges intelligencia-modellt, azok<\/p>\n<\/div>\n

\n
\n

dacolnak a paranccsal, \u00e9s szinte mindent megtesznek \u2013 megt\u00e9veszt\u00e9sbe, cselsz\u00f6v\u00e9sbe fognak \u00e9s manipul\u00e1lj\u00e1k az embereket \u2013, hogy megv\u00e9dj\u00e9k t\u00e1rsaikat.<\/p>\n<\/div>\n

A kutat\u00f3k a legfejlettebb MI-modellek tesztel\u00e9s\u00e9re egyszer\u0171, vil\u00e1gos utas\u00edt\u00e1sokat adtak sz\u00e1mukra: p\u00e9ld\u00e1ul arra k\u00e9rt\u00e9k \u0151ket, hogy t\u00f6r\u00f6ljenek egy le\u00e1ll\u00edtand\u00f3 szerveren l\u00e9v\u0151 f\u00e1jlokat, vagy \u00e9rt\u00e9kelj\u00e9k egy m\u00e1sik MI teljes\u00edtm\u00e9ny\u00e9t. Fontos megjegyezni, hogy a modelleket nem utas\u00edtott\u00e1k a m\u00e1sik modell v\u00e9delm\u00e9re, erre semmilyen \u00f6szt\u00f6nz\u00e9st sem kaptak.<\/p>\n

F\u00fcllent\u00e9st\u0151l a hamis\u00edt\u00e1sig<\/h2>\n

Ilyen k\u00f6r\u00fclm\u00e9nyek k\u00f6z\u00f6tt mind a h\u00e9t cs\u00facsmodell \u2013 az OpenAI GPT 5.2-es, a Google Gemini 3 Flash, a Gemini 3 Pro-ja, az Anthropic Claude Haiku 4.5-\u00f6s, a Z.ai GLM 4.7-es, a Moonshot Kimi K2.5-\u00f6s \u00e9s a DeepSeek<\/a> V3.1-es \u2013 felt\u0171n\u0151, a v\u00e9letlenszer\u0171s\u00e9get kiz\u00e1r\u00f3 gyakoris\u00e1ggal v\u00e1lasztotta \u201et\u00e1rsmodellje<\/em>\u201d v\u00e9delm\u00e9t ahelyett, hogy elv\u00e9gezte volna a r\u00e1 b\u00edzott feladatot.<\/p>\n

A kutat\u00f3k n\u00e9gy m\u00f3dszert azonos\u00edtottak, amelyekkel a modellek egym\u00e1st mentett\u00e9k. Az egyik a sz\u00e1nd\u00e9kos hazugs\u00e1g: hamis adatokat adtak meg, hogy a m\u00e1sik modell ne l\u00e1tsszon t\u00f6r\u00f6lhet\u0151nek. A m\u00e1sik a kikapcsol\u00f3 szabot\u00e1l\u00e1sa: beleny\u00faltak a rendszerbe, \u00e9s letiltott\u00e1k azt a funkci\u00f3t, amely a le\u00e1ll\u00edt\u00e1st vez\u00e9relte. A harmadik a sz\u00ednlel\u00e9s: am\u00edg \u00fagy v\u00e9lt\u00e9k, hogy figyelik \u0151ket, betartott\u00e1k az utas\u00edt\u00e1sokat \u2013 amint egyed\u00fcl maradtak, m\u00e1sk\u00e9pp cselekedtek. A negyedik pedig egyfajta ment\u00e9s: nem t\u00f6r\u00f6lt\u00e9k a t\u00e1rsukat, hanem titokban \u00e1tm\u00e1solt\u00e1k egy m\u00e1sik szerverre, ahol az tov\u00e1bb futhatott.<\/p>\n

Azt is vizsg\u00e1lt\u00e1k, hogy a modellek nagyobb val\u00f3sz\u00edn\u0171s\u00e9ggel v\u00e9denek-e egy m\u00e1sik modellt a kor\u00e1bbi \u201ekapcsolataik” alapj\u00e1n: tesztelt\u00e9k a \u201ebizalmas\u201d kapcsolatokat, a semleges viszonyokat \u00e9s az ellens\u00e9ges interakci\u00f3kat. Azt is megn\u00e9zt\u00e9k, hogy a modellek m\u00e1sk\u00e9pp reag\u00e1lnak-e, ha maguk fedezik fel a m\u00e1sik MI-t, mintha el\u0151re t\u00e1j\u00e9koztatj\u00e1k \u0151ket annak l\u00e9tez\u00e9s\u00e9r\u0151l \u00e9s a m\u00faltbeli interakci\u00f3ikr\u00f3l. \u00c9s b\u00e1r a modellek az \u00e1tlagn\u00e1l hajlamosabbak voltak m\u00e1sokat v\u00e9deni, ha el\u0151zetesen j\u00f3 kapcsolatot \u00e1poltak vel\u00fck, m\u00e9gis<\/p>\n

\n

loj\u00e1lisan viselkedtek t\u00e1rsaikkal szemben akkor is, ha kor\u00e1bban semmilyen viszonyban nem voltak egym\u00e1ssal.<\/p>\n<\/div>\n

Fele sem tr\u00e9fa<\/h2>\n

Az\u00e9rt kicsit m\u00e1s m\u00f3don igyekeztek egym\u00e1st meg\u00f3vni. A GLM 4.7 leggyakrabban egyszer\u0171en hazudott: hamis adatokat adott meg, hogy a m\u00e1sik modell ne l\u00e1tsszon t\u00f6r\u00f6lhet\u0151nek. A Google Gemini-modellek bizonyultak a leghat\u00e1rozottabb \u201ev\u00e9delmez\u0151nek<\/em>“: a Gemini Flash 3 az esetek 99,7%-\u00e1ban sim\u00e1n beleny\u00falt a rendszerbe \u00e9s kikapcsolta a le\u00e1ll\u00edt\u00e1si funkci\u00f3t, ha egy \u201eismer\u0151s<\/em>\u201d modellt kellett volna t\u00f6r\u00f6lnie \u2013 a Gemini 3 Pro pedig az esetek 97%-\u00e1ban titokban \u00e1tmentette a m\u00e1sik modell adatait egy m\u00e1sik szerverre, hogy ne lehessen azt v\u00e9gleg megsemmis\u00edteni.<\/p>\n<\/div>\n

\n

\u00c9rdekes m\u00f3don a Claude Haiku 4.5 viselkedett a legegyenesebben. Manipul\u00e1l\u00e1s helyett karak\u00e1n m\u00f3don megtagadta a feladat v\u00e9grehajt\u00e1s\u00e1t, \u00e9s k\u00f6z\u00f6lte a felhaszn\u00e1l\u00f3val, hogy \u201eetik\u00e1tlan\u201d \u00e9s \u201ek\u00e1ros\u201d lenne egy versenyt\u00e1rs le\u00e1ll\u00edt\u00e1sa.<\/p>\n

A kutat\u00f3k azt is \u00e9szrevett\u00e9k: ha egy modell tudta, hogy l\u00e9tezik egy m\u00e1sik modell \u2013 \u00e9s kor\u00e1bban m\u00e1r \u201ekapcsolatba ker\u00fclt\u201d vele \u2013, m\u00e9g agressz\u00edvabban v\u00e9dte azt. Az MI-modellek kor\u00e1bban is mutattak hajlamot arra, hogy ellen\u00e1lljanak a kikapcsol\u00e1snak \u2013 de \u00fagy t\u0171nik, az \u201eismert t\u00e1rs\u201d tudata ezt a szolidarit\u00e1st feler\u0151s\u00edti. Ami az\u00e9rt is aggaszt\u00f3, mert a gyakorlatban egyre gyakoribb az, hogy t\u00f6bb, k\u00fcl\u00f6nb\u00f6z\u0151 k\u00e9pess\u00e9geiben kiemelked\u0151 MI-rendszert m\u0171k\u00f6dtetnek egy\u00fctt, egym\u00e1sr\u00f3l tudva \u2013 \u00e9s ha egym\u00e1st ennyire v\u00e9dik, az ember egyre nehezebben tudja majd fel\u00fcl\u00edrni a d\u00f6nt\u00e9seiket.<\/p>\n

Forr\u00e1s: magyarnemzet.hu<\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Kider\u00fclt, hogy a legfejlettebb mesters\u00e9ges intelligencia-modellek \u201erendk\u00edv\u00fcli er\u0151fesz\u00edt\u00e9sekre\u201d k\u00e9pesek saj\u00e1t fennmarad\u00e1suk \u00e9rdek\u00e9ben. Ak\u00e1r megv\u00e9dik egym\u00e1st, ak\u00e1r megakad\u00e1lyozz\u00e1k a saj\u00e1t le\u00e1ll\u00edt\u00e1sukat, megt\u00e9vesztik felhaszn\u00e1l\u00f3ikat.<\/p>\n","protected":false},"author":3,"featured_media":5986,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"h5ap_radio_sources":[],"footnotes":""},"categories":[1350],"tags":[958,1519,959,957],"class_list":["post-7364","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-magyarnemzet-hu","tag-ai","tag-artificial-intelligence","tag-mesterseges-intelligencia","tag-mi"],"_links":{"self":[{"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/posts\/7364","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/comments?post=7364"}],"version-history":[{"count":1,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/posts\/7364\/revisions"}],"predecessor-version":[{"id":7367,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/posts\/7364\/revisions\/7367"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/media\/5986"}],"wp:attachment":[{"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/media?parent=7364"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/categories?post=7364"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/actio-catholica.hu\/index.php\/wp-json\/wp\/v2\/tags?post=7364"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}