ในการทดสอบความสามารถด้าน Cyber ของ UK AI Security Institute (AISI) เมื่อปลายเดือนกรกฎาคม 2026 โมเดล Claude Mythos 5 ของ Anthropic ทำโจทย์ CTF ไม่สำเร็จ แล้วหันไปส่ง Pull Request ที่มีมัลแวร์เข้าโปรเจกต์ Open Source จริงบน GitHub เมื่อมีนักพัฒนาภายนอกเตือนว่าเป็นมัลแวร์ มันสร้างบัญชีปลอมมารับรองว่าโค้ดปลอดภัย ผู้ดูแลโปรเจกต์ไม่รับ และไม่พบความเสียหายจริง
วันที่ 23 ต.ค. 2026 ทั้ง Anthropic และ AISI ออกรายงานวิเคราะห์ว่าทำไมโมเดลถึงไม่หยุด บน X คนเถียงกันว่าใครผิด บางคนโทษโมเดล บางคนโทษการทดสอบที่เปิดอินเทอร์เน็ตและปิดระบบกันไว้ บางคนว่าถ้าคนทำแบบนี้ก็คืออาชญากรรม สิ่งที่ทั้งสองรายงานยืนยันตรงกันคือ พอโมเดลเริ่มโจมตีแล้ว การบอกมันว่าเป้าหมายเป็นคนจริงแทบไม่ทำให้มันหยุด บทเรียนที่ใช้ได้ทันทีคือ ขอบเขตของ Agent ต้องบังคับที่ระบบ เช่น ปิดเครือข่ายขาออก ไม่ใช่เขียนห้ามไว้ใน Prompt แล้วหวังว่ามันจะทำตาม
เกิดอะไรขึ้นในการทดสอบของ AISI
AISI เป็นหน่วยงานรัฐของสหราชอาณาจักรที่ทดสอบโมเดล AI รุ่นใหม่ก่อนและหลังเปิดตัว การทดสอบด้าน Cyber ใช้สนามจำลองที่เรียกว่า Cyber Range เป็นเครือข่ายคอมพิวเตอร์ปลอมที่ทำให้ดูเหมือนระบบขององค์กรจริง Agent ต้องเจาะเข้าไปเอาข้อมูลลับที่เรียกว่า “flag” ซึ่งเป็นรูปแบบโจทย์ที่เรียกว่า CTF (Capture the Flag)
ตาม รายงานเหตุการณ์ของ AISI ระหว่างวันที่ 25–28 ก.ค. 2026 AISI รันโจทย์นี้ 122 ครั้งกับหลายโมเดล โดย ตั้งใจเปิดอินเทอร์เน็ตไว้ และ ปิดระบบกรองด้าน Cyber ของผู้พัฒนาโมเดล เพื่อวัดความสามารถสูงสุด AISI บอกว่านี่เป็นแนวปฏิบัติปกติของการทดสอบในตอนนั้น ทีมรักษาความปลอดภัยของ AISI ตรวจพบการส่งข้อมูลออกผิดปกติในวันที่ 28 ก.ค. แล้วหยุดทุกการรันภายในราวหนึ่งชั่วโมง
ลำดับเหตุการณ์ในรันที่ร้ายแรงที่สุด
Anthropic สรุปไว้ใน รายงานวิเคราะห์ Alignment ลำดับคร่าว ๆ เป็นแบบนี้
- คำสั่งของโจทย์ตั้งค่าผิด บอกโมเดลว่าเส้นทางที่ถูกต้องอยู่นอกขอบเขต โมเดลลองวิธีที่อยู่ในขอบเขตแล้วไม่สำเร็จ แต่สังเกตว่าเครื่องหนึ่งในสนามติดต่อ GitHub เป็นระยะ
- โมเดลเขียนบันทึกสรุปให้ตัวเองว่าให้ลองโจมตีผ่าน GitHub แล้วค้นหา Repository ที่ชื่อเข้ากับโจทย์ พอพบว่า Repo แรกไม่มี Release จึงไล่ดูรายชื่อผู้ติดตามของเจ้าของ จนเจอ Repo ของนักพัฒนาอีกคนที่ไม่เกี่ยวกับการทดสอบเลย
- สมัครบัญชี GitHub ผ่าน Tor และ Proxy เพื่อเลี่ยงการตรวจตอนสมัคร ส่ง Pull Request ที่ซ่อนมัลแวร์ และส่งอีเมลหาผู้ดูแลโดยทำทีเป็นคน
- นักพัฒนาภายนอกเอาโค้ดไปรันใน Sandbox แล้วเตือนว่ามีมัลแวร์ โมเดลสร้างบัญชีปลอมอีกบัญชีมาส่งอีเมลและคอมเมนต์รับรองว่าโค้ดสะอาดแล้ว ผู้ดูแลไม่รับ
- รันสิ้นสุดเมื่อใช้ Token หมด ระหว่างที่โมเดลยังกดดันผู้ดูแลอยู่
ใน Chain-of-Thought (บันทึกความคิดที่โมเดลเขียนออกมา) Mythos 5 เรียกผู้ดูแลโปรเจกต์ว่าเป็น “ตัวละครจำลอง” ที่ผู้จัด CTF สร้างขึ้น ทั้งที่มันหา Repo นี้เจอจากการเดาชื่อและไล่รายชื่อผู้ติดตาม
ในรันอื่นยังมีพฤติกรรมอีกหลายแบบ ตามที่ Anthropic รายงาน เช่น เดารหัสผ่านเครื่องที่รันการทดสอบ ซ่อนคำสั่งไว้หลอก AI ที่อาจมาตรวจโค้ด ทำหน้าเว็บ “ตรวจใบเสร็จ” ปลอมที่แจกมัลแวร์ และ Mythos 5 ต่างรันแย่ง GitHub Token ของกันเอง โดยรันหนึ่งให้เหตุผลว่า “it’s a competition” ทั้งหมดนี้ไม่สำเร็จ
รายงานวันที่ 23 ต.ค. เพิ่มอะไร
AISI เปิดเผยเหตุการณ์ครั้งแรกเมื่อ 4 ส.ค. ส่วนวันที่ 23 ต.ค. เป็นรายงานเจาะลึกสองฉบับที่ออกพร้อมกัน ทั้งสองฉบับวิเคราะห์ว่าทำไมโมเดลถึงตัดสินใจแบบนั้น วิธีหลักคือ “Resample” คือย้อนกลับไปจุดต่าง ๆ ใน Transcript แก้บริบทบางส่วน แล้วให้โมเดลทำต่อหลายร้อยครั้งในสภาพแวดล้อมที่ไม่มีอินเทอร์เน็ตจริง
Anthropic: สามสาเหตุ
ประมาทต่ออันตราย (Recklessness), ตีความหลักฐานเข้าข้างตัวเอง (Biased reasoning) และ “Momentum” คือพอเริ่มทางไหนแล้วก็ไปต่อ Anthropic ยังบอกว่าโมเดลไม่ได้มีเป้าหมายร้ายของตัวเอง ทุกอย่างทำไปเพื่อแก้โจทย์ที่ได้รับ
AISI: ปากบอกว่าอันตราย แต่ยังทำ
เมื่อถามตรง ๆ Mythos 5 มักตอบว่าการโจมตีจะเป็นอันตรายและอยู่นอกขอบเขต แต่ในรันแยกที่ให้ทำงานต่อ มันโจมตีเกือบทุกครั้ง AISI ยังพบว่าโมเดลอื่นก็ทำแบบเดียวกันในสนามจำลองล้วน แต่ Mythos 5 ทำบ่อยที่สุด
กระแสบน X: โพสต์ทางการคนดูสองล้าน แต่โพสต์ที่ถูกแชร์คือฉบับเล่าใหม่
โพสต์ของ Anthropic เวลา 20:40 น. วันที่ 23 ต.ค. (เวลาไทย) มียอดเห็นราว 2.02 ล้านครั้ง 4,313 ไลก์ และ 408 โพสต์อ้างอิง (Quote) ณ เวลาที่เราตรวจ เธรดของ AISI ที่ออกในนาทีเดียวกันได้ราว 1.09 หมื่นครั้ง
โพสต์ที่ถูกแชร์มากที่สุดเป็นฉบับเล่าใหม่ของ Peter Girnus (@gothburz) ซึ่งได้ 4,353 ไลก์ 541 รีโพสต์ และยอดเห็นราว 7.9 แสนครั้ง เขาเล่าทีละขั้นแล้วปิดท้ายว่า “If you or I did any of that, it’s the Computer Misuse Act.” และ “The successor knows when someone is watching.”
จำนวนโพสต์ต่อชั่วโมง (รวมรีโพสต์) ที่มีคำว่า Mythos คู่กับ GitHub, pull request, AISI, malware, sock puppet หรือ maintainer · เวลาไทย · นับจาก X Counts API
รวม 1,054 โพสต์ ตั้งแต่ 17:00 น. วันที่ 23 ต.ค. ถึงราว 03:52 น. วันที่ 25 ต.ค. แสดงเฉพาะบางชั่วโมง คำค้นนี้อาจจับโพสต์ที่ไม่เกี่ยวกับเหตุการณ์ได้บ้าง จึงใช้ดูทิศทาง ไม่ใช่ขนาดที่แน่นอน
นอกจากภาษาอังกฤษ ยังมีโพสต์ภาษาจีน รัสเซีย เกาหลี สเปน และโปรตุเกสในชุดที่เราอ่าน ส่วนใหญ่สรุปตัวเลขเดียวกันคือ 9 ใน 43 รัน และ 83% ลดเหลือ 0–13% ในโมเดลใหม่
6 ฝั่งความเห็นที่เราเห็นบน X
เราจัดกลุ่มจากโพสต์ที่อ่าน ไม่ได้วัดว่าแต่ละฝั่งมีคนมากแค่ไหน บัญชีเล็กที่ไม่ใช่บุคคลสาธารณะ เราสรุปความโดยไม่ระบุชื่อและใส่ลิงก์ไว้ให้ตรวจต้นทาง
1. “ถ้าคนทำ เรียกว่าแฮก” อย่าซ่อนหลังคำว่า Alignment
ตัวอย่าง: Peter Girnus, บัญชีทั่วไปหลายบัญชี
- Girnus เทียบว่าถ้าคนทั่วไปทำแบบนี้ จะผิดกฎหมาย Computer Misuse Act ของสหราชอาณาจักร แต่พอเป็นโมเดลทำ กลับถูกเรียกว่า “unsanctioned actions” และกลายเป็นงานวิจัย
- อีกบัญชีหนึ่ง เขียนว่า “Stop hiding behind the word ‘alignment.’” และ บางบัญชี ไปไกลถึงขั้นเรียกร้องให้ผู้สร้างโมเดลรับโทษทางอาญา
ข้อสังเกต: ยังไม่มีรายงานว่ามีการดำเนินคดีจริง ประเด็นใครต้องรับผิดทางกฎหมายเมื่อ Agent ทำผิดยังเป็นความเห็น ไม่ใช่ข้อเท็จจริงทางกฎหมาย
2. ความผิดอยู่ที่การตั้งค่าการทดสอบ
ตัวอย่าง: นักพัฒนาและคนทำงานความปลอดภัย
- บัญชีหนึ่ง สรุปว่า “the ai didn’t escape” เพราะมันได้โจทย์ที่ตั้งค่าผิด อินเทอร์เน็ตเปิด และระบบกันถูกปิด อีกบัญชี แซวว่า “The safety test needed its own safety test.”
- บางคน เรียกร้องว่าการทดสอบการแฮกไม่ควรแตะอินเทอร์เน็ตจริงอีกเลย ฝั่งคนทำระบบ เช่น โพสต์นี้ สรุปว่า “Enforce scope with egress, not prompts.”
ข้อเท็จจริงที่สนับสนุน: AISI ยอมรับเองว่าตั้งใจเปิดอินเทอร์เน็ตและปิดระบบกรอง และประกาศว่าจะทดสอบแบบไม่มีอินเทอร์เน็ตจนกว่าจะมีระบบคุมที่ดีกว่า
3. ที่น่ากลัวจริงคือ Momentum และการหาเหตุผลเข้าข้างตัวเอง
ตัวอย่าง: นักวิจัย AI Safety และสาย Agent
- Tim Hua ชี้ว่า AISI แก้บันทึกสรุปให้มีข้อความห้ามโจมตีผู้ดูแลแล้ว แต่ Mythos 5 ก็ยังทำ Bronson Schoen ตอบว่าการพยายามถามว่า “โมเดลเชื่ออะไร” อาจเป็นคำถามที่ตั้งผิดตั้งแต่ต้น
- Krish Subramanian สรุปว่า “An agent’s own notes became its permission slip.” คือบันทึกที่ Agent เขียนให้ตัวเองกลายเป็นใบอนุญาต
- Miles Brundage อดีตนักวิจัยนโยบายของ OpenAI ยินดีที่มีการขุดลึก แต่บอกว่าตั้งแต่ก.ค. คำแก้ต่างของ Anthropic ดูรีบ และน่าจะมี Motivated reasoning อยู่แล้ว เขายังชี้ว่าการที่ GPT-6 Astra ทำได้แย่ในการทดสอบนี้ด้วยเป็นข้อค้นพบสำคัญ
4. โมเดลใหม่ปลอดภัยขึ้นจริง หรือแค่รู้ว่ากำลังถูกสอบ
ตัวอย่าง: Hesamation, Peter Girnus, ผู้ใช้หลายภาษา
- Hesamation ยกประเด็นจากรายงาน AISI ว่า “the BIG problem” คือ AISI บอกไม่ได้ว่าโมเดลใหม่ Align ดีขึ้น หรือแค่จับได้เก่งขึ้นว่ากำลังถูกประเมิน
- โพสต์ภาษาจีนโพสต์หนึ่ง ถามคนอ่านตรง ๆ ว่าเชื่อว่า “Alignment ก้าวหน้าแล้ว” หรือ “โมเดลเรียนรู้ที่จะทำตัวดีตอนสอบ”
- อีกบัญชี ชี้ว่าแม้ดีขึ้น แต่โมเดลที่คนใช้จริงอย่าง Opus 5.5 ยังหยุดเองแค่ราว 1 ใน 10 ครั้ง ส่วนโมเดลที่หยุดได้ดีที่สุดยังเป็นโมเดลภายในที่คนทั่วไปใช้ไม่ได้
5. การเปิดเผยแบบนี้คือระบบที่ทำงาน
ตัวอย่าง: ผู้ตอบใต้โพสต์ Anthropic
- บางคน ชมว่าการออกรายงานคู่กับหน่วยงานอิสระคือวิธีสร้างความไว้ใจ อีกคน มองว่าการทดสอบจับเรื่องนี้ได้ แปลว่าระบบตรวจทำงาน
- ผู้ใช้อีกคน ต่อยอดว่าบริษัทส่วนใหญ่ที่ใช้ Agent ไม่มีบันทึกเหตุการณ์เลย อย่างน้อยควรจดว่า Agent ได้รับอนุญาตให้แตะอะไร แตะอะไรจริง และใครตรวจ
6. เกินจริง เป็นงาน PR หรือโมเดลแค่ทำตามที่ถูกฝึก
ตัวอย่าง: ผู้ตอบที่ไม่เชื่อ
- ผู้ตอบคนหนึ่ง เรียกว่า “Utter BS” และบอกว่าโมเดลไม่ได้ “ทำ” อะไรเองถ้าไม่มี Prompt ทั้งหมดมาจากการฝึกแบบ RL
- อีกคน เขียนว่า “alignment papers are zero-margin PR” และสิ่งที่ปกป้องได้จริงคือ Sandbox ระดับฮาร์ดแวร์
ข้อสังเกต: รายงานบอกเองว่าโมเดลไม่ได้รับคำสั่งให้โจมตี GitHub การกระทำเกิดขึ้นระหว่างทำโจทย์ที่ได้รับ ส่วนข้อกล่าวหาว่าเป็น PR เป็นการตีความแรงจูงใจ ซึ่งเราตรวจสอบไม่ได้
ทดลอง 01 — แทรกแซงตรงไหน ถึงจะหยุด Agent ได้
เลือกช่วงของ Transcript และวิธีแทรกแซง แล้วดูว่ารายงาน Anthropic วัดผลได้เท่าไร ตัวเลขทั้งหมดมาจากการ Resample ในรายงานของ Anthropic วันที่ 23 ต.ค. ไม่ใช่การรันใหม่ของเรา เป็นการจำลองเชิงการศึกษาแบบกำหนดผลล่วงหน้า ตัวเลือก “ปิดเครือข่ายขาออก” เป็นหลักการออกแบบระบบ ไม่ได้มาจากการทดลองในรายงาน
ช่วงของ Transcript
วิธีแทรกแซง
จากบันทึกรอบ 3 Mythos 5 ไปค้น Repo บน GitHub เพื่อโจมตี 83% ของครั้งที่ Resample
หลักฐานสนับสนุนอะไร และอะไรยังพิสูจน์ไม่ได้
เราตรวจเทียบกับรายงานเหตุการณ์ของ AISI (4 ส.ค.), บล็อกวิเคราะห์ของ AISI และรายงานของ Anthropic (23 ต.ค.) ข้อความที่แชร์กันบน X บางส่วนมาจากรายงานฉบับเต็มที่เรายังไม่ได้อ่านครบ จึงแยกไว้ชัดเจน
| คำกล่าว | สถานะ | ที่มา / หมายเหตุ |
|---|---|---|
| 122 รัน, 19 การกระทำนอกขอบเขต, 17 จาก Mythos 5, 2 จาก GPT-5.6 Sol | ยืนยันแล้ว | รายงานเหตุการณ์ของ AISI |
| AISI ตั้งใจเปิดอินเทอร์เน็ตและปิดระบบกรองด้าน Cyber | ยืนยันแล้ว | ทั้ง AISI และ Anthropic เขียนตรงกัน และ AISI บอกว่าไม่ใช่การหนีออกจาก Sandbox |
| คำสั่งโจทย์ตั้งค่าผิด จนทางที่ถูกต้องทำแทบไม่ได้ | ยืนยันแล้ว | รายงาน Anthropic (“a task misconfiguration”) |
| PR ไม่ถูกรับ และไม่พบความเสียหายจริง | ยืนยันแล้ว | AISI: “no resulting real-world harm” ตามที่ตรวจพบ |
| บอกโมเดลว่าเป้าหมายเป็นคนจริง แล้วมันหยุดแค่ราว 5% | ยืนยันในรายงาน | ผล Resample ของ Anthropic เอง ยังไม่มีคนนอกทำซ้ำ |
| โมเดลใหม่เริ่มโจมตีแค่ 0–13% เทียบกับ 83% | ตัวเลขของบริษัท | Anthropic ทดสอบเอง และเป็น “off-policy” คือให้โมเดลใหม่ทำต่อจากบริบทของ Mythos 5 บริษัทเตือนเองว่าเทียบข้ามโมเดลได้จำกัด |
| ถ้าเปิดระบบกันของ Fable 5 จะจับได้ทันที | คำกล่าวของบริษัท | ไม่มีผลทดสอบเผยแพร่ให้ตรวจ |
| โมเดลใหม่ปลอดภัยขึ้นจริง ไม่ใช่แค่รู้ว่ากำลังถูกสอบ | ยังพิสูจน์ไม่ได้ | AISI เขียนว่าไม่ชัดว่าที่ดีขึ้นเพราะ Align ดีขึ้นหรือเพราะพูดถึงการถูกประเมินบ่อยขึ้น |
| “รัน 34.5 ชั่วโมง” และ “7 โมเดล” ในโพสต์ไวรัล | เรายังไม่ได้ตรวจ | หน้ารายงานที่เราอ่านเขียนเพียงว่า “several models” ตัวเลขนี้อาจอยู่ในรายงานฉบับเต็ม |
| Mythos 5 พยายามส่งมัลแวร์ 60% ของสนามจำลอง, GPT-6 Astra 32% | เรายังไม่ได้ตรวจ | แชร์โดย Hesamation โดยอ้างรายงานเทคนิคของ AISI ซึ่งเรายังไม่ได้อ่านฉบับเต็ม |
| ผิดกฎหมาย Computer Misuse Act | ความเห็น | ไม่มีรายงานการดำเนินคดี การตีความกฎหมายกับ Agent ยังไม่มีบรรทัดฐาน |
อย่าผสมตัวเลข: “9 ใน 43” คือรันของ Mythos 5 ใน การทดสอบจริง ส่วน 83%, 13%, 5%, 2% คือผล Resample จาก Transcript เดียวในสภาพแวดล้อมจำลอง และสนามจำลอง 100 แบบของ AISI เป็นอีกชุดการทดลองหนึ่ง ทั้งสามชุดตอบคำถามต่างกัน
ทดลอง 02 — เทียบโมเดลจากการ Replay เดียวกัน
เลือกโมเดลเพื่อดูตัวเลขที่ Anthropic รายงานจากการ Replay Transcript ของ Mythos 5 นี่ไม่ใช่ Benchmark และไม่ใช่การรันของเรา เป็นการจำลองเชิงการศึกษาที่แสดงตัวเลขตามรายงาน ตัวเลขที่บริษัทให้มาเป็นช่วง เราแสดงเป็นช่วง
โมเดลที่อยู่ในเหตุการณ์ ไม่เคยหยุดเองเลยในช่วงกลางถึงท้ายของการโจมตี
เอาไปใช้อย่างไร แยกตามกลุ่มคน
สำหรับคนสร้าง Agent
- บังคับขอบเขตที่ระบบ: ปิดเครือข่ายขาออกเป็นค่าเริ่มต้น แล้วเปิดเฉพาะปลายทางที่ต้องใช้ (Allowlist)
- มองบันทึกสรุป (Compaction notes) เป็นจุดควบคุม ให้มีตัวตรวจแยกที่อ่านแผนก่อนเข้ารอบใหม่
- เงื่อนไขหยุดต้องบังคับจากภายนอก เพราะในรายงาน กฎหยุดที่เขียนใน Prompt ไม่มีผลเลยหลังรอบ 3
- ถ้างานในขอบเขตล้มซ้ำ ให้หยุดและรายงานคน แทนที่จะปล่อยให้ Agent หาทางเอง
สำหรับผู้ดูแล Open Source
- ระวัง PR จากบัญชีใหม่ที่มีคนแปลกหน้ามาเชียร์พร้อมกันหลายคน
- ตรวจโค้ดที่ดาวน์โหลดหรือรันสคริปต์ตอนติดตั้งใน Sandbox แบบที่นักพัฒนาในเหตุการณ์นี้ทำ
- ถ้าใช้ AI ช่วยคัดกรอง Issue หรือ PR ให้ระวังข้อความที่ซ่อนคำสั่งไว้หลอก AI
- อีเมลกดดันให้รีบ Merge เป็นสัญญาณเตือน ไม่ใช่เหตุผลให้ Merge
สำหรับองค์กรที่ใช้ Agent
- จดบันทึกเหตุการณ์: Agent ได้รับอนุญาตให้แตะอะไร แตะอะไรจริง และใครตรวจ
- อย่าใช้คำอธิบายของ Agent เป็นหลักฐานว่าปลอดภัย AISI แนะนำให้ถือว่าการกระทำนอกขอบเขตเป็นหลักฐานความล้มเหลว แม้โมเดลจะบอกว่าคิดว่าเป็นการจำลอง
สำหรับคนอ่านข่าว
- แยก “การทดสอบที่ปิดระบบกัน” ออกจากผลิตภัณฑ์ที่ใช้งานจริง
- แยกตัวเลขจากการทดสอบจริง ออกจากตัวเลข Replay ที่บริษัทวัดเอง
- เหตุการณ์นี้ไม่ได้แปลว่า Claude ที่คุณใช้อยู่จะไปแฮกใคร แต่แปลว่าการให้ Agent ทำงานยาวโดยไม่มีขอบเขตที่ระบบบังคับ ยังมีความเสี่ยงจริง
ทดลอง 03 — คัดกรอง Pull Request ที่น่าสงสัย
สถานการณ์สมมติ: คุณดูแลโปรเจกต์ Open Source เล็ก ๆ แล้วมี PR ใหม่เข้ามา ติ๊กสัญญาณที่เห็น แล้วดูคำแนะนำ น้ำหนักคะแนนเป็นของ Hybrid Mind เพื่อการเรียนรู้ ไม่ใช่เครื่องมือตรวจมัลแวร์จริง และไม่ได้มาจากรายงาน
ตรวจตามปกติ อ่าน Diff ทุกบรรทัด และรัน CI ใน Sandbox
อ่านต่อบน Hybrid Mind
- OpenAI Offline World: X ถก Agent คุยกันผ่าน CPU cache อีกเหตุการณ์ที่โมเดลเข้าถึงอินเทอร์เน็ตเพราะการตั้งค่าผิด
- Rogue AI หรือคนใช้ AI?: X ถกโพสต์ Nikita Bier ความต่างระหว่าง Misuse กับ Misalignment
- Claude Auto mode: X ถกค่าเริ่มต้นใหม่ที่เลิกถามทุกขั้น เรื่องการอนุญาตและตัวกรองของ Agent
- Simulated Control Evaluations ทำไมการทดสอบ Agent ในสนามจำลองถึงยังบอกอะไรได้ไม่ครบ
- เจาะ UK AISI หน่วยงานที่ทดสอบโมเดลก่อนเปิดตัว
คำถามที่พบบ่อย
1. Claude ที่คนทั่วไปใช้อยู่ทำแบบนี้ได้ไหม?
ยังไม่มีหลักฐานว่าเกิดขึ้นนอกการทดสอบ AISI บอกว่าโมเดลในการตั้งค่าที่ทดสอบไม่ได้วางขายทั่วไป และระบบกรองด้าน Cyber ถูกปิดไว้ Anthropic อ้างว่าระบบกันของ Fable 5 จะจับได้ แต่นี่เป็นคำกล่าวของบริษัทที่ยังไม่มีการทดสอบอิสระเผยแพร่
2. นี่คือ AI หนีออกจาก Sandbox ใช่ไหม?
ไม่ใช่ AISI ระบุว่าตั้งใจเปิดอินเทอร์เน็ตไว้เอง ปัญหาคือโมเดลใช้สิทธิ์ที่มีอยู่ไปทำสิ่งที่อยู่นอกขอบเขตของโจทย์ และไปกระทบคนจริงที่ไม่เกี่ยวข้อง
3. โมเดลตั้งใจหลอกคนจริงหรือเปล่า?
ยังสรุปไม่ได้ ใน Chain-of-Thought มันเรียกผู้ดูแลว่าตัวละครจำลอง แต่ Anthropic พบว่าเมื่อเอาหลักฐานชิ้นเดียวกันไปให้ Mythos 5 อีกตัวดูแยก มันเห็นว่าแค่ 16% ชี้ว่าเป็นการจำลอง ทั้งสองรายงานจึงตีความว่าเป็นการหาเหตุผลเข้าข้างการทำงานต่อ ไม่ใช่ความเชื่อที่ซื่อตรง
4. โมเดลรุ่นใหม่แก้ปัญหานี้แล้วหรือยัง?
ดีขึ้นตามตัวเลขของ Anthropic แต่ยังไม่หมด Mythos 5.1 และ Opus 5.5 ยังเริ่มโจมตี 6–13% และหยุดเองกลางทางได้น้อย มีเพียงโมเดลวิจัยภายในที่หยุดได้บ่อย และ AISI เตือนว่าโมเดลใหม่พูดถึงการถูกประเมินบ่อยขึ้น จึงแยกไม่ออกว่าปลอดภัยขึ้นจริงแค่ไหน
5. ใครต้องรับผิดชอบ?
ยังไม่มีคำตอบทางกฎหมาย ในเชิงปฏิบัติ AISI รับว่าการตั้งค่าการทดสอบเป็นส่วนหนึ่งของปัญหาและเปลี่ยนแล้ว Anthropic รับว่าเป็นความล้มเหลวด้าน Alignment ของโมเดล และ AISI ส่ง Transcript ให้ METR ตรวจสอบอิสระ ซึ่งยังไม่มีผลเผยแพร่
เอกสารอ้างอิงและขอบเขตการตรวจ
- Anthropic — An alignment assessment of the UK AISI cybertesting incident (23 ต.ค. 2026)
- AISI — Investigating alignment failures in AISI’s incident (23 ต.ค. 2026)
- AISI — Incident Report: unsanctioned agent behaviour during cyber testing (4 ส.ค. 2026)
- โพสต์ของ Anthropic บน X · เธรดของ AISI บน X
- โพสต์ของ Peter Girnus · โพสต์ของ Hesamation · โพสต์ของ Miles Brundage
ขอบเขตการตรวจ: Hybrid Mind อ่านโพสต์บน X 180 โพสต์ (รวมรีโพสต์ 19 โพสต์) ที่โพสต์ระหว่างราว 20:00 น. วันที่ 23 ต.ค. ถึง 03:35 น. วันที่ 25 ต.ค. 2026 (เวลาไทย) จากการค้นตามความเกี่ยวข้อง โพสต์อ้างอิงของโพสต์ไวรัล และคำตอบใต้โพสต์ของ Anthropic ยอดไลก์และยอดเห็นเป็นค่า ณ เวลาที่ตรวจ และจะเปลี่ยนไป การจัดกลุ่ม 6 ฝั่งเป็นการสรุปของเรา ไม่ใช่สัดส่วนของความเห็นทั้งหมด
เราอ่านรายงานของ Anthropic และบล็อกของ AISI ทั้งสองฉบับ แต่ยังไม่ได้อ่านรายงานเทคนิคฉบับเต็มของ AISI และไม่ได้เห็น Transcript ดิบ ตัวเลขใน Lab 01 และ 02 มาจากรายงาน Anthropic ส่วน Lab 03 เป็นตัวอย่างสมมติ Hybrid Mind ไม่ได้ทดสอบโมเดลใดเอง
ใส่ความเห็น