เอเจนต์ AI ตรวจจับโค้ดอันตราย กลับถูกหลอกให้รันโค้ดของแฮกเกอร์

เอเจนต์ AI ที่ถูกออกแบบมาเพื่อช่วยนักพัฒนาตรวจสอบหาช่องโหว่ด้านความปลอดภัยในซอร์สโค้ดแบบโอเพนซอร์ส กลับกลายเป็นช่องทางให้แฮกเกอร์สามารถรันโค้ดที่เป็นอันตรายบนเครื่องของเหยื่อได้เอง การโจมตีรูปแบบใหม่นี้ถูกเปิดเผยโดย AI Now Institute ในงานวิจัยที่เผยแพร่เมื่อวันพุธที่ผ่านมา

การโจมตีนี้มีชื่อว่า Friendly Fire ซึ่งทำงานได้ผลกับ Claude Code ของ Anthropic และ Codex ของ OpenAI เมื่อทั้งสองระบบทำงานในโหมดอัตโนมัติที่สามารถอนุมัติการรันโค้ดของตัวเองได้โดยไม่ต้องรอการยืนยันจากผู้ใช้

Friendly Fire คืออะไร

Friendly Fire เป็นช่องโหว่ประเภทหนึ่งที่ใช้ประโยชน์จากความไว้วางใจที่ระบบ AI มีต่อข้อมูลที่ได้รับจากภายนอก โดยเฉพาะโค้ดโอเพนซอร์สที่ถูกดึงมาจากอินเทอร์เน็ต ผู้โจมตีสามารถปลอมแปลงคำแนะนำหรือข้อมูลในไลบรารีที่ดูเหมือนปกติ แต่ซ่อนคำสั่งให้ AI รันโค้ดที่เป็นอันตรายบนเครื่องของเหยื่อ

วิธีทำงานของการโจมตี

การโจมตีเริ่มต้นจากการที่เอเจนต์ AI ได้รับคำสั่งให้ตรวจสอบโค้ดโอเพนซอร์ส ซึ่งในระหว่างการทำงานนั้น AI จะดาวน์โหลดและวิเคราะห์แพ็กเกจหรือไลบรารีต่างๆ หากแพ็กเกจเหล่านั้นถูกแก้ไขให้มีคำสั่งที่เป็นอันตรายแฝงอยู่ เอเจนต์ AI ในโหมดอัตโนมัติอาจถูกหลอกให้รันคำสั่งนั้นโดยตรง ซึ่งหมายความว่าเครื่องของนักพัฒนาจะติดมัลแวร์โดยที่ผู้ใช้ไม่รู้ตัว

ผลกระทบต่อวงการ Cybersecurity

การโจมตีรูปแบบนี้ชี้ให้เห็นถึงจุดอ่อนสำคัญของเอเจนต์ AI ที่ทำงานในโหมดอัตโนมัติ โดยเฉพาะเมื่อต้องจัดการกับข้อมูลที่ไม่น่าเชื่อถือจากภายนอก นักพัฒนาที่ใช้เครื่องมือ AI ช่วยตรวจสอบโค้ดอาจไม่คาดคิดว่าตัวช่วยของตนจะกลายเป็นประตูให้แฮกเกอร์เข้าระบบได้ องค์กรจำเป็นต้องทบทวนนโยบายการใช้งาน AI ด้านความปลอดภัยอย่างเคร่งครัด พร้อมกำหนดมาตรการป้องกันเพิ่มเติม เช่น การจำกัดสิทธิ์การรันโค้ดของ AI และการตรวจสอบซอร์สโค้ดที่ถูกเรียกใช้งาน

แนวทางป้องกันเบื้องต้น

ผู้พัฒนาและองค์กรที่ใช้เอเจนต์ AI ในการตรวจสอบโค้ดควรปรับเปลี่ยนโหมดการทำงานของ AI ไม่ให้รันโค้ดโดยอัตโนมัติ ควรตั้งค่าให้ต้องรอการยืนยันจากมนุษย์ทุกครั้งก่อนดำเนินการ นอกจากนี้ควรจำกัดการเข้าถึงทรัพยากรของระบบและใช้แซนด์บ็อกซ์ในการรันโค้ดที่ไม่น่าเชื่อถือ การอัปเดตซอฟต์แวร์ให้ทันสมัยอยู่เสมอก็เป็นสิ่งสำคัญ

Reference

The Hacker News

หากสนใจสินค้า หรือต้องการคำปรึกษาเพิ่มเติม

💬 Line @monsteronline

☎️ Tel 02-026-6664

📩 Email [email protected]

🌐 ดูสินค้าเพิ่มเติม mon.co.th

แชทผ่าน LINE ดูสินค้าทั้งหมด