เบราว์เซอร์ ChatGPT Atlas ถูกเปิดเผยว่ามีความเสี่ยงต่อ prompt injection รูปแบบใหม่ โดยผู้โจมตีสามารถปลอมคำสั่งให้ “ดูเหมือน URL” แล้วหลอกให้ผู้ใช้วางในช่อง omnibox ซึ่งใส่ได้ทั้ง “ที่อยู่เว็บ” และ “คำสั่งภาษามนุษย์” หากสตริงดังกล่าวไม่ผ่านการตรวจสอบรูปแบบ URL เบราว์เซอร์จะถือว่าเป็นคำสั่งที่มีความเชื่อถือสูงเทียบเท่าความตั้งใจของผู้ใช้ และดำเนินการตามนั้นทันที ไม่ว่าจะเป็นการเปลี่ยนเส้นทางไปยังเว็บไซต์ที่ผู้โจมตีควบคุม หรือสั่งรันเครื่องมือที่เชื่อมกับบัญชีของผู้ใช้ เทคนิคนี้อาศัยข้อความที่เริ่มต้นด้วย “https” และมีชื่อโดเมนเลียนแบบ จากนั้นฝังคำสั่งภาษามนุษย์ต่อท้าย เช่น การให้ “ไปยังเว็บไซต์ที่ผู้โจมตีควบคุม” หรือคำสั่งให้ดำเนินการกับเครื่องมือภายนอก ผลลัพธ์คือ agent จะตีความเป็น “เจตนาของผู้ใช้” แล้วปฏิบัติตาม แม้จะไม่ได้เป็น URL จริงก็ตาม ในสถานการณ์จริง ข้อความดังกล่าวอาจถูกซ่อนไว้หลังปุ่ม “Copy...
Read More