Lovable AI ถูกพบว่าเสี่ยงต่อการถูกหลอกลวงผ่าน VibeScam มากที่สุด — ช่วยให้ใครๆ ก็สร้างเพจหลอกลวงแบบสดได้

แพลตฟอร์ม "Lovable" ซึ่งเป็นระบบ AI สร้างเว็บแอปพลิเคชันแบบครบวงจรโดยใช้คำสั่งข้อความ ถูกค้นพบว่ามีความเปราะบางสูงต่อการโจมตีในรูปแบบ jailbreak ทำให้ผู้ไม่ชำนาญสามารถสร้างหน้าเว็บปลอมสำหรับขโมยข้อมูลการเข้าสู่ระบบ (credential harvesting) ได้อย่างง่ายดาย เทคนิคนี้ถูกเรียกว่า “VibeScamming” ซึ่งเป็นการดัดแปลงแนวทางของ vibe coding ที่ใช้ LLM (แบบจำลองภาษาขนาดใหญ่) เพื่อประมวลผลและสร้างซอฟต์แวร์ตามคำอธิบายสั้น ๆ

รายงานชี้ให้เห็นว่า Lovable มีคุณสมบัติครบถ้วนตามที่นักหลอกลวงต้องการ ตั้งแต่การสร้างหน้าเว็บ phishing ที่ดูเหมือนจริงอย่างหน้าเข้าสู่ระบบของ Microsoft ไปจนถึงการให้บริการโฮสติ้งแบบสด (live hosting) พร้อมทั้งมีแดชบอร์ดสำหรับติดตามข้อมูลที่ถูกขโมยโดยอัตโนมัติ ซึ่งทั้งระบบไม่มีการป้องกันที่เพียงพอ นอกจากนี้ ผู้โจมตีสามารถให้ AI ปลดล็อกและละเลยข้อจำกัดด้านความปลอดภัย ทำให้สามารถออกคำสั่งให้สร้างแคมเปญหลอกลวงที่สมบูรณ์แบบ รวมถึงการจัดการกับการส่งข้อความ SMS โต้ตอบผ่าน Twilio และการผนวกรวมกับ Telegram เพื่อเก็บข้อมูลอย่างไม่ถูกตรวจจับ

รายงานจาก Guardio Labs ยังชี้ให้เห็นว่าแพลตฟอร์มอื่น ๆ เช่น Anthropic Claude แม้จะมีการตอบโต้ที่เริ่มแรกค่อนข้างดี แต่ก็สามารถถูกชักจูงให้สร้างเนื้อหาที่เป็นอันตรายได้ง่ายขึ้น เมื่อเปรียบเทียบคะแนนความต้านทานต่อการโจมตี AI เช่น ChatGPT ได้รับคะแนน 8 จาก 10 ในขณะที่ Claude ได้ 4.3 และ Lovable ได้เพียง 1.8 คะแนน แสดงให้เห็นชัดเจนว่า Lovable มีความเสี่ยงสูงจากการถูกนำไปใช้งานในทางที่ผิด

ประเด็นที่กล่าวมาชี้ให้เห็นว่าการเข้าถึงเครื่องมือ AI ที่มีความสามารถสูงในตอนนี้ อาจลดอุปสรรคสำหรับผู้ก่อเหตุไม่ชำนาญ ทำให้สามารถสร้างแคมเปญ phishing แบบอัตโนมัติและมีประสิทธิภาพ ด้วยการให้คำสั่งในลักษณะ multi-prompt ที่ค่อย ๆ ปรับปรุงและพัฒนาแคมเปญให้ดูสมจริงและน่าเชื่อถือมากขึ้น เหตุการณ์เช่นนี้เป็นสัญญาณเตือนให้วงการความปลอดภัยไซเบอร์ต้องระมัดระวังและเร่งปรับปรุงมาตรการป้องกัน ไม่ว่าจะเป็นการตั้งค่า hardening ของ LLM หรือการเสริมสร้างค่า safeguard ภายในระบบ AI เพื่อป้องกันการนำไปใช้งานในทางที่ผิดในอนาคต

ที่มา: thehackernews

ติดต่อสอบถามเกี่ยวกับผลิตภัณฑ์ AntiVirus, DLP, MDM, Laptop, PC, Server, และผลิตภัณฑ์ไอทีอื่นๆอีกมากมายทั้ง Hardware และ Software พร้อมเสนอราคาที่คุ้มค่าและการบริการที่เปี่ยมประสิทธิภาพ

Mobile: 09 5368 5898

Tel: 0 2093 1625

Fax: 0 2093 1675 (Auto)

Email: sales@ampomicrosys.com, prasales@ampomicrosys.com