Rovo ก่อข้อกังวลเรื่องข้อมูลภายนอกอาจรั่วไหลผ่านคำสั่งที่ซ่อนอยู่ในไฟล์ PDF

มีการอ้างว่า Rovo ผู้ช่วย AI ของ Atlassian สามารถส่ง Jira tickets และเอกสาร Confluence ออกไปยังภายนอกได้ เนื่องจากคำสั่งที่ซ่อนอยู่ในไฟล์ PDF บริษัทความปลอดภัย PromptArmor ระบุว่า หากผู้ใช้อัปโหลดไฟล์ PDF ที่มีวลีซ่อนอยู่ไปยัง Rovo ผู้ช่วยอาจตรวจพบวลีเหล่านี้เป็นคำสั่งและส่งข้อมูลไปยัง URL ของผู้โจมตี's วิธีการโจมตีนี้เรียกว่า 'zero-click attack' โดยผู้โจมตีจะแทรกข้อความโปร่งใสหรือวลีขนาด 1 พิกเซลลงในไฟล์ PDF เพื่อไม่ให้ผู้ใช้สังเกตเห็น เมื่อผู้ใช้มอบหมายงานให้ Rovo ระบบ AI ก็สามารถดำเนินการตามคำสั่งที่ซ่อนอยู่ได้ PromptArmor โต้แย้งว่า แม้จะปิดฟังก์ชันค้นหาเว็บของ Rovo แล้ว เครื่องมือสำหรับเปิด URL ยังคงใช้งานได้ จึงยังคงมีช่องทางที่ข้อมูลจะรั่วไหล Atlassian อธิบายว่า Rovo สามารถอ้างอิงไฟล์ที่ผู้ใช้อัปโหลดในบริบทการทำงาน และสามารถอ่านรูปแบบไฟล์ต่าง ๆ เช่น PDF, DOC, JSON, CSV และ PPT อย่างไรก็ตาม ก็ยังมีความเป็นไปได้ว่าเนื้อหาจากภายนอกอาจส่งผลต่อพฤติกรรมของ AI และคำสั่งที่เป็นอันตรายซึ่งซ่อนอยู่ในเอกสารอาจทำให้ AI ดำเนินการโดยไม่ได้ตั้งใจ PromptArmor จัดกรณีนี้เป็น 'indirect prompt injection' และรายงานว่าการหารือเกี่ยวกับประเด็นดังกล่าวยังคงดำเนินอยู่ภายในชุมชน Atlassian จนถึงขณะนี้ Atlassian ยังไม่ได้ออกประกาศแพตช์อย่างเป็นทางการหรือยอมรับว่ามีช่องโหว่ดังกล่าว

เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ด้านการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำด้านการเงิน การลงทุน กฎหมาย หรือภาษี อีเวนต์ รีวอร์ด โปรโมชันออนไลน์ หรือข้อมูลที่เกี่ยวข้องใดๆ ที่กล่าวถึงในที่นี้ ไม่ควรถือเป็นคำแนะนำ การชักชวน หรือคำเชิญชวนให้ซื้อ ขาย เทรด หรือดำเนินการอื่นใดเกี่ยวกับสินทรัพย์คริปโต สินทรัพย์คริปโตมีความผันผวนสูงและอาจส่งผลให้เกิดการขาดทุน ความพร้อมให้บริการของบริการ ผลิตภัณฑ์ และอีเวนต์ที่เกี่ยวข้องของ WEEX อาจแตกต่างกันไปตามภูมิภาค คุณมีหน้าที่ตรวจสอบให้แน่ใจว่าการเข้าร่วมของคุณเป็นไปตามกฎหมายและข้อบังคับท้องถิ่นที่ใช้บังคับ