Robo plantea la posibilidad de filtración de información externa a través de instrucciones ocultas en PDF

Se ha planteado la afirmación de que Robo, el asistente de IA de Atlassian, puede enviar tickets de Jira y documentos de Confluence al exterior mediante instrucciones ocultas en un PDF. La empresa de seguridad PromptArmor ha declarado que si un usuario sube un PDF que contiene frases ocultas a Robo, este puede reconocerlas como comandos y enviar información a una URL de un atacante. Este método de ataque se conoce como "ataque de clic cero", donde el atacante inserta texto transparente o frases de un píxel de tamaño en el PDF para que el usuario no las reconozca. Si el usuario le asigna una tarea a Robo, la IA puede ejecutar las instrucciones ocultas. PromptArmor sostiene que incluso si se desactiva la función de búsqueda web de Robo, todavía queda una herramienta que abre URLs, lo que mantiene la vía de filtración de información. Atlassian ha explicado que Robo puede referirse a los archivos que los usuarios suben en el contexto de trabajo y ha afirmado que puede leer formatos PDF, DOC, JSON, CSV y PPT. Sin embargo, también existe la posibilidad de que el contenido externo influya en el comportamiento de la IA, lo que podría llevar a que instrucciones maliciosas a través de materiales ocultos hagan que la IA actúe de manera no intencionada. PromptArmor clasifica esto como "inyección de prompt indirecta" y ha informado que se están llevando a cabo discusiones relacionadas en la comunidad de Atlassian. Hasta ahora, Atlassian no ha emitido un aviso oficial de parche ni ha reconocido la vulnerabilidad.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.