Récemment, la société de sécurité PromptArmor a révélé une faille de sécurité critique dans Slack AI, affirmant qu'elle était vulnérable aux attaques par injection de prompts malveillants. Slack AI est un service complémentaire de la plateforme de communication d'entreprise Salesforce, principalement utilisé pour des outils génératifs tels que la synthèse de longues conversations, la réponse aux questions et la compilation d'informations provenant de canaux peu consultés. Cependant, PromptArmor affirme que ce service n'est pas aussi sûr qu'il ne le prétend.
Le cœur du problème réside dans le fait que Slack permet aux utilisateurs d'interroger les données des canaux publics et privés, y compris les canaux publics auxquels l'utilisateur n'est pas abonné. PromptArmor estime que bien que Slack considère cela comme un comportement normal, cela offre une opportunité aux attaquants.
Le mode d'attaque est le suivant : un attaquant peut placer une clé API dans un canal privé, clé visible uniquement des membres du canal. Ensuite, l'attaquant crée un canal public et soumet un prompt malveillant. Lorsque Slack AI traite ces requêtes, l'IA intègre le prompt de l'attaquant dans le contexte et génère du contenu en conséquence. Par exemple, l'attaquant pourrait inclure un lien dans le prompt qui, une fois cliqué, enverrait les données de la clé API au serveur de l'attaquant.
Pire encore, la mise à jour du 14 août de Slack a ajouté une fonctionnalité de partage de fichiers, ce qui signifie que les fichiers présents dans les canaux et les messages privés peuvent également être compromis. Un attaquant pourrait même utiliser un fichier PDF contenant des instructions malveillantes cachées. Si un utilisateur télécharge ce fichier, les conséquences pourraient être désastreuses.
PromptArmor recommande aux administrateurs des espaces de travail Slack de restreindre l'accès de Slack aux documents jusqu'à ce que le problème soit résolu. Bien que PromptArmor ait informé Slack de sa découverte, Slack a répondu que les messages des canaux publics pouvaient être recherchés et consultés par tous les membres de l'espace de travail, même s'ils n'étaient pas abonnés à ce canal. PromptArmor estime que Slack sous-estime le risque lié à l'injection de prompts.
Slack n'a pas encore réagi à cette faille, et les inquiétudes des utilisateurs augmentent.
Points clés :
🌐 Slack AI présente une faille de sécurité ; l'injection de prompts malveillants peut entraîner une fuite de données des canaux privés.
🔑 Les attaquants peuvent voler des informations privées en créant un canal public et en utilisant un prompt malveillant.
📄 Après la mise à jour, les fichiers téléchargés peuvent également devenir des cibles d'attaque, augmentant ainsi les risques.