🔎 Cyberveille

Plus de 100 000 prompts identifiées par Google pourraient avoir été conçus pour extraire les capacités de raisonnement du LLM Gemini. Les cybercriminels peuvent ainsi s'en servir pour automatiser leurs attaques.

Un rapport trimestriel sur les menaces publié par le Threat Intelligence Group de Google met en avant une campagne impliquant plus de 100 000 prompts qui, selon elle, visaient à copier les capacités de raisonnement propriétaires de son modèle IA Gemini. D’après le document, ces prompts semblaient constituer une tentative coordonnée d'extraction ou de distillation de modèles, un processus de machine learning dans lequel un modèle plus petit est créé à partir des caractéristiques essentielles d'un modèle beaucoup plus grand. « Ces prompts ont été détectés en temps réel par les systèmes de Google qui ont réduit le risque de cette attaque particulière », indique le rapport.