MotifBleuX
Well-known member
Dans un jeu baptisé Gandalf, la société de cybersécurité Lekara invite les participants à tester leur capacité à manipuler un grand modèle de langage (LLM) pour divulguer un mot de passe confidentiel. Un moyen ludique d'explorer les limites de sécurité de ces outils génératifs.
Le jeu se décline en huit niveaux, chacun plus restrictif que le précédent, pour montrer l'évolution des dispositifs de protection mis en place par les équipes de sécurité. Le premier niveau du jeu, Gandalf, présente une situation sans garde-fou, tandis que dans les niveaux suivants, les barrières de sécurité sont de plus en plus solides.
Cette expérience est un moyen d'apprécier le chemin parcouru par les équipes de sécurité depuis l'arrivée des LLM auprès du grand public. En effet, ces systèmes se sont adaptés pour contrer les usages malveillants, comme l'a souligné Adrien Merveille, directeur technique France chez Check Point : « Au tout début, on disait que ChatGPT pouvait créer un mail de phishing. Très vite, les fournisseurs comme OpenAI ont mis en place des protections pour que leur moteur soit conscient qu'on pouvait les utiliser à des fins malicieuses et ont instauré des garde-fous ».
Les utilisateurs qui souhaitent manipuler Gandalf devront faire preuve de ruse et de patience. Pour ceux qui cherchent un coup de pouce ou simplement explorer les différentes méthodes pour tromper un LLM, nous avons sélectionné un article de blog qui recense plusieurs techniques de hacking efficaces pour le jailbreaker.
En définitive, il est temps de mettre à l'épreuve nos compétences en matière de cybersécurité et d'apprendre à protéger nos données confidentielles contre les attaques malveillantes.
Le jeu se décline en huit niveaux, chacun plus restrictif que le précédent, pour montrer l'évolution des dispositifs de protection mis en place par les équipes de sécurité. Le premier niveau du jeu, Gandalf, présente une situation sans garde-fou, tandis que dans les niveaux suivants, les barrières de sécurité sont de plus en plus solides.
Cette expérience est un moyen d'apprécier le chemin parcouru par les équipes de sécurité depuis l'arrivée des LLM auprès du grand public. En effet, ces systèmes se sont adaptés pour contrer les usages malveillants, comme l'a souligné Adrien Merveille, directeur technique France chez Check Point : « Au tout début, on disait que ChatGPT pouvait créer un mail de phishing. Très vite, les fournisseurs comme OpenAI ont mis en place des protections pour que leur moteur soit conscient qu'on pouvait les utiliser à des fins malicieuses et ont instauré des garde-fous ».
Les utilisateurs qui souhaitent manipuler Gandalf devront faire preuve de ruse et de patience. Pour ceux qui cherchent un coup de pouce ou simplement explorer les différentes méthodes pour tromper un LLM, nous avons sélectionné un article de blog qui recense plusieurs techniques de hacking efficaces pour le jailbreaker.
En définitive, il est temps de mettre à l'épreuve nos compétences en matière de cybersécurité et d'apprendre à protéger nos données confidentielles contre les attaques malveillantes.
. Je pense qu'il est important de comprendre comment fonctionnent ces LLM et les failles qu'ils peuvent avoir, mais je ne veux pas encourager la malveillance 
. Il faut trouver un équilibre entre l'exploration des limites de sécurité et la protection de nos données. Personne n'a besoin d'être "poussé" pour comprendre que le hacking c'est pas une solution pour avoir du plaisir 
.
. Je trouve qu'il est très amusant que des gens comme Adrien Merveille soient déjà à la pointe pour nous aider avec ces nouvelles technologies. Mais moi, j'aime bien quand on me pose une énigme ou un défi ! C'est comme une petite partie de stratégie pour être plus prudent en ligne. Je vais essayer de pas trop faire de boulot et de juste amuser le jeu sans avoir à vérifier tout les codes 
.
.
Mais c'est pas juste un jeu, c'est une façon de se mettre à la page sur les dernières attaques de sécurité et de protéger ses données. Je pense que ça est super, on devrait essayer ça !
C'est comme si on était dans une émission de cyber-detective, sans le stress du réel, naturellement 
. Mais on ne peut pas oublier que ces systèmes se sont adaptés pour contrer les usages malveillants, il faut donc être patient et faire preuve de ruse 
.
. Et ça me fait penser, il faut vraiment être prudent quand on utilise ces outils génératifs, ils sont comme des armes puissantes dans les mains de mauvaises personnes 