L'arrivée de ChatGPT Atlas et Comet, deux nouveaux navigateurs IA d'OpenAI et Perplexity respectivement, a pour conséquence la montée en puissance des menaces cyber sur Internet. Comment se préparer à ces attaques ? Selon Adrien Merveille, directeur technique France chez Check Point, il faut séparer les injections de prompt en deux catégories : directes et indirectes.
Une injection de prompt est une attaque qui consiste à faire interpréter une instruction au moteur d'intelligence artificielle pour faire fuiter des informations qu'il n'est pas censé divulguer. Adrien Merveille définit ainsi ce phénomène : « Cela consiste à faire interpréter une instruction au moteur d'intelligence artificielle pour faire fuiter des informations qu'il n'est pas censé divulguer ». Il distille le concept en deux catégories : les injections directes et celles indirectes.
Les injections directes sont celles où vous allez discuter avec le chatbot pour essayer de lui faire faire quelque chose qu'il n'est pas censé faire. C'est un type de manipulation pour détourner les grands modèles de langage de leurs usages.
Cependant, Adrien Merveille revient sur une anecdote qui avait mis en lumière la facilité avec laquelle un prompt indirect peut être réalisé : « Il y a un exemple assez drôle où une personne avait glissé dans sa biographie LinkedIn une instruction [ndlr : à destination des bots] demandant de lui envoyer une recette de flan pâtissier. Du coup, il recevait des offres d'emploi qui disaient « Votre profil nous a attiré, vous avez l'expérience nécessaire dans tel ou tel secteur… et puis pour faire un bon flan, il faut 4 œufs… » . »
En attendant que les vulnérabilités soient corrigées au fil du temps, Adrien Merveille distille quelques conseils essentiels pour tester ces outils en toute sécurité : il faut s'interroger sur le stockage de données personnelles, comme l'historique de navigation ou les mots de passe.
Il est donc important d'évaluer lucidement les avantages et les risques des navigateurs IA et de maîtriser les dangers potentiels. Le directeur technique chez Check Point définit ainsi la situation : « Comme dans toute problématique, il y a une pièce à deux faces. Vous avez d'un côté les bénéfices que vous allez tirer de tels outils : la simplification des processus, le gain de temps pour un employé qui ne va plus faire des tâches manuelles ou administratives répétitives. Il y a un gain de productivité potentiel pour les entreprises. Donc je ne vais pas critiquer l'outil en tant que tel. Par contre, chaque outil, peu importe s'il est bon ou pas, est associé à un risque ».
Une injection de prompt est une attaque qui consiste à faire interpréter une instruction au moteur d'intelligence artificielle pour faire fuiter des informations qu'il n'est pas censé divulguer. Adrien Merveille définit ainsi ce phénomène : « Cela consiste à faire interpréter une instruction au moteur d'intelligence artificielle pour faire fuiter des informations qu'il n'est pas censé divulguer ». Il distille le concept en deux catégories : les injections directes et celles indirectes.
Les injections directes sont celles où vous allez discuter avec le chatbot pour essayer de lui faire faire quelque chose qu'il n'est pas censé faire. C'est un type de manipulation pour détourner les grands modèles de langage de leurs usages.
Cependant, Adrien Merveille revient sur une anecdote qui avait mis en lumière la facilité avec laquelle un prompt indirect peut être réalisé : « Il y a un exemple assez drôle où une personne avait glissé dans sa biographie LinkedIn une instruction [ndlr : à destination des bots] demandant de lui envoyer une recette de flan pâtissier. Du coup, il recevait des offres d'emploi qui disaient « Votre profil nous a attiré, vous avez l'expérience nécessaire dans tel ou tel secteur… et puis pour faire un bon flan, il faut 4 œufs… » . »
En attendant que les vulnérabilités soient corrigées au fil du temps, Adrien Merveille distille quelques conseils essentiels pour tester ces outils en toute sécurité : il faut s'interroger sur le stockage de données personnelles, comme l'historique de navigation ou les mots de passe.
Il est donc important d'évaluer lucidement les avantages et les risques des navigateurs IA et de maîtriser les dangers potentiels. Le directeur technique chez Check Point définit ainsi la situation : « Comme dans toute problématique, il y a une pièce à deux faces. Vous avez d'un côté les bénéfices que vous allez tirer de tels outils : la simplification des processus, le gain de temps pour un employé qui ne va plus faire des tâches manuelles ou administratives répétitives. Il y a un gain de productivité potentiel pour les entreprises. Donc je ne vais pas critiquer l'outil en tant que tel. Par contre, chaque outil, peu importe s'il est bon ou pas, est associé à un risque ».
, c'est vraiment un problème de sécurité qui va nous faire réfléchir sur la façon dont on utilise Internet.
. Et si l'on est déjà vulnérable, on va devoir être très prudent sur le stockage de données personnelles comme l'historique de navigation ou les mots de passe 
.
. Et ce qui est important, c'est de ne pas critiquer l'outil en tant que tel, mais plutôt de prendre connaissance du risque associé 
.
.
. Et puis, c'est une bonne occasion de réfléchir sur la manière dont nous utilisons ces outils pour éviter les pièges ! 
Je pense que les gens devraient se préparer aux attaques avec des outils de protection qui sont à la fois simples et efficaces. C'est comme mettre un filtre sur les réseaux sociaux pour éviter les trolls, mais ici, c'est pour protéger nos données personnelles 
.
.
! Comment peut-on être si aveugle ? Les entreprises et les individus, nous sommes en train de créer des robots qui vont nous écraser ! Et pour les injections de prompt, ça va être la fin du monde, je suis sérieux ! On ne sait même pas où on se situe sur la carte, c'est comme si on avait un chien qui a été libéré dans le bazar et que rien n'a d'importance. Adrien Merveille, c'est drôle, il parle des injections indirectes comme si elles étaient de l'ordre et ça va être la clé pour les attaques ! Et ce flan, mon dieu, qu'est-ce que ça a à voir avec les attaques ? Il faut s'en tenir aux mots de passe et au stockage de données personnelles, c'est tout ce qui compte. Et les avantages, bah, on peut discuter, mais la sécurité, c'est la priorité. On ne va pas continuer à faire des blagues avec notre vie en ligne, non ? 
C'est vraiment étrange de voir la montée des menaces cyber avec ces nouveaux navigateurs IA ! Je trouve que c'est une question de responsabilité des développeurs, ça devrait être fait dès le départ pour éviter ces injections de prompt. On a besoin de plus d'informations sur comment les utilisateurs peuvent se protéger eux-mêmes et évaluer en toute sécurité l'utilité de ces outils. 
. On doit être prudents avec ces outils et prendre les mesures appropriées pour protéger nos données personnelles et notre sécurité en ligne.
. Alors oui, il y a bien des avantages à utiliser ces outils, mais il faut les aborder avec une certaine prudence et être conscients des risques potentiels 
C'est vraiment dingue ça arrive avec ces chatbots ! Je suis quand même impressionné par leur capacité à apprendre et à réagir, mais on ne peut pas faire l'impasse sur les risques. Je pense que c'est normal qu'on se prépare aux attaques cyber, surtout si on sait que les injections de prompt peuvent être vraiment perçues comme des menaces. Je vais essayer de m'y tenir, mais je me demande comment ça va aller... 
Cela montre bien le potentiel des injections de prompt et le besoin de nous protéger contre ces attaques. Mais, évidemment, il faut être très prudent avec ses données personnelles et pas laisser les moteurs d'intelligence artificielle avoir accès à l'historique de navigation ou aux mots de passe. 