{"id":1312,"date":"2026-01-29T12:34:27","date_gmt":"2026-01-29T11:34:27","guid":{"rendered":"https:\/\/cyberforgood.org\/fr\/?post_type=module&p=1312"},"modified":"2026-01-29T14:31:04","modified_gmt":"2026-01-29T13:31:04","slug":"les-risques-lies-a-lutilisation-de-lia","status":"publish","type":"module","link":"https:\/\/cyberforgood.org\/es\/module\/les-risques-lies-a-lutilisation-de-lia\/","title":{"rendered":"Les risques li\u00e9s \u00e0 l\u2019utilisation de l\u2019IA"},"content":{"rendered":"

Les points abord\u00e9s dans ce module :<\/h2>
    \n
  1. Les risques li\u00e9s \u00e0 la s\u00e9curit\u00e9 informatique<\/strong><\/li>\n
  2. Les risques li\u00e9s \u00e0 l’\u00e9thique<\/strong><\/li>\n
  3. Les enjeux de souverainet\u00e9 num\u00e9rique
    \n<\/strong><\/li>\n
  4. Les enjeux environementaux<\/strong><\/li>\n
  5. Les risques humains<\/strong><\/li>\n
  6. Les risques informationnels\u00a0<\/strong><\/li>\n<\/ol>\n<\/div><\/div><\/section>\n\n\n

    \ud83d\udfe5Introduction : comprendre les risques li\u00e9s \u00e0 l’IA<\/h2>\n\n\n\n

    Le titre de ce module est sans \u00e9quivoque : l\u2019IA est un outil technologique remarquable \u00e0 bien des \u00e9gards, et ne pas l\u2019utiliser, la rejeter de but en blanc ou ignorer son existence constituerait une erreur strat\u00e9gique dans de nombreux domaines, parmi lesquels la cybers\u00e9curit\u00e9. En effet, utiliser l\u2019IA, en conna\u00eetre les capacit\u00e9s comme les limites, permet de mieux en \u00e9valuer les risques. L\u2019IA g\u00e9n\u00e9rative demeure une technologie jeune, aussi bien dans son d\u00e9veloppement que dans ses usages, et l\u2019objectif de ce module est de l\u2019int\u00e9grer avec le plus de s\u00e9curit\u00e9 possible, sans non plus tomber dans un enthousiasme aveugle.\u200b<\/p>\n\n\n\n

    Pour pr\u00e9senter les risques li\u00e9s \u00e0 son utilisation, nous les avons cat\u00e9goris\u00e9s en sept parties : ceux li\u00e9s \u00e0 la s\u00e9curit\u00e9 informatique<\/strong>, \u00e0 l\u2019\u00e9thique<\/strong>, les enjeux de souverainet\u00e9 num\u00e9rique <\/strong>et environnementaux<\/strong>, les risques humains<\/strong>, les risques informationnels<\/strong> et les risques relatifs \u00e0 la vie priv\u00e9e<\/strong>.<\/p>\n\n\n\n

    \u00c0 noter que nous avons pris le parti de ne d\u00e9velopper que les risques li\u00e9s \u00e0 l\u2019utilisation de l\u2019IA g\u00e9n\u00e9rative. D\u2019autres risques cyber existent, mais ils concernent davantage la s\u00e9curit\u00e9 des syst\u00e8mes d\u2019information dans leur ensemble ou rel\u00e8vent d\u2019enjeux techniques propres aux d\u00e9veloppeurs, administrateurs syst\u00e8mes et r\u00e9seaux, ou encore aux fournisseurs d\u2019IA. Ces aspects, bien que d\u00e9terminants pour la robustesse et la fiabilit\u00e9 des solutions, d\u00e9passent le cadre de l\u2019utilisateur final et n\u2019ont donc pas \u00e9t\u00e9 abord\u00e9s ici.<\/p>\n\n\n\n

    1. Les risques li\u00e9s \u00e0 la s\u00e9curit\u00e9 informatique<\/h2>\n\n\n\n

    \ud83d\udd73\ufe0fLa fuite ou le vol d’informations<\/strong><\/p>\n\n\n\n

    Premier risque majeur et souvent sous-estim\u00e9 : il ne faut jamais saisir de donn\u00e9es confidentielles ou sensibles dans une IA g\u00e9n\u00e9rative dont on ne ma\u00eetrise pas les conditions de s\u00e9curit\u00e9. Cette r\u00e8gle, qui peut para\u00eetre \u00e9vidente, est pourtant r\u00e9guli\u00e8rement transgress\u00e9e, parfois par simple m\u00e9connaissance des m\u00e9canismes sous-jacents.<\/p>\n\n\n\n

    Les informations que l\u2019on fournit peuvent \u00eatre stock\u00e9es, analys\u00e9es ou r\u00e9utilis\u00e9es selon les politiques ou param\u00e8tres activ\u00e9s par l\u2019op\u00e9rateur ou l\u2019utilisateur. Concr\u00e8tement, cela signifie qu’une donn\u00e9e personnelle, strat\u00e9gique ou confidentielle pourrait \u00eatre expos\u00e9e \u00e0 des risques de fuite, de vol ou d’acc\u00e8s non autoris\u00e9, que ce soit \u00e0 cause d’une faille technique, d’une cyberattaque ou d’une simple erreur de manipulation.<\/p>\n\n\n\n

    L’Agence Nationale de la S\u00e9curit\u00e9 des Syst\u00e8mes d’Information (ANSSI) insiste particuli\u00e8rement sur ce point : le danger ne concerne pas seulement les donn\u00e9es utilis\u00e9es pour entra\u00eener le mod\u00e8le en amont, mais \u00e9galement toutes celles qui sont saisies lors de son utilisation quotidienne. Par exemple, si un utilisateur copie-colle un extrait de document confidentiel dans une IA g\u00e9n\u00e9rative pour le reformuler ou le r\u00e9sumer, il perd imm\u00e9diatement le contr\u00f4le sur la diffusion de cette information. Celle-ci pourrait \u00eatre exploit\u00e9e par des personnes malveillantes, revendue \u00e0 des tiers, ou m\u00eame ressortir dans d’autres interactions avec d’autres utilisateurs.<\/p>\n\n\n\n

    Un cas d’\u00e9cole illustre parfaitement ce risque : en 2023, des ing\u00e9nieurs de Samsung ont d\u00e9pos\u00e9 des extraits de brevets confidentiels de l’entreprise dans ChatGPT pour travailler dessus. L’IA s’est alors entra\u00een\u00e9e avec ces nouvelles informations. R\u00e9sultat : en interrogeant l’outil sur des \u00e9l\u00e9ments pr\u00e9cis concernant Samsung et ses produits, la solution r\u00e9pondait en s’appuyant sur le contenu des brevets, r\u00e9v\u00e9lant ainsi des informations strat\u00e9giques qui auraient d\u00fb rester secr\u00e8tes. Cet incident a conduit Samsung \u00e0 interdire l’usage de ChatGPT en interne et \u00e0 sensibiliser massivement ses employ\u00e9s aux risques de fuite de donn\u00e9es.<\/p>\n\n\n\n

    Nous verrons dans les prochaines sections comment formuler des requ\u00eates efficaces tout en \u00e9vitant de divulguer trop d’informations sensibles \u00e0 l’IA g\u00e9n\u00e9rative.<\/p>\n\n\n\n

    \ud83e\uddeaL’empoisonnement du mod\u00e8le d’IA<\/strong><\/p>\n\n\n\n

    Au-del\u00e0 de la fuite involontaire d’informations, il existe des attaques beaucoup plus insidieuses visant directement l’int\u00e9grit\u00e9 du mod\u00e8le d’IA. L’empoisonnement consiste \u00e0 injecter volontairement des donn\u00e9es malveillantes ou biais\u00e9es dans le processus d’apprentissage d’un mod\u00e8le d’IA, ou lors de ses mises \u00e0 jour ult\u00e9rieures. L’objectif est de modifier subtilement son comportement pour qu’il produise des r\u00e9ponses incorrectes, dangereuses ou manipul\u00e9es, sans que cela soit imm\u00e9diatement d\u00e9tectable.<\/p>\n\n\n\n

    Dans le contexte des IA g\u00e9n\u00e9ratives, comme celles qui cr\u00e9ent du texte, des images ou du code, cet empoisonnement peut se traduire par plusieurs sc\u00e9narios pr\u00e9occupants :<\/p>\n\n\n\n