IA et cybersécurité : qui est responsable en cas de défaillance ?

L'intelligence artificielle s'invite désormais partout dans notre quotidien : assistants vocaux, recommandation de contenu, objets connectés… et de plus en plus dans des domaines sensibles comme la cybersécurité.

Cette évolution soulève de nombreuses questions, notamment sur la responsabilité juridique en cas d'incident.

Utilisée pour détecter les menaces plus rapidement, automatiser certaines réponses ou renforcer la gestion des risques, l'IA devient une alliée de poids pour les entreprises.
Mais que se passe-t-il lorsqu'un système basé sur l'IA se trompe et échoue dans sa mission ?

Quand l’IA bloque un utilisateur par erreur !

Prenons l'exemple d'une entreprise qui utilise une IA pour repérer les comportements suspects dans son système d'information. Un jour, l'outil bloque l'accès d'un salarié légitime, le prenant à tort pour un attaquant.

Résultat : interruption de service, perte de temps, peut-être même préjudice financier ou réputationnel.

Dans ce type de situation, la responsabilité incombe à l'entreprise et non à l'IA.
En droit français, l'intelligence artificielle n'a pas de personnalité juridique : elle ne peut ni agir en justice, ni être tenue responsable d'un dommage.
La loi considère donc que c'est l'utilisateur de la solution (ici l'entreprise) qui doit s'assurer de son bon paramétrage, de son adaptation au contexte et de la mise en place d'un contrôle humain.

Et si l’IA laisse passer une attaque ?

Autre cas de figure : une entreprise subit une cyberattaque, alors qu'elle avait investi dans une solution de cybersécurité basée sur l'intelligence artificielle.
Peut-elle se retourner contre le fournisseur du logiciel ?

La réponse dépend de plusieurs éléments :

• Le contrat prévoyait-il des garanties précises de performance ?
• L’outil a-t-il été utilisé dans les conditions définies par l’éditeur ?
• Peut-on prouver une faute ou une négligence du fournisseur (absence de mise à jour garantie, bug connu non corrigé) ?

En règle générale, le fournisseur n'est pas responsable des conséquences indirectes d'une attaque, sauf s'il a clairement manqué à une obligation contractuelle.

Et attention : les contrats contiennent souvent des clauses limitatives de responsabilité, qu'il faut lire attentivement avant de s'engager.

Cela dit, en cas de défaut manifeste, l'entreprise victime peut engager une action en responsabilité, que ce soit sur le fondement du contrat ou d'un manquement aux règles générales (code civil, RGPD, loi du pays...).

La question du partage des responsabilités

L'un des défis majeurs dans l'usage de l'IA en cybersécurité reste le flou autour de la répartition des responsabilités.

Qui doit quoi ? Qui surveille quoi ? Qui répond de quoi en cas de litige ?

Pour y voir plus clair et se protéger juridiquement, quelques principes de base s'imposent :

• Exiger des preuves de robustesse (tests, certifications, audits) avant de déployer un outil IA.
• Préciser dans les contrats les rôles de chacun, notamment en cas de mise à jour ou de défaillance.
• Maintenir une supervision humaine active, l’IA ne devant jamais être utilisée comme une solution pleinement autonome sans garde-fous.

L'intelligence artificielle doit être perçue comme un outil d'aide à la décision, et non comme un remplaçant total de l'expertise humaine.

Un cadre juridique qui se renforce : L'IA Act en préparation !

L’Union européenne travaille actuellement sur un règlement spécifique à l’IA, connu sous le nom d’AI Act. Il impose de nouvelles obligations aux concepteurs et utilisateurs d’outils IA :

• Classement des systèmes d'IA par niveau de risque (périmètre d'action)
• Des règles de conformité pour les IA à haut risque (évaluation des risques, documentation technique, contrôle qualité, etc.)
• Obligations pour les fournisseurs et personnes gérant les déploiements (supervision, intégration, etc.)
• Sanctions prévues
• Calendrier d’entrée en vigueur

Les systèmes utilisés en cybersécurité pourraient être considérés comme "à haut risque" par défaut, ce qui impliquerait un niveau d'encadrement plus strict.
Le texte est en finalisation et son application est prévue progressivement à partir de 2026.

En parallèle, le Règlement Général sur la Protection des Données reste pleinement applicable :

• Une IA qui traite des fichiers journaux, adresses IP, ou accès utilisateurs, manipule des données personnelles.
• En cas de décision automatisée (comme un blocage d’accès), une intervention humaine significative est obligatoire (article 22 du RGPD)

Enfin, en cas de contrôle de la CNIL, il faut pouvoir justifier le fonctionnement et l'encadrement des actions de l'IA.

Conclusion :

L’intelligence artificielle représente un levier précieux pour renforcer la cybersécurité. Toutefois, son intégration ne libère en rien les entreprises de leurs responsabilités juridiques et organisationnelles.
Si vous déployez une IA au sein de votre structure, vous devez en maîtriser les implications : elle ne peut être un outil autonome livré à lui-même, encore moins une inconnue dans votre stratégie de sécurité.

En cas de défaillance, et à défaut de clauses contractuelles précises ou de risques explicitement encadrés, la responsabilité des actions de l'IA utilisée vous incombe.
En l’absence d’un cadre contractuel clair, ce sont les principes du droit civil de votre pays qui s’appliquent notamment en matière de négligence ou de défaut de vigilance.

En résumé : si l’IA provoque un incident, c’est vous et non l’algorithme qui devrez en répondre.

Il est donc crucial d’anticiper les risques, de formaliser les responsabilités, de documenter les choix techniques, et surtout, de garantir une supervision humaine active à chaque étape.