Sécurité de l’IA générative : données, risques et gouvernance en Italie
L’IA générative est déjà entrée dans les processus commerciaux italiens, mais sa sécurité reste largement en dehors des modèles ordinaires de gouvernance des risques. Seules 9 % des organisations italiennes interrogées déclarent avoir défini et mis en œuvre une stratégie de sécurité formelle pour GenAI, tandis que 86 % n’ont pas encore alloué de budget dédié. Il en résulte un déficit opérationnel : l’utilisation de modèles, d’assistants et d’applications basées sur l’IA se développe, mais la visibilité, les compétences, les contrôles techniques et l’implication structurée des responsables de la sécurité restent limités.
Les données ressortent du rapport « L’état de la sécurité GenAI en Italie», une enquête réalisée en 2025 par Deloitte et Cloud Security Alliance auprès de plus de 100 organisations, responsables de la sécurité de l’information et responsables des fonctions de sécurité actifs principalement sur le marché italien. L’échantillon est composé de 81 % d’organisations ayant leur siège social en Italie ; 42 % ont entre 1 000 et 5 000 employés et 39 % dépassent le milliard d’euros de chiffre d’affaires annuel.
Le tableau national s’inscrit dans une tendance mondiale. Le Forum économique mondial, dans le rapport Perspectives mondiales de la cybersécurité 2026 réalisé avec Accenture et basé sur une enquête menée entre août et octobre 2025, il désigne l’IA comme le principal moteur du changement en matière de cybersécurité pour 94 % des personnes interrogées.
Dans la même étude, 87 % signalent que les vulnérabilités liées à l’IA constituent le cyber-risque qui connaît la croissance la plus rapide en 2025, tandis que les fuites de données associées à GenAI sont répertoriées comme la principale préoccupation pour 2026 par 34 % de l’échantillon.
Sécurité de l’IA générative, le retard est dans la gestion
L’adoption de GenAI dans les entreprises italiennes est encore concentrée dans les premières étapes. Selon Deloitte et la Cloud Security Alliance, 50 % des organisations en sont à leurs premiers stades d’utilisation, 32 % travaillent sur des projets pilotes, 15 % sont encore en évaluation et seulement 3 % ont atteint l’échelle de l’entreprise. Les cas d’usage les plus répandus concernent l’analyse documentaire, le support client et la business intelligence, domaines souvent perçus comme moins risqués que la prise de décision ou les applications critiques pour l’entreprise.
Cependant, la trajectoire est déjà claire : lorsque les systèmes passent de l’expérimentation à la production, les données traitées, les intégrations d’applications, les dépendances vis-à-vis des fournisseurs et l’autonomie opérationnelle augmentent. La sécurité devient donc une question de gouvernance continue et non une vérification finale après le projet.
Le point faible le plus évident est la visibilité. Seuls 9 % des responsables sécurité déclarent avoir une vision complète des initiatives GenAI en cours dans leur organisation. Cela signifie que de nombreux projets peuvent surgir dans les secteurs d’activité, dans les équipes d’innovation ou directement entre les utilisateurs finaux sans une cartographie centrale des modèles, des données, des invites, des fournisseurs, des plugins et des intégrations.
Les chiffres de l’écart italien
La distance entre la conscience et la capacité d’exécution apparaît clairement dans les données collectées par l’enquête Deloitte-Cloud Security Alliance.
| Portée | Données principales | Implication pour les entreprises |
|---|---|---|
| Stratégie de sécurité de l’IA déjà mise en œuvre | 9% | La plupart des organisations travaillent sans direction formelle |
| Aucun budget dédié à la sécurité GenAI | 86% | Les contrôles restent difficiles à financer et à étendre |
| Les risques GenAI entièrement intégrés dans la gestion des risques | 12% | La sécurité de l’IA reste distincte des processus de risque ordinaires |
| Des responsables de la sécurité avec une visibilité totale sur les projets | 9% | Augmente le risque d’IA fantôme et d’utilisation non gouvernée |
| Organisations sans comité directeur GenAI | 45% | Il n’existe pas de lieu de décision stable concernant les priorités, les responsabilités et les contrôles. |
| Programmes de formation structurés absents | 63% | Les utilisateurs restent exposés aux erreurs, aux fuites de données et à une utilisation inappropriée |
| DevSecOps adapté à GenAI non implémenté | 97% | Le développement sûr des systèmes d’IA reste la principale lacune technique |
Les données budgétaires sont particulièrement pertinentes. Là où des ressources dédiées existent, celles-ci ne représentent en moyenne que 2 à 3 % des dépenses globales en matière de cybersécurité, avec des valeurs absolues comprises entre 150 et 450 mille euros par an. Pour les technologies ayant un impact sur les données, les logiciels, l’identité, le cloud et les chaînes d’approvisionnement, il s’agit d’un niveau d’investissement qui risque même de ne pas couvrir l’inventaire, les tests, la surveillance et la formation.
L’IA fantôme, les données et les systèmes d’agents modifient la surface d’attaque
Les préoccupations les plus répandues parmi les organisations italiennes concernent la fuite de données, le partage excessif et la confidentialité, suivis par l’IA fantôme, c’est-à-dire l’utilisation non autorisée d’outils d’IA par les employés. Ce sont des risques immédiats car ils découlent d’une utilisation quotidienne : chargement de documents internes dans des services externes, génération de code non vérifié, requêtes sur des jeux de données sensibles, automatisations connectées aux outils de l’entreprise.
Les risques plus spécifiques au modèle, tels que l’injection rapide, l’empoisonnement des données, la compromission du modèle, les hallucinations, les biais et la perte de contrôle sur les systèmes d’agents, sont perçus comme moins urgents. C’est le signe d’une maturité encore partielle : l’organisation reconnaît le risque sur les données, mais peine à le traduire en contrôles techniques sur l’ensemble du cycle de vie des applications d’IA.
La cartographie des risques définie par le projet OWASP Top 10 for Large Language Model Applications confirme que les applications basées sur des modèles de langage exposent des classes spécifiques de vulnérabilités : injection rapide, divulgation d’informations sensibles, empoisonnement de la chaîne d’approvisionnement, des données et des modèles, résultats non validés, agence excessive, fuite rapide du système, faiblesses des systèmes d’intégration et consommation non gouvernée des ressources.
Le sujet devient plus délicat avec l’IA agentique. Les agents ne se contentent pas de générer du texte : ils peuvent planifier des tâches, interroger des bases de données, utiliser des outils externes, activer des flux de travail et prendre des décisions opérationnelles dans le cadre des autorisations qui leur sont attribuées. Cloud Security Alliance, dans une analyse publiée en mai 2026, indique que 92 % des professionnels de la sécurité interrogés s’inquiètent de l’impact des agents d’IA sur la sécurité et soulignent la nécessité de les gouverner comme des identités numériques, avec le moins de privilèges, de surveillance et de limites d’accès aux données.
La gouvernance et la conformité poussent vers des contrôles plus structurés
Le retard des entreprises italiennes se heurte à un cadre réglementaire qui exige une plus grande traçabilité. Le règlement européen 2024/1689 sur l’intelligence artificielle, visé par la loi italienne n°. 132 du 23 septembre 2025 introduit une approche basée sur les risques et des obligations spécifiques pour les systèmes à haut risque. La loi italienne, en vigueur depuis le 10 octobre 2025, réglemente les principes, le développement, l’adoption et l’application des systèmes et modèles d’IA, prévoyant une application conforme à la loi européenne sur l’IA.
Pour les entreprises, la conformité ne s’arrête pas à la classification du système. Vous avez besoin d’inventaires, de rôles, d’évaluations de données, de gestion des fournisseurs, de documentation technique, de contrôles de robustesse, de journalisation, de surveillance humaine et de processus de réponse aux incidents. Le NIST AI Risk Management Framework, publié en 2023 et intégré en juillet 2024 au profil dédié à l’IA générative, offre une référence opérationnelle pour intégrer la gestion des risques dans les phases de conception, de développement, d’utilisation et d’évaluation des systèmes d’IA.
Cependant, les données Deloitte-CSA montrent que seulement 12 % des organisations italiennes ont pleinement intégré les risques GenAI dans les cadres formels de gestion des risques. Moins de 10 % adoptent une évaluation continue et dynamique des fournisseurs de technologies d’IA. Dans un marché où de nombreuses entreprises achètent des modèles, des plateformes et des composants auprès de tiers, cela les expose à des risques de dépendance technologique, de localisation des données, de clauses contractuelles inadéquates et de capacité d’audit limitée.
Les compétences et la formation restent le goulot d’étranglement
La sécurité de l’IA générative ne dépend pas uniquement des outils. Selon Deloitte et la Cloud Security Alliance, 68 % des organisations citent une compréhension technique limitée des risques spécifiques à l’IA comme principal obstacle ; Viennent ensuite le manque de ressources dédiées (59 %), les contraintes budgétaires (45 %) et l’absence d’outils spécialisés (42 %). Seuls 17% déclarent avoir des compétences consolidées sur GenAI.
La formation a le même délai. 63% des organisations n’ont pas encore lancé de programmes structurés sur la sécurité GenAI : 47% les ont planifiés mais ne les ont pas activés, 16% ne les prévoient pas et seulement 37% proposent déjà des formations spécifiques. Il s’agit d’un point critique car les utilisateurs finaux sont souvent les premiers à adopter les outils d’IA et, en même temps, le lien le plus exposé aux erreurs de partage, aux invites inappropriées, à une confiance excessive dans les résultats et à l’utilisation de services non autorisés.
Même sur le plan technique, les mesures de base prévalent toujours. 60 % des organisations disposent de contrôles de gouvernance, 55 % ont des politiques d’utilisation acceptable et 40 % maintiennent un inventaire formel des systèmes d’IA. Les mesures telles que la modélisation des menaces pour les applications d’IA, les garde-fous d’applications, les scanners de modèles, la gestion de la posture de sécurité de l’IA et les processus DevSecOps adaptés à GenAI restent moins répandus.
Les données les plus sévères concernent le développement sécurisé : 97 % des organisations n’ont pas mis en place de processus DevSecOps spécifique pour GenAI. 47 % utilisent des pratiques traditionnelles non adaptées aux risques spécifiques à l’IA, 34 % n’ont aucun processus en place, 16 % sont en phase pilote et seulement 3 % disposent d’un modèle pleinement opérationnel.
De l’expérimentation à la responsabilité opérationnelle
Le rapport identifie cinq profils de maturité.
- débutants : égaux à 32%, ils n’ont ni stratégie ni mesures opérationnelles.
- planificateurs. 22 % disposent d’une gouvernance mais peinent à la traduire en contrôles.
- exécuteurs testamentaires : 10 %, ont des pratiques opérationnelles sans cadre de gouvernance solide.
- les praticiens : 33%, bâtissent un équilibre qui n’est pas encore consolidé.
- masters : seulement 3 %, intègrent une gouvernance avancée et une mise en œuvre systématique.
Les données globales sont claires : 64 % des organisations italiennes présentent des lacunes significatives dans au moins une des deux dimensions, gouvernance ou exécution. La sécurité de l’IA générative devient alors une discipline transversale : elle concerne le cyber, les données, le juridique, les achats, la conformité, l’innovation, les ressources humaines et le top management.
L’enquête Deloitte-CSA pointe également trois trajectoires technologiques qui font monter la pression. Frontier AI accélère les attaques, les exploits et l’automatisation offensive. L’IA agentique introduit des systèmes dotés d’une autonomie de décision et d’un accès aux données sensibles. Edge AI apporte des modèles et des décisions aux périphériques, avec des périmètres plus fragmentés et des impacts possibles même sur les processus physiques ou industriels.
Pour les entreprises italiennes, l’étape la plus urgente est de transformer la sécurité de l’IA d’une politique générale à une capacité opérationnelle mesurable : inventaire des cas d’utilisation, classification des données, implication préventive en matière de sécurité, budget dédié, évaluation des fournisseurs, tests de modèles spécifiques, gestion de l’identité des agents, formation des utilisateurs et mesures des risques mises à jour au fil du temps.
L’IA générative est déjà suffisamment répandue pour qu’elle ne puisse être traitée comme une expérimentation isolée. La différence, dans les mois à venir, se fera entre les organisations qui parviennent à l’intégrer dans les processus de sécurité ordinaires et les entreprises qui découvrent leur exposition seulement après un accident, un audit ou une perte de données.
Sources :
Deloitte-Cloud Security Alliance, « L’état de la sécurité GenAI en Italie ;
Forum économique mondial, Perspectives mondiales de la cybersécurité 2026 (accenture.com);
NIST, Cadre de gestion des risques liés à l’IA (nist.gov);
OWASP, Top 10 des applications de grands modèles de langage (owasp.org);
Règlement, loi du 23 septembre 2025 n. 132 (normaattiva.it);
Alliance pour la sécurité du cloud, État de la cybersécurité de l’IA 2026 (cloudsecurityalliance.org
