Les entreprises passent à la vitesse supérieure en matière de déploiement de projets IA, et d'adoption de cas d'usage. Dans le même temps, la démocratisation d'outils et la professionnalisation des attaquants offrent désormais une "surface d'attaque" plus grande. Les “points de failure” se multiplient : entre failles au sein des infrastructures qui hébergent ces nouveaux modèles, modèles corrompus et risques sur les systèmes (sécurité des API…) interconnectant ces nouveaux services.

Au-delà de présenter une nouvelle surface d’attaque, l’IA porte aussi une amélioration des techniques existantes des hackers, de leurs outils (« la fraude / l’arnaque au président » est passée dans une nouvelle ère avec le développement du deepfake, entre autres…). De surcroît, elle leur fournit des opportunités supplémentaires d’industrialiser leurs tâches.

Côté cyberdéfense, les outils se déploient depuis plusieurs années auprès des éditeurs de solutions avec le renfort des algorithmes de détection de signaux faibles pour mieux prévenir et anticiper la menace…

Quel est l'avenir de la cybersécurité et de la menace dans ce contexte accéléré par l'IA ?

En outre, comment les projets IA peuvent-ils accélérer dans ce contexte où le cyber-risque est lui-même augmenté ?

Autour des témoignages de Christophe Longuepez (intervenant pour l’Ecole Polytechnique Executive Education et consultant en cybersécurité chez Accenture), Erwan Le Pennec, professeur de Mathématiques Appliquées au CMAP à l'Ecole polytechnique (expert en IA et machine learning), Thomas Clausen, professeur au département Informatique de l'Ecole polytechnique (Phd, IEEE Senior member, spécialiste en cybersécurité), nous dresserons un bilan de la question de la cybersécurité à l’ère de l’IA.

• Christophe Longuepez évoquera l’évolution des techniques d’analyse de la menace et la surface d’attaque exposée avec l’IA pour l’entreprise. Au sein des organisations où les projets IA se multiplient, poussés par la compétition et la volonté d’obtenir des ROIs rapides, la dimension sécurité de ces derniers est un volet trop souvent délaissé bien que central dans de nombreuses structures.
• Erwan Le Pennec approfondira la dimension technique et les risques inhérents propres à l’utilisation de l’IA, des LLM et des modèles plus largement.
• Thomas Clausen reviendra sur l’évolution de la surface d’attaque, les enjeux des cybermenaces actuelles et sur le réel poids de l’IA dans cette course.