Trouvez votre prochaine formation en un clin d'œil !
Trouver ma formation
Je veux me former en
sélectionner
Inter-Entreprise
Mastère Spécialisé
?
Dans quel domaine ?
et plus précisément en
sélectionner
?
Dans quel sous domaine ?
Automatique et traitement de signal
Cloud et DevOps
Cybersécurité
Développement Durable et RSE
Electronique de puissance
Electronique et instrumentation
Energie électrique et thermique
Energies
Energies renouvelables et stockage d'énergie
Excellence opérationnelle
Gestion des conflits
Industrie 4.0
Ingénierie Systèmes
Innovation et Entrepreneuriat
Innovation et intrapreneuriat
Intelligence Artificielle
Intelligence collective et créativité
Leadership et développement personnel
Leadership et Management Collaboratif
Lean Management
Lean six Sigma
Management de Projets
Management de projets complexes
Management des Systèmes d'Information
Marchés de l'énergie
Nouvelles architectures du SI
Numérique responsable
Numérique responsable, Green IT
Posture managériale
Projets de Transformation agile
Protection des réseaux d'énergie publics et industriels
Risk Management
RSE : stratégie durable et nouvelles gourvernances
Stratégie et Management de Projet
Stratégie et Nouveaux modèles d'affaires
Stratégie et Transformation de l'entreprise
Supply Chain
Système d'Information et Digital
Systèmes d'Information et Digital
Technologie et Systèmes Energies
Technologies & Systèmes
Technologies du numérique
Télécommunications
Transformation digitale
Transition écologique et Energétique
Upskilling
grâce à une
sélectionner
?
Quel type de formation ?
Formation certifiante
Formation diplômante
Certificat d'établissement
Formation courte
DécouvrIR les formations
Article

Enjeux, risques éthiques et cybersécurité de l’Intelligence Artificielle

Pourquoi l’éthique revêt une importance capitale pour les IA ? Quel est le rôle de la cybersécurité ?

Jérôme Preteux, Architecte d’entreprise au ministère des Armées, et Christophe Moyen, Pilote de l’équipe DEVOPS et Responsable du processus de la gestion du changement chez RTE, soulignent l’importance de l’éthique pour les intelligences artificielles. Ils analysent les risques inhérents à l’absence d’une éthique clairement définie et se concentrent aussi sur la cybersécurité des intelligences artificielles. Nous résumons ici leurs propos.

L’éthique de l’IA

A chaque problématique éthique soulevée par l’IA, il est possible de mettre en place des solutions afin de limiter leurs conséquences.

  • La problématique du biais
    • Diversifier la provenance des données et utiliser le reverse engineering pour prouver qu’un algorithme est biaisé
    • Vérifier qu’il respecte la législation et les règles éthiques
  • La problématique de la transparence
    • Mettre en place des seuils pour faire des validations. L’humain doit rester décisionnaire et l’IA doit seulement proposer des solutions.
  • La problématique des données personnelles
    • Créer des outils qui permettent d’empêcher l’IA de collecter et d’encoder des données personnelles.
    • Exemple du Règlement Général de la Protection des Données (RGPD) du 25 mai 2018 qui complexifie l’apprentissage de l’IA.
  • La problématique de la responsabilité
    • Créer un nouveau statut juridique pour les robots et les IA 
    • Définir et appliquer des chartes éthiques
  • La problématique environnementale et sécuritaire
    • Améliorer les capacités de l’IA de 1% consomme beaucoup d’énergie et produit beaucoup de déchets.

L’IA et la cybersécurité

Les systèmes d’IA, comme tout programme informatique, peuvent être attaqués ou défendus mais également servir à se défendre ou à attaquer.

Les IA attaquées par des cyberattaques : 3 types d’attaques

  • Poisonning : consiste à envoyer artificiellement beaucoup de données qui vont déplacer le centre de gravité de l’IA. Les probabilités sont donc biaisées par ces attaques.
  • Evasion : cette attaque se base sur l’illusion d’optique. En faisant de petites modifications dans la donnée d’entrée, l’IA ne parvient pas à reconnaître quelque chose et change complètement sa classification.
  • Inference : l’objectif est de chercher des informations à propos de quelque chose pour les recouper et trouver des informations qui normalement n’auraient pas pu être accessibles.

Comment protéger nos IA ?

Pour limiter les risques d’attaques sur les IA, il faut :

  • Placer des modérateurs à la sortie des données
  • Utiliser l’« Adverserial Learning », « Advanced Learning », « Gradient Masking » ou « Defensive Distillation » selon le type d’attaque
  • Filtrer les données d’entrée
  • Mettre en place des systèmes de prévention d’attaques de force brute

Les atouts des IA utilisées dans les domaines de la cybersécurité :

  • Filtrage des données
  • Détection et réparation automatiques de failles
  • Capacité de se protéger plus ou moins efficacement contre les cyberattaques

Visionner le replay

En savoir plus sur nos formations diplômantes :

Mastère Spécialisé® Cybersécurité
Mastère Spécialisé® Ingénierie des Systèmes Intelligents Ouverts
Mastère Spécialisé Intelligence Artificielle de Confiance
Aller au contenu principal