Bonjour, je suis Gustave, votre conseiller formation virtuel et je vais vous aider à trouver votre formation.
Trouver ma formation
Je veux me former en
sélectionner
Achats et Supply Chain
Lean Management & Lean Six Sigma, Excellence Opérationnelle
Projets, Leadership et Management de la transformation
Systèmes d'information et Technologies du digital
Technologies et Systèmes
?
Dans quel domaine ?
et plus précisément en
sélectionner
?
Dans quel sous domaine ?
Achats
Agilité
Architecture des Systèmes d'Information
Automatique/signaux
Big Data
Cloud Computing
Cybersécurité
Électronique de Puissance
Électronique et instrumentation
Énergie électrique et thermique
Industrie 4.0
Ingénierie Durable
Ingénierie Systèmes
Innovation et Intrapreneuriat
Intelligence Artificielle
Lean Management
Lean Six Sigma
Management de projets, leadership
Mécanique
Négociation
Objets connectés
PLM
Risk Management
Supply chain management
Technologies du digital
Télécommunications
Transformation digitale
grâce à une
sélectionner
?
Quel type de formation ?
Formation certifiante
Formation diplômante
Témoignage
Formation courte
DécouvrIR les formations
Article

Enjeux, risques éthiques et cybersécurité de l’Intelligence Artificielle – Résumé U-Next Conversation

Pourquoi l’éthique revêt une importance capitale pour les IA ? Quel est le rôle de la cybersécurité ?

Jérôme Preteux, Architecte d’entreprise au ministère des Armées, et Christophe Moyen, Pilote de l’équipe DEVOPS et Responsable du processus de la gestion du changement chez RTE, soulignent l’importance de l’éthique pour les intelligences artificielles. Ils analysent les risques inhérents à l’absence d’une éthique clairement définie et se concentrent aussi sur la cybersécurité des intelligences artificielles. Nous résumons ici leurs propos.

L’éthique de l’IA

A chaque problématique éthique soulevée par l’IA, il est possible de mettre en place des solutions afin de limiter leurs conséquences.

  • La problématique du biais
    • Diversifier la provenance des données et utiliser le reverse engineering pour prouver qu’un algorithme est biaisé
    • Vérifier qu’il respecte la législation et les règles éthiques
  • La problématique de la transparence
    • Mettre en place des seuils pour faire des validations. L’humain doit rester décisionnaire et l’IA doit seulement proposer des solutions.
  • La problématique des données personnelles
    • Créer des outils qui permettent d’empêcher l’IA de collecter et d’encoder des données personnelles.
    • Exemple du Règlement Général de la Protection des Données (RGPD) du 25 mai 2018 qui complexifie l’apprentissage de l’IA.
  • La problématique de la responsabilité
    • Créer un nouveau statut juridique pour les robots et les IA 
    • Définir et appliquer des chartes éthiques
  • La problématique environnementale et sécuritaire
    • Améliorer les capacités de l’IA de 1% consomme beaucoup d’énergie et produit beaucoup de déchets.

L’IA et la cybersécurité

Les systèmes d’IA, comme tout programme informatique, peuvent être attaqués ou défendus mais également servir à se défendre ou à attaquer.

Les IA attaquées par des cyberattaques : 3 types d’attaques

  • Poisonning : consiste à envoyer artificiellement beaucoup de données qui vont déplacer le centre de gravité de l’IA. Les probabilités sont donc biaisées par ces attaques.
  • Evasion : cette attaque se base sur l’illusion d’optique. En faisant de petites modifications dans la donnée d’entrée, l’IA ne parvient pas à reconnaître quelque chose et change complètement sa classification.
  • Inference : l’objectif est de chercher des informations à propos de quelque chose pour les recouper et trouver des informations qui normalement n’auraient pas pu être accessibles.

Comment protéger nos IA ?

Pour limiter les risques d’attaques sur les IA, il faut :

  • Placer des modérateurs à la sortie des données
  • Utiliser l’« Adverserial Learning », « Advanced Learning », « Gradient Masking » ou « Defensive Distillation » selon le type d’attaque
  • Filtrer les données d’entrée
  • Mettre en place des systèmes de prévention d’attaques de force brute

Les atouts des IA utilisées dans les domaines de la cybersécurité :

  • Filtrage des données
  • Détection et réparation automatiques de failles
  • Capacité de se protéger plus ou moins efficacement contre les cyberattaques

Visionner le replay de la U-Next Conversation

En savoir plus sur nos formations diplômantes :

Master of Science in Artificial Intelligence
Mastère Spécialisé® Cybersécurité
Mastère Spécialisé® Ingénierie des Systèmes Informatiques Ouverts

Aller au contenu principal