Une IA peut développer son propre chiffrement contre l’espionnage

Une intelligence artificielle programmée pour protéger la confidentialité de communications peut découvrir des formes de chiffrement et de déchiffrement sans qu’on lui ait enseigné des algorithmes spécifiques pour ce faire.

C’est le constat qu’établit l’équipe Google Brain, dont les travaux se focalisent sur les sujets d’apprentissage automatique et plus particulièrement la branche du deep learning.

Deux de ses chercheurs – Martin Abadi et David G. Andersen – ont programmé trois réseaux de neurones baptisés Alice, Bob et Eve.

Alice devait envoyer à Bob un message qu’il devait déchiffrer. Quant à Eve, elle avait pour mission d’intercepter le message en question et de tenter d’en décoder le contenu.

Alice et Bob partageaient d’emblée une clé de chiffrement (K dans le graphique ci-dessous), mais n’avaient pas été programmés pour savoir chiffrer des communications. Simplement, si le message reçu par Bob était trop éloigné de l’original, l’IA devait le considérer comme un échec.

Pour Alice, la notion d’échec était lié au fait qu’Eve parvienne, dans ses tentatives d’interception du message, à un résultat supérieur à celui qu’aurait fourni le hasard.

Pour Eve, l’échec consistait en un écart trop important entre le message envoyé par Alice et le résultat de son décodage.

Si Bob n’a pas été systématiquement en mesure de reconstruire le message d’Alice, les deux IA ont su, la plupart du temps, mettre au point un système qui leur a permis d’échanger avec très peu d’erreurs. Elles ont surtout fait preuve de réactivité en améliorant leurs techniques cryptographiques à chaque fois qu’Eve s’approchait d’un déchiffrement.

Le graphique qui suit l’illustre : comme Bob, Eve commence à comprendre Alice après environ 7 500 itérations. Les contre-mesures cryptographiques remettent Eve dans le brouillard à partir de15 000 itérations.