TensorFlow Federated : Google vise une IA plus respectueuse de la data

L’apprentissage « fédéré », ou comment entraîner des algorithmes sans centraliser les données utilisées à ces fins.

Google met ce principe en œuvre avec une déclinaison de son framework TensorFlow.

Le groupe américain donne l’exemple d’un parc de thermomètres sur lequel on souhaiterait mesurer la température moyenne.

TensorFlow Federated permet de représenter cette fonction de telle sorte que son exécution est décentralisée. Seuls les résultats produits sont ensuite agrégés.

Ce système permet non seulement d’entraîner des algorithmes, mais aussi d’en évaluer les performances. Il est déjà mis en œuvre dans des applications Google, à l’image du clavier Gboard, sur iOS et Android ; typiquement, pour déterminer quels sont les émojis les plus populaires.

Google entend intégrer, dans une prochaine version du framework, la notion de « vie privée différentielle ».

Apple l’utilise déjà. Elle consiste à exploiter des techniques mathématiques afin de rendre le plus anonymes possible les résultats que des algorithmes d’IA produisent « en local » – c’est-à-dire à même les appareils.

Le processus implique notamment la suppression de métadonnées, le recours à des hashs aléatoires et l’introduction d’un délai avant transmission.