Le développement de l’intelligence artificielle ne peut s’envisager sans confiance.
La Commission européenne vient de publier des lignes directrices construites sur ce postulat. Elles sont le fruit des travaux d’un groupe d’expertise constitué en juin dernier et qui compte, parmi ses 52 membres, une dizaine de Français.
Trois grands axes ont été retenus : la conformité de l’IA aux lois, sa robustesse (des points de vue technique et social) et son respect des principes d’éthique.
Les principes en question sont au nombre de quatre. L’explicabilité est l’un d’entre eux. Elle suppose une transparence quant aux capacités et aux finalités des systèmes d’intelligence artificielle. Mais aussi – autant que possible – eu égard aux résultats qu’ils produisent.
Le degré d’explicabilité nécessaire dépend essentiellement de la gravité des conséquences qu’aurait la production de résultats inexacts ou imprécis.
Dans la pratique, il peut être compliqué d’atteindre le degré souhaitable. Le groupe d’expertise en veut pour preuve les réseaux de neurones artificiels : les valeurs que prennent certains paramètres sont difficiles à corréler aux données en sortie. Il souligne par ailleurs le risque d’incompatibilité entre la notion d’explicabilité et la recherche de la performance.
Les principes éthiques – au rang desquels figurent aussi l’équité, le respect de l’autonomie humaine et la prévention du préjudice – devront être transposés sous la forme d’exigences concrètes pour les parties prenantes.
La Commission européenne en liste sept. Aux côtés de la transparence figurent, entre autres, la supervision humaine, l’impact social et environnemental, la vie privée et la diversité.
Pour mettre en œuvre ces exigences, une phase pilote est lancée. Entreprises, organisations et institutions sont invitées à y participer. Le retour d’expérience devra permettra d’actualiser les lignes directrices d’ici à début 2020.
Photo d’illustration © European Parliament via VisualHunt / CC BY-NC-ND
Les attaques de phishing utilisant des QR codes frauduleux intégrés dans des documents PDF joints…
Microsoft a amorcé le déploiement de Windows 11 24H2. Passage en revue des nouvelles fonctionnalités…
L'intégration de Copilot dans la suite bureautique s'accélère. Où trouver l'assistant IA et comment l'utiliser…
Microsoft annonce une phase expérimentale pour lancer Recall sur les PC Copilot+. Elle doit commencer…
Comment réduire la taille des mises à jour de Windows 11 ? Microsoft annonce la…
Déjà doté de la sauvegarde automatique, d'un compteur de caractères et de Copilot, Bloc-notes embarque…