IA : la Commission européenne expérimente sa vision éthique
Bruxelles enclenche une phase de mise en pratique de ses nouvelles lignes directrices visant à accompagner le développement des systèmes d’IA.
Le développement de l’intelligence artificielle ne peut s’envisager sans confiance.
La Commission européenne vient de publier des lignes directrices construites sur ce postulat. Elles sont le fruit des travaux d’un groupe d’expertise constitué en juin dernier et qui compte, parmi ses 52 membres, une dizaine de Français.
Trois grands axes ont été retenus : la conformité de l’IA aux lois, sa robustesse (des points de vue technique et social) et son respect des principes d’éthique.
Les principes en question sont au nombre de quatre. L’explicabilité est l’un d’entre eux. Elle suppose une transparence quant aux capacités et aux finalités des systèmes d’intelligence artificielle. Mais aussi – autant que possible – eu égard aux résultats qu’ils produisent.
Le degré d’explicabilité nécessaire dépend essentiellement de la gravité des conséquences qu’aurait la production de résultats inexacts ou imprécis.
Dans la pratique, il peut être compliqué d’atteindre le degré souhaitable. Le groupe d’expertise en veut pour preuve les réseaux de neurones artificiels : les valeurs que prennent certains paramètres sont difficiles à corréler aux données en sortie. Il souligne par ailleurs le risque d’incompatibilité entre la notion d’explicabilité et la recherche de la performance.
La preuve par sept
Les principes éthiques – au rang desquels figurent aussi l’équité, le respect de l’autonomie humaine et la prévention du préjudice – devront être transposés sous la forme d’exigences concrètes pour les parties prenantes.
La Commission européenne en liste sept. Aux côtés de la transparence figurent, entre autres, la supervision humaine, l’impact social et environnemental, la vie privée et la diversité.
Pour mettre en œuvre ces exigences, une phase pilote est lancée. Entreprises, organisations et institutions sont invitées à y participer. Le retour d’expérience devra permettra d’actualiser les lignes directrices d’ici à début 2020.
Photo d’illustration © European Parliament via VisualHunt / CC BY-NC-ND