Intelligence artificielle : IBM et SAP abordent la question éthique
IBM avec un outil d’analyse des algorithmes ; SAP avec un comité consultatif et un guide de bonnes pratiques : les deux firmes avancent sur la question de l’IA « éthique ».
Quelle éthique pour l’intelligence artificielle ? IBM et SAP avancent chacun sur la question.
Le premier entend « ouvrir la boîte noire » avec un service cloud destiné à analyser les décisions que prennent les algorithmes.
L’objectif est double. D’une part, expliquer ces décisions en déterminant quels facteurs les ont influencées. De l’autre, détecter d’éventuels biais et recommander des mesures pour les éliminer.
L’évaluation se fait pendant l’exécution des modèles, sur trois critères : précision, performance et impartialité (« fairness »).
IBM annonce une prise en charge des algorithmes développés avec son IA Watson, mais aussi avec les environnements TensorFlow (Google), SageMaker (AWS), AzureML (Microsoft) et SparkML (plate-forme Apache Spark).
L’outil – qui rappelle celui lancé en juin par Accenture – peut être personnalisé pour s’adapter à des processus d’entreprise. Il s’assortira de prestations de conseil, dans une logique de conformité, notamment vis-à-vis du RGPD, qui contient des mesures relatives aux prises de décisions automatisées.
Pour encourager une réflexion « à grande échelle », IBM met à disposition, sous la bannière AI Fairness 360, un ensemble d’outils de détection (sur la base de 30 indicateurs) et de réduction des biais (9 algorithmes correctifs).
Éclairages
Du côté de SAP, on affirme être la première entreprise technologique européenne à créer un comité consultatif dédié à la problématique de l’intelligence artificielle « éthique ».
Cette entité externe à la firme réunit pour l’heure cinq experts issus des sphères académique, politique et industrielle (aucun d’entre eux n’a de véritable expérience dans l’IA, note le Register). Elle interagira, à fréquence trimestrielle, avec le « comité IA » interne de SAP, en place depuis le mois de mai.
L’éditeur allemand publie par ailleurs un guide de bonnes pratiques avec 7 axes à suivre, en premier lieu pour le développement de son « système d’innovation numérique » Leonardo.
L’accent est mis sur la notion de « transparence », que ce soit au sujet des données entrantes, des résultats produits ou des limites techniques. Le respect de la vie privée est également mis en avant. SAP se projette aussi, à l’image de Google, de Microsoft et de Salesforce (qui a monté un comité externe fin août), sur les défis économiques, sociaux et environnementaux.
Un programme de formation interne est par ailleurs en préparation. Les collaborateurs du groupe auront la possibilité de devenir « ambassadeurs IA ».
Vigilance et loyauté
La transparence des algorithmes avait fait, l’an dernier, l’objet du premier cycle des débats publics que la Cnil organise conformément à la mission de réflexion éthique et sociétale dont l’investit la loi Lemaire « pour une République numérique ».
Les implications de l’hybridation entre humains et machines ont été soulevées dans ce cadre. Il en a été de même concernant les risques que présente, pour les logiques collectives essentielles à la vie de nos sociétés, la personnalisation que promettent les algorithmes.
Des discussions se sont dégagés deux principes fondateurs : la loyauté (l’intérêt des utilisateurs doit primer) et la vigilance (questionner régulièrement les chaînes algorithmiques).
S’y adjoignent six recommandations opérationnelles. Parmi elles figure la constitution d’une plate-forme nationale d’audit des algorithmes.