NASHVILLE, Tenn.–(BUSINESS WIRE)–Digital Reasoning, leader en informatique cognitive, a annoncé
aujourd’hui avoir entraîné le plus grand réseau neural au monde à ce
jour, avec le chiffre stupéfiant de 160 milliards de paramètres.
L’ancien record détenu par Google était de 11,2 milliards et le
laboratoire Lawrence Livermore National Laboratory a récemment entraîné
un réseau neural avec 15 milliards de paramètres.
Les résultats de l’étude menée par Digital Reasoning sur l’apprentissage
en profondeur et les réseaux neuraux sont publiés dans le Journal of
Machine Learning et dans Arxiv
aux côtés d’autres sociétés notoires comme Google, Facebook et Microsoft
et seront présentés lors de la prestigieuse 32e conférence
internationale sur l’apprentissage automatique à Lille, en France, du 6
au 11 juillet.
Les réseaux neuraux sont des systèmes informatiques modélisés inspirés
du cerveau humain. Tout comme le cerveau humain, ces réseaux peuvent
rassembler de nouvelles données, les traiter et réagir en fonction de
celles-ci. L’article de Digital Reasoning, intitulé « Modeling Order in
Neural Word Embeddings at Scale » (Ordre de modélisation dans les
intégrations lexicales neurales à l’échelle), détaille à la fois
l’impressionnante portée de son réseau neural, ainsi que son
amélioration qualitative exponentielle.
Dans leur étude, Matthew Russell, directeur de la technologie chez
Digital Reasoning et son équipe, ont évalué les intégrations neurales de
mots en fonction de l’exactitude de l’« analogie lexicale ». Les réseaux
neuraux génèrent un vecteur numérique pour chaque mot d’un vocabulaire.
Cela a permis à l’équipe Digital Reasoning de faire des « maths à base
de mots ». Par exemple, « roi » moins « homme » plus « femme » donnerait
comme résultat « reine ». Il existe un
ensemble de données aux normes de l’industrie de près de
20 000 analogies lexicales. Pour cette mesure, Google atteignait
jusqu’ici un taux d’exactitude de 76,2 %. En d’autres termes, Google
était capable d’obtenir un taux de « correction » des analogies
lexicales de 76,2 % dans son système. Le meilleur score de Stanford est
un taux d’exactitude de 75,0 %. Le modèle de Digital Reasoning atteint
un score de 85,8 % d’exactitude, ce qui équivaut à une réduction du taux
d’erreurs de près de 40 % par rapport à Google et Stanford. Il s’agit
d’une énorme avancée dans ce domaine à la pointe de la technologie.
« Nous sommes extrêmement fiers des résultats que nous avons obtenus et
de la contribution que nous apportons chaque jour dans le domaine de
l’apprentissage en profondeur. Il s’agit d’un accomplissement
exceptionnel pour la société, qui marque pour nous une étape importante
dans le sens où cela assoit notre position non seulement en tant que
leader d’opinion dans ce domaine, mais aussi en tant qu’organisation qui
fait vraiment avancer la technologie de pointe d’une manière rigoureuse,
validée par des pairs », a déclaré Russell.
À propos de Digital Reasoning
Digital Reasoning offre un traitement informatique cognitif fiable pour
un monde meilleur. Pour en savoir plus, consultez le site http://www.digitalreasoning.com
et suivez-nous sur Twitter à @dreasoning.
Le texte du communiqué issu d’une traduction ne doit d’aucune manière
être considéré comme officiel. La seule version du communiqué qui fasse
foi est celle du communiqué dans sa langue d’origine. La traduction
devra toujours être confrontée au texte source, qui fera jurisprudence.
Contacts
Digital Reasoning
Jason Beck, 615-567-8633
jason.beck@digitalreasoning.com