Ouvrir la boîte noire

Chaque seconde de la journée nous offre des choix, qu'il s'agisse de décider quoi porter le matin ou de choisir un menu pour le dîner. Qu'une décision soit insignifiante ou qu'elle change la vie, la prise de décision est un élément fondamental de l'expérience humaine.

Il est toujours facile de se demander si une personne a fait le bon choix. Parfois, il est impossible de le savoir avant que les conséquences ne soient révélées plus tard. Le professeur Aviral Shrivastava (à gauche) et le doctorant Shail Dave (à droite) travaillent sur des recherches visant à améliorer l'exploration de l'espace de conception, un élément crucial dans la conception d'accélérateurs d'apprentissage en profondeur qui optimisent l'efficacité avec laquelle les ordinateurs exécutent les algorithmes d'intelligence artificielle. Photo par Erika Gronek/ASU Télécharger l'image complète

Dans les domaines de l'architecture matérielle et logicielle, les ingénieurs utilisent une technologie appelée exploration de l'espace de conception pour aider à évaluer les choix au cours du processus de conception de l'architecture informatique afin d'identifier la conception la plus performante parmi les options disponibles.

La technologie d'exploration spatiale de conception peut choisir une option préférée en fonction des résultats souhaités tels que la vitesse, la consommation d'énergie et la précision. La technologie peut être appliquée à une variété d’applications, depuis les logiciels de reconnaissance d’objets ou humains jusqu’à la microélectronique de haut niveau.

Le deep learning, méthode d’intelligence artificielle inspirée du cerveau humain, apprend aux ordinateurs à traiter les données. Les conceptions d’accélérateurs d’apprentissage profond, qui sont des ordinateurs spécialisés dans l’exécution efficace d’algorithmes d’apprentissage profond pour l’intelligence artificielle, s’appuient sur l’exploration de l’espace de conception pour choisir parmi leurs longues listes d’options. Étant donné que certaines de ces conceptions d’accélérateurs comportent des milliards et des milliards de choix à évaluer, les processus d’optimisation existants peuvent prendre des jours, voire des semaines, même en n’évaluant qu’une petite fraction des choix.

Le processus est encore compliqué par les explorations de boîtes noires, sur lesquelles s’appuient les accélérateurs de deep learning pour prendre des décisions. Les explorations en boîte noire sont conçues pour traiter les informations sans révéler aucun détail sur leur raisonnement.

Shail Dave, doctorant en génie informatique à la School of Computing and Augmented Intelligence, qui fait partie des écoles d'ingénierie Ira A. Fulton de l'Arizona State University, s'efforce de résoudre ce problème grâce à l'exploration de l'espace de conception explicable, un cadre d'algorithmes et de systèmes. cela permettra aux chercheurs et aux concepteurs de processeurs de comprendre le raisonnement qui sous-tend la conception des accélérateurs d’apprentissage en profondeur en analysant et en atténuant les goulots d’étranglement qui ralentissent le processus.

« En règle générale, les conceptions matérielles et logicielles sont explorées et optimisées via des mécanismes de boîte noire tels que des algorithmes évolutionnaires ou des approches basées sur l'IA telles que l'apprentissage par renforcement et l'optimisation bayésienne », explique Dave. "Ces mécanismes de boîte noire nécessitent un nombre excessif d'essais en raison de leur manque d'explicabilité et de raisonnement impliqué dans la manière dont la sélection d'une configuration de conception affecte la qualité globale de la conception."

En rationalisant le processus décisionnel de l'accélérateur, les recherches de Dave permettent aux méthodes de conception de faire des choix beaucoup plus rapidement, en ne prenant que quelques minutes par rapport aux jours ou aux semaines qu'il faut aux modèles existants pour traiter ces informations. En conséquence, les modèles d’optimisation de la conception sont plus petits, plus systématiques et consomment moins d’énergie.

Les recherches de Dave offrent une alternative qui non seulement améliore l'efficacité de la recherche, mais aide également les ingénieurs à atteindre des résultats optimaux et à mieux comprendre les décisions de conception. En comprenant le raisonnement derrière les choix de conception et les goulots d'étranglement associés, la méthode peut analyser les points de conception disponibles à chaque étape du processus et déterminer les bonnes et les mauvaises options avant de proposer sa décision, qui est prise délibérément par la technologie après avoir évalué les options disponibles les plus prometteuses. .