Des chercheurs imitent le cerveau humain pour créer un réseau de neurones de faible puissance

Les réseaux de neurones - ou répliques artificielles du cerveau humain - permettent à des scientifiques et à des ingénieurs d'effectuer des analyses prenant beaucoup de temps. Ils peuvent parcourir des tables de données sans fin et signaler des divergences dans les images qui resteraient inaperçues.

Ils ont cependant un inconvénient: les meilleurs réseaux neuronaux du jeu utilisent une quantité incroyable d’énergie pour faire leur travail.

«Il y a quelques années, IBM avait tenté de simuler l'activité cérébrale d'un chat dans un superordinateur et ils ont finalement consommé des mégawatts d'énergie», raconte Abhronil Sengupta, chercheur à l'université Purdue, Inverse. «Le cerveau humain biologique ne consomme presque rien. Ce n'est pas une comparaison directe avec un réseau de neurones, mais cela devrait vous donner une estimation de la puissance des systèmes informatiques gourmands en ressources. »

Sengupta et une équipe d’informaticiens de l’Université Purdue et de l’Institut des ingénieurs électriciens et électroniciens (IEEE) ont trouvé un moyen de faire en sorte que les réseaux de neurones consomment beaucoup moins d’énergie tout en effectuant un travail impeccable. Un article qu'ils ont posté sur le site de pré-impression arXiv explique comment ils se sont inspirés du cerveau humain et ont mis en œuvre leur idée pour permettre à leur réseau neuronal de consommer environ 11 fois moins d'énergie que les systèmes traditionnels.

Leur approche utilise des réseaux de neurones à spiking, ou SNN. Contrairement à leurs homologues, ces systèmes informatiques émulent les neurones biologiques avec beaucoup plus de précision.

Les réseaux neuronaux standard sont constitués de milliers de nœuds utilisés pour prendre des décisions et des jugements sur les données qui leur sont présentées. La sortie de ceux-ci dépend uniquement de ce qui est actuellement présenté, tandis que la sortie de SNN dépend également des stimuli précédents. Les nœuds d'un SNN ne fonctionneront que lorsqu'un certain niveau de stimulus est atteint. Donc au lieu de constamment transmission de données à d'autres nœuds, les nœuds SNN ne transmettent des informations que lorsqu'ils devoir.

C’est généralement un coût énergétique énorme, car la plupart de ces systèmes sont fabriqués à l’aide de ce que l’on appelle la technologie complémentaire semi-conducteurs oxyde-métal, ou CMOS. Cette technologie constitue l’ensemble des puces de votre ordinateur portable et a été utilisée comme élément constitutif des réseaux de neurones. Pour leur étude, le groupe de chercheurs a délaissé la technologie CMOS et construit un SNN entièrement en memristors.

Abréviation de «résistances de mémoire», la résistance électrique des memristors dépend de la quantité de charge électrique qui la traversait dans le passé. Donc, contrairement à la technologie CMOS, elle est capable de "se souvenir" de ce qui la traversait auparavant, ce qui est exactement ce que les nœuds des SNN doivent faire.

Les résultats de l'étude ont démontré que les memristors imitent assez bien le neurone biologique. Ils communiquent les uns avec les autres par des pics ou de courtes rafales d'énergie, par opposition à un flux constant de puissance. Ce memristor-SNN présentait une légère diminution de précision lorsqu’il était utilisé pour la classification d’image par rapport à ses équivalents CMOS, mais il prenait une fraction de la puissance des réseaux neuronaux standard.

Avant cette étude, les SNN étaient ce qui se rapprochait le plus d'un cerveau humain artificiel, mais la quantité énorme d'énergie dont ils disposaient pour utiliser annulait certains de leurs avantages. Si d'autres scientifiques sont en mesure de reproduire ces réseaux de neurones économes en énergie, cela pourrait leur permettre de faire plus avec moins d'énergie et de les amener à comprendre comment reproduire le cerveau biologique.