Artificial intelligence (AI) is increasingly being used for everyday purposes. However, traditional AI models still require a lot of energy and processing power. Recently Federico Corradi, Senior Neuromorphic Researcher at the imec research center together with researchers at the Dutch Centrum Wiskunde & Informatica (CWI) made a breakthrough in this area. The team is developing special chips that mimic the way the brain works and which are up to a thousand times more efficient than today’s AI networks. “They are ideal for applications in healthcare, in smartphones and in drones,” says Corradi.
The human brain – it is a highly efficient system that can process a massive amount of information in real time. Imec at Holst Centre, an independent research center in the field of microelectronics, is now working on a chip that makes good use of the way the brain works. The microchips accurately mimic how neurons in the brain work together, exchange information, make predictions and recognize patterns. These new neural networks are referred to as ‘spiking‘ and represent the most bio-inspired (‘third’) generation of artificial neural networks. The use of the chip offers a host of advantages: It consumes 100 times less energy than traditional uses, which means that batteries last a long time, and work without any latency, allowing for almost instantaneous decision-making.
Mathematical breakthrough
In conjunction with colleagues at CWI, Corradi came up with a mathematical breakthrough that ensured that the technique could gain momentum. The research into the new technique is taking place at imec/Holst Centre in Eindhoven. “The spiking neural network technique has been around for a long time, but we have found a way to train the network in an efficient and accurate way,” Corradi explains. “We thereby make use of training by example. This lets the AI learn by example, by seeing gestures, speech or radar images.” The new development lies not so much in the software, but in the chips used to control the AI. “It’s about the physical calculations inside the chip: these are based on how neurons in the brain interact with each other.”
Such chips are now at the dawn of numerous practical, everyday applications. The world has been waiting for a breakthrough like this for some time. After all, the sheer volume of data used by current AI networks has major implications on all kinds of levels.” First of all, it costs tens of millions of dollars to train such a network. That’s a huge obstacle for the business world. Besides that, the large amount of processing power the network needs has a major impact on the environment. We are trying to put intelligence inside the chip itself and by doing that, these problems are solved.”
Heart rhythm detection
One of the applications for the chips can be found in the medical field. “We can use the chips to detect abnormalities in the heart rhythm,” Corradi says.” In this regard, you need to imagine a chip inserted into a small device inside the body, near the heart. In such a case, of course, you want the device’s battery to last as long as possible. So, our energy-efficient chip is extremely suitable for that.” In addition, the privacy of patients is also guaranteed when the new chips are put into use. “It is not necessary to connect the chip to the cloud in order for it to work properly. The data is processed locally, inside the chip itself.”
It will be a while before the application is rolled out in hospitals, “but we have already tested the chip’s performance using a realistic dataset. There is still a lot of research to be done, but the application seems very promising so far.”
Autonomous drones
The new chip could also eventually be used to operate drones and other robots. “A drone must be able to react quickly to its surroundings. Humans are very good at this, and we see that spiking neural networks come in handy in autonomous drones. Computations are made at lightning speed locally on a chip level that allows the drone to quickly make decisions.” The AI network is also capable of connecting different kinds of signals, or modalities. “A drone needs to make use of all kinds of information: sound and radar images, for instance. The chip can bundle all this information into a coherent whole. In addition to these advantages is the fact that drones equipped with the chips can fly for a long time without draining the battery. That’s ideal.”
The workings of the brain
It is not just robots and devices that stand to benefit from the chips. Because they mimic the workings of the brain, application of the chips provides us with the opportunity to learn about ourselves. “How do different parts of our brain work cooperatively while processing information? Where exactly does that processing happen? There is still a lot to learn about this, and by mimicking the way the brain works, we are constantly learning more and more.”
Interest from the tech world
Over the next few years, Corradi predicts that consumers will start to see more and more uses for the efficient AI system. "We want a smartphone to be capable of more than it is today. Voice recognition systems, such as Siri, must be able to work smarter, and in time, we will also want to use gesture recognition. Many tech companies are already interested in technologies based on the workings of the brain. Consider, just like research institutes around the world. I think the market is slowly starting to realize that we need to move to an AI model that has more potential than the current one."
Dutch version
Energiezuinige AI-chip laat drones razendsnel beslissingen maken
Steeds vaker wordt kunstmatige intelligentie/artificial intelligence (AI) gebruikt in alledaagse toepassingen. Traditionele AI-modellen kosten echter nog steeds veel energie en rekenkracht. Onlangs maakte Federico Corradi, Senior Neuromorphic Researcher bij onderzoekscentrum imec samen met onderzoekers van het Centrum Wiskunde & Informatica (CWI) een doorbraak op dit gebied. Het team ontwikkelt speciale chips die de werking van de hersenen nabootsen en tot duizend keer efficiënter werken dan de huidige AI-netwerken. “Ze zijn ideaal voor toepassingen in de gezondheidszorg, smartphones en drones”, zegt Corradi.
Het menselijk brein: het is een zeer efficiënt systeem dat in real time een enorme hoeveelheid informatie kan verwerken. Imec Holst Centre, een onafhankelijk onderzoekscentrum op het gebied van micro-elektronica, werkt nu aan een chip die dankbaar gebruik maakt van de werking van de hersenen. De microchips bootsen nauwkeurig na hoe neuronen in de hersenen met elkaar samenwerken, informatie uitwisselen, voorspellingen doen en patronen herkennen. Deze nieuwe neurale netwerken worden "spiking" genoemd en vertegenwoordigen de meest bio-geïnspireerde generatie (de derde) van kunstmatige neurale netwerken. Het gebruik van de chip heeft veel voordelen: Het verbruikt 100 keer minder energie dan traditionele implementaties waardoor batterijen lang meegaan en werkt zonder vertraging, wat bijna ogenblikkelijke besluitvorming mogelijk maakt.
Wiskundige doorbraak
Samen met collega’s van het CWI kwam Corradi tot een wiskundige doorbraak die ervoor zorgde dat de techniek in een stroomversnelling terecht kwam.“De spiking neural network-techniek bestaat al langere tijd, maar we hebben een manier gevonden om het netwerk efficiënt en accuraat te kunnen trainen”, legt Corradi uit. “We maken daarbij gebruik van training by example. Hierdoor kan AI leren aan de hand van voorbeelden, door het zien van gebaren, spraak of radarbeelden.” De nieuwe ontwikkeling zit hem niet zo zeer in de software, maar in de chips waarmee de AI aangestuurd worden. “Het gaat om de fysieke berekeningen in de chip: deze zijn gebaseerd op hoe neuronen in de hersenen met elkaar in verbinding staan.”
Dergelijke chips staan nu aan het begin van vele praktische, alledaagse toepassingen. De wereld zit al een tijdje te wachten op een doorbraak als deze. De grote hoeveelheid data die de huidige AI-netwerken gebruiken heeft namelijk grote consequenties op allerlei vlakken. “Ten eerste kost het tientallen miljoenen euro’s om zo’n netwerk te trainen. Voor het bedrijfsleven dat een enorm obstakel. De grote hoeveelheid rekenkracht die het netwerk nodig heeft, heeft daarnaast een grote impact op het milieu. Wij proberen intelligentie in de chip zelf aan te brengen en daardoor worden deze problemen opgelost.”
Hartritme detectie
Een van de toepassingen van de chips kan gevonden worden in de medische wereld. “We kunnen de chips inzetten om afwijkingen in het hartritme op te sporen”, zegt Corradi. “Daarbij moet je denken aan een chip die in een klein apparaatje in het lichaam wordt aangebracht, vlakbij het hart. In zo’n situatie wil je natuurlijk dat de batterij van het apparaat zo lang mogelijk meegaat. Onze zuinige chip is daar dus uiterst geschikt voor.” Daarnaast wordt de privacy van patiënten ook gegarandeerd wanneer de nieuwe chips in gebruik worden genomen. “Het is niet nodig om de chip met een cloud te verbinden, om goed werk te kunnen leveren. De data worden lokaal, in de chip zelf, verwerkt.”
Het duurt nog even voordat de toepassing wordt ingezet in ziekenhuizen, “maar we hebben de prestaties van de chip al getest op basis van een realistische dataset. Er moet nog veel onderzocht worden, maar de toepassing lijkt tot nu toe veelbelovend.”
Autonome drones
Ook kan de nieuwe chip op den duur worden ingezet om drones en andere robots aan te sturen. “Een drone moet snel kunnen reageren op zijn omgeving. Mensen zijn daar heel goed toe in staat en we zien dat spiking neural networks van pas komen in autonome drones. De berekeningen worden razendsnel, lokaal, op chipniveau gemaakt waardoor de drone snel beslissingen kan nemen.” Het AI-netwerk is daarnaast geschikt om verschillende signalen, of modaliteiten, met elkaar te verbinden. “Een drone moet gebruikmaken van allerlei soorten informatie: van geluid en radarbeelden bijvoorbeeld. De chip kan al deze informatie bundelen tot een coherent geheel. Bovenop deze voordelen komt nog het feit dat drones voorzien van de chips lang kunnen vliegen zonder dat de batterij leeg gaat. Dat is ideaal.”
De werking van het brein
Niet alleen robots en apparaten hebben baat bij de chips. Omdat ze de werking van de hersenen nabootsen geeft toepassing van de chips ons de mogelijkheid om te leren over onszelf. “Hoe werken verschillende onderdelen van ons brein samen tijdens informatieverwerking? Waar gebeurt die verwerking precies? Er valt hier nog veel over te leren en door de werking van het brein na bootsen leren we steeds meer.”
Interesse uit de techwereld
Komende jaren zullen consumenten steeds meer toepassingen van het efficiënte AI-systeem gaan zien, voorspelt Corradi. “We willen dat een smartphone tot meer in staat is dan nu nog het geval is. Het spraakherkenningssysteem, zoals Siri, moet slimmer kunnen werken en op den duur zullen we gebruik willen maken van gebarenherkenning. Veel techbedrijven zijn al geïnteresseerd in technologieën gebaseerd op de hersenwerking, net zoals onderzoeksinstituten over de hele wereld. Ik denk dat de markt zich langzaam begint te realiseren dat we over moeten stappen op een AI-model dat meer potentie heeft dan het huidige.”
