Neue Chip-Designs ermöglichen künftig eine bessere Leistung von KI in tragbaren Geräten. Der USC-Professor für Elektrotechnik und Informatik, Joshua Yang, hat mit seinen Forschungskollegen an einem neuen Chip gearbeitet, der das bisher beste Gedächtnis aller Chips für Edge AI (KI in tragbaren Geräten) aufweist.
In den letzten 30 Jahren hat sich die Größe der neuronalen Netzwerke, die für KI- und datenwissenschaftliche Anwendungen benötigt werden, alle 3,5 Monate verdoppelt. Die Hardware-Leistung, die zum Verarbeiten dieser Netzwerke benötigt wird, hat sich jedoch nur alle 3,5 Jahre verdoppelt. Laut Yang wird Hardware jedoch immer mehr zum Nadelöhr.
Also Read:
Regierungen, Industrie und Hochschulen weltweit versuchen, diese Hardware-Herausforderung zu bewältigen. Einige arbeiten an Hardware-Lösungen mit Siliziumchips, während andere neue Materialien und Geräte ausprobieren. Die Arbeit von Yang liegt in der Mitte – er konzentriert sich darauf, die Vorteile neuer Materialien und der herkömmlichen Silizium-Technologie zu nutzen und zu kombinieren, um KI- und Datenwissenschafts-Berechnungen zu unterstützen.
Die Forscher haben in der Fachzeitschrift „Nature“ eine neue Methode vorgestellt, die auf dem Verständnis von fundamentaler Physik basiert und zu einem drastischen Anstieg der benötigten Speicherkapazität für AI-Hardware führt. Das Team von Yang, zu dem Forscher der USC, MIT und der University of Massachusetts gehören, entwickelte ein Protokoll für Geräte, um „Rauschen“ zu reduzieren, und demonstrierte die Praktikabilität der Verwendung dieses Protokolls in integrierten Chips. Diese Demonstration wurde bei TetraMem, einem Start-up-Unternehmen, das von Yang und seinen Mitautoren gegründet wurde, um KI-Beschleunigungstechnologie zu kommerzialisieren, durchgeführt.
Also Read:
Laut Yang hat dieser neue Speicherchip die höchste Informationsdichte pro Gerät (11 Bits) aller bekannten Speichertechnologien bisher. Solche kleinen, aber leistungsstarken Geräte könnten eine entscheidende Rolle dabei spielen, unglaubliche Leistung in die Geräte in unseren Taschen zu bringen. Die Chips sind nicht nur für den Speicher, sondern auch für den Prozessor gedacht. Millionen von ihnen in einem kleinen Chip, die parallel arbeiten, um Ihre KI-Aufgaben schnell auszuführen, könnten nur eine kleine Batterie benötigen, um sie zu betreiben.
Die von Yang und seinen Kollegen entwickelten Chips kombinieren Silizium mit Metalloxid-Memristoren, um leistungsstarke, aber energiearme Chips zu schaffen. Die Technik konzentriert sich darauf, die Positionen von Atomen zur Informationsdarstellung zu verwenden, anstatt die Anzahl der Elektronen (was derzeit die Technik zur Berechnung auf Chips ist). Die Positionen der Atome bieten eine kompakte und stabile Möglichkeit, Informationen auf analoge Weise zu speichern, anstatt digital. Darüber hinaus kann die Information dort verarbeitet werden, wo sie gespeichert ist, anstatt zu einem der wenigen dedizierten „Prozessoren“ geschickt zu werden, was den sogenannten „von-Neumann Engpass“ in aktuellen Computersystemen beseitigt. Auf diese Weise ist die Berechnung für KI laut Yang „energieeffizienter bei höherem Durchsatz“.
Also Read:
Die Elektronen, die in herkömmlichen Chips manipuliert werden, sind laut Yang „leicht“. Diese Leichtigkeit macht sie anfälliger für Bewegungen und damit volatiler. Anstatt Speicher durch Elektronen zu speichern, speichern Yang und seine Mitarbeiter den Speicher in vollständigen Atomen. Das neue Verfahren konzentriert sich auf die Aktivierung von Atomen anstelle von Elektronen und erfordert keine Batterieleistung, um gespeicherte Informationen aufrechtzuerhalten. Ähnliche Szenarien treten bei AI-Berechnungen auf, bei denen ein stabiler Speicher mit hoher Informationsdichte entscheidend ist.
Zusätzlich werden
Also Read:
In Other News Around the World: