Wer war Fußballweltmeister 1974? Wie alt ist Friedrich Merz? Wer selbst zu so einfachen Fragen einen Chatbot befragt, muss wissen, dass jede Antwort Energie verbraucht. Mehr noch: Training und Betrieb von KI-Modellen mit Massendaten in Rechenzentren treiben den Strombedarf in gewaltige Höhen. Der Stromverbrauch von Rechenzentren hat sich in den letzten zehn Jahren verdoppelt und wird bis 2030 etwa 13 Prozent des weltweiten Energieverbrauchs ausmachen. Diese Zahlen hat das Forscherteam „Escade“ veröffentlicht und jetzt, nach drei Jahren Forschungsarbeit, eine mögliche Lösung präsentiert: Glaubt man den Forscherinnen und Forschern, dann lässt sich der Energiehunger der KI mit neuen Abfragemodellen und neuer Hardware um bis zu 90 Prozent drosseln.
Hinter Escade steht ein Forscherteam aus Deutschland, koordiniert vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und dessen wissenschaftlichem Direktor Wolfgang Maaß von der Universität Saarbrücken. Gefördert vom Bund, haben die Forscher drei Jahre lang neue energie- und ressourcensparende Modelle entwickelt.
Bedarfsgerechte KI
Das Team setzt nach eigener Darstellung auf bedarfsgerechte KI-Modelle. Heute nutze ein Chatbot im übertragenen Sinne eine ganze Bibliothek statt nur die Bücher mit relevantem Inhalt. Die Forscher haben die Modelle deshalb komprimiert, kleiner und nach eigener Einschätzung damit auch effizienter gemacht. Neue Modelle sollten unwesentliche Parameter erst gar nicht verarbeiten. Stattdessen das dafür nötige Wissen aus großen „Lehrermodellen“ herausfiltern und maßgeschneiderte, um bis zu 90 Prozent kleinere „Schülermodelle“ nutzen.
In Testläufen habe sich gezeigt, dass die Schülermodelle „vergleichbare Leistungen bringen, aber mit bis zu 89 Prozent weniger Energie auskommen“, sagt DFKI-Forscherin Sabine Janzen. Die schlankeren Modelle arbeiteten nach ihrer Darstellung ohne große Infrastruktur. „Dadurch werden leistungsfähige KI-Modelle auch für mittelständische und kleinere Unternehmen zugänglich, was zuvor allein wegen der Größe der Modelle unmöglich war.“
Automatisch die beste Architektur
Bei besonders energiehungrigen KI-Modellen, die digitale Bilder verarbeiten, nutzt das Team eine andere Methode: die sogenannte neuronale Architektursuche. Das Verfahren finde automatisiert die beste Architektur für künstliche neuronale Netze. Solche Netze würden heute noch aufwendig von Menschen zusammengestellt und so lange angepasst, bis sie gute Ergebnisse liefern. Das Team konnte nach eigenen Angaben zeigen, dass die neuronale Suche den Energieverbrauch um 40 Prozent senkt. Dabei sei die Genauigkeit sogar gestiegen.
Getestet haben die Forscherinnen und Forscher ihre neuen Modelle vor Ort in einer Anlage zur Schrottsortierung bei der Stahl-Holding-Saar. Ziel war es, mit einer KI Stahlschrott automatisch zu sortieren. Dabei sei es gelungen, das visuelle KI-Modell so zu komprimieren, dass es kompakt, energieeffizient und zum Teil leistungsfähiger sei. Mit herkömmlichen Methoden sei ein solches Modell „gigantisch groß, energieintensiv und nicht praxistauglich“.
Auch von neuer Hardware versprechen sich die Forscher erhebliche Fortschritte. Allerdings sei noch mehr Entwicklungsarbeit nötig. Konkret im Blick haben sie dabei sogenannte neuromorphe Chiptechnologien – Mikroprozessoren, die die Funktionsweise des menschlichen Gehirns nachbilden und bis zu sechsfach effizienter seien als herkömmliche Chips.
Welche Folgen die Ergebnisse in der Praxis haben, muss sich erst noch zeigen. Klar ist: Die Auswirkungen sind potentiell groß. Der Aufbau von KI-Rechenzentren gilt als die größte industrielle Infrastrukturinvestition seit Langem. Allein die vier amerikanischen Techgiganten Amazon, Google, Microsoft und Meta haben Anfang des Jahres Investitionen über 650 Milliarden Dollar in Rechenzentren angekündigt. Nahezu wöchentlich kommen neue Pläne hinzu, viele davon sind wegen des Energieverbrauchs umstritten. In Mainz etwa planen die heimischen Stadtwerke ein neues Gaskraftwerk, nur zur Versorgung eines Rechenzentrums.
Die EU, bislang weit hinter den USA abgeschlagen, hat mit Verweis auf die digitale Souveränität ebenfalls einen erheblichen Ausbau der Rechenzentren angekündigt. Dabei gibt es auch unter Experten des DFKI erhebliche Zweifel, ob die EU den Größenwettlauf überhaupt noch bestehen kann. Die neuen Erkenntnisse könnten nun helfen, einen anderen Ansatz für KI zu finden: zielgerichteter, billiger und mit deutlich weniger Energieverbrauch.
