Generative KI verbraucht viel Strom. Etwa 1.287 Megawattstunden soll 2020 das Training des Sprachmodells GPT-3 laut Forschern von Google und der Universität Berkeley verschlungen haben. Das entspricht dem jährlichen Stromverbrauch von 380 deutschen Haushalten. Zwar stoßen die Modelle der meisten Unternehmen nicht in diese Dimensionen vor, doch die hohen Energiekosten und den ökologischen Fußabdruck von generativer KI können auch sie nicht ignorieren. Dell Technologies nennt Maßnahmen, um den Verbrauch und die Umweltauswirkungen zu reduzieren.
Right Sizing der KI-Modelle: Auch wenn der Einsatz sehr großer Modelle reizvoll erscheint, genügen für die meisten Unternehmen branchen- oder firmenspezifische Implementierungen, deren Energiebedarf deutlich geringer ist. Setzen Unternehmen zudem auf vortrainierte Modelle verringert dies den Trainingsaufwand und damit den Stromverbrauch zusätzlich.
Energieeffiziente Systeme: Heutige Server sind leistungsstärker und energieeffizienter als frühere Generationen. Dadurch werden nicht nur weniger Systeme für das Training der Modelle benötigt, sondern diese verbrauchen in Relation zu ihrer Leistung auch weniger Strom. Zudem lassen sie sich mit spezialisierten Komponenten ausstatten, die die aufwendigen KI-Berechnungen schneller und energieeffizienter durchführen als Standard-CPUs und -GPUs.
Optimale Auslastung: Schlecht ausgelastete Server gelten als die größten Energieverschwender im eigenen Rechenzentrum. Werden Höchstlasten in der Cloud oder per As-a-Service-Ansatz verarbeitet, zahlt dies auf die Auslastung der eigenen Infrastruktur ein. Die Digitalisierungs- und Automatisierungslösungen von Retarus ermöglichen effiziente Abläufe ohne manuellen Aufwand oder Kompromisse bei der Datensouveränität ‣ weiterlesen
Business Process Solutions
Retarus beschleunigt Datenaustausch in der Produktion
Intelligentes Datenmanagement: Weil das Training von KI-Modellen viel Rechenleistung erfordert, liegt der Fokus von Optimierungen meist auf der GenAI-Entwicklung. Allerdings hat auch die Speicherung und Bereitstellung der Trainingsdaten einen Anteil am Energieverbrauch, da die Datenmengen üblicherweise sehr umfangreich sind. Neuere Storage-Systeme nutzen deshalb leistungsstarke Kompressions- und Deduplizierungsalgorithmen, um die Datenmengen zu reduzieren. Darüber hinaus verlagern sie die Trainingsdaten bei Bedarf automatisch auf schnelle Flash-Medien, die mehr IOPS pro Watt als Festplatten liefern, sodass sie die Daten schneller und energieeffizienter bereitstellen können.
Energieeffizienz durch Software: Viele Server bieten intelligente Stromsparmodi. Dell rät Unternehmen, diese tatsächlich zu nutzen und nicht aus Sorge um Leistungseinbußen abzuschalten. Die Energiesparmodi sorgen lediglich dafür, dass Komponenten bei geringer Systemlast ihre Leistung absenken oder in einen Ruhemodus wechseln können – sobald für das GenAI-Training die maximale Performance benötigt wird, starten sie. Weiteres Optimierungspotenzial steckt in Software für das Energiemanagement, die Leistung, Stromverbrauch und Kühleffizienz der Systeme erfasst und das Energie- und Wärmemanagement automatisiert.
Strom aus erneuerbaren Energiequellen: Eine weitere Maßnahme, ihren ökologischen Fußabdruck von GenAI und Rechenzentren zu reduzieren, ist der Umstieg auf Strom aus erneuerbaren Energiequellen. Die meisten Stromanbieter bieten derartige Verträge an. Zusätzlich kann das auch das Dach des Rechenzentrums mit Photovoltaik bestückt werden.
„Generative KI kann Unternehmen helfen, ihre betriebliche Effizienz zu verbessern und nachhaltiger zu werden. Zugleich erhöhen GenAI-Anwendungen aber auch den Energieverbrauch im Rechenzentrum“, erläutert Christian Winterfeldt, Senior Director, Data Center Sales bei Dell Technologies in Deutschland. „Allerdings stehen Unternehmen dem nicht machtlos gegenüber und können die Entwicklung und den Einsatz von generativer KI durchaus umweltschonend gestalten.“
