Den Energieverbrauch von GenAI-Entwicklung senken

Image of ecology icons and data processing over server room
Bild: vectorfusionart/stock.adobe.com

Generative KI verbraucht viel Strom. Etwa 1.287 Megawattstunden soll 2020 das Training des Sprachmodells GPT-3 laut Forschern von Google und der Universität Berkeley verschlungen haben. Das entspricht dem jährlichen Stromverbrauch von 380 deutschen Haushalten. Zwar stoßen die Modelle der meisten Unternehmen nicht in diese Dimensionen vor, doch die hohen Energiekosten und den ökologischen Fußabdruck von generativer KI können auch sie nicht ignorieren. Dell Technologies nennt Maßnahmen, um den Verbrauch und die Umweltauswirkungen zu reduzieren.

Right Sizing der KI-Modelle: Auch wenn der Einsatz sehr großer Modelle reizvoll erscheint, genügen für die meisten Unternehmen branchen- oder firmenspezifische Implementierungen, deren Energiebedarf deutlich geringer ist. Setzen Unternehmen zudem auf vortrainierte Modelle verringert dies den Trainingsaufwand und damit den Stromverbrauch zusätzlich.

Energieeffiziente Systeme: Heutige Server sind leistungsstärker und energieeffizienter als frühere Generationen. Dadurch werden nicht nur weniger Systeme für das Training der Modelle benötigt, sondern diese verbrauchen in Relation zu ihrer Leistung auch weniger Strom. Zudem lassen sie sich mit spezialisierten Komponenten ausstatten, die die aufwendigen KI-Berechnungen schneller und energieeffizienter durchführen als Standard-CPUs und -GPUs.

Optimale Auslastung: Schlecht ausgelastete Server gelten als die größten Energieverschwender im eigenen Rechenzentrum. Werden Höchstlasten in der Cloud oder per As-a-Service-Ansatz verarbeitet, zahlt dies auf die Auslastung der eigenen Infrastruktur ein.

Intelligentes Datenmanagement: Weil das Training von KI-Modellen viel Rechenleistung erfordert, liegt der Fokus von Optimierungen meist auf der GenAI-Entwicklung. Allerdings hat auch die Speicherung und Bereitstellung der Trainingsdaten einen Anteil am Energieverbrauch, da die Datenmengen üblicherweise sehr umfangreich sind. Neuere Storage-Systeme nutzen deshalb leistungsstarke Kompressions- und Deduplizierungsalgorithmen, um die Datenmengen zu reduzieren. Darüber hinaus verlagern sie die Trainingsdaten bei Bedarf automatisch auf schnelle Flash-Medien, die mehr IOPS pro Watt als Festplatten liefern, sodass sie die Daten schneller und energieeffizienter bereitstellen können.

Energieeffizienz durch Software: Viele Server bieten intelligente Stromsparmodi. Dell rät Unternehmen, diese tatsächlich zu nutzen und nicht aus Sorge um Leistungseinbußen abzuschalten. Die Energiesparmodi sorgen lediglich dafür, dass Komponenten bei geringer Systemlast ihre Leistung absenken oder in einen Ruhemodus wechseln können – sobald für das GenAI-Training die maximale Performance benötigt wird, starten sie. Weiteres Optimierungspotenzial steckt in Software für das Energiemanagement, die Leistung, Stromverbrauch und Kühleffizienz der Systeme erfasst und das Energie- und Wärmemanagement automatisiert.

Strom aus erneuerbaren Energiequellen: Eine weitere Maßnahme, ihren ökologischen Fußabdruck von GenAI und Rechenzentren zu reduzieren, ist der Umstieg auf Strom aus erneuerbaren Energiequellen. Die meisten Stromanbieter bieten derartige Verträge an. Zusätzlich kann das auch das Dach des Rechenzentrums mit Photovoltaik bestückt werden.

„Generative KI kann Unternehmen helfen, ihre betriebliche Effizienz zu verbessern und nachhaltiger zu werden. Zugleich erhöhen GenAI-Anwendungen aber auch den Energieverbrauch im Rechenzentrum“, erläutert Christian Winterfeldt, Senior Director, Data Center Sales bei Dell Technologies in Deutschland. „Allerdings stehen Unternehmen dem nicht machtlos gegenüber und können die Entwicklung und den Einsatz von generativer KI durchaus umweltschonend gestalten.“



  • Wieder mehr Kurzarbeit im November

    Wieder mehr Kurzarbeit im November

    Erstmals seit Februar ist die Zahl der Kurzarbeitenden in Deutschland wieder gestiegen. Wie das Ifo Institut mitteilt, waren im November 10.000 Beschäftigte mehr in Kurzarbeit als noch im Oktober.

    mehr lesen: Wieder mehr Kurzarbeit im November

  • Datasensing geht an den Start

    Datasensing geht an den Start

    Zum Jahreswechsel geht das Unternehmen Datasensing an den Start. Das Unternehmen entsteht aus dem Zusammenschluss von Micro Detectors und dem Datalogic-Geschäftsbereich ‘Sensor & Safety and Machine Vision‘.

    mehr lesen: Datasensing geht an den Start

  • Unternehmen setzen auf Individualsoftware

    Unternehmen setzen auf Individualsoftware

    Jedes Unternehmen hat andere Bedürfnisse, wenn es um den Einsatz von Software geht. Standardlösungen können dies oftmals nicht ausreichend abbilden. Daher setzt laut einer Techconsult-Studie jedes zweite Unternehmen auf Individualsoftware.

    mehr lesen: Unternehmen setzen auf Individualsoftware

  • Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier erwirbt Mehrheit an Evora IT Solutions

    Allgeier übernimmt Evora IT Solutions, einen Spezialisten für Kundenservice- und Instandhaltungslösungen. Damit will Allgeier seine SAP- und ServiceNow Beratung ausbauen.

    mehr lesen: Allgeier erwirbt Mehrheit an Evora IT Solutions

  • Zu wenig sozialer Kontakt im Homeoffice

    Zu wenig sozialer Kontakt im Homeoffice

    Wo ist die Arbeitsbelastung höher – im Büro oder im Homeoffice? Dieser Frage ist die Deutsche Gesetzliche Unfallversicherung nachgegangen und hat im Rahmen einer Studie ermittelt, dass die Arbeitsbelastung nicht…

    mehr lesen: Zu wenig sozialer Kontakt im Homeoffice

  • Arbeitslosigkeit sinkt langsamer

    Arbeitslosigkeit sinkt langsamer

    Trotz des dritten Rückgangs in Folge verbleibt das IAB-Arbeitsmarktbarometer noch auf einem hohen Niveau. Einen größeren Rückschlag durch die vierte Pandemie-Welle erwarten die Experten des Instituts für Arbeitsmarkt- und Berufsforschung…

    mehr lesen: Arbeitslosigkeit sinkt langsamer

  • Diego Rapela wird CTO bei Auvesy

    Diego Rapela wird CTO bei Auvesy

    Zusätzlich zu CEO Dr. Tim Weckerle und COO Stefan Jesse wird zukünftig auch Dr. Diego Ricardo Rapela dem Auvesy-Management-Team angehören. Er übernimmt die neugeschaffene Position des Chief Technology Officers.

    mehr lesen: Diego Rapela wird CTO bei Auvesy

  • Keine Erholung beim Materialmangel

    Keine Erholung beim Materialmangel

    Nach einem leichten Rückgang im vergangenen Monat, hat sich der Materialmangel in der Industrie im November wieder verstärkt. Rund drei Viertel der Unternehmen klagen über Engpässe.

    mehr lesen: Keine Erholung beim Materialmangel

  • Exportindustrie mit verbesserten Erwartungen

    Exportindustrie mit verbesserten Erwartungen

    Nach einem Rückgang im Oktober haben sich die Exporterwartungen der deutschen Unternehmen im November wieder verbessert. Nach Angaben des Ifo Instituts erwarten dabei vor allem die Automobilindustrie und Hersteller elektrischer…

    mehr lesen: Exportindustrie mit verbesserten Erwartungen

  • Congatec und Sysgo gehen Partnerschaft ein

    Congatec und Sysgo gehen Partnerschaft ein

    Congatec gibt seine strategische Partnerschaft mit Sysgo bekannt. Ziel ist es, den Märkten für kritische Systeme – wie Industrieautomation, Medizintechnik, Smart Energy, Eisenbahn, kommerzielle und autonome Fahrzeuge oder Baumaschinen -…

    mehr lesen: Congatec und Sysgo gehen Partnerschaft ein

  • CAS und ELO kooperieren

    CAS und ELO kooperieren

    Enterprise Content Management und Customer Relationship Management näher aneinander rücken ist das Ziel der Kooperation zwischen ELO Digital Office und CAS Software.

    mehr lesen: CAS und ELO kooperieren

  • Fünf IT-Trends für 2022

    Fünf IT-Trends für 2022

    Auch 2022 werden sich die IT-Systeme von Unternehmen weiterentwickeln. Oliver Rozić, Vice President Product Engineering bei Sage, weiß wie und welche Trends dabei eine Rolle spielen könnten.

    mehr lesen: Fünf IT-Trends für 2022