Distributed Carbon Tracker – Demonstrator zur Nachverfolgung des CO2-Fußabdrucks in der KI-Entwicklung
Der Distributed Carbon Tracker Demonstrator, entwickelt im Rahmen des Green-AI Hub Mittelstand, ermöglicht die präzise Messung des CO2-Fußabdrucks von KI-Modellen des Maschinellen Lernens (ML). Mithilfe dieser Daten können KI-Entwickler*innen fundierte Entscheidungen bei der Entwicklung ressourcenschonender Algorithmen treffen.
Hier finden Sie den Distributed Carbon Tracker auf GitHub.
Grafik 1, Distributed Carbon Tracker: Dashboard zur Visualisierung der Umweltauswirkungen von KI-Modellen.
Herausforderung: Mangelnde Transparenz beim Ressourcenverbrauch von KI-Modellen
Mit dem Aufkommen immer leistungsstärkerer KI-Modelle und der zunehmenden Verbreitung dieser steigt auch der Energiebedarf für das Training und den Betrieb der Modelle immer weiter an. Insbesondere komplexe Algorithmen, die große Datenmengen verarbeiten, verbrauchen erhebliche Mengen an Energie und verursachen hohe CO2-Emissionen. Doch ohne transparente Informationen über den Energieverbrauch und die CO2-Emissionen ist es für Entwickler*innen schwierig, Umweltauswirkungen ihrer ML-Modelle einzuschätzen und ressourcenschonende Entscheidungen zu treffen.
Lösung: KI-gestützte Echtzeit-Überwachung
Der digitale Demonstrator simuliert ein Galvanikbad mit den Parametern Temperatur, pH-Wert und Trübung des Bades. Ebenfalls werden digitale Sensoren simuliert, welche die Werte der genannten Parameter kontinuierlich erfassen. Die gemessenen Sensordaten werden in Echtzeit in einem Dashboard visualisiert. Bei der Nutzung können Benutzer*innen verschiedene Anomalien für das Bad auswählen, wie z. B. die Verunreinigung mit einem Fremdstoff (Grafik 2). Die digitalen Sensoren erkennen eine Abweichung von den gewünschten Zielwerten und der Demonstrator schickt eine Warnmeldung an einen Account in Microsoft Teams oder Slack.
Lösung: Echtzeitanalyse der Umweltauswirkungen von ML-Algorithmen
Der Distributed Carbon Tracker ist ein Tool, dass die Umweltauswirkungen von ML-Modellen – sowohl während des Trainings als auch bei der Nutzung der Modelle – transparent macht. Das Besondere: Der Tracker ist so angelegt, dass er sich auch für größere Server einfach nutzen lässt. Über ein benutzerfreundliches Dashboard erhalten KI-Entwickler*innen Einblicke in den Energieverbrauch, die CO2-Emissionen und die Laufzeitperformance der ML-Modelle. Das hilft KI-Entwickler*innen Entscheidungen zu treffen, um Modelle hinsichtlich ihres Ressourcenverbrauchs zu optimieren, ohne dabei die Leistung dieser zu beeinträchtigen.
Ressourceneinsparung
Mithilfe der Informationen aus dem Distributed Carbon Tracker können KI-Entwickler*innen Modelle so entwickeln, dass der Ressourcenverbrauch der Modelle im Verhältnis zu ihrer Leistungsfähigkeit möglichst gering ist. Beispielsweise kann das Training eines KI-Modells beendet werden, wenn der Zuwachs der Performance nur noch minimal und der Energieverbrauch des Trainings unverhältnismäßig hoch ist.
Nutzung des Distributed Carbon Trackers
Der Distributed Carbon Tracker lässt sich über eine benutzerfreundliche Weboberfläche bedienen. Nutzer*innen können ihre ML-Modelle zur Analyse hochladen und Parameter wie Trainingsdatensatz, Hardware und Arbeitslast spezifizieren. Die Daten werden durch den Distributed Carbon Tracker analysiert. Anschließend erhalten Nutzer*innen über das Dashboard (Grafik 1) Einblicke in den Energieverbrauch, die CO2-Emissionen und die Laufzeitperformance ihrer Algorithmen. Das soll helfen gezielte Anpassungen vorzunehmen – für eine ressourcenschonende KI-Entwicklung.
Grafik 2: Schematische Darstellung des Distributed Carbon Trackers.
Funktionen
- Echtzeit-CO2- und Energieverbrauchsanalyse für Trainings- und Inferenzphasen von ML-Modellen.
- Dashboard zur Visualisierung des Energieverbrauchs, der Umweltauswirkungen und der Leistungsdaten.
- Flexible Anpassungsmöglichkeiten für verschiedene Workloads und Hardwarekonfigurationen.
- Datenbank zur Speicherung und Analyse der Verbrauchsdaten, einschließlich CO2-Emissionen und Hardwaredetails.
- Ressourceneinsparung durch die Transparenz des Energie- und Ressourcenvebrauchs von KI-Modellen.
Der Distributed Carbon Tracker wurde im Rahmen der Initiative des Green-AI Hub Mittelstands entwickelt. Der Green-AI Hub Mittelstand ist eine KI-Initiative des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz, koordiniert durch die Zukunft – Umwelt – Gesellschaft (ZUG) gGmbH. Der Demonstrator wurde vom Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) entwickelt.
