MathWorks News und Berichte

KI zur Reduzierung von Dieselabgasen

Deep Reinforcement Learning senkt NOx-Emissionen auf nahezu Null


Arbeiten Sie mit uns erfolgreich zusammen

Holen Sie sich von MathWorks Consulting fachkundige Beratung zu maßgeschneiderten Lösungen, die Ihnen beim Erreichen Ihrer Ziele helfen.


Stickoxide, ein Nebenprodukt der Verbrennung fossiler Brennstoffe, zählen zu den am strengsten regulierten Schadstoffen und gehören zu den schädlichsten für die menschliche Gesundheit. Die Chemikalien, die zusammenfassend als „NOx" bezeichnet werden bilden den braunen Smog, der trotz strengerer Luftreinhaltebestimmungen immer noch über manchen Stadtsilhouetten hängt.

Bei Dieselmotoren für Industrieanwendungen werden SCR-Katalysatoren (selektive katalytische Reduktion) hauptsächlich im Leistungsbereich ab 56 kW eingesetzt, als Reaktion auf die NOx-Regulierungsstufen der EPA Tier 4 Final-Vorschriften, die seit 2014 angewendet werden. Die Vorschriften werden immer strenger, und weitere Reduzierungen von NOx erforderlich sein, was zu komplexeren und fortschrittlicheren Systemen führen wird, die mehr Entwicklungszeit als je zuvor erfordern. Daher ist eine weitere Effizienzsteigerung erforderlich. Bei Yanmar America, einem Unternehmen, das landwirtschaftliche Geräte, Energiesysteme und Industriemotoren herstellt, leisten die Ingenieure Pionierarbeit beim Einsatz von Deep Reinforcement Learning, um die Technik zu verfeinern.

„Wir benötigen eine weitere Reduzierung um 90%, um die erwarteten neuen Normen für Motoren über 56 kW zu erfüllen und so nahezu null NOx-Emissionen am Auspuffrohr unserer SCR-Motoren zu erreichen“, sagt Martin Muinos, Forschungs- und Entwicklungsingenieur bei Yanmar America.

Das California Air Resources Board legt Standards zur Begrenzung von Schadstoffen aus Offroad-Dieselmotoren fest. Die neu vorgeschlagenen Tier-5-Standards, die im Laufe des nächsten Jahrzehnts schrittweise eingeführt werden sollen, verpflichten die Hersteller zur Reduzierung von NOx-Emissionen um 90% in einigen Leistungskategorien.

Der Yanmar-Motor 4TN107FTT mit oben montiertem SCR-Katalysator.

Der Yanmar-Motor 4TN107FTT ist mit SCR-Technologie ausgestattet. (Bildquelle: Yanmar America)

Vor einigen Jahren begannen die Ingenieure von Yanmar America mit der Erarbeitung gemeinsamer Wege, um diese Anforderung in ihren neuen Motoren zu erfüllen. Die Motoren waren bereits mit SCR-Katalysatoren ausgestattet, die NOX Emissionen durch eine chemische Reaktion zwischen Ammoniak und NOx minimieren. Ammoniak wird dem Abgasstrom vor dem SCR-Katalysator über einen Diesel Exhaust Fluid (DEF)-Injektor zugeführt. DEF ist eine Harnstoff-Wasser-Lösung, die sich in den heißen Abgasen zu Ammoniak zersetzt. Mithilfe eines Katalysators zersetzt Ammoniak das NOx in Stickstoffgas, einem natürlichen Bestandteil der Atmosphäre.

Aber bestimmte Mengen NOx gelangen dennoch durch den Reinigungsprozess, und Ammoniak, selbst ein gesundheitsschädlicher Schadstoff, kann in die Luft entweichen. Dieser bedauerliche Nachteil wird als Ammoniakschlupf bezeichnet. „Man sollte versuchen, so viel Ammoniak wie möglich im SCR zu speichern, um die NOx-Konvertierungsfähigkeit zu steigern“, sagt Muinos. „Das birgt Herausforderungen, da die Ammoniaklagerung temperaturabhängig ist.“ Beispielsweise kann ein rascher Anstieg der Abgastemperatur zu Ammoniakschlupf führen.

Eine schematische Darstellung eines Zylinders, der mit einem Mischrohr und einem oben angebrachten Injektor verbunden ist. Das zylindrische Gehäuse enthält den SCR-Katalysator und den Ammoniak-Schlupfkatalysator (ASC), der sich stromabwärts des SCR-Katalysators befindet.

Diagramm zur Darstellung des Prozesses der NOx -Emissionsminimierung unter Verwendung von SCRs. (Bildquelle: Yanmar America)

Die Größe des SCR ist ein weiterer begrenzender Faktor. „Die Leistung von SCR-Systemen hängt stark von der Größe ab, das heißt, sie haben keinen unbegrenzten Platz für Ammoniakeinspritzungen“, sagt Shota Nomura, Testingenieur bei Yanmar America. 

Vom Testbench zur Simulation

Die SCR-Entwicklung beinhaltet typischerweise einen langwierigen Kalibrierungsprozess, um eine angemessene NOx-Reduzierung zu gewährleisten, die sich beim SCR-Kalibrierungsprojekt auf insgesamt über 240 Arbeitsstunden belaufen kann. „Es gibt 20 oder mehr Kalibrierungskarten, die die SCR-Steuerungen beschreiben, und wir benötigen Daten, um diese Karten zu kalibrieren“, erklärt Muinos. „Um diese Daten zu sammeln, muss man einen Motorenprüfstand jeweils einige Wochen lang betreiben, die Kennfelder kalibrieren und anschließend die Leistung überprüfen.“

„Simulink ist wie eine Sandbox für die Entwicklung von Steuerungselementen.“

„Es gibt keine autonome Möglichkeit, das System zu kalibrieren“, sagt Nomura. „Da SCR mehrere Kennfelder anpasst, die sich gegenseitig beeinflussen, wird die Leistung durch die Anpassung beeinträchtigt.“ Um die optimale Balance auf Basis der Testergebnisse zu erreichen, war ein großer manueller Justierungsaufwand erforderlich.

Um den Zeit- und Kostenaufwand für physische Tests zu reduzieren, wechselte das Team von Yanmar zu einem Model-in-the-Loop-Ansatz unter Verwendung von Simulink® und einer separaten Katalysatorsimulationssoftware zur Modellierung ihrer SCR. „Ohne Simulink müssten wir eine Änderung an unseren Steuerungen vorschlagen, diese unserem Lieferanten des Motorsteuergeräts (ECU) vorlegen, diesen die Steuerungslogik entwickeln lassen, die Software für das Steuergerät entwickeln lassen und sie dann auf einem realen Prüfstand testen“, sagt Muinos. „ Simulink ist aber wie eine Sandbox für die Entwicklung von Steuerungssystemen.“

Mithilfe der Sandbox erkannte das Team schnell, dass ihre aktuellen SCR-Kontrollmethoden nicht ausreichen würden, um den neuen Tier-5-Standard zu erfüllen, der darauf abzielt, NOx-Emissionen drastisch zu reduzieren. auf nahezu Null.

Ein Liniendiagramm, das den Trainingsfortschritt des DRL-Modells mittels Reinforcement Learning darstellt, wobei die Episodenbelohnungen auf der vertikalen Achse und die Episodennummer auf der horizontalen Achse abgebildet sind. Es zeigt eine Verbesserung mit zunehmender Anzahl der Episoden.

Ein Screenshot des Reinforcement Learning Training Monitors, der in der Reinforcement Learning Toolbox verfügbar ist. Es zeigt den Fortschrittsgraphen während des Trainings eines DRL-Modells, das Yanmar für dieses Projekt verwendet hat. (Bildquelle: Yanmar America)

Nomura fragte sich, ob KI, insbesondere Deep Reinforcement Learning, helfen könnte. „Aber ich bin Maschinenbauingenieur“, sagt Nomura. „Ich habe nicht viel Wissen über KI.“ 

Da das Team bereits MATLAB® und Simulink verwendete, erkundete Nomura Online-Ressourcen von MathWorks und nutzte die MathWorks Consulting Services, um herauszufinden, ob Deep Reinforcement Learning ihnen helfen könnte, die beste DEF-Dosierungsrate für ihr SCR zu bestimmen. 

Reinforcement Learning ist eine Art von KI, die durch die Aufnahme von Informationen aus der Umgebung lernt, um ein gewünschtes Ergebnis zu erzielen; sie lernt durch Versuch und Irrtum. Der Reinforcement-Learning-Agent wird „belohnt“, wenn er ein gewünschtes Ergebnis erzielt. 

„Der Gedanke hinter dem Einsatz von Reinforcement Learning ist, dass wir die KI nutzen werden, um die besten Dosierungsprofile oder die besten Ammoniak-Speicherprofile für Emissionstestzyklen zu finden“, sagt Muinos. „Anschließend werden wir die Ergebnisse analysieren und Kontrollmaßnahmen entwickeln, um gezielt auf diese Profile einzugehen.“ 

„Vorher hatten wir keine Möglichkeit, die maximale Leistung zu ermitteln“, sagt Nomura.

Mithilfe der Reinforcement Learning Toolbox™ und der Deep Learning Toolbox™ halfen die Berater von MathWorks Nomura dabei, aus den verschiedenen bereitgestellten Reinforcement-Learning-Algorithmen den richtigen für das Projekt von Yanmar auszuwählen. 

„Nachdem wir mit dem Team zusammengearbeitet und die Vor- und Nachteile des von Yanmar vorgeschlagenen Ansatzes analysiert hatten, erkannten wir, dass der Deep Q-Network (DQN)-Algorithmus ihnen helfen würde, einen guten Reinforcement-Learning-Agenten zu entwickeln“, sagt Mohammad Muquit, leitender technischer Berater bei MathWorks.

Ein Diagramm, das die SCR-Leistung vor und nach der Verbesserung durch Reinforcement Learning zeigt, wobei eine gelbe Linie den Systemstandard und eine blaue Linie die durch Reinforcement Learning erzielte Leistung darstellt. Die horizontale Achse stellt die Zeit dar.

Scope-Screenshot aus Simulink, der die Menge der NOX-Emission darstellt, bei Simulation mit dem Standardwert des Yanmar-Systems (gelbe Linie) im Vergleich zum in diesem Projekt entwickelten DRL-Modell (blaue Linie). (Bildquelle: Yanmar America)

Aus Erfahrung lernen

Ausgestattet mit dem DQN-Algorithmus begann das Yanmar-Team, seinen Deep Reinforcement Learning (DRL)-Agenten so zu trainieren, dass er das optimale Ammoniak-Dosierprofil für die SCR-Leistung findet.

Anhand der Modellausgabe konnte das Team sehen, wie die vom Agenten vorgeschlagenen Kalibrierungswerte mit den Kalibrierungswerten aus bestehenden Systemen übereinstimmten. Die Visualisierungen der Reinforcement Learning Toolbox halfen ihnen, die Modellergebnisse zu verstehen. 

„Da ich keinerlei Erfahrung mit KI hatte, rechnete ich nicht damit, ein Reinforcement-Learning-Projekt abschließen zu können … aber MathWorks Consulting Services half mir, die notwendigen Parameter zu handhaben und zu lernen, wie Reinforcement Learning funktioniert.“

„Wir vergleichen die Ergebnisse des Reinforcement-Learning-Agenten mit unseren Kalibrierungsergebnissen und versuchen zu verstehen, warum sie sich unterscheiden“, sagt Muinos. „Sobald wir ein gutes Verständnis dafür haben, warum der Reinforcement-Learning-Agent bessere Emissionsergebnisse liefert, können wir verstehen, welche Kontrollmechanismen wir implementieren müssen.“ „Es bietet uns einen besseren Ausgangspunkt für die Kalibrierung.“ 

Nach der Simulation, die etwa 30 Minuten dauerte, lieferte das System ein optimales Dosierungsprofil, das laut Nomura zu einer 60%igen Verbesserung der NOx-Emissionsreduktion führte. 

Der Agent halbierte die Kalibrierungszeit und reduzierte so die Gesamtstundenzahl des Projekts um 30 %. „Es hat nur sechs Monate gedauert – mit einer so kurzen Entwicklungszeit hatten wir nicht gerechnet“, sagt Nomura. „Das hat meine Erwartungen weit übertroffen.“

Die Zeitersparnis und die Reduzierung der physischen Prüfungen führten außerdem zu einer Kostenersparnis von 41% im Vergleich zum normalen manuellen Kalibrierungsverfahren.

„Da ich keinerlei Erfahrung mit KI hatte, hätte ich nicht erwartet, ein Reinforcement-Learning-Projekt abschließen zu können“, sagt Nomura. „Aber MathWorks Consulting Services hat mir geholfen, die notwendigen Parameter zu handhaben und zu verstehen, wie Reinforcement Learning funktioniert.“

Aktuell bietet das KI-kalibrierte SCR-Tool den Yanmar-Ingenieuren einen besseren Ausgangspunkt für die Kalibrierung bei der Entwicklung der SCR-Systeme ihrer Motoren. Der nächste Schritt ist die Entwicklung von Prototypen für die schnelle Steuerung. Das Yanmar-Team hat sich kürzlich die Hardware besorgt, um seine Modellierungsergebnisse auf den Prüfstand zu stellen. Das Team plant, diesen Prozess weiter zu automatisieren. Derzeit sucht der DRL-Agent nach optimalen Werten, aber diese Werte müssen noch von Menschen in die Steuergeräte eingearbeitet werden. Die Yanmar-Ingenieure hoffen, in zukünftigen Projekten KI einsetzen zu können, um automatisch initiale Kalibrierungswerte für die Steuergeräte zu generieren und so die manuellen Anpassungen zu umgehen. 

MATLAB und Simulink waren für dieses Projekt von entscheidender Bedeutung, und das Team plant, sie und andere verwandte Toolboxes auch für zukünftige Entwicklungen zu verwenden. „Ohne MATLAB oder Simulink wären wir nicht so weit gekommen“, sagt Muinos. „Das sind mit die besten Werkzeuge, die ich je für die Entwicklung von Steuerungssystemen verwendet habe.“


Arbeiten Sie mit uns erfolgreich zusammen

Holen Sie sich von MathWorks Consulting fachkundige Beratung zu maßgeschneiderten Lösungen, die Ihnen beim Erreichen Ihrer Ziele helfen.


Weitere Berichte lesen

Navigation im Panel

AUTOMATISIERTES FAHREN / ROBOTIK

Anwendung bewährter Robotiktechniken auf Entwicklungsprozesse der Automobilindustrie

Renault treibt ADAS-Prototyping mit ROS Toolbox und Simulink Integration voran

Navigation im Panel

KI / STEUERUNGSSYSTEME

Entwicklung intelligenterer elektrischer Geräte mit integrierter KI

Die Kombination von Model-Based Design und KI in elektrischen Systemen verbessert den Industriebetrieb

Navigation im Panel

TECHNISCHE SYSTEME

Dyson beschleunigt die Produktentwicklung durch Simulation auf Gesamtsystemebene

Model-Based Design zur Entwicklung eines Produkts der ersten Generation