Automatische Generierung von Automatisierungsapplikationen mithilfe erklärbarer und nachvollziehbarer KI-Methoden

 

In den letzten Jahren ist die Verwendung von KI-Methoden in vielen Bereichen sehr stark gewachsen. Die derzeit am häufigsten verwendeten KI-Methoden gehören zum Bereich des Machine Learning (ML), zum Großteil Artificial Neural Networks (ANNs).

ML-Algorithmen sind Black-Box-Methoden. Bei solchen Algorithmen ist es für den Anwender nicht nachvollziehbar, wie das System eine Lösung ermittelt hat. Ebenfalls unmöglich ist die Vorhersage der Ausgänge des Systems bei der Verwendung eines unbekannten Eingabedatensatzes.

Dieser Ansatz hat aufgrund seiner Intransparenz einige Nachteile. Black-Box-Methoden sind anfällig für Datenmanipulationen, im Englischen adversarial attacks, was zu Sicherheitsproblemen bei deren Implementierung führen kann. Im Kontext der Automatisierungstechnik reduziert die mangelnde Erklärbarkeit und Transparenz von ML-Modellen deren Akzeptanz und verhindert die Verbreitung ihres Einsatzes in realen Produktionsanlagen.

Der Bereich der Explainable Artificial Intelligenz (XAI) geht diese Probleme an. Diese Algorithmen versuchen, einen Kompromiss zwischen Komplexität und Erklärbarkeit zu erreichen und bieten transparente White-Box-KI-Methoden an.

Solche Methoden können eingesetzt werden, um die Generierung von Lösungen für Automatisierungsaufgaben zu unterstützen oder zu automatisieren. Anwendungsfälle für den Einsatz von nachvollziehbaren KI-Methoden in der Automatisierung können z.B. das automatische Engineering der Applikationen von übergeordneten Prozesssteuerungen oder die automatische Vernetzung und Orchestrierung von modularen Systemen sein.