Andrey Morozov

Meine Forschung beschäftigt sich mit Safe Autonomous Intelligence: der Entwicklung robotischer und autonomer Systeme, die gefährliche Situationen erkennen, die Folgen ihrer Handlungen abschätzen und ihr Verhalten an veränderte Bedingungen anpassen können. Das zentrale Ziel ist, Robotern ein Verständnis von Risiken zu vermitteln, das ihre Entscheidungen während des Betriebs unterstützt.

Die Forschungsgruppe SAI verbindet künstliche Intelligenz und robotisches Lernen mit modellbasierter Analyse, probabilistischer Modellierung, digitalen Zwillingen und experimenteller Untersuchung. Wir erforschen, wie Fehler, Unsicherheit und Wechselwirkungen mit der Umgebung das Systemverhalten beeinflussen und wie dieses Wissen zu sicherer und resilienter Autonomie beitragen kann.

Unsere Forschung umfasst vier eng miteinander verbundene Bereiche:

• Dynamische Risiko- und Zuverlässigkeitsbewertung: Modellierung möglicher Fehlerszenarien und ihrer Folgen sowie Aktualisierung der Risikobewertung bei veränderten Betriebsbedingungen.

• Sicherheitsüberwachung und Risikominderung: Erkennung von Anomalien, Vorhersage von Gefährdungen und Unterstützung geeigneter Reaktionen und Wiederherstellungsmaßnahmen.

• Resiliente KI-Komponenten: Bewertung und Verbesserung von Wahrnehmung und Entscheidungsfindung bei Sensorfehlern, gestörten Eingangsdaten und unbekannten Bedingungen.

• Mensch-Roboter-Interaktion: Bewertung von Risiken bei gemeinsamen Aufgaben und in gemeinsam genutzten Umgebungen sowie nachvollziehbare Darstellung risikobezogener Entscheidungen.

Anwendungsgebiete sind intelligente robotische Systeme, industrielle Automatisierung und autonome Mobilität.

Meine Lehre verbindet Software Engineering, mathematische Modellierung und künstliche Intelligenz mit der Entwicklung verlässlicher robotischer Systeme und Automatisierungssysteme. Studierende lernen, theoretische Konzepte in funktionsfähige Implementierungen zu übertragen und deren Verhalten, Grenzen und mögliche Fehler zu untersuchen.

Mein Vorlesungsangebot umfasst:

• Agentic Robotics (AR) — Wintersemester: Wahrnehmung, programmierte und gelernte Roboterfähigkeiten, Weltmodelle, Gedächtnis, Schlussfolgern und Ausführung.

• Technologien und Methoden der Softwaresysteme I (TMS I) — Wintersemester: Anforderungsanalyse, Softwareentwurf, Implementierung, Test und Projektmanagement.

• Modeling and Analysis of Automation Systems (MAAS) — Sommersemester: deterministische, nebenläufige und stochastische Modelle, Model Checking und Simulation.

• Risk Assessment for Robotic Systems (RARS) — Sommersemester: qualitative und quantitative Risikoanalyse, Zuverlässigkeitsmodellierung und Sicherheitsbewertung robotischer Systeme.

Die praktische Robotikausbildung wird durch das ROS Lab ergänzt.

Andrey Morozov ist Professor am Institut für Automatisierungstechnik und Softwaresysteme (IAS) der Universität Stuttgart und leitet die Forschungsgruppe Safe Autonomous Intelligence (SAI).

Er ist seit April 2020 am IAS tätig. Zuvor arbeitete er am Institut für Automatisierung der Technischen Universität Dresden, wo er 2012 promovierte und anschließend als Postdoktorand forschte. Im Jahr 2014 gründete er dort eine Forschungsgruppe zur modellbasierten Analyse sicherheitskritischer mechatronischer Systeme.

Seine Forschung verbindet Verlässlichkeitstechnik, künstliche Intelligenz und Robotik. Ein besonderer Schwerpunkt liegt auf dem Verständnis, der Vorhersage und der Minderung von Risiken in autonomen Systemen.