Anomalieerkennung in reaktiven Systemen

• Antragsteller: Professor Dr.-Ing. Andreas Zeller, Ph.D.
• Fachliche Zuordnung: Softwaretechnik und Programmiersprachen ; Sicherheit und Verlässlichkeit, Betriebs-, Kommunikations- und verteilte Systeme
• Förderung: Förderung von 2018 bis 2022
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 392215324

Was genau macht ein Programm bösartig? In diesem Projekt untersuchen wir die Hypothese, dass ein "bösartiges'' Programm eins ist, das sich nicht so verhält wie angepriesen. Unser Ansatz nutzt große Bibliotheken von Programmen, insbesondere Apps in App Stores, um aus den Programmen Assoziationen zwischen angepriesenem und implementierten Verhalten zu lernen. Als angepriesenes Verhalten nutzen wir die natürliche Sprache, in der sich die Elemente der Benutzeroberfläche präsentieren; als implementiertes Verhalten untersuchen wir die Funktionalität, die durch diese Elemente aufgerufen wird.Das Ergebnis ist ein Modell aus Aktionen und Reaktionen, das das "normale'' Verhalten charakterisiert: Für jede neue App können wir ihr Modell automatisch prüfen, ob die beobachteten Aktionen und Reaktionen "normal'' sind oder nicht. Wir können so Sicherheits-Probleme identifizieren (die Implementierung arbeitet nicht wie angepriesen) wie auch Benutzbarkeitsprobleme (die Beschreibung passt nicht zur Implementierung). Während der Ausführung erkennt eine Sandbox "abnormale'' und explizit verbotene Folgen und blockiert die zugehörigen Daten-Zugriffe und Bedienelemente: "Der 'Herunterladen'-Knopf ist ausgegraut, da er das Adressbuch zu einem Server in Bezerkistan sendet''.Dieses Projekt vereint Expertise in Programmanalyse, Testgenerierung, Verarbeitung natürlicher Sprache, Modellinferenz und Model Checking. In all diesen Gebieten liefert es signifikante Beiträge, um das übergeordnete Ziel zu erreichen, nämlich das Erkennen und Verhindern von abnormalem Verhalten in reaktiven Systemen.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: China
• Partnerorganisation: National Natural Science Foundation of China
• Kooperationspartner: Professor Dr. Lijun Zhang