VAWi-Dozent Prof. Dr. Dominik Herrmann, Anbieter des Moduls Ethische Systemgestaltung im Rahmen des VAWi-Studiengangs, hat mit weiteren Ko-Autorinnen und -Autoren einen Artikel mit dem Titel „The Missing Link in Network Intrusion Detection: Taking AI/ML Research Efforts to Users“ im Journal IEEE Access veröffentlicht.

Intrusion Detection Systems (IDS) haben die anspruchsvolle Aufgabe, Netzwerkangriffe so schnell wie möglich zu erkennen. Da diese Aufgabe in modernen Unternehmensnetzwerken immer komplexer wird, haben künstliche Intelligenz (KI) und maschinelles Lernen (ML) auch in diesem Bereich in der Forschung stark an Bedeutung gewonnen. Allerdings werden diese beiden Ansätze in der Praxis bislang nur unzureichend in IDS-Lösungen eingesetzt.

Die akademische Forschung vernachlässigt oft die Verbindung zwischen Benutzern und technischen Aspekten. Dies führt zu wenig erklärbaren KI/ML-Modellen, die das Vertrauen von KI/ML-Laien erschweren. Außerdem vernachlässigt die Forschung häufig sekundäre Aspekte wie Benutzerfreundlichkeit und Datenschutz. Wenn IDS-Ansätze mit den geltenden Vorschriften in Konflikt geraten oder wenn Administratoren Angriffe nicht effektiv abwehren können, werden Unternehmen sie in der Praxis nicht einsetzen.

Um diese Probleme systematisch zu identifizieren, verfolgen Prof. Herrmann und seine Ko-Autorinnen und -Autoren im Rahmen der von ihnen durchgeführten Literaturstudie einen nutzerzentrierten Ansatz. Sie untersuchen die IDS-Forschung aus der Perspektive der Betroffenen, indem sie das Konzept von Personas anwenden. Darüber hinaus untersuchen sie mehrere Faktoren, die den Einsatz von KI/ML im Sicherheitsbereich einschränken, und schlagen technische, nicht-technische und nutzerbezogene Maßnahmen vor, um den Einsatz von IDS in der Praxis zu verbessern.

Mit ihrer Arbeit liefern Prof. Herrmann und seine Ko-Autorinnen und -Autoren somit einen wertvollen Beitrag zur Analyse der praktischen Barrieren für die Einführung von KI/ML-basierten Lösungen. Die von ihnen entwickelten Leitlinien können Forscherinnen und Forschern dabei helfen, ihre KI/ML-basierten IDS-Ansätze ganzheitlich zu bewerten, um deren Akzeptanz in der Praxis zu erhöhen.

Der vollständige Artikel steht unter folgendem Link zur Verfügung: https://ieeexplore.ieee.org/document/10540566