SecureNeuroAI

Unser SecureNeuroAI-Forschungsprojekt zielt darauf ab, robuste und rechtlich konforme KI-basierte Cybersecurity-Lösungen zu entwickeln. Damit gewährleisten wir die IT-Sicherheit solcher kritischen medizinischen Geräte, die KI-Methoden zur Erkennung von lebensbedrohlichen Zuständen wie epileptischen Anfällen in Echtzeit verwenden. Dies ist von entscheidender Bedeutung, um Risiken durch Cyberangriffe zu minimieren. Wichtig ist hierbei der Schutz des Einzelnen vor ständigen Warnungen, die durch gezielte Manipulationen der Geräte entstehen können, die das Vertrauen in diese lebensrettenden Geräte untergraben und ihre Aktivität einschränken können. Die Manipulationen können ebenso dazu führen, dass die korrekten Warnungen durch Cyberangriffe, einschließlich der Manipulationen der Daten und KI-Modelle im gesamten KI-Lebenszyklus, gezielt unterdrückt werden. 
Der rechtliche Aspekt konzentriert sich auf die kontinuierliche rechtliche Begleitung des Entwicklungsprozesses und des technischen Fortschritts. Das hohe Niveau des Datenschutzes und der IT-Sicherheit, das im Gesamtprojekt und in der Gestaltung der Aktivitäten gefördert wird, wird von Anfang an berücksichtigt und die Rechtskonformität der Projektergebnisse wird ebenfalls gesichert. Die korrekte Anwendung der technischen Organisationsmaßnahmen entsprechend der DSGVO soll die Sicherheits- und Datenschutzanforderungen erfüllen. Außerdem müssen die rechtlichen Anforderungen zur Gewährleistung der Sicherheit von Medizinprodukten durch den Schutz vor Cyberangriffen geprüft werden. 
Der Einsatz von künstlicher Intelligenz birgt auch rechtliche Risiken, da im Bereich der medizinischen Dienstleistungen sensible medizinische Daten verarbeitet werden. Systeme, die künstliche Intelligenz verwenden, müssen bestimmte Sicherheits- und Qualitätsanforderungen erfüllen und die Betreiber haben besondere Verpflichtungen in Bezug auf ihre Verwendung.

• Projektleiterin: Prof. Dr. Franziska Boehm
• Mitarbeiterin: Marija Turkovic Popovski
• Projektlaufzeit: 01. Juli 2025- 30. Juni 2028
• Förderung: Bundesministerium für Bildung und Forschung (BMBF)
• Projektpartner:  
  Universität Bonn- Institut für Informatik III, 
  Universität Bon- Institut für Informatik IV und Universitätsklinikum Bonn.