Die Rolle von KI im Kampf gegen Terrorismus

Anlässlich des Terroranschlages auf dem Berliner Breitscheidplatz im Jahr 2016 beschäftigen sich Akteur*innen und Expert*innen aus der Sicherheitsforschung und -praxis im Rahmen einer interdisziplinären Veranstaltungsreihe jährlich mit wechselnden sicherheitsrelevanten Themen im Kontext von Terrorismus. Das mittlerweile 8. Fachsymposium fand am 17. Dezember 2024 statt und setzte sich mit der Rolle von KI im Kampf gegen den Terrorismus auseinander. Es wurde von der HWR Berlin und der Senatsverwaltung für Inneres und Sport Berlin erneut gemeinsam veranstaltet. 

Gedenken an den Terroranschlag in Magdeburg 

Die Relevanz und bedauerliche Aktualität dieses Fachsymposiums wurde leider drei Tage nach dessen Durchführung deutlich. Ein Einzeltäter raste am 20. Dezember 2024 mit einem PKW in eine Menschenmenge auf dem Magdeburger Weihnachtsmarkt. Sechs Menschen wurden getötet. Mehr als 200 Menschen wurden teils sehr schwer verletzt. Das Fachsymposium wird zukünftig der Opfer und Geschädigten in Berlin und Magdeburg gedenken.

Die Vizepräsidentin der HWR Berlin Prof. Dr. Sabrina Schönrock begrüßte als Moderatorin und Mitinitiatorin der Tagung die Redner*innen sowie die über 180 Teilnehmenden aus ganz Deutschland, die zusammenkamen, um sich zu dem innovativen Tagungsthema auszutauschen.

Im Spannungsfeld zwischen technischen Möglichkeiten und rechtlichen Rahmenbedingungen

Prof. Dr. Jens Hermsdorf, Präsident der HWR Berlin, hob in seiner Begrüßungsansprache das Spannungsfeld zwischen technischen Möglichkeiten zur Wahrung von Sicherheit und rechtlichen Rahmenbedingungen hervor. In diesem Kontext ging er auf die Bedeutung von Hochschulen für angewandte Wissenschaften ein, die durch den wechselseitigen Austausch mit der Praxis einen wichtigen Transferbeitrag zur Verringerung des Spannungsfeldes leisten. Am Beispiel des Fachbereiches Polizei und Sicherheitsmanagement zeigte Hermsdorfauf, wie Extremismusforschung und weitere sicherheitsrelevante Fragestellungen in die Ausbildung von polizeilichen Führungskräften eingebettet werden. Ein Studiumsmodell, das sich bewährt hat und einen in Deutschland vorbildlichen Charakter habe, lobte er. 
 
 

In seinem Grußwort betonte Christian Hochgrebe, Staatssekretär für Inneres des Landes Berlin, dass die Schicksale der Opfer des einschneidenden Terrorereignisses in der jüngeren Geschichte Deutschlands uns mahnen, unsere Werte und unser demokratisches System von Sicherheit und Freiheit zu verteidigen. Er stellte die Frage, welche Technologien dazu beitragen können, Anschläge wie das Breitscheidplatz-Attentat zu verhindern, und regte zugleich an, zu prüfen, welche Technologien terroristische Taten ermöglichen. Der Technologiewettlauf zwischen Täter*innen und Sicherheitsbehörden habe begonnen. Dieser lässt sich nur gewinnen, wenn wir den Einsatz und den Umgang mit KI als essenziell verstehen, appellierte der Staatssekretär. 

Anpassung der Gesetzesgrundlagen nötig

Prof. Dr. Kristin Pfeffer, Professorin für Öffentliches Recht an der Hochschule der Akademie der Polizei Hamburg, schilderte in ihrem Vortrag zunächst die historische Entwicklung der digital gestützten Polizeiarbeit, die im Jahr 1981 von Horst Herold, späterer Präsident des Bundeskriminalamtes, im Rahmen der sog. Rasterfahndung entscheidend vorangebracht wurde. Im Rahmen der digitalen Möglichkeiten wie der Vorratsdatenspeicherung, der Fluggastdatenanalyse und der Automatisierten Datenanalyse wurde schnell erkannt, dass entsprechende nationale und internationale Ermächtigungsgrundlagen innerhalb der Gesetze benötigt werden, die zudem verfassungskonform sein müssen. Ein großer Schritt auf diesem Gebiet war die KI-Verordnung der Europäischen Union, die im Jahr 2024 in Kraft trat und noch in deutsches Recht umgesetzt werden muss, so Pfeffer. 

Deepfakes erkennen

In seinem Impulsvortrag sprach der Gesamtprojektleiter des erfolgreich abgeschlossenen Konsortialprojektes FAKE-ID, Dr. Klaus Herrmann, über die Erkennung von Deepfakes mit Hilfe von KI-basierter Videoanalyse. Er erläuterte wie Bild- und Videofälschungen, sog. Deepfakes, die mittels KI erstellt werden, zur Verbreitung (politischer) Desinformation, aber auch zur Manipulation digitaler Identitätsnachweise genutzt werden. Deepfakes können dabei zu terroristischen Zwecken genutzt werden, um Menschenmassen zu manipulieren oder auch polizeiliche Einsätze fehlzuleiten. Herrmann erläuterte zwei Ansätze zur Erkennung von Deepfakes: Den biometrischen Ansatz, der Deepfakes auf Grundlage der biometrischen Gesichtsdaten von Personen erkennt. Und den semantischen Ansatz, bei der die KI u.a. durch Informationen über Gesichtsbewegungen trainiert wird, Fälschungen zu erkennen. KI-basierte Deepfake-Detektoren können Nutzer*innen bei der Echtheitsprüfung von Bild- und Videomaterial unterstützen. Herrmann lud die Teilnehmer*innen im Rahmen der Pause ein, den im Forschungsprojekt entwickelten Detektor zur Erkennung von Deepfakes zu testen.

Bildauswertung und Videoüberwachung

Renato Gigliotti, Polizeivizepräsident von Mannheim, stellte dem Fachpublikum das Projekt „Videoschutz Mannheim“ vor. Gemeinsam mit dem Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB wurde eine Bildauswertungssoftware für die Stadt Mannheim entwickelt. Die Software lernt mit der Zunahme an Daten und erkennt gefahrenträchtige Verhaltensmuster. Insgesamt 70 Kameras zeichnen für höchstens 72 Stunden an verschiedenen Brennpunkten im öffentlichen Bereich das Geschehen auf. Bei der Detektion kriminalitätsrelevanter Verhaltensmuster alarmiert das System die Leitstelle. Ziel ist es, durch einen algorithmenbasierten Videoschutz die Eingriffsbelastung zu reduzieren, Brennpunkte nachhaltig zu befrieden und Personen in Notsituationen zu identifizieren. 

Verschiedene Sicherheitsbefragungen in der Stadt Mannheim ergaben, dass mehr als die Hälfte der Befragten sich durch den Videoschutz sicherer fühle.

Für die Zukunft seien weitere Systemkomponenten denkbar, wie die biometrische Erkennung von Personen, die Detektion von Messern und Waffen sowie das Erkennen von Paniksituationen in Menschenmassen. Eine mögliche Umsetzung werde derzeit geprüft.

Input aus Israel

Internationalen Input gab es in diesem Jahr aus Israel. Der live zugeschaltete Experte Gadi Perl ist Forschungskoordinator des CyberLaw-Programms am Federmann CyberSecurity Research Center und Wissenschaftler am Chesin Advanced Legal Research Center der Hebräischen Universität Jerusalem. Als zertifizierter Computerforensiker und Major im Reservestatus erstreckt sich sein Fachwissen auf das komplexe Zusammenspiel zwischen Technologie und Strafverfolgung sowie der Regulierung von Künstlicher Intelligenz. Er sprach über KI als „disruptive technology“ - eine Technologie, die die Arbeitsweise von Menschen, Behörden und Unternehmen grundlegend verändere. KI-Algorithmen verbessern Überwachungssysteme, prognostizieren potenzielle Sicherheitsverletzungen und automatisieren Reaktionsstrategien. Sie bieten somit nie dagewesene Möglichkeiten zur Erkennung und Abwehr von Bedrohungen. Regierungen haben laut Perl die Aufgabe, einen Rechtsrahmen zu entwickeln, der diese Innovationen fördert und gleichzeitig die öffentlichen Interessen schützt. Die Zusammenarbeit zwischen Technologieentwickelnden, Sicherheitsexperten und politischen Entscheidungstragenden ist unerlässlich, um widerstandsfähige Systeme zu schaffen, die sensible Informationen und Infrastrukturen schützen. Künftig werde es für den Schutz der Gesellschaft entscheidend sein, ein Gleichgewicht zwischen Innovation und Sicherheit zu wahren. 

Nach einer aktiven Pause mit einer Poster-Session und einem Live Demonstrator wurde die Podiumsrunde von Prof. Dr. Hartmut Aden, Professor für Öffentliches Recht, Europarecht, Politik- und Verwaltungswissenschaft an der HWR Berlin, eröffnet. 

Expert*innenrunde

Die Expert*innenrunde bestand aus Prof. Dr. Kristin Pfeffer von der Hochschule der Akademie der Polizei Hamburg, Dr.-Ing. Oussama Jarrousse vom Munich Innovation Labs, Dr. Robert Pelzer der TU Berlin, dem Abteilungsleiter des LKA 7 der Polizei Berlin Carsten Szymanski sowie Clemens Seibold vom Fraunhofer-Institut für Nachrichtentechnik HHI.

Die Expert*innen waren sich einig, dass mit der Verabschiedung der KI-Verordnung klare gesetzliche Rahmenbedingungen in Deutschland geschaffen werden müssen, um den Einsatz von KI sicher und transparent zu gestalten. Für die Sicherheitsbehörden, deren KI-Kompetenz entscheidend für eine wirksame und rechtlich konforme Anwendung sei, werden in Zukunft regelmäßige und umfassende Schulungen auf dem Gebiet unerlässlich sein. Die Polizei müsse sowohl in technischer Hinsicht als auch im Umgang mit rechtlichen und ethischen Fragen, wie Bias in Algorithmen, geschult werden. Verschiede Formen von Bias können zu diskriminierenden Entscheidungen führen. Dies müsse bei der Verwendung von KI-Applikationen berücksichtigt werden. Der damit verbundene Verwaltungsaufwand sollte nicht unterschätzt werden, da die Implementierung und Überwachung der KI-Verordnungen eine koordinierte Zusammenarbeit zwischen verschiedenen staatlichen Institutionen erfordere, so die einhellige Meinung der Expert*innenrunde.

Zum Abschluss dankte Schönrock allen Mitwirkenden und Teilnehmenden und lobte die Arbeit des Live-Künstlers Mike Klar, der die Ergebnisse der Veranstaltung in einem anschaulichen Tagungskunstwerk festhielt.