Künstliche Intelligenz und die IT-Sicherheit
FH St. Pölten widmete sich in Konferenz neuen Entwicklungen rund um die Sicherheit von IT-Systemen. Ein gesonderter Fokus betraf die Bereiche Künstliche Intelligenz und Cyber-Security.
Die Veranstaltung „IT Security Community Exchange (IT-SECX)“ der Fachhochschule St. Pölten dient als Plattform für den Austausch von Wissen und Informationen über neue Entwicklungen im Bereich der IT-Sicherheit. Unter dem diesjährigen Motto „AI & Security“ lag der Schwerpunkt bei Künstlicher Intelligenz im Kontext von Cyber Security. Experten präsentierten dabei aktuelle Forschungsprojekte und Praxisberichte.
Schutz von KI-Systemen und das sogenannte Red Teaming als Strategie
Künstliche Intelligenz (KI) wird häufig als generisches Verbesserungsmittel gepriesen, das Arbeitsprozesse vereinfacht und Ergebnisse optimiert und das gilt auch im Bereich der Cyber Security. KI steht allerdings nicht nur den Verteidigern zur Verfügung, sondern auch den Angreifern. KI kann also nicht nur die Qualität der Detektion von Bedrohungen steigern, sondern etwa auch die Komplexität von Angriffen. Trotzdem kann KI insbesondere die Automatisierung von Sicherheitsprozessen verbessern und das inkludiert dann auch die Effizienz von etwaig knappen Ressourcen im Bereich der Cyber Security.
Bei der Veranstaltung erläuterte dann Daniel Fabian im Eröffnungsvortrag die zentrale Rolle von gegnerischen Tests (Anm. Red Teaming als engl. Fachbegriff) bei der Sicherung von KI-Funktionen und ‑Produkten. Der Leiter des Machine Learning Red Teams bei Google Zürich ging dabei auf die verschiedenen Formen des KI Red Teaming ein, darunter Content-Sicherheitsprüfungen, Tests gefährlicher Fähigkeiten und gegnerischen Simulationen. Fabian zeigte, welche Methoden und Technologien Angreifer nutzen können, um KI-Systeme zu manipulieren oder gezielt anzugreifen.
Offense, Defense oder OT-Security als spezifische Themenkreise
Neben dem Themenbereich „AI & Security“ wurden vier weitere Programmschwerpunkte erläutert. Darunter Offense/Pentesting, Defense/Detection und die immer wichtigeren Bereiche der sogenannten Operation Technology (OT) & Industrial Security, wo neben technischen Themen auch die neuen gesetzlichen Regularien rund um NIS2 behandelt wurden. Weitere Themen waren dann noch Code Analyse über Informationssicherheitsmetriken und Security Awareness.
„Die IT-SECX hat eindrucksvoll gezeigt, dass die Security-Community sich intensiv mit dem Thema künstliche Intelligenz auseinandersetzt. Die hochkarätigen Expert:innen boten uns faszinierende Einblicke in verschiedene aktuelle Herausforderungen und Entwicklungen“, so Thomas Brandstetter, Organisator und Vorsitzender des Programmkomitees der IT-SECX. Angaben zufolge besuchten die Veranstaltung rund 750 Teilnehmer:innen.