Agent-based Machine Learning for Offensive and Defensive Cyber Security
30.01.2025Automatisierte Agenten bieten ein enormes Potenzial für offensive und defensive Cybersecurity. Von der Informationsbeschaffung über Angriffe bis hin zur Erkennung und Abwehr von Angriffen können sie eine Vielzahl komplexer Aufgaben übernehmen.
Im Rahmen dieser Arbeit sollen Machine-Learning-basierte Agenten, von regelbasierten bis hin zu LLM-gestützten Systemen, in einer kontrollierten Umgebung mit absichtlich verwundbaren Systemen entwickelt und getestet werden. Ziel ist es, die Leistungsfähigkeit, Präzision und Adaptivität der Agenten zu bewerten und eine Multi-Agent-Architektur zu implementieren, die eine Zusammenarbeit der Agenten ermöglicht.
Betreuer: Daniel Schlör
Tasks:
-
Set up a controlled local environment with intentionally vulnerable machines or services where these agents can be tested on tasks such as reconnaissance, vulnerability exploitation, or intrusion detection/response
-
Develop and evaluate ML agents of varying complexity (e.g. rule-based, knowledge-graph-based, or large language model (LLM)-based) for offensive and defensive cyber operations
-
Integrate agents in a Multi-Agent framework to allow collaboration between agents (e.g. specialized agents for varying attack stages and attack targets, conductor agents)
-
Compare the performance, precision, adaptability, and security implications of each agent type (e.g., specialized rule-based scripts vs. LLM-driven interactive pentesters) and the overall setup
