[Hiring] Research Associate in AI Security and Explainable AI @Universität Siegen KdöR

Role Description

In der Fakultät III - Wirtschaftswissenschaften, Wirtschaftsinformatik, Wirtschaftsrecht, am Lehrstuhl Wirtschaftsinformatik insb. Datenschutz und IT Sicherheit, suchen wir für das Projekt ASTRID (unter Vorbehalt der Bewilligung) eine/n wissenschaftliche/n Mitarbeiter/in zum 01.01.2027 zu folgenden Konditionen:

• 100% = 39,83 Stunden
• Entgeltgruppe 13 TV-L
• befristet für die Dauer von 2 Jahren

Ihre Aufgaben:

• Entwickeln und evaluieren KI-basierte Verfahren zur Erkennung synthetischer Medien, Deepfakes, Social Engineering und multimodaler Manipulationen (AI for Security).
• Erforschen multimodale Machine-Learning- und Deep-Learning-Verfahren für Audio-, Bild-, Video- und Textdaten, einschließlich LLM- und Foundation-Model-basierter Ansätze zur semantischen und cross-modalen Konsistenzprüfung sowie agentischer KI-Ansätze zur Orchestrierung von Erkennungs- und Erklärungsverfahren.
• Untersuchen sowohl KI-basierte Angriffsvektoren als auch KI-basierte Sicherheitsmaßnahmen sowie die Robustheit und Generalisierungsfähigkeit von KI-Systemen gegenüber adversarialen Angriffen (Security with and of AI) und bauen hierfür realistische Benchmarks und Angriffsszenarien einschließlich Blue- und Red-Teaming auf.
• Entwickeln und evaluieren Explainable-AI-Verfahren für multimodale Sicherheitssysteme mit Fokus auf Faithfulness, Unsicherheitsquantifizierung und cross-modale Erklärungen.
• Entwickeln LLM-basierte Erklärungs- und Narrationsansätze, die technische Erkennungs- und XAI-Ergebnisse in nachvollziehbare und handlungsrelevante Informationen für Entscheidungsträger:innen überführen, und stellen Ihre Erkenntnisse im Rahmen wissenschaftlicher Veröffentlichungen und Vorträge vor.

Qualifications

• Sehr guter Masterabschluss im Bereich Verbraucher- und Wirtschaftsinformatik, Informatik, Data Science, Elektrotechnik, IT-Sicherheit oder einem vergleichbaren technischen Gebiet.
• Fundierte Kenntnisse in Machine Learning und Deep Learning sowie praktische Erfahrung in Entwicklung, Training und Evaluation neuronaler Modelle mit Python und PyTorch, TensorFlow oder vergleichbaren Frameworks.
• Kenntnisse in mindestens einem der Bereiche Computer Vision, Audio/Speech Processing, Natural Language Processing, multimodales Lernen, Foundation Models oder agentische KI.
• Erste Kenntnisse oder Erfahrungen in mindestens einem der Themenfelder der Stelle, etwa AI Security, Adversarial Machine Learning, Explainable AI, Deepfake Detection oder agentische KI.
• Englischkenntnisse auf mindestens B2-Niveau für wissenschaftliche Publikationen und Konferenzen; Deutschkenntnisse sowie erste Publikationserfahrung sind von Vorteil.
• Motivation, eine Promotion im Bereich AI Security und Explainable AI anzustreben.

Benefits

• Förderung der eigenen wissenschaftlichen oder künstlerischen Qualifizierung nach dem Wissenschaftszeitvertragsgesetz (z.B. Promotion).
• Vielfältige Möglichkeiten, Verantwortung zu übernehmen und einen sichtbaren Beitrag im Umfeld von Forschung und Lehre zu leisten.
• Ein modernes Verständnis von Führung und Zusammenarbeit.
• Gute Vereinbarkeit von Beruf und Privatleben, beispielsweise durch flexible Ausgestaltung von Arbeitszeit und Arbeitsort sowie Unterstützung bei der Kinderbetreuung.
• Umfangreiches Personalentwicklungsprogramm.
• Gesundheitsmanagement mit breit gefächertem Präventions- und Beratungsangebot.

Company Description

Wir sind eine interdisziplinär ausgerichtete und weltoffene Universität mit aktuell rund 14.000 Studierenden und einem Fächerspektrum von den Geistes-, Sozial- und Wirtschaftswissenschaften bis hin zu Natur-, Ingenieur- und Lebenswissenschaften. Mit über 2.000 Beschäftigten zählen wir zu den größten Arbeitgebern der Region und bieten ein einzigartiges Umfeld für Lehre, Forschung und Weiterbildung.