Informatiker/in, Mathematiker/in o. ä. (w/m/d) - Diplom Uni, Master

DLR.de/jobs
Wissenschaftliche Tätigkeit / Projektarbeit
Steigen Sie ein in die faszinierende Welt des Deutschen Zentrums für Luft- und Raumfahrt (DLR), um mit Forschung und Innovation die Zukunft mitzugestalten! Mit dem Know-how und der Neugier unserer 11.000 Mitarbeitenden aus 100 Nationen sowie unserer einzigartigen Infrastruktur, bieten wir ein spannendes und inspirierendes Arbeitsumfeld. Gemeinsam entwickeln wir nachhaltige Technologien und tragen so zur Lösung globaler Herausforderungen bei. Möchten Sie diese große Zukunftsaufgabe mit uns zusammen angehen? Dann ist Ihr Platz bei uns!
Für unser Institut für KI-Sicherheit in Ulm suchen wir eine/n

Informatiker/in, Mathematiker/in o. ä. (w/m/d) - Diplom Uni, Master

Informationssicherheit und Cybersicherheit

Das erwartet Sie

Das Institut für KI-Sicherheit erbringt Forschungs- und Entwicklungsleistung im Bereich KI-bezogener Methoden, Prozesse, Algorithmen und Ausführungsumgebungen. Schwerpunkt ist die Gewährleistung von Betriebs- und Angriffssicherheit KI-basierter Lösungen in ambitionierten Anwendungsklassen. „Safety and Security by Design” ist dabei ein zentraler Aspekt, über welchen auch die Anforderungen sicherheitskritischer Anwendungen erfüllt werden können, die zukünftig auf KI fußen bzw. KI-basierte Komponenten als Lösungsbausteine aufgreifen.
Die Arbeitsschwerpunkte des Instituts liegen in den folgenden Bereichen:

• Entwicklungsprozesse und -Methoden für sicherheitskritische KI-Anwendungen
• robuste und zuverlässig absicherbare KI-Methoden und -Algorithmen
• Betriebs- und Angriffssicherheit für KI-basierte Anwendungen
• Absicherung und Nutzung sensibler Datenbestände
• Ausführungsumgebungen für KI-Anwendungen
• innovative Rechenmethoden

Die Abteilung Sicherheitskritische Dateninfrastrukturen (SCD) befasst sich mit Daten- und Informationsqualität sowie Grundlagen für den Aufbau sicherer, dezentraler Dateninfrastrukturen.
Des Weiteren kümmert sich die Abteilung SCD um die sichere Verwendung, Verteilung und dem Management von Daten. Hier liegt der Fokus auf dem sicheren Bereitstellen von schützenswerten Datenbeständen in einer hochgradig vernetzten Infrastruktur. Dafür werden vor allem Konzepte aus dem Bereich verteilter Systeme verwendet. Hier stehen primär Technologien im Kontext der europäischen Initiative GAIA-X (https://www.gaia-x.eu) im Vordergrund. Eine Hauptaufgabe ist die Weiterentwicklung von Methoden zur Absicherung von Systemen mit Bezug zu Künstlicher Intelligenz. Zusätzlich stehen die Forschung und Entwicklung von Ansätzen im Vordergrund, um Daten hinsichtlich Qualität und Angriffen in verteilten Systemen abzusichern. Datengetriebene Systeme und Technologien, wie etwa Künstliche Intelligenz, lernen ihr Funktionalität nur noch anhand von historischen Daten, und werden nicht mehr explizit programmiert. Dadurch ergibt sich zwangsläufig die Notwendigkeit eines hoch qualitativen und stark gesicherten Datenbestandes, der für das Training (also das Erlernen) der Funktionalität verwendet wird. Ein weiterer Aspekt hierbei ist auch die Erforschung und Analyse von Angriffsszenarien auf Systeme (nicht nur mit Künstlicher Intelligenz) mit Hilfe von kompromittierten Daten, sowie entsprechender Abwehrmaßnahmen.
Die Betrachtung von Methoden zur Steigerung von IT- und KI-Sicherheit ist daher ein essentieller und zentraler Bestandteil des Portfolios der Abteilung KI-SCD.
Die ausgeschriebene Stelle beinhaltet u.a. die folgenden wissenschaftlichen Themenbereiche:

• Forschung und Entwicklung zu Methoden der Feststellung und Verbesserung von Informationssicherheit und Cybersicherheit von klassischen IT Systemen und Systemen mit Bezug zu Künstlicher Intelligenz
• Forschung und Entwicklung zu Ansätzen um Daten hinsichtlich Angriffe auf IT Systeme im Allgemeinen und KI Systemen
• wissenschaftliche Recherche zu Studien und Fachinformationen bezogen auf Vorgehensweisen und Herausforderungen bei der Entwicklung und Implementierung von Konzepten zur Steigerung von IT Sicherheit und KI Sicherheit.
• Erarbeitung von Sicherheitskonzepten für verteilte Systeme
• Einbettung der Lösungsansätze (d.h. Angriffe und Mitigationsverfahren) in verteilte Systeme
• Erforschung und Analyse von potentiellen Angriffsvektoren und Täuschungs-ansätzen auf IT- und KI-Systeme.
• Erarbeitung von Gegenmaßnahmen für Angriffe und Täuschungsansätzen.
• Entwicklung eines Ansatzes zur Bewertung von Risiken und Motiven bzgl. Angriffen auf IT-/KI-Systeme.
• Entwicklung von Methoden und Herangehensweisen im Kontext der Absicherung von klassischen IT Systemen (u.a. Zertifikate, Authentifikation, Verschlüsselung, etc.) und KI Systemen (Angriffssicherheit, Schutzkonzepte, etc.)
• Integration in Frameworks für KI Systeme, mit dem Ziel die erforschten Methodiken direkt praktisch nutzbar und einer breiten Community verfügbar zu machen
• Erarbeitung von Schutzkonzepten für IT- und KI-Systeme inkl. Risiko- und Anforderungsanalyse für Wissenschaft und Industrie.
• Erarbeitung von Methoden um die Auswirkung von Sicherheitsmaßnahme mit der Performance von Systemen in Verbindung zu setzen
• Implementierung von prototypischen Anwendungen und Darstellungen bzgl. IT- und KI-Sicherheit.
• Analyse von notwendigen Verfahrensschritten zur Einbettung von Abwehr-maßnahmen in vorhandene Prozessmodelle.
• Analyse von möglichen Ansätzen zur Integration von Technologien zu dem Zweck der Wahrung und Steigerung der Sicherheit in verteilten Systemen.
• Erstellung wissenschaftlicher (Teil)Beiträge für Publikationen
• Ableitung von Handlungsoptionen für Wissenschaft- und Industrieanwendungen
• Präsentation wissenschaftlicher Ergebnisse
• Steuerung und Management von drittmittelgeförderten und grundfinanzierten Projekten
• fachliche Zuarbeit im Rahmen der Akquise von nationalen / europäischen Drittmitteln

Das erwarten wir von Ihnen:

• abgeschlossenes wissenschaftliches Hochschulstudium (Master / Diplom Uni) der Formalwissenschaften (z.B. Informatik oder Mathematik) oder andere für die Tätigkeit relevante Studiengänge.
• ausgeprägte Kenntnisse der Informationssicherheit
• Kompetenzen im Bereich der Künstlichen Intelligenz
• ausgeprägte Programmierkenntnisse (in der Sprache Python)
• Kompetenzen zur Aufbereitung komplexer wissenschaftlicher Zusammenhänge
• Kompetenzen im Bereich der IT-Security
• Erfahrung in der Analyse und Umsetzung von Softwarelösungen
• Englischkenntnisse in Wort und Schrift

Unser Angebot

Das DLR steht für Vielfalt, Wertschätzung und Gleichstellung aller Menschen. Wir fördern eigenverantwortliches Arbeiten und die individuelle Weiterentwicklung unserer Mitarbeitenden im persönlichen und beruflichen Umfeld. Dafür stehen Ihnen unsere zahlreichen Fort- und Weiterbildungsmöglichkeiten zur Verfügung. Chancengerechtigkeit ist uns ein besonderes Anliegen, wir möchten daher insbesondere den Anteil von Frauen in der Wissenschaft und Führung erhöhen. Bewerbungen schwerbehinderter Menschen bevorzugen wir bei fachlicher Eignung.
Weitere Angaben:
Eintrittsdatum: 01.01.2025
Dauer: 2 Jahre mit Möglichkeit zur Verlängerung und ggf. Entfristung
Beschäftigungsgrad: Vollzeit (Teilzeit möglich)
Vergütung: bis Entgeltgruppe 13 TVöD
Kennziffer: 95055
Kontakt:
Dr. Michael Karl Institut für KI-Sicherheit
Tel.: 02241 20148 909