KI Security Architect

Architektur KI-Nutzung - Bedrohungsmodelle - Schutzmechanismen - Sicherheitskonzepte - IAM

KI Security Architect

Aufgaben

• Aufbau einer ganzheitlichen Security-Architektur für KI-Nutzungsszenarien
• Konzeption einer ganzheitlichen Security-Architektur für Chat-basierte Interaktionen, RAG-Anwendungen, agentische Workflows und die Nutzung von Foundation Models
• Entwicklung von Bedrohungsmodellen und Schutzmechanismen gegen u. a. Prompt Injection (direkt/indirekt), Jailbreaking, Model Manipulation, Data Poisoning, Insecure Output Handling, sicherheitsrelevante Halluzinationen und Missbrauch autonomer Agenten
• Sicherheitskonzepte für Retrieval-Prozesse, Vektordatenbanken und angebundene Wissensquellen (unberechtigte Informationsaggregation, Datenabflüsse, Cross-User-/Cross-Tenant-Leakage)
• Gestaltung von Identitäten, Rollen und Berechtigungen für Nutzer, Modelle, Agenten und Tools
• Konzeption wiederverwendbarer Plattformmechanismen für Input-/Output-Validierung, Prompt-/Context-Schutz, Content Filtering, Policy Enforcement, Tool-/Plugin-Freigaben, Secrets Handling, Sandboxing sowie Beschränkung und Monitoring von Agent Capabilities

Anforderungen

• Mehrjährige Erfahrung als Security Architect (idealerweise mit Cloud- /Application-Security-Schwerpunkt)