AI Principal Architect
kyndryl
| Company | kyndryl |
| Category | Data & Analytics |
| Location | 6 Locations |
| Remote | Remote |
| Employment | Not stated |
| Level | Lead |
| Salary | Not stated by the employer |
| Posted | 2 Aug 2026 |
| Last verified | 10 Aug 2026 |
| Source | Employer ATS (workday) |
Description
Wer wir sind
Bei Kyndryl betreiben und konzipieren wir die unternehmenskritischen Technologiesysteme neu, die den führenden Unternehmen der Welt Vorteile verschaffen. Wir sind am Puls des Fortschritts – mit bewährter Expertise und einem kontinuierlichen Fluss KI-gestützter Erkenntnisse, die intelligentere Entscheidungen, schnellere Innovationen und einen dauerhaften Wettbewerbsvorteil ermöglichen. Für unsere Mitarbeiter – Kyndryls – bedeutet das, zielgerichtete Arbeit zu leisten, die den menschlichen Fortschritt vorantreibt. Schließen Sie sich uns an und erleben Sie ein flexibles, unterstützendes Umfeld, in dem Ihr Wohlbefinden an erster Stelle steht und Ihr Potenzial voll ausgeschöpft werden kann.
Ihre Rolle
Your role:
The ideal candidate will be responsible for designing the end-to-end Agentic AI platform and solution architecture. In this role, you will define robust deployment patterns across the entire software lifecycle—from initial sandbox and POC environments to customer landing zones, staging, production, and ongoing BAU support. You will architect seamless integrations connecting AI agents with enterprise IT systems, including ITSM tools, CMDB, knowledge repositories, monitoring platforms, cloud services, source code management, and identity providers. Additionally, you will ensure all AI agents are deployed with enterprise-grade security, data privacy, full observability, risk management controls, human-in-the-loop approval workflows, and strict alignment with overarching enterprise architecture standards.
What you will do:
• Target-State & Topology Design: Architect end-to-end agentic AI frameworks—including runtime, orchestration, LLMs, and secure cloud deployment topologies.
• Standards & NFR Definition: Establish reusable reference architectures and non-functional requirements (NFRs) for scalability, availability, performance, and disaster recovery.
• Security & Access Governance: Design robust security patterns covering data residency, encryption, secrets management, identity access (RBAC/ABAC), and audit logging.
• Guardrails & Compliance: Build human-in-the-loop controls, approval gates, prompt versioning, and compliance documentation for Architecture Review Board (ARB) approvals.
• Enterprise Integration: Define API and event-driven integration patterns connecting agents with tools like ServiceNow, GitHub, SharePoint, and monitoring platforms.
• RAG & Knowledge Strategy: Architect Retrieval-Augmented Generation (RAG) pipelines, vector search strategies, metadata models, and enterprise data access.
• Design Oversight: Review and align engineering designs from platform, agent, and data engineers against target architecture standards.
• Delivery & Governance: Produce architectural blueprints and lead technical governance across performance testing, security validation, and go-live readiness.
Your Future at Kyndryl
The career path ahead is full of exciting opportunities to grow and advance within the job family. With dedication and hard work, you can climb the ladder to higher bands, achieving coveted positions such as Principal Engineer or Vice President of Software. These roles not only offer the chance to inspire and innovate, but also bring with them a sense of pride and accomplishment for having reached the pinnacle of your career in the software industry.
Ihre Persönlichkeit
You’re good at what you do and possess the required experience to prove it. However, equally as important – you have a growth mindset; keen to drive your own personal and professional development. You are customer-focused – someone who prioritizes customer success in their work. And finally, you’re open and borderless – naturally inclusive in how you work with others.
Required Technical and Professional Experience
• Agentic AI & Orchestration Architecture: 10+ years in enterprise/cloud architecture with hands-on experience designing AI agent runtimes, multi-agent orchestration, durable execution, and tool registries (LangChain, LangGraph, AutoGen, CrewAI, MCP).
• LLM & RAG Solutions: 3+ years in GenAI/LLM platforms—architecting RAG pipelines, vector search strategies, model routing, prompt governance, guardrails, and integrations across Azure OpenAI, Gemini, Claude, Llama, and Mistral.
• Cloud & Enterprise Security: Expertise in multi-cloud (Azure, GCP, AWS) landing zones, Kubernetes, API gateways, Zero Trust models, RBAC/ABAC, data encryption/residency, and SIEM/SOC integrations.
• AMS & ITSM Integration: Proven track record architecting enterprise integration patterns for ITSM platforms (ServiceNow, CMDB), developer tools (GitHub, Jira), knowledge repositories (SharePoint, Confluence), and monitoring systems.
• Governance & Lifecycle Management: Deep experience managing the full AI agent lifecycle, setting low-code/no-code platform guardrails, and enforcing security, privacy, and safety controls to mitigate hallucinations.
• Architecture Governance & NFRs: Skilled in creating Architecture Decision Records (ADRs), NFR matrices, solution design documents, and guiding teams through ARB, security reviews, and production readiness gates.
• Production-Grade Delivery: Demonstrated capability in designing compliant, secure, scalable, and high-availability cloud-native architectures under enterprise constraints.
• Core Artifact Creation: Responsible for producing target-state blueprints, deployment topologies, security packs, data retrieval strategies, and risk logs for enterprise deployment.
Preferred Technical and Professional Experience
• Master Degree & any relevant certification
Ihre Diversität
Das „Kyn“ in Kyndryl bedeutet „Kinship“ (Verwandtschaftliches Verhältnis) und steht für die starken Bindungen, die wir untereinander, zu unseren Kunden und zu unseren Gemeinschaften haben. Wir legen Wert darauf, dass sich alle Kyndryls einbezogen fühlen und heißen Menschen aller Kulturen, Hintergründe und Erfahrungen willkommen. Auch wenn Sie nicht alle Voraussetzungen erfüllen, möchten wir Sie ermutigen, sich zu bewerben. Wir glauben an Wachstum und sind gespannt, was Sie beitragen können. Bei Kyndryl hat uns das Feedback unserer Mitarbeiter gezeigt, dass das Zugehörigkeitsgefühl der wichtigste Faktor für das Engagement unserer Mitarbeiter ist. Dieses Gefühl der Zugehörigkeit – ein geschätztes, respektiertes und vertrauenswürdiges Mitglied des Teams zu sein – ist grundlegend für unsere Kultur und sorgt für großartige Erlebnisse für unsere Kunden. Unser Engagement, jeden in unserem Unternehmen willkommen zu heißen, bedeutet, dass Kyndryl Ihnen die Möglichkeit gibt, sich zu entfalten und zu unserer Kultur der Empathie und des gemeinsamen Erfolgs beizutragen. Das ist das Motto von Kyndryl.
Was Sie erwarten können:
Ihre Karriere bei uns ist nicht nur ein Job – es ist ein Abenteuer mit Sinn. Wir bieten eine dynamische, hybride Unternehmenskultur, die Ihr Wohlbefinden fördert und Ihnen die Möglichkeit gibt, sich weiterzuentwickeln. Unsere „Be Well“-Programme sind sorgfältig konzipiert, um Ihre finanzielle, geistige, körperliche und soziale Gesundheit zu unterstützen – denn wir wissen, dass Sie Ihr Bestes geben, wenn Sie sich am besten fühlen.
Bereits ab Ihrem ersten Tag werden Sie in bedeutsame Arbeit eintauchen, die die Systeme antreibt, auf die sich unsere Kunden täglich verlassen. Sie leisten nicht nur Ihren Beitrag, sondern bewirken etwas, indem Sie sinnvolle Projekte in Angriff nehmen, die Ihre Fähigkeiten schärfen und Ihr Wachstum fördern.
Wir sind hier, um Sie auf Ihrem Weg zu unterstützen. Mit leistungsstarken Tools zur Planung Ihres Karrierewegs, individuellen Entwicklungszielen, die auf Ihre Ambitionen abgestimmt sind, und kontinuierlichem Feedback, das Sie inspiriert und auf Kurs hält, haben Sie alles, was Sie brauchen, um erfolgreich zu sein und sich weiterzuentwickeln. Sie entwickeln gefragte Fähigkeiten, um Ihre Karriere voranzutreiben und Ihre Ziele zu erreichen, und erhalten Zugang zu innovativen Lernmöglichkeiten – von Zertifizierungen bei Microsoft, Google und Amazon bis hin zu Coaching und praktischen Erfahrungen. Dabei sind Sie Teil einer Kultur, die Empathie, kontinuierliches Lernen und den Einsatz für gemeinsamen Erfolg schätzt.
Wir möchten, dass Sie bei uns erfolgreich sind – und wir unterstützen Sie dabei. Sind Sie bereit, etwas zu bewirken? Schließen Sie sich uns an und gestalten Sie mit, was als Nächstes kommt.
Empfehlen Sie sich!
Wenn Sie jemanden kennen, der bei Kyndryl arbeitet, wählen Sie bei der Frage „Wie haben Sie von uns erfahren?“ während des Bewerbungsprozesses die Option „Mitarbeiterempfehlung“ und geben Sie den Namen Ihres Kontakts und die Kyndryl-E-Mail-Adresse ein.