KI-Team aufbauen: inhouse, hybrid, ausgelagert.

Sobald ein Mittelständler mit KI über die ersten Werkzeug-Experimente hinausgeht, kommt die unausweichliche Frage: Wer soll das hier eigentlich machen? Die IT hat keine Kapazitäten, der Datenbeauftragte versteht zwar Datenschutz, aber keine Sprachmodelle, ein Data Scientist ist auf dem Arbeitsmarkt weder zu finden noch zu bezahlen. Die Versuchung ist groß, alles an einen externen Dienstleister zu vergeben. Die andere Versuchung ist, mit einer Werkstudentin und gutem Willen anzufangen. Beide Wege haben ihre Berechtigung — und beide enden oft in einer Sackgasse, wenn die Wahl ohne Kalkül getroffen wird. Drei Setup-Modelle haben sich im Mittelstand bewährt: vollständig intern, hybrid, ausgelagert. Welches das richtige ist, hängt nicht von einem Trend ab, sondern von Reifegrad, Strategie und Budget. Dieser Artikel beschreibt die drei Modelle, ihre Stärken, Schwächen und die Rollen, die wirklich gebraucht werden.

Warum die Setup-Frage so schwer ist.

Die Personalfrage ist im KI-Kontext härter als in den meisten anderen Digital-Themen. Drei Gründe spielen zusammen. Erstens ist der Markt für KI-Spezialisten extrem eng. Ein erfahrener Machine-Learning-Engineer mit fünf Jahren Produktiverfahrung kostet inklusive Nebenkosten in Deutschland je nach Region zwischen 110.000 und 160.000 Euro pro Jahr — und ist meist nur sechs bis zwölf Monate verfügbar, bevor das nächste Angebot lockt.

Zweitens entwickeln sich Werkzeuge und Methoden so schnell, dass eine eigene Aufbau-Anstrengung kaum mit dem Markt mithalten kann. Was 2024 als State-of-the-Art galt, ist 2026 ein Auslaufmodell. Ein mittelständisches Unternehmen kann diese Geschwindigkeit nicht aus eigener Kraft mitgehen — es muss entweder externe Expertise einkaufen oder die eigene Lernkultur radikal stärken.

Drittens ist die Tätigkeit hybrid. Ein gutes KI-Team braucht technische Tiefe, aber gleichzeitig Geschäftsverständnis, Prozesskenntnis, regulatorisches Bewusstsein und die Fähigkeit, mit Fachbereichen produktiv zu arbeiten. Reine Datenwissenschaftler scheitern an dieser Komplexität — sie lösen Probleme, die niemand hatte. Reine IT-Generalisten scheitern an der technischen Tiefe. Der gesuchte Mensch ist die Brückenfigur — und davon gibt es im Mittelstand wenige, weil sie früher andere Berufsbezeichnungen hatten und sich erst jetzt finden.

Modell 1: Vollständig intern.

Im internen Modell baut das Unternehmen ein eigenes KI-Team auf. Typischerweise drei bis acht Personen, je nach Unternehmensgröße. Es gibt eine Leitung, eine oder zwei Personen für technische Implementierung, einen Architekten oder eine Architektin, eine Person für Datenmanagement, eine für Schnittstellen zu Fachbereichen. Bei größeren Mittelständlern kommen Spezialisten für regulatorische Themen, MLOps und Modellbewertung hinzu.

Die Stärken dieses Modells sind unverkennbar. Das Wissen bleibt im Haus, die Loyalität ist hoch, die Geschwindigkeit nach der Einarbeitung ist erheblich. Wer einmal ein gutes Team beisammen hat, kann KI-Themen schnell und tief in die Geschäftsprozesse einbauen. Über drei bis fünf Jahre ist das interne Modell auch wirtschaftlich attraktiv — wenn man die richtigen Leute findet und hält.

Die Schwächen liegen am Anfang. Aufbauphase: zwölf bis vierundzwanzig Monate, bis das Team wirklich liefert. Risiko: Wenn die Schlüsselperson nach achtzehn Monaten wechselt, fängt vieles von vorn an. Investition: ein gut aufgestelltes internes Team mit fünf Köpfen kostet 600.000 bis 900.000 Euro pro Jahr, plus Infrastruktur. Für Unternehmen unter 100 Millionen Euro Jahresumsatz ist dieses Modell selten verhältnismäßig. Es passt zu größeren Mittelständlern mit klarer langfristiger KI-Strategie und ausreichend Anwendungsfällen, um das Team auszulasten.

Modell 2: Hybrid.

Im hybriden Modell kombiniert das Unternehmen einen kleinen internen Kern mit gezielter externer Unterstützung. Typische Aufstellung: ein bis zwei interne Personen, die die Verantwortung tragen, plus externe Partner für Spezialthemen — Modellauswahl, technische Implementierung, regulatorische Bewertung. Das Verhältnis liegt häufig bei 30 Prozent intern, 70 Prozent extern in der Anfangsphase und verschiebt sich über die Jahre Richtung 60 zu 40.

Das hybride Modell hat sich im deutschen Mittelstand als das pragmatischste erwiesen. Es kombiniert die Kontinuität interner Verantwortung mit der Geschwindigkeit und Spezialkompetenz externer Partner. Die internen Personen sind keine Implementer, sondern Übersetzer: Sie kennen das Unternehmen, sie kennen die Anwendungsfälle, sie steuern die externen Partner und sorgen dafür, dass das Wissen im Haus bleibt.

Voraussetzung ist eine kluge Vertragsgestaltung. Externe Partner sind keine verlängerten Werkbänke — sie sollen Wissen übertragen, nicht es horten. Wer in der Beratungspraxis gute hybride Setups sieht, erkennt sie an drei Merkmalen: ein dokumentierter Wissenstransfer (was bleibt im Haus, in welcher Form), klare Exit-Klauseln (was passiert, wenn der Partner wechselt), und gemeinsame Code- und Modell-Eigentumsrechte. Wer das nicht klärt, baut Abhängigkeiten auf, die später schwer aufzulösen sind.

Modell 3: Vollständig ausgelagert.

Im ausgelagerten Modell übernimmt ein externer Dienstleister sämtliche operative KI-Arbeit. Das Unternehmen behält intern nur eine fachliche Steuerungsstelle — meist die IT-Leitung oder eine eigens benannte Person im Geschäftsführungsumfeld. Alle technische Arbeit, alle Modellauswahl, alle Implementierung und Betrieb erfolgen extern.

Dieses Modell ist schneller als alle anderen. Innerhalb von vier bis acht Wochen können erste Anwendungsfälle laufen. Es ist auch in der Initialphase günstig, weil keine Aufbaukosten entstehen. Es passt besonders zu Unternehmen, die KI vor allem als Effizienzthema sehen und keine strategische Differenzierung darüber anstreben. Auch für Branchen mit hohem Standardisierungsgrad — etwa Buchhaltung, einfacher Vertriebsworkflow, Dokumentenklassifikation — ist das ausgelagerte Modell tragfähig.

Die Schwächen werden über die Jahre sichtbar. Erstens entsteht eine Abhängigkeit, die schwer zu lösen ist. Zweitens steigt der Preis: Was im ersten Jahr 80.000 Euro kostet, kostet im vierten Jahr 250.000 Euro, weil die Themen wachsen und der Partner Marktmacht aufbaut. Drittens fehlt das interne Verständnis dafür, was technisch möglich ist — das führt zu einer Bewertung von Vorschlägen, die mehr auf Vertrauen als auf Sachkenntnis basiert. Wer dieses Modell wählt, sollte explizit eine interne Lernphase planen, in der nach zwei bis drei Jahren entschieden wird, ob es so weitergeht oder ob ein hybrides Modell aufgebaut wird.

Welche Rollen wirklich gebraucht werden.

Unabhängig vom Modell gibt es eine Reihe von Rollen, die in jedem KI-Programm vorkommen. Sie können bei kleinen Unternehmen von einer Person übernommen werden, bei größeren sind sie getrennt. Wer die Rollen kennt, kann besser entscheiden, welche intern besetzt werden müssen und welche extern bezogen werden können.

Drei der sieben Rollen sind in fast jedem Mittelstand schon vorhanden, nur nicht so benannt. Die Datenbeauftragte kann mit etwas Schulung Compliance-Themen abdecken. Eine Mitarbeiterin aus der Personalentwicklung wird zur Change-Verantwortlichen. Ein erfahrener IT-Architekt entwickelt sich zur KI-Architektin. Wer diese internen Kapazitäten ehrlich kennt, kann sein externes Engagement gezielter planen.

Der Vergleich auf einen Blick.

Eine zusammenfassende Übersicht — bewusst grob, aber ausreichend für die strategische Diskussion in der Geschäftsführung.

Die Tabelle ist Diskussionsgrundlage, nicht Entscheidung. Die richtige Wahl hängt von der strategischen Bedeutung ab, die KI für das Unternehmen hat. Wer KI als Wettbewerbsfaktor sieht, wird über die Jahre internes Wissen aufbauen müssen. Wer KI als Effizienzwerkzeug sieht, kann mit dem ausgelagerten Modell gut leben — solange er die Abhängigkeit bewusst akzeptiert.

Worauf bei externen Partnern zu achten ist.

Egal welches Modell gewählt wird — in fast allen Fällen sind externe Partner beteiligt. Die Auswahl dieser Partner entscheidet über Erfolg und Misserfolg. In der Beratungspraxis bewähren sich drei Filter, mit denen sich gute von schlechten Partnern unterscheiden lassen.

Erstens: Branchenerfahrung im Mittelstand. Ein Anbieter, der nur mit DAX-Konzernen gearbeitet hat, bringt Methoden mit, die im Mittelstand nicht skalieren. Wer schon mehrere Projekte mit Familienunternehmen, Hidden Champions oder Mittelständlern Ihrer Größe abgeschlossen hat, kennt die Rahmenbedingungen — knappe Ressourcen, knappe IT, knappe Geduld.

Zweitens: Bereitschaft zur Wissensübertragung. Ein Partner, der bei Nachfragen ausweichend wird oder seine Modelle als „Black Box“ verkauft, baut Abhängigkeit auf. Ein guter Partner dokumentiert, schult, übergibt. Im Idealfall ist er nach drei Jahren teilweise überflüssig — weil das interne Team gewachsen ist. Diese Bereitschaft ist messbar an konkreten Klauseln im Vertrag.

Drittens: Klarheit über Modelle, Datenstandorte, Subunternehmer. Wer auf konkrete Nachfragen ausweicht — „welches Modell genau, in welcher Region gehostet, welche Subunternehmer im Hintergrund“ — hat etwas zu verbergen. Im AI-Act-Umfeld ist diese Klarheit Pflicht, nicht Kür. Wer hier sauber arbeitet, kann seine Antworten in fünfzehn Minuten geben. Wer das nicht kann, ist als strategischer Partner ungeeignet.

Womit Sie pragmatisch anfangen können.

Wer heute vor der Setup-Entscheidung steht, sollte nicht das Endbild planen, sondern die nächsten zwölf Monate. Drei Schritte haben sich bewährt. Erstens: eine ehrliche Bestandsaufnahme der internen Kompetenzen. Welche Mitarbeitenden haben heute schon technische Affinität, welche bringen Prozessverständnis mit, welche könnten mit Schulung in eine KI-Rolle wachsen.

Zweitens: eine bewusste Entscheidung über die nächsten ein bis zwei Anwendungsfälle. Wer mit einem klar abgegrenzten Anwendungsfall startet, kann ihn mit einer Mischung aus interner Verantwortung und externer Implementierung lösen. Aus diesem ersten Projekt entstehen Erkenntnisse, die das langfristige Setup besser informieren als jede Strategieübung.

Drittens: eine klare Person mit Verantwortung. Auch wenn das endgültige Team erst über zwei Jahre wächst — eine Person muss heute schon den Hut auf haben. Diese Person braucht keine Doktorarbeit in maschinellem Lernen, aber Geschäftsverständnis, Lernbereitschaft und Rückhalt von oben. Wer diese Person nicht hat, sollte sie zuerst finden — alles andere kommt danach.

Sie überlegen, wie Sie ein KI-Team für Ihr Unternehmen aufstellen? Unverbindlich anfragen — wir gehen gemeinsam Ihre Kompetenzen, Anwendungsfälle und realistische Budgetspannen durch — und benennen das Setup-Modell, das zu Ihrer Lage passt.