Welche KI-Kompetenzen ein Team wirklich braucht.

Sobald ein Geschäftsführer KI ernst nimmt, kommt die Frage: Wen brauche ich dafür im Haus? Data Scientist? Prompt Engineer? MLOps-Spezialist? Diese Rollen klingen technisch, kosten je nach Markt zwischen 80.000 und 150.000 Euro im Jahr und werden mit großer Selbstverständlichkeit empfohlen — meist von denen, die sie verkaufen. Für mittelständische Unternehmen ist die Frage anders zu stellen. Es geht nicht darum, jede mögliche Spezialistenrolle zu besetzen, sondern darum, welche Kompetenzen wirklich nötig sind, welche extern bezogen werden können und welche im bestehenden Team aufgebaut werden müssen. Wer hier falsch entscheidet, verbrennt Personalkosten ohne Wirkung oder verzichtet auf Kompetenzen, die der Wettbewerb längst aufbaut. Dieser Artikel ordnet die Rollen ein, benennt die Mindestkompetenzen, die jedes mittelständische Unternehmen braucht, und zeigt, wo der Aufbau spezialisierter Rollen sich lohnt — und wo nicht. Im Mittelpunkt steht eine Frage, die selten klar gestellt wird: Was muss man wirklich im Haus haben, was kann man kaufen, was lässt man am besten ganz?

Drei Ebenen von KI-Kompetenz.

Bevor die Rollenfrage geklärt werden kann, hilft es, drei Ebenen von KI-Kompetenz zu unterscheiden. Sie haben unterschiedliche Anforderungen, unterschiedliche Knappheit am Arbeitsmarkt und unterschiedliche Wege des Aufbaus.

• Anwenderkompetenz: Die Fähigkeit, KI-Werkzeuge wie Sprachmodelle, Bildgeneratoren oder Office-Assistenten produktiv im eigenen Beruf einzusetzen. Brauchbar für nahezu alle Wissensarbeiter, aufbaubar in drei bis sechs Monaten Praxis.
• Integrationskompetenz: Die Fähigkeit, KI-Werkzeuge in Prozesse, Datenflüsse und bestehende Systeme zu integrieren. Brauchbar für IT-Generalisten, Prozessverantwortliche, Solution-Architekten. Aufbaubar in einem Jahr gezielter Arbeit.
• Entwicklungskompetenz: Die Fähigkeit, eigene KI-Anwendungen zu bauen, Modelle zu trainieren, Datenpipelines zu programmieren. Brauchbar für spezialisierte Rollen mit technischem Hintergrund. Aufbau erfordert solide Vorbildung plus zwei bis drei Jahre Praxis.

Die meisten mittelständischen Unternehmen brauchen die Anwenderkompetenz flächendeckend, die Integrationskompetenz in einer kleinen Gruppe und die Entwicklungskompetenz selten oder gar nicht. Wer diese Verteilung kennt, kann seine Personalentscheidungen sortieren.

Welche Rollen Marketing-Etiketten sind — und welche substantiell.

Der KI-Arbeitsmarkt produziert ständig neue Rollenbezeichnungen, die teils inhaltlich kaum unterscheidbar sind. Eine Sortierung, ohne Anspruch auf Endgültigkeit:

Manche dieser Rollen sind Marketing-Etiketten, die in mittelständischen Unternehmen kaum produktiv besetzt werden können. Ein Vollzeit-Prompt-Engineer löst meist Probleme, die in zwanzig Stunden Schulung der Fachabteilung verschwinden würden. Ein Data Scientist ohne entsprechende Datenbasis langweilt sich. Die Versuchung, „etwas mit KI“ einzustellen, führt häufig zu Fehlbesetzungen.

Die Mindestkompetenz: Was jedes Unternehmen braucht.

Unabhängig von Größe und Strategie braucht jedes mittelständische Unternehmen ein Mindestmaß an KI-Kompetenz. Diese Mindestkompetenz ist keine spezialisierte Rolle, sondern eine Verteilung über mehrere Personen.

Erstens: Eine breite Anwenderbasis. Mindestens 50 Prozent der Wissensarbeiter sollten innerhalb von sechs bis zwölf Monaten in der Lage sein, ein Sprachmodell für tägliche Aufgaben sinnvoll zu nutzen. Diese Verbreitung passiert nicht von selbst — sie braucht Schulungsangebote, klare Rahmenbedingungen und Multiplikatoren.

Zweitens: Ein bis drei Power-User pro Fachbereich. Mitarbeitende, die KI besonders intensiv nutzen, Standards entwickeln und Kollegen unterstützen. Diese Rolle ist meist keine eigene Stelle, sondern eine Erweiterung bestehender Aufgaben — mit entsprechender Zeitfreigabe.

Drittens: Eine zentrale Koordination. Eine Person — oft aus der IT, manchmal aus dem Stab — die den Überblick behält: Welche Tools sind im Einsatz, welche sind freigegeben, welche Risiken gibt es, welche Anbieterverträge laufen? Diese Rolle muss nicht Vollzeit sein, aber sie muss verbindlich benannt sein.

Wann sich ein KI-Verantwortlicher lohnt.

Ab welcher Unternehmensgröße eine dedizierte Rolle KI-Verantwortlicher sinnvoll wird, ist umstritten. Praktisch lässt sich die Schwelle an drei Indikatoren ablesen, die zusammen auftreten sollten.

1. Mehr als fünf produktive KI-Anwendungen oder -Tools im Haus, mit echtem Geschäftseinfluss.
2. Ein Datenschutz- oder AI-Act-Sachverhalt, der laufende Aufmerksamkeit erfordert (etwa weil personenbezogene Daten oder Hochrisiko-Anwendungen im Spiel sind).
3. Ein Volumen an internen Anfragen, das eine zentrale Koordinationsstelle rechtfertigt — mindestens 10 bis 15 Stunden pro Woche.

Treffen alle drei Indikatoren zu, lohnt sich eine dedizierte Rolle — meist als Stab oder in der IT verortet, oft in Teilzeit, manchmal auch in Vollzeit. Treffen nur ein oder zwei zu, reicht eine kleinere Lösung: ein Mitarbeiter mit 20–30 Prozent seiner Zeit für KI-Themen, ein externes Mandat oder eine Rotationsregelung.

Vermeiden sollte man zwei Extreme: Erstens die zu frühe Vollzeit-Stelle, die mangels Auslastung Themen erfindet. Zweitens das endlose Aufschieben, bis die Themen jeden Mitarbeitenden überfordern. Beide Muster sind regelmäßig zu beobachten.

Wann Eigenentwicklung Spezialisten verlangt.

Wenn ein Unternehmen über Standardanwendungen hinausgeht und eigene KI-Anwendungen entwickelt — etwa eine eigene Suchmaschine über interne Dokumente, ein eigenes Prognosemodell für die Disposition, ein eigenes Klassifikationssystem für Tickets — verändert sich die Rollenfrage grundlegend. Dann werden technische Spezialisten relevant, die in der Anwenderebene nicht vorgesehen sind.

Drei Optionen für diesen Fall: Externe Entwickler einkaufen, einen Implementierungspartner mandatieren oder interne Spezialisten aufbauen. Jede Option hat ihre Berechtigung, und die richtige Wahl hängt vom Umfang, von der Wiederholungsfrequenz und vom strategischen Wert der Anwendung ab. Eine einmalige Entwicklung ist meist extern besser aufgehoben — eine laufende Plattform, die das Geschäft mit prägt, gehört eher ins Haus.

Wichtig ist, sich nicht in die Sackgasse zwischen den Optionen zu begeben. Wer halb-halb startet — externe Berater entwickeln, interne Generalisten betreiben — hat oft ein System, das nach dem Beraterabschied niemand mehr versteht. Klare Verantwortlichkeiten von Beginn an sind wichtiger als die spätere Stellenbeschreibung.

Recruiting: Was am Markt wirklich verfügbar ist.

Der Arbeitsmarkt für KI-Rollen ist verzerrt. Manche Rollen sind extrem knapp und entsprechend teuer (Machine Learning Engineers mit Industrieerfahrung), andere sind zwar in Stellenanzeigen häufig, aber nicht so eindeutig definiert, wie es scheint (Prompt Engineers). Wer pauschal einen KI-Experten sucht, ohne die Rolle präzise zu definieren, kauft entweder am Bedarf vorbei oder überzahlt.

Konkrete Beobachtungen aus dem Mittelstand: Klassische ML-Engineers wollen meist nicht in einen Mittelständler — sie zieht es zu Tech-Unternehmen mit großen Datenmengen und entsprechender Infrastruktur. Wer doch jemanden gewinnen kann, zahlt deutlich über DACH-Branchenüblich. Realistischer ist es, IT-Generalisten gezielt in Richtung KI weiterzubilden — diese Mitarbeitenden kennen das Unternehmen bereits, sind günstiger und schneller einsatzfähig.

Für die meisten mittelständischen Unternehmen ist eine Mischstrategie sinnvoll: Aufbau interner Generalistenkompetenz, gezielter Einkauf externer Spezialisten projektweise, ein einzelner intern verankerter Koordinator. Diese Mischung skaliert mit dem tatsächlichen Bedarf — und vermeidet das Problem leerer Vollzeitstellen, die mit Sondervorhaben gefüllt werden müssen.

Soft Skills, die unterschätzt werden.

Im Fokus stehen meist technische Kompetenzen. In der Praxis entscheiden aber oft Soft Skills darüber, ob KI-Initiativen wirken. Drei Kompetenzen werden regelmäßig unterschätzt.

Erstens: Übersetzungsfähigkeit zwischen Fach und Technik. KI-Projekte scheitern häufig nicht an Modellen, sondern daran, dass die Fachabteilung nicht klar formulieren kann, was sie braucht — und die Technik nicht klar nachfragt. Wer diese Übersetzung beherrscht (oft eine Person aus der Mitte zwischen Fach und IT), hat einen unschätzbaren Wert.

Zweitens: Skepsis ohne Zynismus. Mitarbeitende, die KI-Ergebnisse kritisch prüfen, ohne sie pauschal abzulehnen, sind in Pilotprojekten Gold wert. Sie finden die Schwächen, die in Demos verschwiegen werden, und sind trotzdem konstruktiv genug, an Lösungen mitzuwirken.

Drittens: Geduld in Lernkurven. KI-Einführungen brauchen Wochen und Monate, nicht Tage. Wer in dieser Zeit dranbleibt, Routinen pflegt und mit kleinen Fortschritten zufrieden ist, wird zum Multiplikator. Wer schnell die Lust verliert oder Sofortwirkung erwartet, bremst das Team. Diese Eigenschaften lassen sich nicht im Lebenslauf ablesen — sie zeigen sich in den ersten Wochen.

Was die richtige Rollenstruktur in der Praxis kostet.

Eine grobe Rechnung für ein mittelständisches Unternehmen mit 200 Mitarbeitenden, das KI ernsthaft einführt, aber nicht zum Tech-Unternehmen werden will:

• Anwenderschulung breit: 150–300 Stunden Schulungsaufwand pro Jahr, verteilt auf alle Mitarbeitenden. Kostet in Eigenarbeit kaum Geld, in externer Begleitung 15.000–30.000 € pro Jahr.
• Power-User-Programm: 5–10 Personen mit je 5–10 Prozent Zeitfreigabe. Entspricht einer halben Vollzeitstelle, verteilt.
• Zentrale Koordination: 30–60 Prozent einer Stelle, intern verortet. Kosten je nach Position: 25.000–50.000 € pro Jahr.
• Externe Spezialisten projektweise: 30.000–80.000 € pro Jahr je nach Projektvolumen.

In Summe entspricht das einer Jahresinvestition von rund 100.000 bis 180.000 Euro für ein Unternehmen mit 200 Mitarbeitenden — was sich gegen den erwarteten Produktivitätsgewinn rechnen muss. In den meisten Fällen amortisiert sich diese Investition innerhalb von 18 bis 36 Monaten. Wer deutlich weniger investiert, bekommt ein KI-Programm, das schöne Demos liefert, aber keine flächige Wirkung. Wer deutlich mehr investiert, leistet sich Strukturen, die zur Größe nicht passen.

Sie wollen die richtige KI-Rollenstruktur für Ihr Unternehmen klären? Unverbindlich anfragen — wir schauen gemeinsam auf Größe, Anwendungsfelder und realistische Personalentscheidungen.