Zum Inhalt springen
KI & Automatisierung

Wo wir von KI abraten: sechs Fälle aus der Praxis

11 Minuten Lesezeit
Wo wir von KI abraten: sechs Fälle aus der Praxis, Beitrag aus der Kategorie KI & Automatisierung

Von KI raten wir ab, wenn eine Entscheidung Ermessen verlangt, wenn ein Fehler unmittelbar Menschen betrifft, oder wenn die Erklärbarkeit wichtiger ist als die Geschwindigkeit. In der Praxis betrifft das vor allem Bewerberauswahl, Kalkulation, Mahnwesen, verbindliche Fachauskünfte und den direkten Kundenkontakt in kritischen Situationen.

Das Wichtigste in Kürze
  • Der Maßstab ist nicht, ob es technisch geht, sondern was ein Fehler kostet.
  • Wo Menschen betroffen sind, gehört die Entscheidung zu einem Menschen.
  • Ein Modell erzeugt immer eine Antwort, auch wenn es die Grundlage nicht hat.
  • Bei Bewerberauswahl kommen rechtliche Anforderungen hinzu, nicht nur praktische.
  • Kalkulation braucht Verantwortung, keine Schätzung mit selbstsicherem Tonfall.
  • Der Ausweg ist oft nicht Verzicht, sondern eine kleinere Aufgabe: vorbereiten statt entscheiden.
  • Bei verärgerten Kunden ist eine automatische Antwort das genaue Gegenteil von Hilfe.

Wir bauen Automatisierungen und setzen dabei Sprachmodelle ein. Umso wichtiger ist der Hinweis, wo wir es nicht tun, und warum.

Die folgenden sechs Fälle sind echte Anfragen aus Projekten. In allen sechs haben wir abgeraten oder den Auftrag deutlich anders zugeschnitten.

Fall 1: Bewerbungen vorsortieren

Die Anfrage: Ein Betrieb bekam zu einer Stelle vierzig Bewerbungen und wollte sie automatisch in geeignet und ungeeignet trennen lassen.

Warum wir abgeraten haben: Eine solche Sortierung ist eine Entscheidung über Menschen, und sie ist nicht nachvollziehbar. Wenn ein Bewerber fragt, warum er nicht eingeladen wurde, gibt es keine Antwort außer „das System hat so entschieden". Dazu kommen erhebliche rechtliche Anforderungen: Automatisierte Entscheidungen über Personen unterliegen besonderen Regeln, und beim Diskriminierungsschutz reicht es nicht, dass niemand es so gemeint hat.

Was stattdessen geholfen hat: Der Ablauf liest die Bewerbungen aus, legt sie einheitlich ab und erstellt zu jeder eine kurze Übersicht, Abschluss, Berufsjahre, letzte Tätigkeit, Verfügbarkeit. Sortiert wird nicht. Der Betriebsinhaber sieht die vierzig Übersichten in zwanzig Minuten statt in zwei Stunden und entscheidet selbst.

Das ist der Kern: Vorbereiten ja, entscheiden nein.

Fall 2: Angebote automatisch kalkulieren

Die Anfrage: Aus einer Anfragebeschreibung sollte automatisch ein Angebot mit Preis entstehen.

Warum wir abgeraten haben: Ein Sprachmodell erzeugt immer eine Zahl. Es sagt nicht „das kann ich nicht einschätzen", sondern nennt einen Betrag, der plausibel klingt. Bei einer Kalkulation ist genau das gefährlich, der Unterschied zwischen einer guten und einer ruinösen Kalkulation liegt oft in Details, die in der Anfrage gar nicht stehen.

Was stattdessen geholfen hat: Der Ablauf erkennt aus der Anfrage die Leistungsart und schlägt die passende Angebotsvorlage samt Standardpositionen vor. Mengen und Preise trägt der Mensch ein. Ergebnis: Ein Angebot entsteht in fünfzehn statt in vierzig Minuten, und die Verantwortung bleibt dort, wo sie hingehört.

Woran wir die Grenze festmachen
Betrifft ein Fehler unmittelbar Menschen?Ausschluss
Ist eine Begründung nötig?Ausschluss
Trägt jemand Verantwortung für das Ergebnis?nur mit Prüfung
Ist der Fehler sofort erkennbar?meist unkritisch

Unsere eigene Prüfreihenfolge vor jedem Projekt mit Sprachmodellen, Stand August 2026.

Fall 3: Mahnungen automatisch verschicken

Die Anfrage: Offene Posten prüfen und ab Tag 14 automatisch mahnen.

Warum wir abgeraten haben: Nicht wegen der Technik, die ist einfach. Sondern weil eine Mahnung an einen langjährigen Kunden, der gerade eine Reklamation offen hat oder dessen Rechnung fehlerhaft war, Beziehungen beschädigt, die über Jahre gewachsen sind. Der Ablauf weiß nichts von der Reklamation.

Was stattdessen geholfen hat: Der Ablauf erstellt die Liste der überfälligen Posten samt vorbereiteter Schreiben und legt sie einmal wöchentlich vor. Ein Mensch schaut zwei Minuten drauf und gibt frei. In der Praxis wird etwa jeder fünfte Fall zurückgehalten, und genau diese fünf Prozent sind der Grund für den Prüfschritt.

Fall 4: Fachauskünfte an Kunden

Die Anfrage: Ein Chatbot auf der Website sollte technische Fragen zu Anlagen beantworten, Wartungsintervalle, zulässige Kombinationen, Betriebsbedingungen.

Warum wir abgeraten haben: Ein Modell antwortet auch dann, wenn seine Grundlage lückenhaft ist. Bei einer Frage nach der Belastbarkeit einer Konstruktion oder der Zulässigkeit einer Kombination ist eine plausible falsche Antwort ein Haftungsproblem, und der Kunde hat sie schriftlich vom Unternehmen.

Was stattdessen geholfen hat: Der Chatbot beantwortet organisatorische Fragen, Öffnungszeiten, Einsatzgebiet, Ablauf einer Anfrage, Terminvereinbarung, und leitet jede technische Frage an einen Menschen weiter, mit ehrlicher Ansage. Die Zahl der Anfragen ist gestiegen, die Zahl der Rückrufe zu Trivialem gesunken.

Vorhaben ehrlich prüfen

Wir sagen offen, wenn wir von einem Vorhaben abraten, auch wenn wir es bauen könnten. 15 bis 20 Minuten per Google Meet, kostenlos.

Kostenloses Analysegespräch anfordern

Fall 5: Antworten auf Bewertungen

Die Anfrage: Auf Google-Bewertungen sollte automatisch geantwortet werden.

Warum wir abgeraten haben: Bei einer negativen Bewertung ist die Antwort das Gegenteil einer Standardaufgabe. Sie wird von künftigen Kunden gelesen, sie kann eine Auseinandersetzung entschärfen oder verschärfen, und sie verlangt Kenntnis des konkreten Vorgangs. Eine erkennbar automatische Antwort auf eine ernst gemeinte Beschwerde wirkt wie Desinteresse, und wird zunehmend auch als solche erkannt.

Was stattdessen geholfen hat: Eine Benachrichtigung bei jeder neuen Bewertung, mit dem zugehörigen Vorgang, falls auffindbar, und einem Antwortentwurf. Bei fünf Sternen ohne Text wird der Entwurf meist unverändert freigegeben, das ist unkritisch. Bei allem anderen schreibt ein Mensch.

Fall 6: Das erste Gespräch mit dem Kunden

Die Anfrage: Ein Telefonassistent sollte nicht nur Anrufe entgegennehmen, sondern Beratungsgespräche führen.

Warum wir abgeraten haben: Im ersten Gespräch entscheidet sich, ob jemand einem Betrieb zutraut, seine Aufgabe zu lösen. Das hängt an Zwischentönen, Rückfragen und daran, dass jemand die Situation versteht. Ein Assistent kann Angaben aufnehmen, er kann kein Vertrauen aufbauen.

Dazu kommt: Wenn ein Anrufer merkt, dass er mit einer Maschine spricht, ohne dass es angesagt wurde, ist der Schaden größer als jeder Nutzen.

Was stattdessen geholfen hat: Der Assistent nimmt Anrufe außerhalb der Geschäftszeiten entgegen, sagt klar, dass er ein automatischer Dienst ist, erfasst Anliegen und Rückrufwunsch und legt einen Vorgang an. Kein Beratungsgespräch, keine Zusagen.

Das Muster hinter allen sechs Fällen

Liest man die sechs Fälle nebeneinander, fällt auf: In keinem einzigen war die Antwort ein vollständiges Nein. In allen sechs wurde aus einer großen Aufgabe eine kleinere, und die kleinere ließ sich gut lösen.

Das Muster lautet: vorbereiten statt entscheiden.

Aus „Bewerbungen sortieren" wurde „Bewerbungen aufbereiten". Aus „Angebot kalkulieren" wurde „Vorlage vorschlagen". Aus „Mahnungen versenden" wurde „Mahnliste vorlegen". Aus „Fachfragen beantworten" wurde „organisatorische Fragen beantworten und weiterleiten". Aus „auf Bewertungen antworten" wurde „Entwurf vorlegen". Aus „beraten" wurde „aufnehmen".

Der Zeitgewinn ist dabei kleiner als beim ursprünglichen Wunsch, aber er ist real, und er kommt ohne das Risiko.

Warum das fast immer funktioniert: Der große Aufwand steckt bei diesen Aufgaben selten im Entscheiden. Er steckt im Zusammensuchen der Grundlage: die vierzig Bewerbungen öffnen, die richtige Vorlage finden, die offenen Posten heraussuchen, den passenden Vorgang zur Bewertung finden. Genau diesen Teil nimmt die Maschine zuverlässig ab. Die Entscheidung selbst dauert Sekunden, wenn alles vorliegt.

Die praktische Anwendung: Wenn Ihnen jemand ein KI-Vorhaben vorschlägt, das eine Entscheidung übernimmt, fragen Sie nach der Fassung, die nur vorbereitet. In den meisten Fällen bringt sie achtzig Prozent des Nutzens bei einem Bruchteil des Risikos, und sie lässt sich später erweitern, wenn sich zeigt, dass die Vorschläge über Monate stimmen.

Häufige Fragen

Woran erkenne ich, dass eine Aufgabe ungeeignet ist?

Drei Fragen: Betrifft ein Fehler unmittelbar einen Menschen? Muss die Entscheidung begründet werden? Trägt jemand persönlich Verantwortung für das Ergebnis? Ein Ja bei den ersten beiden ist ein Ausschluss.

Ist ein Prüfschritt nicht nur eine Ausrede?

Nein, er verschiebt die Aufgabe von "entscheiden" zu "bestätigen", und das ist ein echter Unterschied im Zeitbedarf. Zwei Minuten Prüfung statt zwanzig Minuten Erstellung ist der übliche Gewinn.

Was ist mit Fällen, in denen ein Fehler harmlos wäre?

Da automatisieren wir gern vollständig: Dokumente ablegen, Daten übertragen, Erinnerungen versenden, Texte zusammenfassen. Der Fehler ist sichtbar und ohne Folgen, das ist die Bedingung.

Ändert sich das mit besseren Modellen?

Bei der Qualität ja, bei der Verantwortungsfrage nein. Wer eine Entscheidung über Menschen trifft, muss sie begründen können, das ist keine Frage der Modellgüte.

Sagen Ihre Wettbewerber dasselbe?

Manche ja, manche nicht. Die Prüffrage für Sie: Lassen Sie sich zu jedem vorgeschlagenen KI-Einsatz erklären, was bei einem Fehler passiert. Wer darauf keine klare Antwort hat, hat darüber nicht nachgedacht.

Der nächste Schritt

Nehmen Sie Ihr geplantes KI-Vorhaben und beantworten Sie die drei Fragen aus der Prüfreihenfolge. Wenn eine davon mit Ja beantwortet wird, suchen Sie die kleinere Aufgabe darin, meistens gibt es sie.

Weiterführend: KI-Datenschutz im Betrieb, Chatbot auf der Website und KI-Telefonassistent. Unser Vorgehen steht unter KI & Automatisierung. Oder anrufen unter 07903 943946.

Weitere Beiträge aus dieser Kategorie

Alle Beiträge