KI unter menschlicher Kontrolle: Wie man KI einsetzt, ohne die Kontrolle zu verlieren
TL;DR
KI unter menschlicher Kontrolle (Human-in-Control AI) ist eine Möglichkeit, KI im IT-Servicemanagement einzusetzen, die mit der Erweiterung Ihres Teams beginnt und sich im Laufe der Zeit darauf erstreckt, dass KI-Agenten Aufgaben im Namen Ihres Teams erledigen. Die Konstante dabei ist stets die menschliche Kontrolle: Ihr Team genehmigt, was die KI tut, bevor sie aktiv wird, und überwacht und justiert ihr Handeln, sobald das Vertrauen in die KI wächst.
Am Ende der Erweiterung erstellt die KI Entwürfe und macht Vorschläge. Antwortentwürfe, Kategorienempfehlungen, prognostizierte Prioritäten. Ihr Team überprüft sie, bevor etwas einen Enduser erreicht.
Je weiter Sie gehen, desto mehr übernehmen KI-Agenten. Sie handeln, anstatt nur zu assistieren. Menschliche Kontrolle bedeutet, dass Sie diese Aktionen zunächst freigeben und später, sobald ausreichend Vertrauen aufgebaut ist, dazu übergehen, die Aktivitäten der KI-Agenten zu überwachen. Ihr ITSM-Tool bleibt durchgehend die Grundlage: Hier werden Tickets protokolliert, weitergeleitet und gelöst, und hier liegt auch die Verantwortung.
Dies ist der praktischste Weg, um Nutzen aus KI zu ziehen, ohne das Risiko zu schnell voranzuschreiten. Sie erweitern die Rolle der KI Schritt für Schritt und behalten dabei jederzeit die Kontrolle. Es ist die langweilige Version von KI. Es ist auch die, die tatsächlich in der Praxis funktioniert.
Richtig eingesetzt, entlastet KI Ihr Team. Schlecht umgesetzt, sorgt sie lediglich für neue Probleme.
Der Hauptvorteil von KI unter menschlicher Kontrolle
- Ihr Team profitiert von der Geschwindigkeit der KI und dem Urteilsvermögen des Menschen – und Ihre Enduser erhalten einen Service, dem sie vertrauen können.
Das Hauptrisiko, dem Human-in-Control AI entgegenwirkt
- KI ohne Aufsicht führt zu falschen Antworten, frustrierten Endusern und Entscheidungen, die niemand erklären kann.
Die Schlüsselaktion der Human-in-Control AI
- Entscheiden Sie, wo KI selbst handeln darf, wo sie überprüft werden muss und wo sie überhaupt nicht einbezogen werden sollte. Machen Sie diese Regeln klar.
Für wen KI unter menschlicher Kontrolle ist
- Serviceleiter entscheiden, wie viel Autonomie sie der KI in ihren Tools geben möchten.
- Teams, die KI jetzt einsetzen und sich Sorgen machen, sich zu sehr auf sie zu verlassen.
- Teams, die KI derzeit nicht nutzen und befürchten, sich zu sehr auf sie zu verlassen.
Wann Human-in-Control AI zählt
- Wenn Sie KI-Funktionen zum ersten Mal einführen.
- Wenn schon etwas schiefgelaufen ist, weil der KI zu viel Autonomie eingeräumt wurde.
- Wenn Ihr Team erwägt, KI in Ihrem IT-Servicedesk zu implementieren, aber nicht zu viel Kontrolle aufgeben möchte.
Key Takeaway
- Die zuverlässigsten KI-Setups im Servicemanagement sind die, bei denen der Mensch die Kontrolle über Entscheidungen behält, selbst wenn die KI einen immer größeren Teil der Arbeit übernimmt.
Was KI unter menschlicher Kontrolle eigentlich bedeutet
KI unter menschlicher Kontrolle ist eine einfache Idee: KI erledigt die schwere Aufgabe, und die Menschen behalten die Verantwortung für die Entscheidungen, die wichtig sind. Manchmal wird es "Human-in-the-loop" genannt, obwohl diese Formulierung verschiedene Dinge in verschiedenen Kontexten bedeuten kann.
Im Servicemanagement spielt sich das Prinzip in einigen Bereichen ab:
KI schlägt vor, Menschen entscheiden: Vorgeschlagene Antworten, empfohlene Kategorien, prognostizierte Prioritäten: Alles wird einem Bearbeiter präsentiert, der es akzeptieren, bearbeiten oder ablehnen kann. Die KI arbeitet schnell. Der Bearbeiter behält die Kontrolle darüber, was rausgeht.
KI übernimmt Routinefälle, Menschen kümmern sich um Ausnahmen: Wiederkehrende, planbare Arbeiten werden automatisiert. Alles Unklare, Sensible oder Ungewöhnliche wird zu einer Person eskaliert.
KI ist transparent: Ihr Team kann sehen, was die KI tut und warum. Wenn die KI etwas falsch macht, ist das nachvollziehbar.
Enduser können jederzeit eine Person erreichen: Kein Kunde bleibt jemals in einer Chatbot-Schleife stecken, weil das System ihn nicht rauslässt. Die Eskalation zu einem Menschen ist immer nur einen Klick oder eine Nachricht entfernt.
Warum dies im IT-Servicemanagement wichtiger ist als anderswo
Eine falsche Antwort in einer Suchmaschine ist nervig. Eine falsche Antwort in einem Kreativtool lässt sich in fünf Minuten beheben. Eine falsche Antwort eines IT-Serviceteams kann Benutzer aussperren, SLAs übersehen, Sicherheitsrisiken schaffen und Vertrauen verspielen, bis es ganz weg ist.
Bei der Arbeit der IT-Serviceteams geht es immer um Menschen. Menschen, die frustriert, verwirrt, in Eile sind oder mit etwas Sensiblem zu tun haben. Das ist genau der Kontext, mit dem die KI allein zu kämpfen hat. Dass ein Mensch im Entscheidungsprozess eingebunden ist, macht den Einsatz von KI in diesem Umfeld sicher. Das hat auch eine rechtliche Dimension. Wenn ein KI-Agent etwas unternimmt, das gegen eine Vorschrift oder eine gesetzliche Verpflichtung verstößt, liegt die Verantwortung bei Ihrer Organisation und den Personen, die sie betreiben. KI trägt keine rechtliche Verantwortung, Ihr Team schon.
Es gibt auch einen organisatorischen Grund. Wenn etwas schiefgeht, muss jemand erklären können, was passiert ist. "Die KI hat es getan" ist keine Antwort, die Ihr CIO, Ihre Auditoren oder Ihre Enduser akzeptieren werden. KI unter menschlicher Kontrolle sorgt dafür, dass die Verantwortlichkeiten klar geregelt bleiben.
Wie KI unter menschlicher Kontrolle in der Praxis aussieht
1. Antwortvorschläge zur Überprüfung
Anstatt dass die KI eine Antwort direkt an einen Enduser sendet, entwirft sie lediglich eine. Ihr Bearbeiter überprüft den Entwurf, überarbeitet ihn bei Bedarf und versendet ihn. Der Bearbeiter bleibt rechenschaftspflichtig. Der Melder erhält eine Antwort, die von einer Person gesehen wurde.
Dies ist heute die häufigste Form von KI unter menschlicher Kontrolle in Servicedesks und der einfachste Einstieg.
2. KI-gestützte Klassifizierung mit Möglichkeit zur manuellen Übersteuerung
Die KI schlägt vor, wohin ein Ticket gehen und welche Priorität es haben sollte. Bearbeiter können den Vorschlag annehmen oder ändern. Im Laufe der Zeit verbessern die Korrekturen das Modell. Die Entscheidung liegt weiterhin bei der Person.
3. Wissensvorschläge
Die KI stellt den Bearbeitern und Meldern relevante Artikel als Ausgangspunkt zur Verfügung. Der Mensch wählt aus, was verwendet werden soll.
4. Chatbots mit sauberer Übergabe
Für vorhersehbare Anfragen übernehmen Chatbots die Konversation. Für alles, was außerhalb ihres Anwendungsbereichs liegt, oder wenn der Enduser danach fragt, übergeben sie es an einen Bearbeiter inklusive dem kompletten Kontext. Keine Sackgassen.
5. Meldung, dass Probleme zur Überprüfung gekennzeichnet werden
Die KI fasst Ticketdaten zusammen und kennzeichnet mögliche Probleme, wie einen Anstieg der Tickets, die einen größeren Incident darstellen könnten. Servicemanager entscheiden, was mit den Informationen geschehen soll.
6. Audit-Trails für alles
Überall, wo KI involviert ist, gibt es eine klare Aufzeichnung: was sie vorschlägt, was akzeptiert wird, was geändert wird. Diese Aufzeichnung ist die Grundlage für Vertrauen, Kontrolle und Verbesserung im Laufe der Zeit.
Wie man KI unter menschlicher Kontrolle in die Praxis umsetzt
Nichts davon muss kompliziert sein. Der Trick ist, darüber nachzudenken, was KI allein tun kann und was immer durch einen Menschen geprüft werden sollte. Gute ITSM-Tools sollten es Ihnen ermöglichen, KI so einzusetzen, dass sie Ihre Prozesse unterstützt und Ihr Team dabei die Kontrolle behält.
- Erfassen Sie, wo KI eingesetzt wird: Sehen Sie sich an, wo KI in Ihren Workflow involviert ist. Fragen Sie sich jeweils: Wer trifft die endgültige Entscheidung, die KI oder eine Person?
- Entscheiden Sie, was die KI allein darf: Einige Dinge lassen sich sicher vollständig automatisieren, wie das automatische Taggen einer internen Notiz oder das Auftauchen eines Wissensartikels. Andere nicht. Machen Sie diese Regeln klar.
- Integrieren Sie Überprüfungen in den Workflow: Bei allen benutzerbezogenen Problemen sollte ein Bearbeiter die KI-Ergebnisse überprüfen, bevor sie rausgegeben werden, zumindest bis das System gut etabliert ist.
- Eskalation einfach machen: Enduser benötigen eine klare, einfache Möglichkeit, eine Person zu erreichen. "Sprechen Sie mit einem Bearbeiter" sollte niemals versteckt werden.
- Beobachten Sie, was geändert wird: Wenn Bearbeiter wiederholt KI-Vorschläge bearbeiten oder ablehnen, ist das ein Signal, das das Modell anpassen werden muss. Behandeln Sie die Korrekturen als nützliches Feedback.
- Sagen Sie den Leuten, was passiert: Sowohl Ihr Team als auch Ihre Enduser sollten wissen, wenn KI involviert ist. Verheimlicht man sie, geht das Vertrauen schneller verloren als es die KI selbst je könnte.
Häufige Fallstricke
- Human-in-the-loop nur als Pflichtübung betrachten: Wenn der Mensch die Ergebnisse der KI ungelesen abnickt, findet keine echte Kontrolle statt.
- Überprüfung als zusätzliche Arbeit empfinden: Wenn die Überprüfung länger dauert, als die Antwort selbst zu verfassen, werden Bearbeiter sie überspringen. Gestalten Sie die Überprüfung so, dass sie schnell und unkompliziert ist.
- Chatbots zur Sackgasse werden lassen: Egal, wie gut ein Chatbot ist, es gibt Gespräche, die er nicht führen sollte. Planen Sie klare Ausstiegsmöglichkeiten ein.
- Feedback von Bearbeitern ignorieren: Bearbeiter sehen, wenn KI falsch liegt, lange bevor es im Reporting auffällt. Wenn sie nicht gehört werden, wird das System mit der Zeit weniger zuverlässig.
- Die menschliche Kontrolle zu schnell reduzieren: Es ist verlockend, menschliche Überprüfungen zu reduzieren, sobald KI "funktioniert". Widerstehen Sie dieser Versuchung, bis Sie echte Daten haben, die zeigen, dass es sicher ist, dies zu tun.
Der Ansatz von TOPdesk für Human-in-Control AI
Die Sichtweise von TOPdesk auf KI ist einfach: Sie soll Ihrem Team helfen, besser zu arbeiten, ohne sie zu ersetzen und ohne Ihre Enduser einem Risiko auszusetzen.
In der Praxis bedeutet das:
- KI-Funktionen in TOPdesk sind so konzipiert, dass sie Bearbeiter unterstützen, wobei der Bearbeiter stets die Kontrolle darüber hat, was den Melder erreicht.
- Self-Service-KI übergibt bei Bedarf nahtlos und mit vollständigem Kontext an einen Menschen, damit Melder nicht steckenbleiben.
- KI-Funktionen können von Ihrem Team aktiviert, konfiguriert und deaktiviert werden. Sie entscheiden, wo KI passt, nicht umgekehrt.
- Die Datenverarbeitung folgt der DSGVO. Die Datenspeicherung ist standardmäßig in Europa. Ihre Kundendaten werden nicht zum Trainieren von KI-Modellen verwendet, sie werden in derselben sicheren Infrastruktur verarbeitet wie der Rest von TOPdesk, und Ihr Team kann sehen, was die KI tut und wohin die Daten gelangen.
Das Ziel ist eine Konfiguration, in der Ihr Serviceteam schneller arbeiten kann und weniger von wiederkehrenden Aufgaben begraben wird, während Ihr Team die Verantwortung für die wichtigen Entscheidungen behält. Weitere Informationen hierzu finden Sie unter KI-gestütztes Servicemanagement.
Häufig gestellte Fragen zu KI unter menschlicher Kontrolle
Ist das nicht nur "KI mit zusätzlichen Schritten"?
Es ist KI mit den richtigen Schritten. Ohne Überblick kann KI selbstbewusst klingende falsche Antworten liefern. KI unter menschlicher Kontrolle profitiert von der Geschwindigkeit der KI und fügt das Urteilsvermögen einer Person hinzu.
Verlangsamt das nicht die Dinge?
Weniger, als Sie vielleicht denken. Bearbeiter überprüfen Antworten, anstatt sie von Grund auf neu zu schreiben, sodass die Zeitersparnis größer ist als die Zeit, die für die Überprüfung aufgewendet wird.
Wann ist es in Ordnung, Menschen aus dem Kreislauf zu nehmen?
Wenn die Aufgabe niedrig angesetzt, gut verstanden und leicht zu korrigieren ist, wenn etwas schiefgeht. Ein internes Feld automatisch zu taggen, ist unproblematisch. Eine Antwort an einen Melder zu senden ist es nicht.
Woher weiß ich, ob meine KI-Einrichtung tatsächlich unter menschlicher Kontrolle ist?
Prüfen Sie, wohin die Ergebnisse der KI weitergeleitet werden. Wenn sie Enduser erreichen, ohne dass jemand es überprüft hat, besitzt Ihr Team nicht wirklich die Kontrolle. Passen Sie den Workflow so lange an, bis Sie sie haben.
Stört es die Melder, dass KI involviert ist?
Die meisten Melder sind mit KI einverstanden, solange sie wissen, wann sie eingesetzt wird, und sie eine Person erreichen können, wenn sie es benötigen. Niemand hat etwas dagegen, mit einem Bot zu reden. Sie stört es jedoch, in einem gefangen zu sein.
Ihre nächste Lektüre
Inspirieren Sie andere, teilen Sie diesen Blog
