Künstliche Intelligenz hält zunehmend Einzug in den Arbeitsalltag - insbesondere in Form von KI-gestützten Chatbots. Sie unterstützen Mitarbeitende, optimieren Prozesse und ermöglichen neue Services. Gleichzeitig stellt der Einsatz von KI, Unternehmen vor rechtliche, organisatorische und technologische Herausforderungen, insbesondere der EU AI Act erhöht den Handlungsdruck in diesem Kontext. Wir haben mit unserer ECC NEXT KI-Strategie-Expertin Sabine van Almsick darüber gesprochen, welche Veränderungen der EU AI Act mit sich bringt, wie Unternehmen Risiken vermeiden können und wie Mitarbeitende fit für den sicheren Umgang mit Chatbots gemacht werden.
Welche zentralen Veränderungen bringt der AI Act für Unternehmen in Europa mit sich?
Der AI Act schafft erstmals einen europaweit einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen und klassifiziert diese nach Risikostufen. Es gibt insgesamt vier Risikoklassen. Für Unternehmen bedeutet dies konkret, dass sie ihre KI-Anwendungen systematisch bewerten, dokumentieren und gegebenenfalls zertifizieren lassen müssen. Transparenz-, Nachvollziehbarkeits- und Sicherheitsanforderungen werden verpflichtend, insbesondere für KI-Systeme, die Entscheidungen mit weitreichenden Auswirkungen treffen. Das betrifft auch Kontexte, in denen KI direkt mit Menschen interagiert. Dazu zählen z.B. Chatbots, die Kund:innen-Anfragen beantworten oder interne Prozesse unterstützen.
Stichwort KI-gestützte Chatbots: Diese sind inzwischen in vielen Arbeitsbereichen angekommen. Welche Chancen und Risiken siehst du für Unternehmen?
KI-Chatbots bieten enorme Potenziale: Sie entlasten Mitarbeitende von Routineaufgaben, liefern schnelle Antworten und verbessern Serviceprozesse. Gleichzeitig bergen sie Risiken, wie etwa Fehlinformationen, unbewusste Verzerrungen in den Trainingsdaten oder datenschutzrechtliche Herausforderungen. Unternehmen müssen daher sowohl die Technologie verstehen als auch die organisatorischen und rechtlichen Rahmenbedingungen berücksichtigen und ihre Mitarbeitenden mit dem notwendigen Know-how befähigen.
Viele Unternehmen wissen bei aller Komplexität des Themas nicht, wo sie beginnen sollen. Was rätst du, wenn wir uns einmal am Beispiel KI-Chatbot entlang bewegen?
Ich würde Schritt für Schritt vorgehen und klein anfangen:
- Anwendungsfelder identifizieren: Wo kann ein Chatbot echten Mehrwert liefern? Eine Unterstützung im Kundensupport, bei internen Wissensdatenbanken oder in der Prozessautomatisierung ist hier denkbar? Festlegen, wie der Erfolg des Projektes gemessen werden kann und wann das Projekt als Erfolg betrachtet werden kann.
- Pilotprojekte starten: Kleine Chatbots für klar abgegrenzte Aufgaben erlauben schnelle Lernerfahrungen, ohne hohe Risiken.
- Compliance von Anfang an berücksichtigen: Bereits in der Pilotphase sollten Transparenz-, Datenschutz- und Dokumentationspflichten eingeplant werden.
- Feedbackzyklen etablieren: Rückmeldungen der Nutzer:innen helfen, die Chatbot-Anwortqualität kontinuierlich zu verbessern und Vertrauen aufzubauen.
Und wie gelingt die Befähigung der Mitarbeiter:innen im Umgang mit einem KI-Chatbot?
Der Schlüssel liegt in praxisnahen Schulungsprogrammen: Am Anfang steht das Wissen. Mitarbeitende sollten verstehen, wie KI und Chatbots funktionieren, welche Chancen und Risiken es gibt. Dazu zählen zum Beispiel die angesprochenen Halluzinationen oder Bias. Mir ist wichtig, dass sie verstehen, wie die Technologie im groben funktioniert und wie sie diese verantwortungsvoll einsetzen können. Dazu gehört auch die praktische Arbeit: Prompts formulieren, Antworten prüfen, Fehler erkennen und die Anforderungen des AI Acts bei der Dokumentation einhalten. So entstehen Handlungssicherheit und ein gemeinsames Verständnis im Unternehmen. Und am Ende arbeiten Teams kompetent, sicher und verantwortungsvoll mit KI. Damit geht ein Compliance- als auch ein Innovationsgewinn einher.
Schulungsangebot: „Sicherer Umgang mit KI-Chatbots“
Die Schulung „Sicherer Umgang mit KI-Chatbots“ vermittelt genau dieses Wissen. Teilnehmende lernen die Grundlagen von KI & Chatbots, die rechtlichen Pflichten nach dem EU AI Act, Chancen und Risiken sowie die praktische Anwendung. Zusätzlich werden das Prompting, die Ergebnis-Bewertung und Dokumentation geschult.
Mehrwerte:
- Gesetzliche Anforderungen erfüllen (EU AI Act)
- Nachweisbare Schulungsdokumentation für Audits
- Praxisorientierte Übungen mit direkt nutzbarem Wissen
- Mitarbeitende arbeiten kompetent, sicher und verantwortungsvoll mit KI
