Isabell Neubert, Detecon ChatGPT: Freund oder Feind? Werden Beratende durch Künstliche Intelligenz obsolet?

Die Beziehung zwischen Mensch und Maschine ist noch nicht ganz geklärt. Isabell Neubert weist in Ihrem Artikel auf Fälle hin, in denen KI-Lösungen noch die Freunde sind, auf die man sich blind verlassen sollte. (Bild: picture alliance / Westend61 | MAGIC UNICORN)

Der Alleskönner von OpenAI

ChatGPT – wer sich regelmäßig im Internet aufhält, wird diesen Begriff sicherlich schon das ein oder andere Mal gelesen oder davon gehört haben. Immerhin kennt laut einer repräsentativen Umfrage der Bochumer Forschungseinrichtung CAIS mittlerweile jede vierte Person in Deutschland den scheinbar allwissenden Chatbot. Doch was macht die KI so besonders? ChatGPT wurde vom amerikanischen Unternehmen OpenAI entwickelt und darauf trainiert, einzigartige Texte zu verfassen, menschenähnliche Gespräche zu führen und mehr oder minder tiefgreifende Fragen zu beantworten. Fähigkeiten, die bisher kaum eine andere KI replizieren konnte. Darüber hinaus ist er anwenderfreundlich und kann daher auch ohne zusätzliches Training von Laien verwendet werden. Dadurch ist der Chatbot in kürzester Zeit zu einem der beliebtesten KI-Sprachmodelle geworden. Es häufen sich aber nun auch immer mehr kritische Stimmen.

Allem voran steht bei der aktuellen Diskussion um ChatGPT die zentrale Frage: Wird Arbeitsleistung der Beratung zukünftig durch Künstliche Intelligenzen ersetzt und menschliche Arbeitskraft damit obsolet?

ChatGPT – der Anfang vom Ende?

Zunächst eine Entwarnung: Nein, Künstliche Intelligenzen werden uns nicht gänzlich ersetzen. Die Denkfabrik „Digitale Arbeitsgesellschaft“ des Bundesministeriums für Arbeit und Soziales ist sich aber sicher, dass KI das Potential dazu hat, unsere Arbeitswelt stärker zu verändern als bisherige Technologien. Durch die Unterstützung von KI-Systemen können wir aber in Zukunft unsere Arbeit auf wesentliche Aspekte reduzieren und somit effizienter gestalten. Künstliche Intelligenzen wie ChatGPT sind also nicht mehr nur ein Trend, sondern werden nach und nach Teil unseres Arbeitsalltages.

ChatGPT und Co. sind zwar in der Lage, einige Aspekte der Beratungsdienstleistungen zu verbessern, jedoch gibt es weiterhin noch viele Bereiche, in denen menschliche Beratende unersetzlich bleiben. Denn im Gegensatz zu ihnen können sich KI-Systeme nicht auf Erfahrung, Intuition oder das langjährige Vertrauen ihrer Kundinnen und Kunden verlassen. Da Künstliche Intelligenzen menschliche Emotionen, Intuition und Empathie bisher nicht authentisch replizieren können, sind für komplexe Probleme oder Fragestellungen menschliche Expertise und individuelle Erfahrungen notwendig.

Beratende mit Herz und eigenem Verstand werden also auch in Zukunft noch dringend gebraucht.

KI sinnvoll in die Arbeit integrieren

Dennoch kann KI als sinnvolles Werkzeug zur Unterstützung von Beratungsdienstleistungen eingesetzt werden. Sogenannte Conversational AI – dazu zählt auch ChatGPT – sind vor allem in der Kundebetreuung von Vorteil, um schnell auf Anfragen von Kundinnen und Kunden zu antworten, ohne dass ein menschlicher Berater zwingend anwesend sein muss. ChatGPT kann hier kleinere automatisierte Beratungsleistungen übernehmen und beispielsweise bei der Fehlerbehebung und der Beantwortung von Fragen helfen. Diese Automatisierung ermöglicht es Dienstleitern so, rund um die Uhr einen guten Kundenservice anzubieten und die Kundenbindung weiter zu stärken. Aber auch Datenanalysen können mithilfe von KI deutlich effizienter gestaltet werden – Beratende erhalten so schneller und genauere Erkenntnisse über ihre Kundschaft.

Zusätzlich können KI-Systeme im HR-Bereich eingesetzt werden. So ermöglicht eine KI-gestützte Einstellung von Bewerberinnen und Bewerbern beispielweise die Minimierung von Vorurteilen – dem sogenannten "Human Bias“.

Derzeit basieren diese Entscheidungen allerdings überwiegend auf historischen Daten, die von Menschen in der Vergangenheit generiert wurden. In den meisten Unternehmen sind diese Daten aber ebenfalls von Verzerrungen betroffen.

Amazon dürfte das bekannteste Beispiel sein: Hier zeigte sich beim Einstellen eine klare Tendenz zugunsten von Männern. In Zeiten des Fachkräftemangels können Unternehmen sich solche Fehler von KI-Systemen aber nicht leisten, denn sie schaden nicht nur der Einstellungsquote, sondern auch der Reputation. KI sollte in diesem Bereich den Menschen daher nicht ersetzen, sondern nützlich ergänzen.

KI sinnvoll eingesetzt kann die menschliche Arbeit bereichern und um vieles vereinfachen. Wenn es darum geht, aus einer großen Menge an Daten Sinn zu machen, sind KI-Modelle gegenüber Menschen klar im Vorteil. Dennoch sollten sich Beratungsunternehmen nicht ausschließlich auf Künstliche Intelligenzen, ihre Antworten, Informationen und Empfehlungen verlassen, denn umfangreiche KI-Modelle bringen aufgrund ihrer Komplexität auch eine Reihe von Problemen mit sich. Eine kritische Betrachtung von KI sollte daher stets gegeben sein.

Es ist nicht alles Gold, was glänzt

Eines der Hauptprobleme von KI-Systemen ist, dass sie nur auf der Grundlage der Daten und Algorithmen arbeiten, mit denen sie zuvor trainiert wurden. Denn ein Algorithmus immer nur so gut, wie die Daten auf deren Grundlage er arbeitet. Sie bilden die Basis für selbstlernende Systeme, sowie ultimative Vorlagen für alle späteren Kalkulationen und Empfehlungen. Aufgrund des Ursprungs der Daten kann es zu einer Reihe von Verzerrungen führen, die die Entscheidungen nachhaltig beeinflussen. Speziell bei Daten, die von Menschen generiert wurden, führen diese Verzerrungen oft zu falschem Output. Wird dieser Output nicht engmaschig beobachtet und korrigiert – oder verursacht er weitreichende negative Auswirkungen auf das Unternehmen, Einzelpersonen, die Umwelt oder sogar die Gesellschaft – kann dies der Reputation des Unternehmens nachhaltig schaden.

KI-Modelle sind außerdem nicht in der Lage, menschliche Erfahrung, Intuition und emotionale Intelligenz zu replizieren, was dazu führen kann, dass KI-Systeme unzureichende oder unangemessene Empfehlungen geben.

Passen diese dann nicht zu den individuellen Bedürfnissen und Anforderungen der Kundinnen und Kunden, kann das schnell zu Unzufriedenheit führen und im schlimmsten Falle eine Kündigung der Beratungsleistungen nach sich ziehen. Aufgrund ihrer begrenzten Fähigkeit zur Interpretation menschlicher Emotionen sind KI zudem recht anfällig für Fehlinterpretationen. Nicht selten kommt es dadurch zu unethischen oder unverantwortlichen Empfehlungen, die den Kundenunternehmen schaden können. Diese sind für Unternehmen gefährlich, die sich beispielsweise zu gesellschaftskritischen Themen wie Nachhaltigkeit oder Gleichberechtigung beraten lassen.

Und auch das Thema Copyright spielt in diesem Kontext eine wichtige Rolle. Die Autorenschaft durch von KI-Modellen generiertem Text muss klar bestimmt und zugewiesen werden. Man muss berücksichtigen, dass diese Modelle Text aus Daten generieren, und die Quellen häufig nicht transparent darstellen. Verlassen wir uns blind auf KI-Systeme, geben wir auch einen Teil unserer Autonomie ab und überprüfen die einfach gewonnen Ergebnisse oft nicht mehr.

Publizieren Unternehmen dann fehlerhafte Informationen oder weisen unzureichend auf Quellen hin, kann dies die Integrität des Unternehmens negativ beeinflussen.

Datenschutz ist das A und O

Vor allem in Bezug auf die Datensicherheit stellt die Verwendung von KI-Systemen eine erhöhte Bedrohung dar. Künstliche Intelligenzen wie ChatGPT benötigen große Mengen an Daten, um die passenden Antworten und Lösungen bereitzustellen. Erfragen Beratende Unterstützung mit einem ausführlichen Prompt, um eine qualitativ hochwertige Lösung zu erhalten, kann es sich manchmal auch um sensible Daten handeln, die persönliche Informationen über Kundinnen und Kunden enthalten und eben nicht für die Verwendung durch KI-Systeme freigegeben wurden. Diese Daten, auch wenn sie anschließend gelöscht werden, verweilen zumindest kurzzeitig in den Servern der Modelle und werden dort auch für den Lernprozess verwendet. Damit ist deren Datensicherheit nicht ausreichend geschützt vor einer möglichen Weiterverwendung.

Verwenden Beratende für ihre Dienstleistungen gestohlene oder missbrauchte Daten, kann das zu schwerwiegenden rechtlichen Problemen führen.

Daher sollten Beratungsunternehmen auf eine verantwortungsbewusste Verwendung ihrer Kundendaten achten. Sammelt eine KI Kundendaten, ist es wichtig sicherzustellen, dass alle Daten sicher und vertraulich aufbewahrt werden. Das beratende Unternehmen muss darüber hinaus sicherstellen, dass nur autorisierte Personen Zugriff auf diese Kundendaten haben und sie auch nur für legitime Zwecke verwenden. Da alle Mitarbeitenden theoretisch Zugriff auf öffentliche KI-Modelle wie ChatGPT haben, benötigen Unternehmen nun dringend praktische Handlungsanweisungen für den Umgang mit diesen Modellen.

Vor der Freigabe zur Nutzung von KI sollten sich Unternehmen also mit den gesetzlichen Anforderungen wie den aktuellen Datenschutzbestimmungen auseinandersetzen.

CONSULTING.aktuell: der Newsletter der Consultingbranche

News +++ Jobs +++ Whitepaper +++ Webinare

Newsletter abonnieren

Wir beliefern täglich mehr als 4.000 Abonnenten

Datenschutz

Wie sieht die Zukunft mit ChatGPT aus?

Ohne Zweifel sind Künstliche Intelligenzen schon jetzt die wichtigsten Technologien unserer Gegenwart und der Zukunft. Obwohl es viele kritische Überlegungen zu der Verwendung von KI gibt, sind laut einer Umfrage von Bitkom rund drei Viertel der Bundesbürgerinnen und Bundesbürger überzeugt davon, dass Künstliche Intelligenzen die Wettbewerbsfähigkeit der deutschen Wirtschaft in den nächsten Jahren deutlich stärken werden. Egal ob also in der Medizin, im Verkehr oder eben in der Beratung: ChatGPT und Co. werden uns in Zukunft in unserem Alltag immer häufiger begegnen – vielleicht ohne, dass wir das überhaupt merken.

Dabei sollten kritische Effekte aber nicht aus den Augen verloren werden. Zu diesem Zweck müssen Effizienz und Genauigkeit von KI-Systemen stets sorgfältig überwacht und reguliert werden. Nur so kann sichergestellt werden, dass sie ethisch und verantwortungsbewusst eingesetzt werden.

Next Steps für die Beratungsbranche

Menschliche Beratungsexpertinnen und -experten werden durch Künstliche Intelligenzen zwar nicht ersetzt werden. Dennoch gilt es, sich zeitnah mit den Chancen und Herausforderungen auseinandersetzen, um in Sachen Digitalisierung nicht auf der Strecke zu bleiben. Unternehmen sollten im Vorfeld definieren, in welchem Umfang und mit welchen Informationen KI eingesetzt werden soll und welche Rahmenbindungen und Grundsätze der Unternehmensführung (Governance) eingehalten werden sollten.

Darüber hinaus ist es wichtig, die Mitarbeitende über die verwendete Technologie aufzuklären. Dazu gehören beispielsweise Schulungen, die die Experimentierfreude und Begeisterung für KI stärken. Aber auch das Wissen über Limitationen und Risiken sowie eine Grundausbildung zu Daten und Datennutzung muss durch Unternehmen gefördert werden.

Insgesamt müssen klare Werte und Regulierungen für die Nutzung von KI in der Beratungsbranche festgelegt werden, um die Mitarbeitenden im Umgang mit KI-Systemen zu schulen, und den Fokus auf Fähigkeiten zu legen, die von KI-Lösungen nicht ersetzt werden können. Durch diese Schritte wird langfristig eine effektive Nutzung von KI in der Beratungsbranche möglich sein.