#023 ChatGPT im Unternehmensumfeld - Chance oder Risiko?

Unternehmen und ihre Führungskräfte sind sich inzwischen darüber bewusst, dass KI-Tools zum Gamechanger werden können und das Unternehmensumfeld sowie die Arbeit nachhaltig verändern werden. Wie entscheidet man als Manager in dieser Problematik?

Unsere Zusammenfassung des Washington-Post-Artikels von Tylor Telford und Pranshu Verma in der Washington Post am 10. Juli.

https://www.washingtonpost.com/business/2023/07/10/chatgpt-safe-company-work-ban-lawyers-code/

ChatGPT oder andere KI Tools erleichtern die tägliche Arbeit enorm. Recherchen, Texterstellungen oder sogar erste Ideensammlungen für strategische Entscheidungen können mit deren Unterstützung mitunter in einem Bruchteil der Zeit erstellt werden. Andererseits: hilfreiche und qualitativ gute Antworten sind erst dann zu erwarten, je besser das Prompt formuliert ist - was unter Umständen bedeutet, dass sensible Informationen enthalten sein müssten, um unternehmensspezifische Antworten zu erhalten und nicht nur Allgemeinplätze. Noch komplexer wird die Problematik, wenn KI Tools an interne Tools angebunden werden sollen. Um das Risiko der - bewussten oder unbewussten - Weitergabe interner Daten zu vermeiden, sind einige namhafte Unternehmen wie Apple, Samsung oder Spotify im ersten Schritt dazu übergegangen, den Einsatz generativer KI Tools am Arbeitsplatz zu verbieten oder einzuschränken. Die Befürchtung, dass nächste Versionen der KI Tools auf Basis dieser Daten weitertrainiert werden, ist groß. Die Befürchtung jedoch, etwas zu verpassen und bei der Anwendung dieser neuen Technologien nicht Schritt halten zu können, ist ebenso groß.

Dieser gedankliche Zwiespalt ist nicht neu. Das Aufkommen der sozialen Netzwerke und die Befürchtung, dass diese von der wirklichen Arbeit abhalten; die Angst, Daten in eine Cloudlösung zu speichern und deren Risiken nicht einschätzen zu können, stellte Entscheider schon seit 20 Jahren vor diese Problematik…

Die Möglichkeit, im privaten Modus mit dem Chatbot zu sprechen und somit zu verhindern, dass eingegebene Informationen weiter verteilt oder verwendet werden können, besteht allerdings auch schon jetzt. Auch Yoon Kim, Experte für maschinelles Lernen an MIT betont, dass die technische Möglichkeit, Mechanismen zum Verhindern der Nutzung vertraulicher Informationen als Trainingsdaten, bereits besteht und genutzt werden kann. Trotzdem geben einige Unternehmensrichtlinien vor, KI Tools aus Sicherheitsgründen nicht im unternehmerischen Umfeld zu verwenden.

Hinzu kommt, dass Ungenauigkeiten oder inhaltliche Fehler in Antworten von Mitarbeitern nicht oder fehlinterpretiert werden und zu schlechten Arbeitsergebnissen führen können. Sehr plakativ hier das Beispiel einer Anwaltskanzlei, deren eingereichter Schriftsatz auf fiktiven Fällen basierte - weil ChatGPT immer versucht, Antworten zu geben, auch wenn es keine Ahnung hat. Dies kann unter Umständen verhängnisvolle Konsequenzen haben.

Joseph Fuller, Professor der Harvard Business School, sowie Eser Rizaoglu, leitender Analyst bei Gartner, vermuten, dass Unternehmen und deren Entscheider zunächst selbst lernen und Funktionsweisen erfahren müssen, um die Risiken besser einschätzen zu können, um dann KI-Tools und deren Einsatz nicht pauschal zu untersagen, sondern Leitlinien für deren Einsatz zu erstellen. Aber je sensibler die Daten, etwa bei Unternehmen im Verteidigungsbereich oder Banken und Finanzdienstleistern, umso restriktiver die Verbote, wie etwa bei der Deutschen Bank oder JPMorgan Chase.

Leitlinien für den Einsatz bei bestimmten Themen, für bestimmte Aufgaben - aber auch das Untersagen der Anwendung für andere Fragestellungen helfen, zum einen kein pauschales Verbot dieser unterstützenden Systeme aussprechen zu müssen, sondern individuell zu agieren und die Möglichkeiten zu nutzen. Eine Anpassung dieser Leitlinien beim fortschreitenden Lernen und Verstehen führt zu einer hohen Flexibilität - und vermeidet, dass andere Unternehmen “an einem vorbeiziehen” und man selbst neuere Entwicklungen verpasst, sondern immer im eigenen Kontext anpassungsfähig bleibt. Eine Überprüfung der Antworten durch Mitarbeiter wird aber immer notwendig bleiben.