Wie wir ChatGPT in unser Slack integriert haben: Verbesserte Privatsphäre, Flexibilität und Zusammenarbeit

ChatGPT erfreut sich zunehmender Beliebtheit bei den Fachleuten, die sich auf
chat.openai.com
um sie bei ihrer täglichen Arbeit zu unterstützen. Trotz seiner Beliebtheit haben wir einige Verbesserungsmöglichkeiten entdeckt, wie z.B. Datenschutz, Flexibilität und Zusammenarbeit, um es für unsere Kollegen noch besser zu machen.

Um diese Probleme zu lösen, haben wir ein internes Tool namens SlackGPT entwickelt.

SlackGPT beseitigt nicht nur diese Einschränkungen, sondern bietet unseren Kollegen auch eine einzigartige Erfahrung bei der Arbeit mit und der Erstellung von modernen LLM-Anwendungen.

In diesem Blogbeitrag erfahren Sie, was SlackGPT ist, warum wir es entwickelt haben und wie wir es in unserem Team einsetzen.

Lesen Sie weiter und erfahren Sie mehr!

1 - Verbesserte Privatsphäre

ChatGPT birgt das Risiko, dass sensible Informationen nach außen dringen. Standardmäßig verwendet chat.openai.com Ihre Daten, um das Modell zu verbessern(Abbildung 1). Wenn Sie versehentlich sensible Informationen in ChatGPT eingeben, könnten Sie Firmengeheimnisse gefährden, so wie es Samsung getan hat (
Artikel
).

Sie können diese Einstellungen deaktivieren, aber sie sind mit der praktischen Funktion zum Speichern des Chatverlaufs verbunden. Außerdem ist sie standardmäßig aktiviert, so dass die Wahrscheinlichkeit groß ist, dass viele Benutzer entweder vergessen, sie auszuschalten, oder nicht einmal davon wissen.

Abbildung 1: Standard-Benutzereinstellungen von ChatGPT auf chat.openai.com

Um den Datenschutz zu verbessern, haben wir unsere erste Version von SlackGPT auf der Grundlage des Azure OpenAI Service entwickelt. Dies bietet bessere Bedingungen. Nur potenziell missbräuchliche Nachrichten können von Microsoft EU-Mitarbeitern überprüft werden (
Link
).

Noch wichtiger ist, dass wir unsere Nutzer über die Risiken auf dem Laufenden halten. Jeden Tag erinnern wir sie an den Umgang mit Daten und daran, wie wichtig es ist, sensible Informationen nicht weiterzugeben (Abbildung 2).

Abbildung 2: Unsere tägliche Erinnerung an aktive Nutzer über den Datenschutz und die Verwendung von SlackGPT

2 - Zugang zu erweiterten Funktionen

Die kostenlose Version von ChatGPT ist gut, aber um Zugang zu erweiterten Funktionen wie GPT4 zu erhalten, müssen Sie ein kostenpflichtiges Abonnement abschließen. Durch die Nutzung von Azure haben unsere Kollegen Zugang zu diesen Funktionen ohne individuelle Abonnements.

Außerdem können wir unseren Benutzern feinere Einstellungen anbieten. Zum Beispiel können die Benutzer die
Kontext
um den Stil der Antworten von SlackGPT anzupassen
(Abbildungen 3 & 4)
.

Außerdem können wir, sobald wir Zugang zu einer größeren Auswahl an Modellen von Anbietern wie Google und AWS sowie zu Open-Source-Modellen von Databricks und HuggingFace haben, diese nahtlos in SlackGPT integrieren. Dies wird unseren Kollegen eine verbesserte Leistung bieten, wenn neue Modelle veröffentlicht werden. Aber auch der Datenschutz wird verbessert, wenn wir zum Beispiel zu selbst gehosteten Modellen übergehen.

Abbildung 3: Beispiel für die Einstellung Ihres Assistenten für persönlichen Spaß und Nutzen




Abbildung 4: Beispiel für die Verwendung meines personalisierten Reimassistenten

3 - Verbesserte Zusammenarbeit

SlackGPT funktioniert nicht nur als privates Messaging-Tool. Es kann auch in Threads mit anderen Benutzern verwendet werden.

Eine Möglichkeit, die wir genutzt haben, besteht darin, das, was mehrere Kollegen geteilt haben, in einem Thread zusammenzufassen. Das macht es einfacher, die geteilten Perspektiven zusammenzufassen und zu verbreiten(Abbildung 5).

Abbildung 5: Beispiel einer SlackGPT-Konversation mit mehreren Benutzern

4 - Nahtlose Integrationen

Das wahre Potenzial von ChatGPT liegt in seinen Integrationsmöglichkeiten. Dies spiegelt sich auch in OpenAIs Vorstoß für Plugins in ChatGPT wider (
Link
).

Ein Anwendungsfall, den wir sehen, ist die Verbindung von SlackGPT mit unserer internen Wissensdatenbank. Auf diese Weise kann SlackGPT Antworten geben, die auf unserer internen Dokumentation basieren, und Links zur Quelle bereitstellen.

Ein weiterer spannender Anwendungsfall ist das automatische URL-Scraping, das es SlackGPT ermöglicht, Artikel zusammenzufassen, die von Kollegen in verschiedenen Kanälen geteilt werden. Da wir ständig Artikel untereinander austauschen, wäre ein Slackbot, der einen TLDR erstellen kann, eine willkommene Ergänzung für unser Slack.

Wir arbeiten mit Technologien wie LangChain (
Link
), um dies zu ermöglichen. Wir haben bereits Proof of Concepts erstellt und arbeiten daran, es in SlackGPT zu integrieren.

5 - Hundefütterung: Aus Erfahrung lernen

Während die Branche weiterhin das Potenzial großer Sprachmodelle in der Produktion erforscht, dient unsere SlackGPT-Integration als wertvolle Lernmöglichkeit. Indem wir ein internes Tool entwickeln, sammeln wir Erfahrungen aus erster Hand bei der Bewältigung der auftretenden Herausforderungen und Fragen und können so sicherstellen, dass wir später die besten Lösungen für unsere Kunden bereitstellen.

Fazit

Die Erstellung von SlackGPT war eine großartige Lernerfahrung bei der Entwicklung von LLM-gestützten Anwendungen in großem Maßstab. Als Nächstes werden wir SlackGPT in unser Intranet integrieren - für relevantere Antworten - und es für die Integration mit anderen von Google, AWS und Open Source entwickelten LLMs bereit machen.

Steht Ihr Unternehmen vor ähnlichen Problemen oder wollen Sie LLMs in ähnlicher Weise nutzen?

Profitieren Sie von unseren Erfahrungen, und reichen Sie uns eine Tasse Kaffee ☕️.