Service Chatbots Made Simple

Es gibt verschiedene Arten von Chatbots für Bibliotheken, die mit Hilfe der großen Sprachmodelle realisiert werden können.
Einerseits gibt es Recherche-Chatbots, die neben der klassischen Katalogrecherche dazu dienen, den Buchbestand einfach und in natürlicher Sprache zugänglich zu machen. Bekannt wurden hier die Bots von voebb.de und Schaffhausen. Sie sind hier nicht Gegenstand der Betrachtung.
Die andere Gruppe sind Service-Chatbots, deren Ziel es ist, NutzerInnen Antworten auf Fragen zur Bibliothek rund um die Uhr zu geben. Ebenso können sie in-house von Abteilungen oder in Projekten genutzt werden, um deren local knowledge besser zugänglich zu machen. Um diesen Typ Chatbot geht es in diesem Vortrag.
Es wird ein besonders einfacher Weg gezeigt, wie solche Chatbots niederschwellig und sehr kostengünstig und vor allem schnell realisiert werden können.
Die Idee basiert auf der Nutzung gehosteter RAG-Anwendungen wie z.B. eines OpenAI Assistants oder der RAG-Lösung der Ges. f. wiss. Datenverarbeitung in Göttingen (GWDG).
An der KIT-Bibliothek wurde dazu ein generischer Chatbot entwickelt, der für andere Bibliotheken vom KIT gehostet werden kann. ... mehrEr kapselt die Kommunikation mit dem eigentlichen RAG-Service. Die nutzende Bibliothek muss lediglich ihre Dokumente, zu denen der Chatbot Fragen beantworten können soll, erstellen und hochladen. Die Abfragen mit dem eigentlichen Service-Provider übernimmt der Chatbot der KIT-Bibliothek unter Verwendung des jeweiligen API.
Oft beinhalten die zugrundenliegenden Dokumente (wie z.B. die FAQ) keine sonderlich geheimen Daten. Daher können sogar Server außerhalb Europas (wie OpenAI) genutzt werden. Da der Chatbot ohne Login genutzt werden kann, treten auch keine Probleme mit dem Datenschutz auf.