Mehr als nur statisches Wissen: Wie KI-Chatbots durch Tool Calls aktuelle Auskünfte geben können

In den vergangenen zwei Jahren wurden in Bibliotheken vermehrt KI-Chatbots eingeführt. Manche dienen als reine Service-Chatbots (z.B. BibKI der KIT-Bibliothek), andere unterstützen darüber hinaus als Recherche-Assistent die Nutzer:innen bei der Literaturrecherche (z.B. der Berliner voebb oder der Schaffhausener SHAI). Häufig basieren diese Systeme auf statisch hinterlegten Dokumenten. Zur Beantwortung von Fragen kommt dabei überwiegend RAG (Retrieval Augmented Generation) zum Einsatz, also eine auf Ähnlichkeitssuche beruhende Retrieval-Methode.

Für viele Auskunftsszenarien in Bibliotheken reicht solches statisches Material jedoch nicht immer aus. Nutzer:innen interessieren sich häufig auch für Informationen aus dem jeweiligen Umfeld: In Öffentlichen Bibliotheken etwa für städtische Angebote, in Wissenschaftlichen Bibliotheken für universitäre Services. In solchen Fällen müssen Chatbots auf aktuelle Daten aus Informationssystemen zugreifen können. Dazu gehören typische Fragen wie: „Wann fährt der nächste Bus nach …?“, „Was gibt es heute Vegetarisches in der Mensa?“, „Gibt es jetzt einen freien Arbeitsplatz zum Lernen?“ oder „Wo ist der Hörsaal XY?“.
... mehr

Damit Chatbots auch solche dynamischen, kontextabhängigen Auskünfte geben können, braucht es Zugriffe auf Echtzeitdaten.
Tool Calls und das Model Context Protocol (MCP) bieten hierfür eine geeignete technische Grundlage.
Sprachmodelle können anhand der Nutzerfrage automatisch entscheiden, ob eine Ähnlichkeitssuche oder ein Tool Call durchgeführt werden soll. Sie können außerdem das passende Tool auswählen und auch die darin enthaltenen Parameter für den Tool Call zuverlässig bestimmen.