Interner Auskunftsdienst — RAG-Chatbot auf Schweizer Infrastruktur
Eine Schweizer Forschungsinstitution betreibt einen fachlichen Auskunftsdienst. Das dafür nötige Wissen liegt über Jahre gewachsen in internen Notizsammlungen. Wir wurden für einen Piloten angefragt, der dieses Wissen über natürlichsprachliche Fragen zugänglich macht — mit Quellenbeleg, ausschliesslich auf Schweizer Infrastruktur. Die Offerte liegt vor, der Entscheid steht aus; dieser Eintrag beschreibt den Lösungsvorschlag, keine gelieferten Resultate.
Ausgangslage
Rund zehn Personen beantworten fachliche Anfragen und recherchieren dafür in gewachsenen internen Notizsammlungen. Wer neu dazustösst, braucht lange, bis er weiss, wo etwas steht. Gesucht war kein Ersatz der Fachleute, sondern ein Rechercheweg, der die vorhandene Antwort schneller findet und dabei zeigt, woher sie stammt.
Unser Lösungsvorschlag
Eine RAG-Architektur auf Basis unseres produktiv erprobten Stacks statt einer Neuentwicklung von Grund auf: Wissensbasis als Vektor-Datenbank in einem Schweizer Rechenzentrum, ein in der Schweiz oder der EU betriebenes Sprachmodell oder ein selbst gehostetes Open-Weights-Modell, containerisiert und damit später auf eigene Infrastruktur überführbar. Jede Antwort verweist auf ihre Quelle. Bewertungen und Korrekturen der Mitarbeitenden werden erfasst, damit die Qualität nachvollziehbar besser wird statt nur gefühlt.
Abnahmekriterien statt Versprechen
Der Kunde nannte als Erfolgskriterium mindestens 90 Prozent korrekte Antworten. Wir haben in der Offerte offengelegt, dass diese Schwelle nach dem ersten Funktionsnachweis noch nicht verlässlich erreichbar ist, sondern erst nach der Ausbaustufe — und dass sie von der gemeinsam gewählten, in der Schweiz betreibbaren Modellfamilie abhängt. Gemessen wird gegen einen vorab gelieferten Katalog von zwanzig bis vierzig Testfragen mit Musterantworten, in einem moderierten Abnahmetermin, mit einer eingerechneten Nachbesserungsschleife. Was «korrekt» heisst, wird vor Projektstart gemeinsam definiert.
Was bewusst nicht im Piloten steckt
Ablösung der bestehenden Notizsammlung durch eine zentrale Wissensdatenbank, automatischer Rücklauf von Korrekturen, Bereitstellung für Externe, erweiterte Schutzschicht gegen Prompt-Injection, Hochverfügbarkeit mit Wartungsvereinbarung, Single Sign-on, laufender Abgleich neuer Inhalte und weitere Sprachen. Diese Punkte sind architektonisch mitgedacht, aber nicht Teil des Piloten. Ein Pilot, der alles enthält, ist kein Pilot mehr — er ist ein Projekt ohne Ausstiegspunkt.
Stand
Offerte übergeben, Entscheid ausstehend. Vorgesehen sind drei getrennt bestellbare Schritte: Requirements- und Architektur-Workshop, Funktionsnachweis, Ausbau mit gemessener Abnahme. Der Quellcode und die im Projekt entstehende Wissensbasis gehen an die Institution über.