Wie entwickelt man einen KI-Chatbot, der nicht nur heute funktioniert, sondern sich auch in Zukunft erweitern, warten und datenschutzkonform betreiben lässt?

Für dieses Projekt entwickelten wir ein KI-Assistenzsystem für Senior:innen, das moderne Sprachmodelle mit einer modularen Softwarearchitektur und einem strukturierten Wissensmanagement verbindet. Neben der eigentlichen Chatbot-Entwicklung standen vor allem die langfristige Wartbarkeit, eine klare Systemarchitektur und gemeinsam definierte Prozesse für den Betrieb im Mittelpunkt.

Das Ergebnis ist keine isolierte KI-Anwendung, sondern eine nachhaltige KI-Plattform, die flexibel erweitert und an zukünftige Anforderungen angepasst werden kann.

Ausgangssituation

Viele KI-Projekte konzentrieren sich auf die Auswahl eines geeigneten Large Language Models (LLM). In der Praxis entscheidet jedoch nicht allein das Sprachmodell über den Erfolg einer Lösung. Ebenso wichtig sind eine tragfähige Systemarchitektur, klar definierte Prozesse und eine Wissensbasis, die dauerhaft gepflegt werden kann.

Für dieses Projekt sollte ein KI-Assistenzsystem entstehen, das Senior:innen verständliche Antworten liefert und gleichzeitig die Grundlage für einen langfristigen Betrieb schafft.

Bereits zu Beginn war klar, dass neben der technischen Entwicklung auch organisatorische Fragestellungen berücksichtigt werden müssen. Wie bleiben Inhalte aktuell? Wer pflegt das Wissen? Wie lassen sich neue Funktionen ergänzen? Und wie kann die Lösung zukünftig auch mit anderen Sprachmodellen betrieben werden?

Diese Fragen bildeten die Grundlage für die anschließende Konzeption.

Projektziele

Gemeinsam mit dem Kunden definierten wir sowohl fachliche als auch technische Anforderungen.

Die Lösung sollte:

  • Informationen verständlich und zielgruppengerecht vermitteln.
  • eine intuitive und barrierearme Nutzung ermöglichen.
  • modular aufgebaut und langfristig wartbar sein.
  • die Wissensbasis unabhängig von der Software pflegbar machen.
  • zukünftige Erweiterungen ohne grundlegende Systemänderungen ermöglichen.
  • unabhängig von einem einzelnen KI-Anbieter betrieben werden können.
  • die Möglichkeit schaffen, zukünftig auch datenschutzkonforme oder selbst betriebene Large Language Models einzusetzen.

Analyse und Konzeption

Zu Beginn analysierten wir gemeinsam mit dem Kunden die Anforderungen an die spätere KI-Anwendung. Neben typischen Nutzungsszenarien standen insbesondere die Organisation des Wissens sowie die langfristige Pflege der Inhalte im Fokus.

Schnell zeigte sich, dass ein leistungsfähiger KI-Chatbot allein nicht ausreicht. Ebenso wichtig ist eine Architektur, die technische Komponenten, Wissensbasis und organisatorische Prozesse klar voneinander trennt.

Auf dieser Grundlage entwickelten wir ein Konzept, das sowohl die Softwarearchitektur als auch die späteren Arbeitsabläufe berücksichtigt. Parallel entstand gemeinsam mit dem Kunden ein strukturierter Prozess, mit dem neue Inhalte erstellt, geprüft und in die Wissensbasis übernommen werden können.

Dadurch wurde bereits vor der eigentlichen Entwicklung die Grundlage für einen langfristig wartbaren Betrieb geschaffen.

Entwicklung einer modularen KI-Plattform

Die technische Umsetzung erfolgte als modulare KI-Plattform mit einer Mehr-Agenten-Architektur.

Anstatt alle Aufgaben innerhalb eines einzelnen KI-Modells abzubilden, übernehmen spezialisierte Agenten klar definierte Funktionen und kommunizieren über eindeutige Schnittstellen miteinander.

Diese Architektur verbessert die Wartbarkeit, erleichtert zukünftige Erweiterungen und ermöglicht es, einzelne Komponenten unabhängig voneinander weiterzuentwickeln.

Ein weiteres zentrales Architekturprinzip war die konsequente Entkopplung der Anwendung vom eingesetzten Large Language Model.

Dadurch bleibt die Lösung unabhängig von einem bestimmten Anbieter. Das eingesetzte LLM kann jederzeit ausgetauscht werden, ohne dass die Anwendung grundlegend angepasst werden muss. Dies schafft die Möglichkeit, zukünftig auch lokale oder datenschutzkonforme Sprachmodelle einzusetzen, wenn sensible Unternehmensdaten verarbeitet werden oder regulatorische Anforderungen dies erfordern.

Wissensmanagement und Pflegeprozess

Ein leistungsfähiger KI-Chatbot benötigt eine aktuelle und verlässliche Wissensbasis. Deshalb entwickelten wir gemeinsam mit dem Kunden nicht nur die technische Lösung, sondern auch einen strukturierten Prozess für die Pflege des Wissens.

Gemeinsam wurden Verantwortlichkeiten definiert und Abläufe entwickelt, mit denen neue Inhalte erstellt, geprüft und in die Wissensbasis übernommen werden können.

Durch die konsequente Trennung zwischen Software, KI-Logik und Wissensbasis können Inhalte unabhängig von der technischen Anwendung weiterentwickelt werden. Dies erleichtert die laufende Pflege und sorgt dafür, dass die Qualität der Antworten langfristig erhalten bleibt.

Der Pflegeprozess ist damit ein wesentlicher Bestandteil der Gesamtlösung und schafft die organisatorische Grundlage für den nachhaltigen Einsatz von Künstlicher Intelligenz.

Technische Umsetzung

Die Lösung wurde als moderne Webanwendung entwickelt und verbindet Benutzeroberfläche, Backend, Wissensbasis und KI-Komponenten zu einem durchgängigen Gesamtsystem.

Zum Einsatz kamen unter anderem:

  • Next.js
  • OpenAI
  • Python
  • PostgreSQL
  • Docker

Durch den modularen Aufbau können einzelne Komponenten unabhängig voneinander erweitert oder ausgetauscht werden. Dadurch bleibt die Anwendung auch bei zukünftigen technischen Entwicklungen flexibel.

Ergebnis

Mit dem Projekt entstand eine nachhaltige KI-Plattform, die technische und organisatorische Anforderungen gleichermaßen berücksichtigt.

Neben einer intuitiven Benutzeroberfläche verfügt die Lösung über eine skalierbare Mehr-Agenten-Architektur, ein gemeinsam entwickeltes Wissensmanagement sowie einen strukturierten Pflegeprozess für die Wissensbasis.

Durch die herstellerunabhängige Architektur kann das eingesetzte Large Language Model jederzeit ersetzt werden. Damit bleibt die Lösung flexibel gegenüber zukünftigen technologischen Entwicklungen und schafft gleichzeitig die Möglichkeit, datenschutzkonforme oder lokal betriebene KI-Modelle einzusetzen.

Das Projekt zeigt, dass erfolgreiche KI-Anwendungen nicht allein durch leistungsfähige Sprachmodelle entstehen. Entscheidend sind eine durchdachte Architektur, klar definierte Prozesse und eine Lösung, die langfristig betrieben, gepflegt und weiterentwickelt werden kann.

Illustration von zwei Personen, die sich die Hand schütteln. Im Hintergrund ist ein großer orangefarbener Aktenkoffer mit Zahnrädern dargestellt.

Kontakt

Sie haben Fragen zum Projekt oder möchte selbst ein KI-Projekt umsetzen?

Nehmen Sie jetzt Kontakt mit uns auf.