Chatbots auf der eigenen Website: 2026 noch zeitgemäß oder schon wieder passé?

Lohnt sich ein Chatbot auf der eigenen Website noch, oder ist der Zug schon wieder abgefahren?

Kurz gesagt: Es hängt weniger davon ab, ob man einen Chatbot einsetzt, als davon, was unter der Haube läuft und wie sauber das System gebaut ist.

Vor ein paar Jahren waren Website-Chatbots meist ziemlich stumpfe, regelbasierte Systeme: feste Entscheidungsbäume, ein paar Keywords und viel „Das habe ich leider nicht verstanden“.

LLM-basierte Bots spielen technisch in einer anderen Liga. Sie verstehen freien Text, können Rückfragen stellen, Kontext über mehrere Nachrichten hinweg berücksichtigen und ihre Antworten an die jeweilige Anfrage anpassen.

Damit können sie deutlich mehr leisten als klassische FAQ-Bots. Gleichzeitig entstehen dadurch aber auch neue Risiken.

Die Kehrseite: Haftung und Kontrolle

Ein regelbasierter Bot kann im Wesentlichen nur das sagen, was man ihm vorher beigebracht hat. Ein LLM kann dagegen auch Aussagen erzeugen, die niemand so vorgesehen hat.

Das wird spätestens dann relevant, wenn aus einer Halluzination eine geschäftliche Aussage wird.

Fragt ein Kunde beispielsweise, ob er bei einer Bestellung heute 20 Prozent Rabatt bekommt, und der Bot erfindet aus Hilfsbereitschaft eine entsprechende Aktion, ist das nicht mehr nur ein kurioser Modellfehler. Plötzlich steht gegenüber einem Kunden eine konkrete Aussage im Raum.

Dass diese technisch von einem Sprachmodell erzeugt wurde, entbindet den Betreiber nicht automatisch von der Verantwortung. Je nach konkreter Konstellation können falsche Angaben, Zusagen oder Preisangaben durchaus rechtliche und wirtschaftliche Folgen haben.

Deshalb braucht ein öffentlich erreichbarer LLM-Chatbot Leitplanken:

• ein klar formuliertes System-Prompt, das Rolle, Tonalität und Grenzen des Bots definiert
• klare Vorgaben, zu welchen Themen er keine Aussagen treffen darf, etwa eigenständige Preisverhandlungen oder rechtliche Zusicherungen
• technische Berechtigungen und Zugriffsbeschränkungen für Aktionen und externe Systeme
• kontrollierte Datenquellen
• Tests gegen Prompt-Injection- und Jailbreak-Versuche
• laufendes, datenschutzkonformes Monitoring der Konversationen
• eine klare Kennzeichnung, dass Nutzer mit einem KI-System interagieren

Gerade der letzte Punkt ist inzwischen auch regulatorisch relevant. Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der EU-KI-Verordnung (AI Act). Für KI-Systeme, die direkt mit Menschen interagieren, muss grundsätzlich erkennbar sein, dass es sich um ein KI-System handelt.

Gutes Prompting ist dabei wichtig, aber keine Sicherheitsgrenze. Ein sauberer System-Prompt gehört zu einer guten Lösung genauso wie Berechtigungen, technische Zugriffsbeschränkungen und kontrollierte Datenquellen.

Wer ein LLM einfach „frei“ an die eigene Website hängt, wird früher oder später eine unangenehme Überraschung erleben.

Wofür sich der Aufwand lohnt

Richtig konfiguriert, ist ein moderner Chatbot deutlich mehr als ein Suchfeld mit Konversationstalent.

Im E-Commerce kann er beispielsweise Fragen zur Produktauswahl beantworten, Unterschiede zwischen Produkten erklären oder auf Basis der Anforderungen eines Kunden passende Artikel vorschlagen.

Kennt das System zusätzlich den aktuellen Kontext des Nutzers, wird es noch interessanter: Der Bot kann wissen, welches Produkt gerade angesehen wird, was sich bereits im Warenkorb befindet oder welche Variante zu vorhandenem Zubehör passt.

Je nach Anbindung kann er sogar Aktionen auslösen und beispielsweise ein ausgewähltes Produkt direkt in den Warenkorb legen.

Damit wird aus einem FAQ-Popup ein tatsächlicher Assistent im Kaufprozess.

Auch im Support kann das sinnvoll sein. Statt den Nutzer durch eine lange Wissensdatenbank zu schicken, kann der Bot das Problem eingrenzen, relevante Informationen heraussuchen und im Idealfall direkt eine passende Lösung liefern.

Entscheidend ist allerdings, dass er weiß, wann Schluss ist.

Der Bot braucht einen Ausgang

Sobald der Bot fachlich an seine Grenzen kommt, eine Situation eskaliert oder der Nutzer schlicht mit einem Menschen sprechen möchte, sollte die Übergabe möglichst reibungslos funktionieren.

Niemand möchte zehn Minuten lang gegen einen Bot argumentieren, nur um am Ende wieder bei „Wie kann ich Ihnen helfen?“ zu landen.

Idealerweise bekommt der Mitarbeiter bei der Übergabe den bisherigen Kontext gleich mitgeliefert. Der Kunde muss sein Problem dann nicht noch einmal komplett von vorne erklären.

Gerade bei Beschwerden, wiederholten Fehlern oder Situationen, in denen Empathie gefragt ist, ist eine schnelle Übergabe oft sinnvoller als der Versuch, unbedingt noch eine weitere Bot-Antwort zu produzieren.

Ein Chatbot sollte deshalb ein Angebot sein, keine Pflicht.

Klassische Kontaktmöglichkeiten wie E-Mail, Telefon oder Live-Chat sollten nicht künstlich hinter dem Bot versteckt werden.

Technisch: Warum RAG ein wichtiger Hebel ist

Damit ein Bot sinnvoll über Produkte, Anleitungen, Hilfeseiten oder interne Unternehmensinformationen sprechen kann, braucht er Zugriff auf diese Inhalte.

Alles dauerhaft in ein riesiges Prompt zu kopieren, ist dafür weder besonders elegant noch besonders praktikabel.

Hier kommt Retrieval-Augmented Generation, kurz RAG, ins Spiel.

Vereinfacht gesagt werden Unternehmensinhalte aufbereitet und häufig mithilfe von Embeddings so gespeichert, dass zu einer Nutzerfrage semantisch passende Textstellen gefunden werden können.

Stellt ein Nutzer eine Frage, sucht das System zunächst nach relevantem Material. Diese Fundstellen erhält das Sprachmodell anschließend als zusätzlichen Kontext für seine Antwort.

Dadurch muss das Modell bei unternehmensspezifischen Fragen deutlich weniger aus seinem allgemeinen Wissen heraus raten.

Eine Garantie gegen Halluzinationen ist RAG allerdings nicht.

Das System kann die falschen Dokumente abrufen, wichtige Informationen übersehen, veraltete Inhalte finden oder einen eigentlich korrekten Text falsch interpretieren. Auch eine Antwort kann über das hinausgehen, was durch die gefundenen Quellen tatsächlich belegt ist.

Deshalb gehören Retrieval-Qualität, Quellenpflege und Evaluation genauso zur Architektur wie die Vektordatenbank selbst.

Für Embeddings gibt es inzwischen sehr leistungsfähige Open-Source-Modelle, die lokal betrieben werden können. Auch Vektordatenbank und Embedding-Pipeline müssen also nicht zwingend bei einem externen Cloudanbieter liegen.

Beim eigentlichen Sprachmodell ist die Auswahl ebenfalls größer geworden. Je nach Anforderungen an Qualität, Datenschutz, Kosten und Latenz kommen sowohl kommerzielle APIs als auch selbst betriebene Modelle infrage.

Wie Retrieval in der Praxis aufgebaut wird und wo ein Agent über einfaches Suchen hinausgeht, beschreiben wir in Agentisches RAG.

Wann sich ein Chatbot nicht lohnt

Bei aller Begeisterung für die Technik sollte man allerdings nicht aus jedem Kontaktformular ein KI-Projekt machen.

Hat eine Website nur wenige Inhalte und drehen sich Nutzeranfragen immer wieder um dieselben fünf Fragen, kann ein gut aufgebautes FAQ die bessere Lösung sein.

Auch wenn der Bot weder auf relevante Daten zugreifen noch konkrete Prozesse unterstützen kann, sollte man sich fragen, welchen Mehrwert eine Chatoberfläche tatsächlich bringt.

Das Gleiche gilt, wenn Nutzer eigentlich nur schnell eine Telefonnummer, Lieferzeit oder Öffnungszeit suchen. Dafür muss nicht zwangsläufig ein Sprachmodell gestartet werden.

Die sinnvollere Frage lautet deshalb nicht:

„Brauchen wir einen Chatbot?“

Sondern:

„Welches Problem soll er besser lösen als die bestehende Website?“

Gibt es darauf keine überzeugende Antwort, braucht man wahrscheinlich auch keinen Chatbot.

Zum Ausprobieren: Langflow

Wer selbst ein Gefühl dafür bekommen möchte, wie ein LLM-System mit Retrieval und verschiedenen Tools aufgebaut werden kann, kann sich beispielsweise Langflow ansehen. Wer Flowise produktiv einsetzt, findet Zeitplan, Risiken und Alternativen im Beitrag Flowise wird eingestellt.

Das Open-Source-Projekt bietet eine visuelle Oberfläche, über die sich Sprachmodelle, Retrieval, Datenquellen, Tools und Agenten zu Workflows verbinden lassen.

Das ersetzt keine durchdachte Produktivarchitektur. Zum Experimentieren und Verstehen eignet sich ein solches Werkzeug aber gut.

Vor allem wird schnell sichtbar, wie Prompting, Kontext, Retrieval und externe Tools zusammenspielen, und an welchen Stellen ein zunächst simpel wirkender Chatbot plötzlich deutlich komplexer wird.

Den Nervfaktor nicht unterschätzen

Technisch kann ein moderner Chatbot beeindruckend sein und trotzdem ein schlechtes Produkt abgeben.

Ein Pop-up, das sich beim Seitenaufruf ungefragt öffnet, ein Bot, der den eigentlichen Support versteckt, oder ein Sprachassistent am Telefon, der jede einfache Anfrage erst durch mehrere Rückfragen schleust, kostet Vertrauen statt Supportaufwand.

Das Ziel sollte deshalb nicht sein, möglichst viele Kontakte über den Bot abzuwickeln.

Das Ziel sollte sein, Nutzern bei den richtigen Anfragen schneller zu helfen.

Manchmal bedeutet das, dass der Bot selbst eine Antwort liefert. Manchmal bedeutet es, dass er relevante Informationen zusammensucht. Und manchmal besteht die beste Leistung des Bots darin, den Nutzer möglichst schnell an einen Menschen weiterzugeben.

Fazit

Chatbots auf der eigenen Website sind 2026 weder Auslaufmodell noch Selbstläufer.

Die Technik ist deutlich weiter als noch vor ein paar Jahren. Genau deshalb sind klare Grenzen, technische Absicherung, gutes Retrieval und durchdachte Eskalationswege heute wichtiger und nicht unwichtiger geworden.

Richtig eingesetzt, kann ein Chatbot Kaufprozesse unterstützen, Support entlasten und Nutzern schneller Zugang zu relevanten Informationen geben.

Falsch eingesetzt, produziert er falsche Aussagen, Sicherheitsprobleme und genervte Kunden.

Ob sich ein solches System für die eigene Website lohnt, lässt sich deshalb weniger mit einem pauschalen Ja oder Nein beantworten als mit drei Fragen:

Was soll der Bot können? Auf welche Daten darf er zugreifen? Und wann muss ein Mensch übernehmen?

Genau diese Fragen klären wir auch mit Unternehmen, bevor überhaupt über Modelle, Vektordatenbanken oder konkrete Tools gesprochen wird. Melden Sie sich, wenn Sie das für Ihre Website durchgehen möchten.