Echtzeit, ohne Neuladen

Mit einem Assistenten zu sprechen bedeutet, einen Faden zu halten. Wenn jeder Satz bei Null anfangen würde, verlöre die Konversation ihr unmittelbares Gedächtnis und ihren Rhythmus. Deshalb haben wir uns für einen immer offenen Kanal entschieden.

Eine Konversation ist keine Abfolge von Anfragen

Die klassische Web-Architektur basiert auf isolierten Anfragen: Man fragt an, man erhält, man legt auf. Das ist perfekt, um eine Seite zu laden, aber ungeeignet für einen lebendigen Austausch. Eine Konversation hat eine Kontinuität: Was du gerade gesagt hast, färbt die nächste Antwort, der Assistent kann in mehreren Schritten sprechen, der Ton kommt in Fragmenten an. Jeden Satz als unabhängiges Formular zu behandeln, hätte diese Natürlichkeit zerstört.

Ein Kanal, der offen bleibt

Wir haben den Austausch daher auf einem WebSocket aufgebaut: eine einzige Verbindung, die für die Dauer der Sitzung geöffnet ist und in der Nachrichten in beide Richtungen fließen. Der Client sendet den Ton, der Server sendet Text und Stimme zurück, ohne die Verbindung bei jedem Durchgang neu herzustellen. Die Authentifizierung erfolgt beim Öffnen durch ein Token, das beim Handshake übermittelt wird. Danach ist der Tunnel etabliert, und alles läuft darüber.

Audio als Stream

Dieser Kanal ermöglicht es, die Stimme als Stream statt als Datei zu verarbeiten. Die Antwort kann bereits abgespielt werden, während sie noch generiert wird, und der Server kann sich anpassen: Wenn der Benutzer den Ton ausgeschaltet hat, sendet er einfach keine Sprachsynthese, was unnötige Berechnungen spart. Derselbe Kanal dient für alles, das macht den Austausch flüssig statt abgehackt.

Trotz des Netzwerks am Leben bleiben

Ein offener Kanal hat eine Schwachstelle: Das Netzwerk kann ihn unterbrechen. Ein Tunnelabbruch lässt weder das Gedächtnis noch die laufende Konversation verschwinden. Bei der Wiederverbindung wird der Faden dort wieder aufgenommen, wo er unterbrochen wurde. Auf Mobilgeräten, wo man beim Gehen von Wi-Fi auf 4G wechselt, ist diese Widerstandsfähigkeit kein Detail, sie ist die Bedingung dafür, dass ein Sprachassistent ein ständiger Begleiter bleibt.