Das Web per Stimme durchsuchen
Eine KI, die nie ihren Kopf verlässt, nach dem Wetter von morgen zu fragen, heißt, sie zum Raten einzuladen. Wir haben eine echte Websuche in die Konversation integriert und gelernt, dass nicht alle Suchmethoden gleich gut sind.
Richtig antworten oder schnell antworten
Ein Sprachmodell kann auf fast alles antworten, auch wenn es nichts weiß: Das ist die klassische Falle der konversationellen KI, eine selbstbewusste Antwort, die manchmal nur eine als Fakt verkleidete Vermutung ist. Für eine Frage nach dem Wetter des Tages, aktuellen Nachrichten oder einer Reisezeit gibt es keine ehrliche Abkürzung: Man muss die Information suchen, nicht aus dem erraten, was das Modell an einem bestimmten Tag gelernt hat. Wir hatten bereits einen ersten Websuchmechanismus in die Konversation integriert, aber er zeigte seine Grenzen bei mehrstufigen Fragen (eine Reise mit mehreren Segmenten, eine Dauer, die aus mehreren verstreuten Informationen zusammengesetzt werden muss). „Wie lange dauert es, über Chambéry nach Lyon zu fahren“ erfordert die Suche nach zwei Routen, deren Addition und die Überprüfung, ob die Route sinnvoll ist: Der erste Mechanismus behandelte dies oft als eine einzige, flache Frage, und die Antwort litt darunter. Die Art von Frage, die, wieder einmal, zum Raten anstatt zum richtigen Suchen anregt.
Die Suchmaschine wirklich wechseln
Wir sind daher zu einer Websuchmaschine übergegangen, die nativ für diese Art von Nutzung konzipiert ist, anstatt einer nachträglich auf ein allgemeines Sprachmodell aufgepfropften Erweiterung. Der Unterschied macht sich vor allem bei zusammengesetzten Fragen bemerkbar: Eine mehrstufige Reiseanfrage wird nicht mehr als isolierte Frage behandelt, sondern als echter Suchkontext, mit mehreren gekreuzten Quellen, bevor geantwortet wird. Das für diese Aufgabe verwendete Modell bleibt serverseitig konfigurierbar, ohne von einer fest im Code verankerten ID abzuhängen. Nützlich, um die Version zu ändern, sobald eine bessere erscheint, ohne den aufrufenden Schaltkreis neu schreiben zu müssen.
Quellen, keine Behauptungen
Jede Antwort, die aus einer Websuche resultiert, wird von den Quellen begleitet, die sie gespeist haben. Das ist kein kosmetisches Detail: Es verändert die Natur der Antwort. XNeuronal sagt nicht mehr einfach „es wird morgen regnen“, es kann dir sagen, woher diese Information stammt, und du behältst die Möglichkeit, selbst zu überprüfen, ob das Thema es wert ist. Eine nützliche Antwort kann auch zu einer Memo-Karte werden, die später, inklusive Quellen, eingesehen werden kann, anstatt im Gesprächsverlauf verloren zu gehen, sobald der nächste Satz gesprochen wurde. Diesen Mechanismus findest du heute in der Websuche von XNeuronal.
Die Grenze zwischen Erinnern und Suchen
Diese Arbeit hat auch eine Grenze geklärt, die man besser nie verwischen sollte: Die Erinnerung von XNeuronal behält, was du ihm sagst, die Websuche sucht, was du noch nicht weißt. Die beiden dürfen sich niemals gegenseitig ersetzen: Eine von dir erwähnte Tatsache sollte keine unnötige externe Suche auslösen, und eine Frage nach den aktuellen Nachrichten sollte niemals aus einer schlecht angepassten alten Erinnerung erraten werden, selbst wenn sie neu ist und selbstbewusst formuliert wurde. Das ist eine Unterscheidung, die auf dem Papier offensichtlich erscheint, die aber in jeder Gesprächsrunde, Frage für Frage, aufrechterhalten werden muss, ohne sie jemals verblassen zu lassen.
Der Kompromiss, den wir eingehen: Eine Websuche dauert strukturell länger als eine Antwort aus dem unmittelbaren Gedächtnis, weil tatsächlich die Außenwelt konsultiert werden muss, bevor geantwortet wird. Wir ziehen diese bewusste Verzögerung einer sofortigen Antwort vor, die falsch hätte sein können: Besser ein oder zwei Sekunden mehr als ein selbstbewusst erfundenes Wetter.