Chat AI wurde jetzt um eine neue einzigartige Funktion namens „Arcana“ erweitert, die Anfragen von Nutzer*innen mit zusätzlichen Informationen anreichert. Damit ist Chat AI der erste Dienst seiner Art, der ein vollständig privates, serverseitiges RAG-Framework mit offenem und einfachem Zugang integriert, einschließlich der Möglichkeit für jede*n Nutzer*in, Wissen hochzuladen, zu extrahieren und mit anderen Nutzer*innen zu teilen.
Über eine neue Arcana-Manager-Schnittstelle können Sie Dokumentensammlungen, sogenannte „Arcanas“, erstellen, diese vorverarbeiten lassen und sie dann über die aktualisierte Chat-AI-Schnittstelle verwenden oder sogar mit anderen Nutzer*innen teilen. Eine Arcana kann über ihre ID und einen kryptografischen Schlüssel geteilt werden, die beide in Arcana-Freigabelinks enthalten sind.
Dadurch können die Modelle in Chat AI mithilfe von Retrieval-Augmented Generation (RAG) Antworten generieren, die besser informieren und für Ihre Bedürfnisse relevanter sind, indem relevante Teile aus den Dokumenten in eine bestimmte Arcana in die Anfragen der Nutzer*innen eingefügt werden. Nur die Modelle, die die neue Arcana-Funktion unterstützen, haben die Möglichkeit, die ID und den Schlüssel unter „Erweiterte Optionen“ festzulegen.
Im Gegensatz zu anderen bestehenden Diensten ist unsere RAG-Implementierung serverseitig und vollständig privat. Ähnlich wie bei Chat AI speichern wir Dokumente von Nutzer*innen nie in einfacher Form auf unseren Systemen. Nach der Vorverarbeitung einer Arcana ist sie bereit für die Verwendung für RAG und wird mit einem separaten, neu generierten Schlüssel verschlüsselt. Dieser neue Schlüssel kann zusammen mit der Arcana-ID an andere Nutzer*innen weitergegeben werden, damit diese die Arcana in der Chat-AI-Oberfläche verwenden können.
Sie können gerne Arcanas für Ihre Kurse, Vorlesungsmaterialien und Dokumentationen erstellen. In unserer ersten Version unterstützen wir Text-, Markdown- und PDF-Dateien; weitere Dateiformate sind in Vorbereitung. An einer Open-Source-Version der Arcana-Codebasis wird ebenfalls gearbeitet.
Weitere Informationen
- Schauen Sie auch in unsere Nutzerdokumentation für das Arcana-Framework.
- Probieren Sie die Verwendung einer Arcana auf der Grundlage unserer HPC-Dokumentation aus.
- Um mit der Erstellung von Arcanas zu beginnen, verwenden Sie die RAG-Manager-Oberfläche.