LocalRAG ist eine mobile Anwendung (iPhone, iPad, Android), mit der Sie Fragen zu Ihren Dokumenten (PDF, Word, Excel, EPUB, Bilder, 15 Formate) mit einem lokal ausgeführten LLM (Qwen3 4B) stellen können, das vollständig auf dem Gerät eingebettet ist. Der Benutzer behält völlige Vertraulichkeit: Keine Daten werden in die Cloud gesendet. Für höhere Qualität kann die App auf die Claude-API umschalten. Zitate, PDF-Hervorhebung und mehrsprachige Suche sind integriert.
Qu'est-ce que LocalRAG ?
L'essentiel
LocalRAG ist eine mobile Anwendung (iOS, iPadOS und Android in Beta) für dokumentengestützte Chats mit lokaler Ausführung des Sprachmodells. Die Anwendung unterstützt 15 Dokumentformate, darunter PDF, EPUB, Word, Excel, PowerPoint und Bilder via OCR. Der Benutzer fügt seine Dateien in eine Sammlung ein und kann Fragen in natürlicher Sprache stellen. LocalRAG gibt eine Antwort mit Quellenangaben und entsprechender PDF-Hervorhebung zurück. Die Stärke des Produkts liegt in seinem lokalen LLM Qwen3 4B, das nach dem Herunterladen vollständig auf dem Gerät ausgeführt wird. Für höhere Qualität ist eine Umschaltung zur Claude-API verfügbar.
Fonctionnalités principales
LocalRAG integriert eine vollständige Dokumentverarbeitungspipeline. Extraktion und Indizierung erfolgen 100% lokal: BM25 für lexikalische Suche, mehrsprachiges Embedding-Modell E5 für semantische Suche. Fragen werden von Qwen3 4B lokal oder Claude (Opus, Sonnet, Haiku) in der Cloud je nach Benutzerauswahl verarbeitet. Antworten enthalten Zitate [1][2], die auf die genaue Seite mit Hervorhebung verweisen. Die Anwendung verwaltet Sortierung und benutzerdefinierte Sammlungsreihenfolge, OCR für Fotos und Scans, PDF-Tabellenextraktion unter Beibehaltung der Struktur und Transparenz in der Suchpipeline. Aktuelle Versionshinweise erwähnen Inline-Zitate, PDF-Hervorhebung und sprachübergreifende Suche.
Cas d'usage
Die ersten Anwendungsfälle betreffen Rechtsanwälte, die schnell Klauseln, Risiken und Verpflichtungen in Verträgen identifizieren müssen. Forscher finden wertvolle Hilfe beim Zusammenfassen akademischer Arbeiten und Kreuzkontrolle von Ergebnissen. Studenten können mit ihren Lehrbüchern dialogieren und sich effektiv auf Prüfungen vorbereiten. Berater nutzen LocalRAG zur Vorbereitung von Kundendossiers, ohne Daten in die Cloud zu senden. Ärzte können vertrauliche Protokolle oder Veröffentlichungen konsultieren. Schließlich nutzen Einzelbenutzer OCR, um Fotos von Whiteboards oder handgeschriebenen Notizen in indizierbare Dokumente umzuwandeln.
Avantages
Der Hauptvorteil ist vollständige Vertraulichkeit bei Verwendung des lokalen Modus: Keine Daten verlassen das Gerät. Der zweite Vorteil ist Offline-Verfügbarkeit: Die Anwendung funktioniert ohne Internet, was bei Mobilität oder in eingeschränkten Umgebungen wertvoll ist. Der dritte Vorteil ist Suchqualität: BM25 plus E5 plus Qwen3 4B liefern relevante Ergebnisse mit verifizierbaren Zitaten. Der vierte Vorteil ist Flexibilität: Mögliche Umschaltung auf Claude für komplexere Anfragen. Schließlich ermöglichen OCR und die Unterstützung von 15 Formaten die Zentralisierung des gesamten Corpus in einer einzigen Anwendung.
Tarifs
LocalRAG bietet eine einwöchige kostenlose Testversion, dann ein kostenpflichtiges Abo zur unbegrenzten Nutzung. Die Anwendung ist im iOS App Store und Google Play Store Android (Beta) verfügbar. Das lokale LLM Qwen3 4B ist in der Anwendung enthalten, unter der Voraussetzung, dass die erforderlichen ~3 GB heruntergeladen werden. Die Umschaltung auf Claude erfordert die Verwendung Ihres eigenen OpenAI/Anthropic API-Schlüssels und zahlt für die zugehörige Nutzung. Nach dem Abschluss des Abos werden keine versteckten Kosten erhoben.
Conclusion
LocalRAG erfüllt ein präzises und wachsendes Bedürfnis: Ein KI-Dokumenten-Assistent von den Vorteilen einer Lösung nutzen, ohne die Vertraulichkeit der Daten zu beeinträchtigen. Die lokale Ausführung, die funktionale Fülle und die Qualität der Zitate machen es zu einer Referenz für mobile Profis und solche, die ihre digitale Souveränität schätzen.