Survival LLM: Ein kostenloser Offline-KI-Assistent, der anhand vertrauenswürdiger Handbücher antwortet
Eine kostenlose Open-Source-App bündelt ein lokales KI-Modell mit Erste-Hilfe-, FEMA- und Reparaturanleitungen, sodass Sie nach der Einrichtung auch ohne Internet Fragen stellen können.
Stellen Sie sich vor, der Strom ist ausgefallen, Ihr Telefon hat kein Signal und Sie benötigen eine Erste-Hilfe-Antwort. Survival LLM versucht, dies abzudecken. Es handelt sich um eine kostenlose Open-Source-App (MIT-Lizenz) für Mac und Windows, die ein KI-Modell und eine Referenzbibliothek auf Ihren eigenen Computer stellt. Nach einer einmaligen Einrichtung, für die eine Internetverbindung erforderlich ist, funktioniert es vollständig offline und Ihre Fragen verlassen den Computer nie. Für jede Antwort wird die Quelle angegeben, sodass Sie die Originalpassage lesen können. Diese Woche erreichte er auf Hacker News mehr als 500 Punkte.
Die Bibliothek ist der interessante Teil. Die Vollversion ist ein 9-GB-Download (19 GB nach der Installation) mit medizinischen Referenzen, FEMA- und CDC-Anleitungen, Überlebenshandbüchern, Anleitungsinhalten und, in der größeren Ausgabe, Wikipedia- und iFixit-Reparaturanleitungen. Eine kleinere Edition ohne diese beiden ist 1,3 GB groß. Sie können auch eigene PDFs und Notizen hinzufügen, die der Assistent lokal durchsucht. Welches KI-Modell Sie erhalten, hängt vom Arbeitsspeicher Ihres Computers ab. Auf einem Mac mit 32 bis 96 GB läuft Qwen3.8 27B (ein 18-GB-Download), Windows-Maschinen mit 32 GB oder mehr erhalten NVIDIA Nemotron 3.5 Lightning und ein Laptop mit 16 bis 31 GB erhält IBM Granite 4.2 8B, was nur 6 ist GB. Die Einrichtung dauert 20 Minuten bis etwa 2,5 Stunden, hauptsächlich für den Download, und die App stammt nicht aus einem App Store, sodass Ihr Computer beim ersten Start eine Sicherheitswarnung anzeigt.
Was dahinter steckt: Hier vereinen sich zwei wissenswerte Ideen. Ein lokales Modell ist eine KI, die auf Ihrer eigenen Hardware statt auf den Servern eines Unternehmens läuft. Die Kombination mit einer Bibliothek wird als Retrieval bezeichnet. Das bedeutet, dass der Assistent Passagen in vertrauenswürdigen Dokumenten nachschlägt und seine Antwort daraus erstellt, anstatt nur aus dem Gedächtnis. Das erleichtert die Überprüfung und verringert die Wahrscheinlichkeit, dass etwas erfunden wird, das Risiko wird dadurch jedoch nicht beseitigt.
Die eigenen Zahlen des Autors zeigen die Kompromisse. Bei 22 Blackout- und Erste-Hilfe-Fragen, die blind mit einem früheren Build bewertet wurden, erzielten die größeren Modelle 21 von 22 Punkten und das kleine Granite-Modell 14 von 22 Punkten. Kleinere Modelle machen mehr Fehler, prüfen Sie daher die zitierten Quellen. Auch die Beantwortung verbraucht Strom, etwa 100 Watt bei einem MacBook Pro, was laut Autor etwa 100 bis 300 Antworten pro vollem Akku entspricht.
Was das für Sie bedeutet: Für neugierige Anfänger ist dies eine sanfte Möglichkeit, ohne Konto und ohne Kosten zu sehen, wie sich eine lokale KI anfühlt. Wenn Sie es für Notfälle benötigen, richten Sie es jetzt ein, während Sie über das Internet verfügen, testen Sie es und bewahren Sie auch einen gedruckten Erste-Hilfe-Leitfaden auf. Es handelt sich um ein hilfreiches Backup und nicht um einen Ersatz für Notdienste.
Quellen
Quellen: https://www.brangus.io/survival-llm
Eine strengere KI-Rangliste vergrößert den Abstand zwischen offenen und geschlossenen Modellen
Artificial Analysis baute seinen Intelligence Index mit größtenteils privaten Tests um, und der Abstand zwischen den besten offenen Modellen und den Spitzenreitern wuchs von 3 auf 12 Punkte.
