Verteilen und führen Sie LLMs und Speech-to-Text-Modelle lokal mit einer einzigen ausführbaren Datei aus.
Kombinieren Sie llama.cpp und Cosmopolitan Libc, um Sprach- und Audiomodelle ohne Installation lokal auszuführen.
Mit llamafile können Sie offene LLMs und Speech-to-Text-Modelle in einer einzigen ausführbaren Datei verpacken und ausführen, die auf mehreren Betriebssystemen funktioniert. Es ist für Entwickler und Audioprofis konzipiert, die Modelle ohne komplexe Softwareinstallationen lokal ausführen möchten.
Das Tool kombiniert llama.cpp und whisper.cpp mit Cosmopolitan Libc, um eigenständige ausführbare Dateien namens llamafiles und whisperfiles zu erstellen. Es unterstützt lokale Inferenz, Transkription und Übersetzung von Audiodateien über verschiedene CPU-Architekturen und Betriebssysteme hinweg.
Es eignet sich für Audio-Engineers und Entwickler, die lokale Speech-to-Text-Transkription und LLM-Inferenz ohne komplexe Abhängigkeiten wünschen. Es ist nicht geeignet für Benutzer, die nach traditionellen, von der Cloud verwalteten APIs suchen, oder für diejenigen, die Windows mit Modellen von mehr als 4GB aufgrund von Beschränkungen der Dateigröße ausführen.
Verteilen und führen Sie Modelle in einer Datei mit Cosmopolitan Libc-Paketierung aus.
Beinhaltet Speech-to-Text-Transkription und -Übersetzung basierend auf whisper.cpp.
Läuft lokal auf den meisten Betriebssystemen und CPU-Architekturen ohne Installation.
Führen Sie größere Modelle aus, indem Sie die Binärdatei mit externen GGUF-Gewichtsdateien koppeln.
Die einzigen Kosten entstehen durch den Eigenbetrieb auf Ihrer eigenen Hardware, da die Software open source ist.
877 offene Remote-Stellen im KI-Training, aktualisiert am 16. November 2026; die meisten zahlen $20–$175 pro Stunde. 12 davon suchen Deutschsprachige. Zekai listet sie kostenlos; die Bewerbung läuft über die Plattform des Arbeitgebers.
Diese bewerteten KI-Tools erledigen die Aufgabe sofort — aus unserem bewerteten Verzeichnis.
Es ist eine einzelne ausführbare Datei, die Gewichte und Code kombiniert, um LLMs ohne Installation lokal auszuführen.
Ja, es enthält whisperfile für die lokale Speech-to-Text-Transkription und -Übersetzung mit whisper.cpp.
Ja, nur ausführbare Dateien unter 4GB können direkt unter Windows ausgeführt werden, daher erfordern größere Modelle externe GGUF-Gewichte.
Zekai zuerst in Google sehen