KoboldCpp
Локальный однофайловый раннер для GGUF языковых моделей со встроенным интерфейсом браузера для генерации историй и текста.
Управляйте текстовыми GGUF моделями со страницы браузера на вашем собственном ПК со встроенными режимами написания историй.
KoboldCpp — это бесплатное программное обеспечение для запуска больших языковых моделей GGUF на вашем собственном компьютере, с поставляемым в комплекте веб-интерфейсом для написания историй и текста. Оно подходит авторам, которым нужна генерация текста прямо на их машине и которые готовы самостоятельно скачивать файлы моделей.
Что это
Это один исполняемый файл на базе llama.cpp, который загружает GGUF модель и открывает интерфейс KoboldAI Lite на localhost:5001. Этот интерфейс предлагает режимы чата, приключений, инструкций и написания историй, с памятью, информацией о мире, заметками автора и сохраненными историями. Он также может предоставлять совместимые с KoboldAI, OpenAI и Ollama эндпоинты, чтобы другие приложения использовали его в качестве бэкенда модели.
Для кого
Он подходит писателям и энтузиастам, которым нужна локальная конфиденциальная генерация текста и которые готовы самостоятельно выбрать и скачать модель. Он не подходит, если вам нужен полноценный редактор рукописей или облачный сервис, не требующий забот об аппаратном обеспечении.
Ключевые возможности
Загрузка в один файл
Единый исполняемый файл для Windows, Linux или macOS, без установщика или дополнительных зависимостей.
Режимы написания историй
Встроенный интерфейс предлагает режимы историй, приключений, чата и инструкций.
Память и информация о мире
Заметки автора, память и информация о мире помогают поддерживать согласованность длинных текстов.
Работа на CPU или GPU
Запускается на CPU или GPU с полной или частичной разгрузкой; видеокарта опциональна.
Совместимые API
Предоставляет эндпоинты в стиле KoboldAI, OpenAI и Ollama для других приложений.
Дополнительные типы генерации
Опционально добавляет генерацию изображений, речи и музыки с совместимыми моделями.
Готово за 3 шага
Наш честный вердикт
Плюсы
- В README указано, что это один исполняемый файл без установки, что упрощает первый запуск.
- Дискретная видеокарта опциональна; размер модели и длина контекста определяют, сколько памяти вам нужно.
- Память, информация о мире и заметки автора встроены в интерфейс, что помогает при работе с длинными художественными текстами.
- Другие приложения могут использовать его в качестве бэкенда через совместимые с KoboldAI, OpenAI или Ollama эндпоинты.
Минусы
- Модели не включены: вы должны найти и скачать GGUF модель отдельно и выбрать настройки для вашего железа.
- Более крупные модели требуют значительного объема RAM или VRAM, а скорость только на CPU будет низкой для больших моделей.
- Качество вывода полностью зависит от загруженной вами модели; программное обеспечение ее не предоставляет.
- Применяется AGPL-3.0, а встроенные компоненты сохраняют свои собственные лицензии (MIT, Apache 2.0), поэтому перераспределение измененных сборников требует внимания.
Цены и лицензия
Бесплатно по лицензии AGPL-3.0, и на страницах проекта нет платных планов. Ваши затраты — это компьютер и любые файлы моделей, которые вы скачиваете.
Вакансии для носителей русского языка
767 открытых удалённых вакансий по обучению ИИ, обновлено 14 ноября 2026 г.; в большинстве оплата $20–$175 в час. Из них 2 — для носителей русского языка. Zekai публикует их бесплатно; отклик уходит на платформу работодателя.
Альтернативы
Эти проверенные ИИ-инструменты делают то же самое мгновенно — из нашего оценённого каталога.
Используйте сами или мы всё настроим
Вопросы
Нужна ли мне видеокарта?
Нет. В README написано, что дискретная видеокарта опциональна, а размер модели и длина контекста определяют необходимый объем памяти.
Входит ли модель в комплект?
Нет. Модели нужно получать отдельно; лаунчер предлагает шаблоны, а README указывает на примеры моделей GGUF.
Какого фейкового сайта следует избегать?
В README предупреждается, что koboldcpp.com — это вредоносный поддельный сайт, а официальные загрузки находятся на GitHub Releases и koboldcpp.net.
