Генерирует интерактивные аватары цифровых людей путем объединения распознавания речи, LLM, клонирования голоса и моделей говорящей головы.
Объединяйте LLM, клонирование голоса и визуальные модели говорящей головы в интерактивные виртуальные аватары.
Linly-Talker — это open-source фреймворк, который создает интерактивных цифровых людей на основе пользовательских аудио- и графических данных. Он объединяет ASR, LLM, TTS, клонирование голоса и модели визуального рендеринга в единый веб-интерфейс Gradio. Он подходит разработчикам и создателям контента, создающим локализованные виртуальные помощники, цифровые стойки регистрации или видео с озвучкой.
Система связывает автоматическое распознавание речи с языковыми моделями, такими как Qwen и Gemini-Pro, для генерации ответов в режиме диалога. Она применяет модели говорящей головы, включая SadTalker, Wav2Lip и MuseTalk, для анимации визуальных аватаров из загруженных изображений. Кроме того, она поддерживает клонирование голоса с помощью GPT-SoVITS и CosyVoice, а также поддержку WebRTC для стриминга с низким уровнем задержки.
Он подходит для AI-инженеров, специалистов по локализации и создателей цифрового контента, которым нужны кастомные говорящие аватары с клонированными голосами. Он не подходит для нетехнических пользователей, ищущих готовый облачный SaaS, так как требует управления локальными весами моделей и аппаратными ресурсами.
Объединяет отдельные модули преобразования речи в текст, LLM, текста в речь и генерации говорящей головы в один гибкий пайплайн.
Клонирует целевые голоса с использованием коротких аудиофрагментов через интегрированные инструменты, такие как GPT-SoVITS, CosyVoice и XTTS.
Рендерит анимированные цифровые головы с использованием визуальных бэкендов SadTalker, Wav2Lip, ER-NeRF или MuseTalk в реальном времени.
Обеспечивает полнодуплексный аудио-видео стриминг с низким уровнем задержки и поддержкой прерывания диалога через Linly-Talker-Stream.
Linly-Talker полностью бесплатен и имеет открытый исходный код по лицензии MIT. Платных тарифных планов программного обеспечения не существует; вашими единственными затратами являются аппаратное обеспечение или облачные GPU-ресурсы, необходимые для хостинга и запуска моделей.
876 открытых удалённых вакансий по обучению ИИ, обновлено 15 ноября 2026 г.; в большинстве оплата $20–$170 в час. Из них 2 — для носителей русского языка. Zekai публикует их бесплатно; отклик уходит на платформу работодателя.
Да, вы можете загрузить любое портретное изображение или сделать снимок с веб-камеры, чтобы использовать его в качестве основы визуального аватара.
Поскольку он одновременно запускает несколько нейронных сетей (LLM, ASR, TTS, THG), требуется выделенный GPU со значительным VRAM или облачный GPU-инстанс (например, Google Colab или AutoDL).
Zekai первым в Google