darts
Автоматизирует поиск архитектуры нейронных сетей для сверточных и рекуррентных сетей с использованием градиентного спуска.
Эффективный поиск высокопроизводительных архитектур CNN и RNN на одном GPU с помощью непрерывной релаксации.
DARTS — это реализация дифференцируемого поиска архитектуры нейронных сетей для сверточных и рекуррентных сетей. Она заменяет алгоритмы поиска черного ящика градиентным спуском, оптимизируя непрерывные релаксации архитектуры. Исследователи глубокого обучения могут использовать ее для экспериментов с автоматизированным проектированием нейронных сетей на одном GPU.
Что это
DARTS преобразует дискретные пространства поиска нейронных ячеек в непрерывные представления, позволяя оптимизировать непрерывную потерю валидации с помощью градиентного спуска. Репозиторий содержит код для запуска поисковых экспериментов для CNN ячеек на CIFAR-10 и RNN ячеек на Penn Treebank. Он также включает скрипты оценки для обучения обнаруженных генотипов ячеек с нуля и визуализаторы для генерации диаграмм архитектуры.
Для кого
Этот инструмент подходит для исследователей глубокого обучения, изучающих алгоритмы поиска архитектуры нейронных сетей (NAS) и AutoML с использованием PyTorch. Он не предназначен для инженеров по машинному обучению в производстве, которым нужны современные, поддерживаемые или готовые к использованию Python пакеты.
Ключевые возможности
Непрерывная релаксация архитектуры
Формулирует выбор дискретных ячеек как непрерывные параметры для обеспечения прямой оптимизации с помощью градиентного спуска.
Пространства поиска CNN и RNN
Предоставляет выделенные модули поиска для сверточных ячеек классификации изображений и рекуррентных ячеек моделирования языка.
Конвейер поиска на одном GPU
Выполняет поиск архитектуры с использованием меньших прокси-моделей, чтобы снизить требования к вычислениям до одного GPU.
Визуализация графа генотипа
Преобразует изученные архитектурные генотипы в визуально читаемые ориентированные графы через интеграцию с Graphviz.
Готово за 3 шага
Наш честный вердикт
Плюсы
- Ищет сложные топологии нейронных ячеек с использованием стандартного градиентного спуска на одном GPU.
- Поддерживает задачи поиска как для зрительных (сверточных), так и для языковых (рекуррентных) архитектур.
- Включает точный справочный код для обучения производных генотипов с нуля на стандартных наборах данных.
- Предоставляет встроенные скрипты Graphviz для визуализации изученных структур нейронных ячеек.
Минусы
- Требует устаревшие зависимости, в частности Python 3.5.5 и PyTorch 0.3.1, что вызывает проблемы совместимости с современными CUDA.
- Требует запуска нескольких начальных точек поиска, чтобы избежать плохих локальных минимумов в непрерывном пространстве поиска.
- Требует обучения генотипов-кандидатов с нуля в рамках 10 независимых запусков для правильной оценки точности.
Цены и лицензия
DARTS — это бесплатное программное обеспечение, выпущенное под лицензией Apache-2.0. Единственные расходы связаны с использованием вычислительных ресурсов GPU для выполнения скриптов поиска и оценки.
Вакансии для носителей русского языка
874 открытых удалённых вакансий по обучению ИИ, обновлено 15 ноября 2026 г.; в большинстве оплата $20–$170 в час. Из них 2 — для носителей русского языка. Zekai публикует их бесплатно; отклик уходит на платформу работодателя.
Альтернативы
Эти проверенные ИИ-инструменты делают то же самое мгновенно — из нашего оценённого каталога.
Используйте сами или мы всё настроим
Вопросы
Могу ли я запустить darts с современными версиями PyTorch?
Исходный репозиторий специально требует PyTorch 0.3.1. Запуск версии 0.4 или выше приведет к ошибкам нехватки памяти без модификации кода.
Нужен ли мне массивный кластер GPU для запуска поиска?
Нет, подход непрерывной релаксации позволяет запускать поиск архитектуры на одном GPU с использованием небольших прокси-сетей.
