Введение

Маленькие дистиллированные модели DeepSeek-R1 тонко настроены с использованием данных цепочки мыслей, генерируемых DeepSeek-R1, отмеченными...Теги, унаследовав возможности рассуждения R1. Эти тонкие наборы данных явно включают процессы рассуждений, такие как разложение проблем и промежуточные вычеты. Обучение подкрепления выровняло модели поведения дистиллированной модели с шагами рассуждений, генерируемых R1. Этот механизм дистилляции позволяет небольшим моделям поддерживать вычислительную эффективность при получении сложных способностей рассуждений вблизи возможностей более крупных моделей, что имеет значительное значение применения в сценариях с ограниченными ресурсами. Например, версия 14b достигает 92% завершения кода оригинальной модели DeepSeek-R1. В этой статье представлены дистиллированная модель DeepSeek-R1 и ее основные приложения в промышленных краевых вычислениях, обобщенные в следующих четырех направлениях, наряду с конкретными случаями реализации:

Предсказательное обслуживание оборудования

Техническая реализация

Слияние датчика:

Интегрируйте вибрации, температуру и тока данных из ПЛК через протокол Modbus (скорость отбора проб 1 кГц).

Извлечение функций:

Запустите Edge Impulse на Jetson Orin NX для извлечения 128-мерных временных рядов.

Вывод модели:

Разверните модель DeepSeek-R1-Distill-14b, вводя векторы функций для генерации значений вероятности неисправности.

Динамическая корректировка:

Запустить заказы на техническое обслуживание, когда достоверности> 85%, и инициируйте процесс вторичной проверки, когда <60%.

Соответствующий случай

Schneider Electric развернул это решение на горнодобывающей технике, снижая ложные положительные ставки на 63% и затраты на техническое обслуживание на 41%.

Запуск DeepSeek R1 Distilled Model на компьютерах с indhard Edge

Улучшенный визуальный осмотр

Выходная архитектура

Типичный трубопровод развертывания:

Камера = gige_vision_camera (500fps) # Гигабитная промышленная камера
Frame = Camera.capture () # изображение захвата
Предварительно обработанный = opencv.denoise (кадр) # денообразование предварительной обработки
defect_type = deepseek_r1_7b.infer (предварительно) # классификация дефектов
Если defect_type! = 'Нормальный':
Plc.trigger_reject () # механизм сортировки триггера

Показатели производительности

Задержка обработки:

82 мс (Jetson Agx Orin)

Точность:

Обнаружение дефектов впрыска достигает 98,7%.

Последствия DeepSeek R1: победители и проигравшие в генеративной цепочке создания создания искусственного интеллекта

Оптимизация потока процесса

Ключевые технологии

Взаимодействие с естественным языком:

Операторы описывают аномалии оборудования посредством голоса (например, «колебания давления экструдера ± 0,3 МПа»).

Мультимодальное рассуждение:

Модель генерирует предложения по оптимизации на основе исторических данных оборудования (например, регулировка скорости винта на 2,5%).

Цифровая проверка близнецов:

Проверка моделирования параметров на платформе Edgex Foundry.

Эффект реализации

Химическая установка BASF приняла эту схему, достигнув 17% снижения потребления энергии и увеличение качества продукта на 9%.

Edge AI и будущее бизнеса: Openai O1 против DeepSeek R1 для здравоохранения, автомобиля и IIOT

Мгновенное поиск базы знаний

Архитектура дизайн

Локальная векторная база данных:

Используйте ChromADB для хранения руководств по оборудованию и спецификаций процессов (встроенное измерение 768).

Гибридный поиск:

Объедините алгоритм BM25 + сходство косинуса для запроса.

Поколение результатов:

Модель R1-7B суммирует и уточняет результаты поиска.

Типичный случай

Инженеры Siemens разрешили сбои инверторов через запросы естественного языка, сокращая среднее время обработки на 58%.

Проблемы и решения развертывания

Ограничения памяти:

Использовала технологию квантования кэша KV, уменьшая использование памяти модели 14B с 32 ГБ до 9 ГБ.

Обеспечение производительности в реальном времени:

Стабилизированная задержка с выводом до ± 15 мс с оптимизацией графика CUDA.

Модель дрифта:

Еженедельные инкрементные обновления (передача только 2% параметров).

Экстремальные среды:

Разработано для широких температурных диапазонов от -40 ° C до 85 ° C с уровнем защиты IP67.

Заключение

Текущие затраты на развертывание в настоящее время снизились до 599 долларов США/узел (Jetson Orin NX), с масштабируемыми приложениями в секторах, таких как производство 3C, автомобильная сборка и химия энергии. Ожидается, что непрерывная оптимизация архитектуры и технологии архитектуры MOE позволит модели 70b работать на устройствах к краям к концу 2025 года.

Найдите кабельное решение ELV

Управляющие кабели

Для BMS, автобуса, промышленного кабеля.

Кликните сюда

Структурированная система кабеля

Сеть и данные, волоконно-оптический кабель, шнур для патча, модули, лицевая панель