C
ChaoBro

Создатель Redis antirez написал на C локальный движок инференса DeepSeek 4 Flash для Metal

Создатель Redis antirez написал на C локальный движок инференса DeepSeek 4 Flash для Metal

Salvatore Sanfilippo (известный как antirez) снова строит.

На этот раз это не Redis — это проект под названием ds4: локальный движок инференса DeepSeek 4 Flash, написанный на C для Apple Silicon Metal GPU. Опубликован на GitHub всего 13 часов назад, уже 846 звёзд, и он на Hacker News.

antirez не нуждается в представлении в кругах разработчиков. Оригинальный автор Redis, ветеран C, который позже покинул Redis Labs и работал над интересными небольшими проектами (связанными с LoRa). Его стиль кодирования имеет две отличительные черты: минимализм и скорость.

Что такое ds4

Судя по структуре репозитория, ds4 удивительно компактен:

  • ds4.c / ds4.h: Основной движок инференса
  • ds4_cli.c: Интерфейс командной строки
  • metal/: Код ядра ускорения Metal GPU
  • tests/: Тесты
  • download_model.sh: Скрипт загрузки модели
  • AGENT.md: Файл инструкций для ИИ-кодирующих агентов

Пока всего 7 коммитов, но качество высокое. Уже есть PR, исправляющий опечатки в README, а сам antirez сделал исправление совместимости F32 для валидатора MTP (Multi-Token Prediction).

Репозиторий включает файл AGENT.md — инструкции для ИИ-ассистентов кодирования вроде Claude Code и Cursor. Это означает, что antirez уже использует ИИ-агентов для помощи в разработке.

Почему это важно

Во-первых, то, что пишет antirez, обычно высокого качества. Он не из тех, кто «напишет демо, запушит на GitHub и забудет». Redis стал отраслевым стандартом во многом благодаря его одержимости качеством кода и производительностью. ds4, хоть и только что выпущен, уже имеет тесты, CI и реагирование на issue — это признаки серьёзно поддерживаемого проекта.

Во-вторых, локальный инференс на Apple Silicon всё ещё на ранней стадии. Хотя такие инструменты, как llama.cpp, MLX и Rapid MLX существуют, нативных Metal-движков инференса, специально оптимизированных для DeepSeek 4 Flash, немного. Если ds4 может превзойти универсальные фреймворки, это хорошая новость для пользователей Mac.

В-третьих, 7 коммитов за 13 часов — это только зарождающийся проект. Наблюдать сейчас — значит наблюдать рост с нуля. Если antirez продолжит инвестировать, ds4 может стать оптимальным решением для запуска DeepSeek 4 Flash на Apple Silicon.

Начало работы

# Клонировать проект
git clone https://github.com/antirez/ds4.git
cd ds4

# Загрузить модель (запустить скрипт)
./download_model.sh

# Собрать
make

# Запустить
./ds4_cli

Необходимое условие: нужен Mac на Apple Silicon. Проект зависит от Metal — Linux и Windows не поддерживаются.

Риски и точки наблюдения

Оценивать ds4 пока рано. Проект с 7 коммитами далёк от «готовности к продакшену». Несколько вопросов для наблюдения:

  • Данные о производительности: Пока нет публичных бенчмарков. Как сравнивается с llama.cpp и MLX?
  • Поддержка моделей: Сейчас поддерживает только DeepSeek 4 Flash. Будет ли расширяться?
  • Частота поддержки: У antirez есть история «написал Redis, потом переключился на другое». Как долго ds4 будет поддерживаться?

Я продолжу следить за этим проектом. Если antirez сохранит темп обновлений, ds4 заслуживает места в наборе инструментов локального инференса на Mac.


Основные источники: