Собственный ИИ больше не требует обязательной серверной. Большую модель предлагают поселить в ноутбуке, мини-ПК, рабочей станции и даже сетевом хранилище. Возникает соблазн купить устройство с самой внушительной цифрой памяти — и считать вопрос решённым.
Но компании нужен результат: найти условие в договоре, подготовить предложение, разобрать проект или превратить запись встречи в рабочий материал. Для каждой задачи подходящее оборудование может оказаться разным.
Отправная точка этого разбора — присланный транскрипт ролика Droider «AI PC — личный ИИ у вас дома! Объясняем». Характеристики и модели мы сверили с первоисточниками на 10 октября 2026 года. Это практический путеводитель по выбору, без собственных аппаратных замеров. Droider: AI PC — Your Own AI at Home! Explained (video; supplied transcript) ↗
AI PC: надпись на коробке ещё не выбирает модель
AI PC может означать ноутбук с нейронным ускорителем NPU, компьютер с дискретной видеокартой или систему с большим общим пулом памяти.
NPU помогает приложениям с соответствующей поддержкой. Произвольная языковая модель не обязательно получит доступ к нему: проверяют модель, формат и программу.
Для локальной нейросети важны память, скорость, совместимость и режим работы. Личный помощник на выезде и общий сервис отдела предъявляют разные требования.
Выбирайте цепочку «задача → модель → среда исполнения → устройство». Тогда характеристики компьютера получают понятный смысл.
Память, параметры и скорость: три разные величины
Веса — сохранённые параметры модели. При идеальном равномерном хранении их объём считается так: число параметров × разрядность ÷ 8. Для 27 млрд параметров в 4 битах получается 13,5 ГБ; для 80 млрд — 40 ГБ. Это наша арифметическая иллюстрация, а не размеры готовых файлов или требования к компьютеру. ГБ здесь десятичные.
В реальном запуске нужны служебные данные, рабочие буферы, память контекста, операционная система и приложения. Часть весов может иметь другую точность. Квантизация уменьшает размер представления, но её влияние на точность ответов проверяют на своих задачах.
У MoE-моделей за один шаг работает только часть «экспертов». Например, Qwen3-Coder-Next содержит 80 млрд параметров, активируя около 3 млрд; DeepSeek V4 Flash — 284 млрд, активируя около 13 млрд. Остальные веса не исчезают. Рассчитывать память DeepSeek как для модели на 13 млрд нельзя. Qwen3-Coder-Next: official architecture and intended use ↗ DeepSeek: official V4 Flash architecture and model card ↗
Общая память CPU и GPU помогает размещать крупные модели. Она не превращает любой мини-ПК в самую быструю систему: влияют пропускная способность, вычислительные блоки, движок и длина запроса. Возможность загрузить модель и возможность удобно работать с ней — отдельные проверки.
Семь форматов устройств: плюсы и минусы
Сравним классы оборудования. Диапазон моделей зависит от конфигурации: у одноимённых компьютеров может быть разная память.
| Формат | Где полезен | Преимущество | Ограничение |
|---|---|---|---|
| Обычный ноутбук / AI PC с NPU | Личные черновики и короткие задачи | Можно начать с имеющегося устройства | Модель может работать на CPU/GPU, а не NPU; сон, батарея, нагрев |
| Настольный ПК с дискретным GPU | Изображения, код и модели в пределах VRAM | Выбор компонентов и ускорение в поддерживаемом стеке | Предел видеопамяти, питание и охлаждение |
| Mac mini / Mac Studio | Личный помощник или выделенная станция на macOS | Большая общая память в старших конфигурациях | Память выбирают заранее; CUDA-софт требует адаптации |
| Мини-ПК / мобильная система Ryzen AI Max | Крупные квантизованные модели на x86 | Общий пул памяти, Windows или Linux | Проверка движка, драйвера и доступной GPU памяти |
| DGX Spark / устройство RTX Spark | Разработка; мобильная работа для RTX Spark | Общая память и инструменты NVIDIA | Разные ОС и Arm; пример для одной платформы не доказывает другую |
| AI-NAS | Архив и общий сервис рядом с документами | Постоянно подключённый узел хранения | Ресурсы делятся; права, бэкап и прошивку нужно проверять |
| Кластер / сервер с несколькими GPU | Модели, не помещающиеся на одном ускорителе | Распределение больших весов | Сеть, совместимость распределения, администрирование и отказы |
Обычный ноутбук: начать можно с того, что уже есть
Для классификации короткого текста, извлечения полей и черновиков сначала проверьте компактную модель на имеющемся компьютере.
Плюс ноутбука — мобильность. Ограничения — память, охлаждение, батарея и конкуренция с обычными программами. Медленный запуск на CPU бывает допустимым для редкой операции, но плохо подходит для очереди.
Общим сервером ноутбук быть неудобен: владелец закрывает крышку или уходит с работы. Для постоянного помощника команды учитывают доступность.
ПК с NVIDIA: скорость в пределах видеопамяти
Дискретная видеокарта хранит рабочие данные в собственной VRAM. Например, у RTX 5090 — 32 ГБ GDDR7. Большой объём оперативной памяти компьютера не добавляется к ним как столь же быстрая видеопамять. NVIDIA · GeForce RTX 5090 specifications ↗
Формат подходит для моделей в пределах GPU, генерации изображений и NVIDIA-ориентированных инструментов. У настольного ПК можно выбирать охлаждение и менять компоненты.
Минусы — размер, питание, шум и предел VRAM. Выгрузка части модели на CPU меняет скорость. Для нескольких GPU нужен поддерживающий распределение движок: память карт не объединяется автоматически.
Apple Mac: большой общий пул в компактном корпусе
Mac mini и Mac Studio интересны, когда рабочая среда компании допускает macOS. Apple заявила для Mac Studio с M5 Ultra до 512 ГБ объединённой памяти. Однако эту конфигурацию обещает к концу октября: на дату проверки нельзя считать её уже доступной поставкой. Apple: Mac Studio with M5 Max and M5 Ultra; 512 GB availability ↗
MLX LM запускает языковые модели на Apple silicon. Обработка картинок требует поддержки мультимодального входа выбранной средой. MLX LM: language models on Apple silicon ↗
Плюс — большой общий пул без набора GPU. Минусы — совместимость с платформой и выбор памяти заранее: обычное расширение RAM после покупки не предусмотрено. CUDA-инструмент потребует другого пути выполнения.
AMD Ryzen AI Max: много памяти и привычный x86
В видео обсуждается Framework Desktop на Ryzen AI Max+ 395 со 128 ГБ. Актуальная страница производителя уже описывает также Ryzen AI Max+ PRO 495 и варианты до 192 ГБ в корпусе 4,5 литра. AMD заявляет для нового семейства возможность выделения до 160 ГБ графической памяти. Это предел платформы, который ещё нужно соотнести с конкретным устройством и настройками. Framework Desktop: Ryzen AI Max+ PRO 495 and memory configurations ↗ AMD: Ryzen AI Max PRO 400 family specifications and graphics allocation ↗
Плюс — большой пул и привычная архитектура x86 для Windows или Linux. Подход встречается в мини-ПК и мобильных устройствах.
Главный вопрос — совместимость. Для ROCm проверяют GPU/APU, версию стека, драйвер и ОС по актуальной матрице. Инструкция для Linux не подтверждает запуск на Windows. Надпись Ryzen AI не гарантирует достаточную память или нужный движок. AMD: ROCm compatibility matrix for hardware and operating systems (10.1 at verification) ↗
DGX Spark и RTX Spark: похожая идея, разная роль
DGX Spark — компактная AI-система NVIDIA с Arm-процессором, Blackwell GPU и 128 ГБ общей памяти. В документации указана пропускная способность 273 ГБ/с. Это вариант для разработки и развёртывания моделей в поддерживаемой среде, а не обещание одинаковой скорости для любых задач. NVIDIA: DGX Spark hardware and memory specifications ↗
RTX Spark переносит большой общий пул в Windows-устройства на Arm; NVIDIA указывает до 128 ГБ. Поэтому его нельзя оценивать как обычный x86-ноутбук с отдельной GeForce: совместимость приложения, библиотек и модели проверяется именно для Windows on Arm. NVIDIA Windows on Arm Porting Guide: RTX Spark system overview ↗
Плюс — большая память и инструменты NVIDIA в небольшом устройстве. Ограничения — ОС, Arm-зависимости, сборки и цена. Пример запуска на DGX нельзя автоматически переносить на RTX Spark.
AI-NAS: когда помощнику удобнее жить рядом с архивом
Сетевое хранилище может стать местом для документов и отдельного AI-сервиса, к которому сотрудники обращаются с лёгких рабочих устройств. Например, MINISFORUM N5 MAX предлагает Ryzen AI Max+ 395, до 128 ГБ общей памяти, пять отсеков HDD, пять SSD и два подключения 10GbE. Заявленные до 200 ТБ относятся к накопителям. MINISFORUM: N5 MAX AI NAS memory, storage and network specifications ↗
Терабайты архива не заменяют гигабайты памяти модели. NAS может хранить множество файлов, но языковой модели обычно передают найденные и разрешённые фрагменты, а не весь архив одновременно.
Плюс — постоянно подключённый узел рядом с данными. Минусы — обслуживание, конкуренция индексации и запросов за ресурсы, а также совмещение важных ролей в одном устройстве. RAID помогает пережить часть отказов дисков, но не заменяет отдельную резервную копию и проверку восстановления.
На пилоте NAS проверяют форматы, права доступа, обновление индекса и функции прошивки. Покупка хранилища не создаёт готовую корпоративную базу знаний или интеграцию с AI Office.
Кластер: большая модель ценой большей сложности
AMD опубликовала пример запуска Kimi K2.5 на четырёх Framework Desktop с Ryzen AI Max+ 395 и 128 ГБ каждый: Ubuntu, llama.cpp RPC и сеть Ethernet 5 Гбит/с. В примере указана квантизованная версия модели объёмом 375 ГБ. Это воспроизводимая схема производителя, а не наши результаты. AMD: four-node Framework Desktop cluster running Kimi K2.5 ↗
Такой подход позволяет распределить веса между узлами. Но четыре компьютера не становятся одним обычным GPU: нужны поддержка движка, настройка распределения, обмен данными и контроль отказов.
Сеть добавляет задержки, сбой узла может прервать операцию. Кластер оправдан, если большая модель подтвердит ценность. Для массовых коротких запросов несколько экземпляров меньшей модели могут быть полезнее — это тоже измеряют.
Какие модели пробовать: от короткого текста до сложного анализа
Таблица предлагает кандидатов для испытаний. Фиксируют веса, квантизацию, движок и процесс; сравнивают русский язык, работу с источниками и полное время задачи.
Для компактного старта доступны Qwen3.5-4B и 9B. Qwen3.8-27B — следующий кандидат для более сложных текстовых и визуальных задач при поддержке соответствующей среды. Это наша рекомендация по маршруту пилота на основе назначения моделей, а не доказательство их качества на документах вашей компании. Qwen3.5-4B: official model card ↗ Qwen3.5-9B: official model card ↗ Qwen3.8-27B: official model card ↗
OpenAI в руководстве по Ollama рекомендует от 16 ГБ VRAM или общей памяти для gpt-oss-20b и от 60 ГБ для gpt-oss-120b. Это ориентиры для моделей в MXFP4, а не обещание, что компьютер с таким общим объёмом выдержит любую длину запроса и несколько пользователей. Карточка семейства также требует корректного формата диалога harmony. OpenAI: running gpt-oss locally with Ollama and memory guidance ↗ OpenAI: gpt-oss family model card and harmony requirement ↗
| Задача | Модель | Ориентир по памяти | Что проверить |
|---|---|---|---|
| Короткие тексты, классификация, извлечение полей | Qwen3.5-4B / 9B | Идеальные Q4-веса: 2 / 4,5 ГБ; реальный запуск требует больше | Компактный старт; сложный анализ и длинные документы тестируют отдельно |
| Развёрнутые ответы по документам, анализ, визуальные вопросы | Qwen3.8-27B | Идеальные Q4-веса: 13,5 ГБ плюс служебная и рабочая память | ПК или станция с запасом; мультимодальный вход зависит от движка |
| Текстовые рассуждения и ограниченные инструменты | gpt-oss-20b | Руководство OpenAI: от 16 ГБ VRAM / общей памяти в MXFP4 | Качество русского языка, формат harmony и запас для контекста |
| Код, исправления, последовательности действий разработчика | Qwen3-Coder-Next | 80B всего; идеальные Q4-веса: 40 ГБ до накладных расходов | Большая станция / поддерживаемые GPU; права, тесты и запуск кода |
| Более тяжёлые текстовые рассуждения | gpt-oss-120b | Руководство OpenAI: от 60 ГБ VRAM / общей памяти в MXFP4 | Станция с запасом; полная задержка и параллельные запросы |
| Сложный код и многошаговый анализ | DeepSeek V4 Flash 0731 | DwarfStar Q2: около 81 ГиБ; ориентир автора — системы 96/128 ГБ | Точный формат и движок; качество после сильной квантизации |
| Крупные исследовательские и агентские сценарии | Kimi K2.5 | Пример AMD: 375 ГБ для конкретной квантизации | Большой узел / кластер; стоимость сложности и польза относительно меньших моделей |
| Протоколы встреч; смысловой поиск | Whisper large-v3; Qwen3-Embedding-0.6B | Разные специализированные модели; бюджет считают отдельно | Речь и поиск — отдельные этапы, а не функции разговорной модели |
| Черновики иллюстраций и редактирование | FLUX.2 klein 4B | Карточка автора: около 13 ГБ VRAM; условия запуска имеют значение | Точность продукта и текста; весь графический пайплайн и лицензия |
Для DeepSeek V4 Flash 0731 документация DwarfStar описывает вариант Q2 около 81 ГиБ как отправную точку для систем с 96/128 ГБ. ГиБ — двоичные единицы. Это сведения автора движка для конкретного формата, а не универсальный рецепт установки на каждый AI PC. DwarfStar: model formats and Flash 0731 Q2 memory guidance ↗
Kimi K2.5 содержит около триллиона параметров всего и 32 млрд активных. Понадобится большой узел или распределение модели. Это другой масштаб, чем DeepSeek V4 Flash; архитектура MoE не означает одинаковых требований. Moonshot AI: Kimi K2.5 official model card and architecture ↗
Для встреч можно отдельно проверить Whisper large-v3, для смыслового поиска — Qwen3-Embedding-0.6B. Первая модель распознаёт речь, вторая строит представления для поиска; они не заменяют разговорную LLM. FLUX.2 klein 4B объединяет генерацию и редактирование изображений и опубликована под Apache 2.0. У других вариантов того же семейства условия могут отличаться. OpenAI · Whisper large-v3 model card ↗ Qwen: Qwen3-Embedding-0.6B official model card ↗ Black Forest Labs: FLUX.2 klein 4B capabilities and Apache 2.0 release ↗
Что такая система может дать компании
Представим проектную фирму. Инженеру в поездке нужен помощник по выбранной папке объекта: здесь важны мобильность и работа с подготовленными данными. Отделу продаж нужна общая база условий и каталог: здесь важнее доступность станции и очередь запросов. Разработчику требуется анализ кода: тогда проверяют кодовую модель и инструменты. Это иллюстративные сценарии, а не сообщения о готовых внедрениях.
Не обязательно выбирать одну крупнейшую модель для всего. Компактный классификатор может разбирать входящие тексты, большая LLM — готовить объяснение, отдельный поиск — находить документы. Суммы рассчитывает программа, ответственное действие утверждает человек.
Перед покупкой полезно собрать небольшой набор реальных задач: обычные запросы, длинные документы, неоднозначные условия и случаи, где правильный ответ — «данных недостаточно». Проверяют достоверность, исправления, время до первого ответа и время завершения, параллельную нагрузку и восстановление после сбоя.
Закрытый контур тоже проверяется целиком. Локальная модель не исключает внешнюю синхронизацию папок, облачную историю чата или передачу данных через инструмент агента. Нужны управляемые подключения, права на документы, журналы и резервные копии.
Где здесь AI Office
AI Office связывает модель с рабочим процессом: документами, поиском по правам, проверяемыми расчётами, согласованием и локальными задачами. Поэтому устройство выбирается под конкретную нагрузку, а модель можно сравнивать внутри одного сценария.
В прототипе доступны текстовые PDF, DOCX, TXT и Markdown, версии источников и поиск по разрешённым материалам. OCR пока не включено. Каталог Excel/CSV используется для проверяемого расчёта предложений в рублях и экспорта DOCX/PDF; утверждение версии создаёт одну локальную задачу. Почта, CRM и бухгалтерские системы автоматически не подключены.
Есть деморежим, Ollama и совместимый HTTP-провайдер. Это основа для подключения локального сервера модели. Работа на перечисленных устройствах, интеграция с NAS или кластером и качество конкретных моделей требуют отдельной проверки: мы не выдаём аппаратную совместимость за уже завершённое внедрение.
Мы можем разобрать процесс компании, подготовить данные и критерии пилота, затем сопоставить ноутбук, станцию и сервер. Лучшее AI-устройство — то, на котором нужная работа выполняется с приемлемым качеством, скоростью и понятной эксплуатацией.