Все сервисы
Proxmox VEvLLMOllama

AI-платформа на вашем оборудовании под ключ

Ваше оборудование, подготовленное под собственную модель ИИ, и AI-помощник на нём: серверы, сеть, резервные копии и помощник работают внутри вашего офиса, запросы к модели не уходят наружу.

Состав: Proxmox VE на серверах, проброс видеокарт в виртуальную машину с моделью (vLLM или Ollama), отдельные сети для сервисов и управления, резервное копирование на ваше хранилище и AI-помощник для юристов или AI-помощник для аудиторов — на выбор.

от 300 000 ₽ Цена — за подготовку платформы и установку помощника на вашем оборудовании. Точную цену и срок назову до начала работ. От чего зависит: число серверов и видеокарт, сеть и шлюз, хранилище для резервных копий, размер модели, шаблоны и папки помощника.

Настройка сервиса

  • Proxmox VE на серверах: хранилище, сеть, панель управления по HTTPS
  • Проброс видеокарт в виртуальную машину с моделью, драйверы и проверка под нагрузкой
  • Запуск выбранной открытой модели (vLLM или Ollama) с доступом только из внутренней сети
  • Сеть: отдельные сегменты для сервисов, управления и резервного копирования на вашем коммутаторе и шлюзе
  • Резервное копирование виртуальных машин по расписанию на ваше хранилище, проверка восстановления
  • AI-помощник для юристов или аудиторов на готовой платформе, паспорт инфраструктуры и приёмка по чек-листу

Работаю удалённо: нужен доступ к консоли серверов (IPMI, iDRAC, iLO) и к вашей сети по согласованному вами способу. Модель и сервисы работают внутри вашей сети.

Если удалённого доступа нет, приеду. Выезд — только по Москве, 20 000 ₽ сверх цены установки.

Обсудить задачу

Оборудование

Оборудование — ваше, покупаете его вы. Хостер не нужен.

Серверы и сеть

Сервер с видеокартами от 64 ГБ видеопамяти для модели, сервер для виртуальных машин, коммутатор, шлюз и хранилище для резервных копий. Ориентир для готовой платформы — от 6 млн ₽, цена ориентировочная; конфигурацию под вашу задачу рассчитаю до покупки.

Размещение

Серверная или стойка с электропитанием и охлаждением: серверы с видеокартами потребляют много энергии и шумят — это стоит учесть до покупки.

Что входит в цену

Для одной платформы: сервер для модели и сервер для виртуальных машин.

Входит

  • Установка Proxmox VE на ваши серверы
  • Хранилище и сеть для виртуальных машин
  • Доступ к панели управления по HTTPS
  • Модель — в отдельной виртуальной машине с видеокартой, AI-помощник — в своих виртуальных машинах
  • Приёмка по чек-листу и передача доступов ответственному сотруднику

Не входит

  • Серверы, видеокарты, сетевое оборудование, хранилище и электропитание — ваши, в цену не входят
  • Платная подписка Proxmox
  • Другие сервисы на платформе — отдельные услуги
  • Выезд — 20 000 ₽, только по Москве
  • Монтаж оборудования в стойку и прокладка кабелей
  • Абонентское обслуживание и SLA

Обсудить задачу

Напишите, какое оборудование уже есть или планируете покупать и для каких задач нужна модель.

sales@roothut.tech

Или заполните форму. Обычно отвечаю в течение рабочего дня.