ИИ-сервер на судно или базу: локальные нейросети без интернета
У судовладельца нейросети вызывают законный скепсис: в рейсе канал дорогой и нестабильный, а данные рейса и экипажа не хочется отдавать чужому облаку. Локальный GPU-сервер снимает оба возражения: модель работает на борту или на береговой базе, интернет нужен разве что для обновлений в порту.
Что можно запускать на борту
Начальный уровень — 128 ГБ видеопамяти: модели 7B-14B для распознавания рейсовых документов, суммаризации судовой переписки, справки по регламентам. Для берегового офиса и портовых служб — средние конфигурации 256-512 ГБ с моделями 32B-70B: ассистент по базе знаний флота, перевод переписки с иностранными портами, видеоаналитика. Терабайтная машина 4U — для инфраструктурных задач и дообучения моделей на собственных данных.
Про «майнинговые» карты — честно
Серверы комплектуются ускорителями NVIDIA CMP 170HX с памятью 64 ГБ HBM2e, разблокированной прошивкой: заводские 4,8 ГБ на LLM не рассчитаны. У доработанных карт нет видеовыходов, хост-линк работает как PCIe Gen1 x4, INT8 недоступен — для инференса языковых моделей это некритично, но тесты конкретной машины запросите до покупки.
Питание, установка, обслуживание
Корпуса 2U ставятся в судовую серверную, питание резервируется, управление — через IPMI. Панель AI Server Manager входит в комплект: модель ставится через веб-интерфейс без ML-инженера. При наличии на складе отгрузка сразу после оплаты, под заказ — от месяца и дольше; цена под задачу, фиксируется в коммерческом предложении.
Конфигурации и цены — в раздел «Серверы с ИИ» на omegasolutions.ru: https://omegasolutions.ru/products.html?subcategory_id=280.
