Anyscale: GPU-кластеры для обучения моделей на Ray

О сервисе

Представьте, что вам нужно обучить свою модель не на одной видеокарте, а на полусотне сразу, и желательно не выяснять неделю, как их подружить между собой. Именно эту задачу решает Anyscale: платформа для распределённых ИИ-вычислений на GPU-кластерах, построенная поверх открытого движка Ray (его сделали те же разработчики). Пишете обычный Python-код, добавляете пару декораторов, а Anyscale сам разносит работу по узлам, выделяет видеокарты и масштабирует нагрузку. Стоит сразу сказать: это не чат-бот и не готовая нейросеть для разговора. Это инструмент для тех, кто сам обучает или дообучает модели: языковые, зрения, эмбеддинги.

Возможности

Сервис закрывает четыре типа задач. Обучение моделей сразу на многих видеокартах с гибким масштабированием под нагрузку. Подготовку данных: видео, картинки, текст и звук проходят через один и тот же пайплайн перед обучением. Массовую генерацию эмбеддингов для поиска и рекомендаций. И дообучение уже готовых моделей более сложными методами, когда простого файнтюна не хватает. Мы бы отдельно отметили мультиоблачность: один и тот же проект запускается на Amazon, Google, Azure и ещё паре облаков без переписывания кода под конкретного провайдера.

Кому подходит

Командам, которые сами обучают или дообучают модели и не хотят месяцами собирать инфраструктуру распределённых вычислений с нуля: инженерам по машинному обучению, инфраструктурным командам, исследовательским лабораториям.

Кому подходит меньше

Тем, кто просто хочет пообщаться с готовой нейросетью через чат или подключить чужую модель по API. Здесь своих моделей для конечного пользователя нет, только инфраструктура для тех, кто строит их сам.

Как устроены лимиты и цены

Начать можно бесплатно: при регистрации дают 100 $ на баланс для пробных проектов. Дальше счёт растёт от реального использования видеокарт, а не от фиксированной подписки. На сайте есть калькулятор с примерами: более простая видеокарта обходится в районе полдоллара в час, мощная (уровня A100) уже почти в пять долларов в час, а самые топовые модели GPU считаются отдельно по запросу. Можно работать на готовой инфраструктуре сервиса или развернуть всё в своём облаке с расширенной поддержкой, но второй вариант уже не купить самому, тут нужно списываться с отделом продаж.

Ограничения

Цены только в долларах и зависят от того, сколько вы реально считали, а не от плоского тарифа: заранее прикинуть точный месячный бюджет получится только очень примерно. Расширенные корпоративные условия нигде не опубликованы явно, их можно узнать только через переговоры.

Как начать

Зайти на anyscale.com, нажать «Start for Free», зарегистрироваться и получить стартовый баланс. Готовые шаблоны кода в интерфейсе помогают запустить первый проект без сборки инфраструктуры с нуля.