Виды AI-моделей

Один двигатель — много марок

Ранее мы выяснили, что AI-инженер использует готовые модели и сам их не обучает. Но под «готовыми моделями» скрывается целый набор вариантов: несколько семейств, несколько провайдеров и разные компромиссы между ними. Этот урок — их карта.

Почему это важно, если вы просто хотите выпустить продукт? Потому что этот выбор определяет три конкретные вещи: сколько вы платите, где оказываются данные ваших пользователей и сколько работы с серверами ляжет на вас. Ошибётесь — и либо потратите деньги впустую, либо проведёте выходные, нянчась с серверами.

Почти любая современная LLM со стороны пользователя работает одинаково. Вы отправляете текст — и получаете текст. Различаются только три вещи: кому принадлежит модель, где она работает и сколько стоит.

Закрытые модели: крупные лаборатории

Доступ к таким моделям вы получаете через API — «дверь» на чужом сервере: вы отправляете текст, возвращается ответ — как заказ еды вместо готовки. Веса — огромный файл с числами, который и есть модель (он получается в результате обучения), — вам не достаются. Вы просто арендуете интеллект, платя за токены: небольшие фрагменты текста длиной примерно 3–4 символа — именно в них вам выставляют счёт.

• OpenAI — семейство GPT (GPT-4o, GPT-4.1, рассуждающие модели серии o). Негласный стандарт для многих продуктов, огромная экосистема, широкая поддержка мультимодальности.
• Anthropic — семейство Claude (Haiku, Sonnet, Opus). Известно длинным контекстом, аккуратным стилем ответов и сильными результатами в программировании.
• Google — Gemini. Гигантские окна контекста, тесная интеграция с облачной экосистемой Google, хорошая поддержка мультимодальности.

Сегодня закрытые модели — лидеры по качеству. Если вам нужен лучший возможный результат с минимальными усилиями, начинайте отсюда.

Компромиссы: ваши данные уходят на чужие серверы, вы зависите от чужих цен и лимитов запросов (потолка на число запросов в минуту), а если провайдер снимает с поддержки модель, на которую вы опираетесь, придётся переносить код на более новую.

Модели с открытыми весами: альтернатива

Здесь веса опубликованы, поэтому модель можно скачать и запустить самому либо арендовать машину у хостинг-сервиса и запустить её там. Это называется self-hosting, то есть запуск на собственных мощностях: модель работает на машине, которую контролируете вы, а не провайдер.

• Meta — Llama. Самое популярное семейство с открытыми весами; вокруг него выросла огромная экосистема дообученных вариантов и инструментов.
• Mistral — французская лаборатория с эффективными открытыми моделями и либеральным подходом; сильные небольшие модели, которые показывают результаты выше своей весовой категории.
• DeepSeek — китайская лаборатория, которая удивила индустрию рассуждающими моделями, обученными за малую долю обычной стоимости, и выложила их веса в открытый доступ.

Слово «открытые» не всегда означает полностью открытый исходный код: лицензии различаются (одни разрешают коммерческое использование, другие ограничивают его). На практике же эти модели можно запускать на собственном оборудовании.

Таблица компромиссов

Два слова из этой таблицы стоит расшифровать:

• GPU — дорогой чип, на котором работают эти модели. Почасовая аренда такого чипа — основная статья расходов при self-hosting.
• Air-gapped («воздушный зазор») — машина физически отключена от интернета. Максимум приватности и максимум неудобств.

Эксплуатационную нагрузку новички недооценивают чаще всего: кому-то нужно ставить драйверы, устанавливать обновления, перезапускать упавшие серверы в 3 часа ночи и наращивать мощности, когда резко растёт трафик. При работе через API это забота провайдера.

Пару слов о стоимости: закрытые API оплачиваются за токены — порядка десятков центов за миллион входных токенов для моделей-«рабочих лошадок» и нескольких долларов и больше для флагманских (цифры ориентировочные; цены меняются, поэтому перед решением проверьте актуальные). Это кажется дёшево, пока ваш продукт не начинает обслуживать тысячи пользователей круглосуточно. При небольших объёмах почти всегда выигрывает API. При очень больших объёмах и предсказуемой нагрузке выигрыш может оказаться у self-hosting — иногда огромный.

Когда self-hosting оправдан

Запуск открытой модели на собственных мощностях — инженерное решение, и оправдан он, когда:

• Приватность не обсуждается — медицинские, юридические или внутренние корпоративные данные, которые по закону не могут покидать вашу инфраструктуру.
• Объём огромный и предсказуемый — миллионы запросов в день для узкой задачи, с которой справится модель поменьше.
• Нужен полный контроль — собственные дообученные варианты, гарантированная задержка, отсутствие сторонних зависимостей в критически важной части системы.
• Работа на устройствах или офлайн — продукт должен работать вообще без интернета.

В остальных случаях начинайте с API. Перейти можно и позже — а благодаря одной удобной особенности отрасли (см. урок про API и SDK) смена провайдера часто проходит безболезненнее, чем можно ожидать.

Попробуйте: одна задача — разные провайдеры

Даже если вы не пишете код, следующий фрагмент стоит пробежать глазами: он объясняет практическую вещь — переход между провайдерами в основном сводится к правке одной строки. Поэтому привязка к одному провайдеру почти никому не грозит.

Две вкладки ниже — одна и та же программа. Отличается только адрес, на который отправляется запрос: base_url — это интернет-адрес сервера с моделью, а model — название нужной модели. Вторая вкладка обращается к программе вроде Ollama или vLLM — серверу инференса: небольшому приложению, которое запускает скачанную модель на вашем компьютере и отвечает на запросы так же, как облачный API.

1from openai import OpenAI
2 
3client = OpenAI(
4  api_key=#98c379">"YOUR_KEY",
5  base_url=#98c379">"https://api.openai.com/v1",
6)
7 
8response = client.chat.completions.create(
9  model=#98c379">"gpt-4o-mini",
10  messages=[
11      {#98c379">"role": "user", "content": "Explain RAG in one sentence."}
12  ],
13)
14 
15print(response.choices[0].message.content)

Обратите внимание: изменились только адрес и название модели. Это сделано намеренно и составляет основу всей экосистемы — подробнее об этом в уроке про API и SDK.

Не хотите кода? Спросите саму модель

Решать всё это в одиночку не нужно. Вставьте этот промпт в ChatGPT, Claude или любой другой ассистент и честно заполните четыре пропуска о вашем проекте:

Я выбираю между закрытой API-моделью (вроде GPT или Claude)
и открытой моделью, которую запускают на своих серверах (вроде Llama или Mistral).

Мой проект: [одно предложение — что он делает]
Мои данные: [например, «открытые тексты» / «письма клиентов» / «медицинские карты»]
Мой объём: [например, «100 запросов в день» / «2 миллиона в месяц»]
Моя команда: [например, «один разработчик, без devops» / «платформенная команда»]

Отвечай в таком порядке:
1. Какой вариант мне подходит и почему — одним предложением.
2. Самый сильный аргумент ПРОТИВ этого выбора.
3. Одна конкретная вещь, которую мне стоит проверить, прежде чем принять решение.
Весь ответ — не длиннее 150 слов. Без кода.

Проверьте себя