Види AI-моделей

Один двигун — багато марок

Раніше ми з’ясували, що AI-інженер використовує готові моделі й сам їх не навчає. Але під «готовими моделями» криється цілий набір варіантів: кілька сімейств, кілька провайдерів і різні компроміси між ними. Цей урок — їхня мапа.

Чому це важливо, якщо ви просто хочете випустити продукт? Тому що цей вибір визначає три конкретні речі: скільки ви платите, де опиняються дані ваших користувачів і скільки роботи із серверами ляже на вас. Помилитеся — і або марно витратите гроші, або проведете вихідні, няньчачись із серверами.

Майже будь-яка сучасна LLM з боку користувача працює однаково. Ви надсилаєте текст — і отримуєте текст. Різняться лише три речі: кому належить модель, де вона працює і скільки коштує.

Закриті моделі: великі лабораторії

Доступ до таких моделей ви отримуєте через API — «двері» на чужому сервері: ви надсилаєте текст, повертається відповідь — як замовлення їжі замість приготування. Ваги — величезний файл із числами, який і є моделлю (він виходить у результаті навчання), — вам не дістаються. Ви просто орендуєте інтелект, платячи за токени: невеликі фрагменти тексту завдовжки приблизно 3–4 символи — саме в них вам виставляють рахунок.

• OpenAI — сімейство GPT (GPT-4o, GPT-4.1, моделі серії o, що міркують). Негласний стандарт для багатьох продуктів, величезна екосистема, широка підтримка мультимодальності.
• Anthropic — сімейство Claude (Haiku, Sonnet, Opus). Відоме довгим контекстом, акуратним стилем відповідей і сильними результатами в програмуванні.
• Google — Gemini. Гігантські контекстні вікна, тісна інтеграція з хмарною екосистемою Google, добра підтримка мультимодальності.

Сьогодні закриті моделі — лідери за якістю. Якщо вам потрібен найкращий можливий результат за мінімальних зусиль, починайте звідси.

Компроміси: ваші дані потрапляють на чужі сервери, ви залежите від чужих цін і лімітів запитів (стелі на кількість запитів за хвилину), а якщо провайдер знімає з підтримки модель, на яку ви спираєтеся, доведеться переносити код на новішу.

Моделі з відкритими вагами: альтернатива

Тут ваги опубліковано, тож модель можна завантажити й запустити самому або орендувати машину в хостинг-сервісу й запустити її там. Це називається self-hosting, тобто запуск на власних потужностях: модель працює на машині, яку контролюєте ви, а не провайдер.

• Meta — Llama. Найпопулярніше сімейство з відкритими вагами; навколо нього виросла величезна екосистема донавчених варіантів та інструментів.
• Mistral — французька лабораторія з ефективними відкритими моделями та ліберальним підходом; сильні невеликі моделі, які показують результати вище за свою вагову категорію.
• DeepSeek — китайська лабораторія, яка здивувала індустрію моделями, що міркують, навченими за малу частку звичайної вартості, і виклала їхні ваги у відкритий доступ.

Слово «відкриті» не завжди означає повністю відкритий вихідний код: ліцензії різняться (одні дозволяють комерційне використання, інші обмежують його). На практиці ж ці моделі можна запускати на власному обладнанні.

Таблиця компромісів

Два слова з цієї таблиці варто розшифрувати:

• GPU — дорогий чип, на якому працюють ці моделі. Погодинна оренда такого чипа — головна стаття витрат під час self-hosting.
• Air-gapped («повітряний зазор») — машина фізично відключена від інтернету. Максимум приватності й максимум незручностей.

Експлуатаційне навантаження новачки недооцінюють найчастіше: комусь потрібно встановлювати драйвери, ставити оновлення, перезапускати впалі сервери о 3-й ночі й нарощувати потужності, коли різко зростає трафік. Коли ви працюєте через API, це турбота провайдера.

Кілька слів про вартість: закриті API оплачуються за токени — порядку десятків центів за мільйон вхідних токенів для моделей-«робочих конячок» і кількох доларів чи більше для флагманських (цифри орієнтовні; ціни змінюються, тож перед рішенням перевірте актуальні). Це здається дешево, доки ваш продукт не починає обслуговувати тисячі користувачів цілодобово. За невеликих обсягів майже завжди виграє API. За дуже великих обсягів і передбачуваного навантаження виграти може self-hosting — іноді суттєво.

Коли self-hosting виправданий

Запуск відкритої моделі на власних потужностях — інженерне рішення, і виправданий він, коли:

• Приватність не обговорюється — медичні, юридичні чи внутрішні корпоративні дані, які за законом не можуть залишати вашу інфраструктуру.
• Обсяг величезний і передбачуваний — мільйони запитів на день для вузького завдання, з яким упорається менша модель.
• Потрібен повний контроль — власні донавчені варіанти, гарантована затримка, відсутність сторонніх залежностей у критично важливій частині системи.
• Робота на пристроях або офлайн — продукт має працювати взагалі без інтернету.

В інших випадках починайте з API. Перейти можна й пізніше — а завдяки одній зручній особливості галузі (див. урок про API та SDK) зміна провайдера часто минає безболісніше, ніж можна очікувати.

Спробуйте: те саме завдання — різні провайдери

Навіть якщо ви не пишете код, наступний фрагмент варто проглянути: він пояснює практичну річ — перехід між провайдерами здебільшого зводиться до правки одного рядка. Тому прив’язка до одного провайдера майже нікому не загрожує.

Дві вкладки нижче — одна й та сама програма. Відрізняється лише адреса, на яку надсилається запит: base_url — це інтернет-адреса сервера з моделлю, а model — назва потрібної моделі. Друга вкладка звертається до програми на кшталт Ollama або vLLM — сервера інференсу: невеликого застосунку, який запускає завантажену модель на вашому комп’ютері й відповідає на запити так само, як хмарний API.

1from openai import OpenAI
2 
3client = OpenAI(
4  api_key=#98c379">"YOUR_KEY",
5  base_url=#98c379">"https://api.openai.com/v1",
6)
7 
8response = client.chat.completions.create(
9  model=#98c379">"gpt-4o-mini",
10  messages=[
11      {#98c379">"role": "user", "content": "Explain RAG in one sentence."}
12  ],
13)
14 
15print(response.choices[0].message.content)

Зверніть увагу: змінилися лише адреса й назва моделі. Це зроблено навмисно й становить основу всієї екосистеми — докладніше про це в уроці про API та SDK.

Не хочете коду? Запитайте саму модель

Вирішувати все це на самоті не обов’язково. Вставте цей промпт у ChatGPT, Claude чи будь-який інший асистент і чесно заповніть чотири пропуски про ваш проєкт:

Я вибираю між закритою API-моделлю (на кшталт GPT або Claude)
та відкритою моделлю, яку запускають на власних серверах (на кшталт Llama або Mistral).

Мій проєкт: [одне речення — що він робить]
Мої дані: [наприклад, «відкриті тексти» / «листи клієнтів» / «медичні картки»]
Мій обсяг: [наприклад, «100 запитів на день» / «2 мільйони на місяць»]
Моя команда: [наприклад, «один розробник, без devops» / «платформна команда»]

Відповідай у такому порядку:
1. Який варіант мені підходить і чому — одним реченням.
2. Найсильніший аргумент ПРОТИ цього вибору.
3. Одна конкретна річ, яку мені варто перевірити, перш ніж ухвалювати рішення.
Уся відповідь — не довша за 150 слів. Без коду.

Перевірте себе