Все уроки · 44
Сколько стоит ИИ: токены, контекст и как не получить неожиданный счёт
Из чего складывается цена запроса: токены и контекст простыми словами, подписка против оплаты за токены, что на самом деле дают бесплатные тарифы и три привычки, которые удерживают расходы около нуля.
Почему это важно: страницу с ценами почти никто не читает, а потом приходит счёт за то, что вы «просто пробовали». Десять минут, потраченные здесь, избавят вас от такого вечера. Дальше — за что именно вы платите и что сделать, чтобы сумма в счёте не стала сюрпризом.
Проверьте текущие цены: все цифры здесь приблизительные
Цены, названия тарифов и лимиты бесплатных версий меняются каждые несколько месяцев. Любую цифру из этого урока воспринимайте как порядок величин, а не как точную выдержку из прайса, и проверьте текущие цены на сайте сервиса, прежде что-то оплачивать. А вот механика, описанная ниже, не меняется — и именно она защищает вас от неожиданных списаний.
Токены: единица, в которой считают всё
Модель работает не со словами, а с токенами — небольшими кусочками текста, примерно 3-4 символа в английском языке. Это английская цифра: тот же текст по-русски обычно разбивается на заметно большее число токенов. Ваш вопрос, ответ модели, приложенные документы — всё считается в токенах, и цена тоже считается в токенах.
same idea, different languages:
Введите в поле свою фразу — ту, которую вы и правда отправили бы ассистенту, — и следите за счётчиком: он растёт быстрее, чем количество набранных слов, потому что пробелы и знаки препинания едут вместе с ними. Затем взгляните на три строки внизу: одна и та же просьба стоит 8 токенов по-английски, 11 по-русски и 16 по-украински — та же работа на другом языке обходится заметно дороже. И самое важное для кошелька: токены тарифицируются и на входе, и на выходе — вопрос, который вы отправляете, и ответ, который получаете, считаются по отдельности.
Две вещи, которые обычно удивляют:
- Длинный ответ стоит дороже короткого: вы платите и за то, что модель выдаёт.
- Приложить PDF на 30 страниц дороже, чем написать два абзаца: вы платите за всё, что модели приходится прочитать.
Подробнее об этом — отдельный урок: Разговор с моделью: токены, контекст и сэмплинг.
Контекст: рабочая память модели
Вы уже на двадцатом сообщении в разговоре. Почему двадцать первое обходится дороже, чем первое?
pick an answer — you get the explanation right away
Контекст — это всё, что модель «видит» в текущем разговоре: ваши сообщения, её ответы, приложенные файлы. У контекста есть предел размера. Представьте рабочий стол: на него помещается ограниченное число листов, и когда место заканчивается, самые старые листы с него уходят (или вы начинаете новый разговор).
Отсюда понятно и то поведение ассистента, которое вы наверняка замечали: в длинных разговорах он становится «забывчивым», а свежий чат иногда работает лучше перегруженного. Модель при этом не становится хуже — это просто заполняется стол.
Куда уходят деньги
Проследите один запрос от начала до конца:
Ваш текст превращается в токены.
Обычный бытовой вопрос: 20-100 токенов. Вставленный документ: сотни или тысячи.
Три способа платить
Вы собираетесь выполнять одну и ту же задачу сто раз в день по оплате за токены. Что на самом деле убережёт вас от неожиданного счёта?
pick an answer — you get the explanation right away
| Бесплатный тариф | Подписка | Оплата за токены (API) | |
|---|---|---|---|
| Что это | Полноценный продукт, но с лимитами | Фиксированная плата в месяц | Привязанная карта: плата за токены |
| Типичная цена | Ничего | Около двадцати долларов в месяц — проверьте актуальную цену | Доли цента за тысячу токенов — когда я проверял в последний раз |
| Для чего | Попробовать, несложные задачи каждый день | Повседневная работа — разумный вариант по умолчанию | Свои приложения, позже |
| Может удивить? | Нет | Нет — плата и есть потолок | Да. Именно здесь и появляются неожиданные счета |
- Подписка (ChatGPT Plus, Claude Pro, Gemini Advanced и похожие): фиксированная плата в месяц за большой, но не безграничный объём. Это и есть то, что имеют в виду под «около двадцати долларов в месяц». Подписка подходит для переписки и повседневных задач и остаётся единственным разумным вариантом для начинающих.
- Оплата за токены (API): карта привязана, и вы платите за каждый токен, как по счётчику за электричество. Тарифы крошечные — миллион токенов небольшой модели, когда я проверял в последний раз, обходился от центов до нескольких долларов, — но это и единственный из трёх вариантов, который может выйти из-под контроля.
Как на самом деле появляются неожиданные счета
От обычной переписки — никогда. Типичные причины другие: приложение или скрипт, который работает без присмотра; API-ключ, попавший в открытый доступ, которым пользуются чужие люди; «бесплатный пробный период», который незаметно превращается в платную подписку. Правила простые: не создавайте API-ключ без лимита расходов, не оставляйте данные карты в случайных ИИ-приложениях и раз в месяц просматривайте список своих подписок.
Что на самом деле дают бесплатные тарифы
Бесплатные тарифы — это полноценные продукты, а не демонстрационные версии: бытовые вопросы, картинки, голос — всё работает. Ограничения касаются объёма (сколько сообщений можно отправить в день — или за окно в несколько часов; точное окно зависит от сервиса) и возможностей модели (лучшие модели обычно доступны только по платной подписке). Если перевести это на практику: когда вам нужно «несколько полезных сеансов в день», бесплатного тарифа хватает полностью — об этом и был урок про бесплатные инструменты.
Как читать страницу с ценами за 30 секунд
Важны четыре строки, всё остальное — оформление:
- Цена указана за миллион токенов — отдельный токен стоит ничтожно мало, его стоимость просто округляют. Большое число не должно пугать.
- Вход и выход тарифицируются отдельно. Выход обычно стоит в несколько раз дороже входа. Дорогая половина — это ответ модели.
- Более сильные модели дороже за токен — иногда в десять раз. Самая большая модель часто и не нужна.
- Повторный вход обычно заметно дешевле. Если модель перечитывает один и тот же длинный документ, сервисы обычно делают скидку. Поэтому и второй шаг выше обходится не так дорого, как звучит: модель действительно перечитывает весь разговор, но уже прочитанную часть сервисы кэшируют и тарифицируют дешевле. Длинные разговоры обходятся не так дорого, как кажутся.
Как разобрать настоящий счёт, если вы пойдёте по пути API, — в отдельном уроке: Цены и учёт: анатомия вашего счёта.
Три привычки, которые уберегают от счетов
- Для повседневных задач — подписка, а не API. Фиксированная плата — это потолок: больше неё не спишут.
- Лимит расходов на каждый API-ключ — в момент его создания. Минута работы, а закрывает сразу целый класс проблем.
- Проверяйте, что вы приложили. Перед отправкой взгляните на вложения: PDF на 200 страниц, попавший туда случайно, — самая частая причина вопроса «куда делся мой лимит».
Готовый промпт: прикиньте цену
Вставьте его в ассистента, когда планируете что-то объёмное:
Я планирую сделать с тобой вот что: [опишите задачу]
Оцени честно: сколько примерно это займёт на входе и на выходе? Задача
потянет на бесплатном тарифе или на подписке — или ей место в оплате за
токены? Если выходит дорого — предложи способ дешевле, который даёт 90%
результата. И напомни, если цены, которые ты называешь, могут уже устареть.Ассистенты оценивают стоимость своей работы лучше, чем можно ожидать, — если их об этом попросить. Последняя строка важна: у их знаний о ценах тоже есть дата отсечки.
Итог
- Вы платите за токены на входе и на выходе; контекст — это всё, что модель прочитала, и он растёт с каждым сообщением.
- Бесплатный тариф — настоящий, но с лимитами. Подписка — фиксированная плата на каждый день. API — счётчик, им стоит пользоваться позже.
- Все цифры в этом уроке приблизительные: проверяйте текущие цены, прежде чем платить.
- Лимит расходов на каждом API-ключе — и неожиданных счетов не будет.
Вы прикладываете PDF на 30 страниц и задаёте один вопрос. Что это делает с ценой?
Что из перечисленного НЕ может привести к неожиданному счёту при обычной переписке?
Почему очень длинный разговор начинает казаться «забывчивым»?
Вы только что создали свой первый API-ключ. Что нужно сделать сразу же?
Вопросы?
Списали что-то непонятное или хотите, чтобы кто-то проверил вашу настройку? Для этого есть Telegram-канал.