Все уроки · 44
Путь 1 · Основы ИИ·Урок 9 из 10

Сколько стоит ИИ: токены, контекст и как не получить неожиданный счёт

Из чего складывается цена запроса: токены и контекст простыми словами, подписка против оплаты за токены, что на самом деле дают бесплатные тарифы и три привычки, которые удерживают расходы около нуля.

УровеньНовичокВремя~10 мин

Почему это важно: страницу с ценами почти никто не читает, а потом приходит счёт за то, что вы «просто пробовали». Десять минут, потраченные здесь, избавят вас от такого вечера. Дальше — за что именно вы платите и что сделать, чтобы сумма в счёте не стала сюрпризом.

Проверьте текущие цены: все цифры здесь приблизительные

Цены, названия тарифов и лимиты бесплатных версий меняются каждые несколько месяцев. Любую цифру из этого урока воспринимайте как порядок величин, а не как точную выдержку из прайса, и проверьте текущие цены на сайте сервиса, прежде что-то оплачивать. А вот механика, описанная ниже, не меняется — и именно она защищает вас от неожиданных списаний.

Токены: единица, в которой считают всё

Модель работает не со словами, а с токенами — небольшими кусочками текста, примерно 3-4 символа в английском языке. Это английская цифра: тот же текст по-русски обычно разбивается на заметно большее число токенов. Ваш вопрос, ответ модели, приложенные документы — всё считается в токенах, и цена тоже считается в токенах.

Настоящий токенизатор — вводите и смотрите, как растут токены
11 tokens · 36 characters · ~3.3 chars per token
Объясни мне это как для пятилетнего.

same idea, different languages:

РусскийОбъясни мне это как для пятилетнего.11 tok
АнглийскийExplain this to me like I'm five.8 tok
УкраинскийПоясни мені це як для п'ятирічки.16 tok

Введите в поле свою фразу — ту, которую вы и правда отправили бы ассистенту, — и следите за счётчиком: он растёт быстрее, чем количество набранных слов, потому что пробелы и знаки препинания едут вместе с ними. Затем взгляните на три строки внизу: одна и та же просьба стоит 8 токенов по-английски, 11 по-русски и 16 по-украински — та же работа на другом языке обходится заметно дороже. И самое важное для кошелька: токены тарифицируются и на входе, и на выходе — вопрос, который вы отправляете, и ответ, который получаете, считаются по отдельности.

Две вещи, которые обычно удивляют:

  • Длинный ответ стоит дороже короткого: вы платите и за то, что модель выдаёт.
  • Приложить PDF на 30 страниц дороже, чем написать два абзаца: вы платите за всё, что модели приходится прочитать.

Подробнее об этом — отдельный урок: Разговор с моделью: токены, контекст и сэмплинг.

Контекст: рабочая память модели

Before you go on

Вы уже на двадцатом сообщении в разговоре. Почему двадцать первое обходится дороже, чем первое?

pick an answer — you get the explanation right away

Контекст — это всё, что модель «видит» в текущем разговоре: ваши сообщения, её ответы, приложенные файлы. У контекста есть предел размера. Представьте рабочий стол: на него помещается ограниченное число листов, и когда место заканчивается, самые старые листы с него уходят (или вы начинаете новый разговор).

Отсюда понятно и то поведение ассистента, которое вы наверняка замечали: в длинных разговорах он становится «забывчивым», а свежий чат иногда работает лучше перегруженного. Модель при этом не становится хуже — это просто заполняется стол.

Куда уходят деньги

Проследите один запрос от начала до конца:

Step through the pipeline
→→→→
1. Вы задаёте вопрос

Ваш текст превращается в токены.

Обычный бытовой вопрос: 20-100 токенов. Вставленный документ: сотни или тысячи.

out› Входные токены
1/5

Три способа платить

Before you go on

Вы собираетесь выполнять одну и ту же задачу сто раз в день по оплате за токены. Что на самом деле убережёт вас от неожиданного счёта?

pick an answer — you get the explanation right away

Бесплатный тариф Подписка Оплата за токены (API)
Что это Полноценный продукт, но с лимитами Фиксированная плата в месяц Привязанная карта: плата за токены
Типичная цена Ничего Около двадцати долларов в месяц — проверьте актуальную цену Доли цента за тысячу токенов — когда я проверял в последний раз
Для чего Попробовать, несложные задачи каждый день Повседневная работа — разумный вариант по умолчанию Свои приложения, позже
Может удивить? Нет Нет — плата и есть потолок Да. Именно здесь и появляются неожиданные счета
  • Подписка (ChatGPT Plus, Claude Pro, Gemini Advanced и похожие): фиксированная плата в месяц за большой, но не безграничный объём. Это и есть то, что имеют в виду под «около двадцати долларов в месяц». Подписка подходит для переписки и повседневных задач и остаётся единственным разумным вариантом для начинающих.
  • Оплата за токены (API): карта привязана, и вы платите за каждый токен, как по счётчику за электричество. Тарифы крошечные — миллион токенов небольшой модели, когда я проверял в последний раз, обходился от центов до нескольких долларов, — но это и единственный из трёх вариантов, который может выйти из-под контроля.

Как на самом деле появляются неожиданные счета

От обычной переписки — никогда. Типичные причины другие: приложение или скрипт, который работает без присмотра; API-ключ, попавший в открытый доступ, которым пользуются чужие люди; «бесплатный пробный период», который незаметно превращается в платную подписку. Правила простые: не создавайте API-ключ без лимита расходов, не оставляйте данные карты в случайных ИИ-приложениях и раз в месяц просматривайте список своих подписок.

Что на самом деле дают бесплатные тарифы

Бесплатные тарифы — это полноценные продукты, а не демонстрационные версии: бытовые вопросы, картинки, голос — всё работает. Ограничения касаются объёма (сколько сообщений можно отправить в день — или за окно в несколько часов; точное окно зависит от сервиса) и возможностей модели (лучшие модели обычно доступны только по платной подписке). Если перевести это на практику: когда вам нужно «несколько полезных сеансов в день», бесплатного тарифа хватает полностью — об этом и был урок про бесплатные инструменты.

Как читать страницу с ценами за 30 секунд

Важны четыре строки, всё остальное — оформление:

  1. Цена указана за миллион токенов — отдельный токен стоит ничтожно мало, его стоимость просто округляют. Большое число не должно пугать.
  2. Вход и выход тарифицируются отдельно. Выход обычно стоит в несколько раз дороже входа. Дорогая половина — это ответ модели.
  3. Более сильные модели дороже за токен — иногда в десять раз. Самая большая модель часто и не нужна.
  4. Повторный вход обычно заметно дешевле. Если модель перечитывает один и тот же длинный документ, сервисы обычно делают скидку. Поэтому и второй шаг выше обходится не так дорого, как звучит: модель действительно перечитывает весь разговор, но уже прочитанную часть сервисы кэшируют и тарифицируют дешевле. Длинные разговоры обходятся не так дорого, как кажутся.

Как разобрать настоящий счёт, если вы пойдёте по пути API, — в отдельном уроке: Цены и учёт: анатомия вашего счёта.

Три привычки, которые уберегают от счетов

  1. Для повседневных задач — подписка, а не API. Фиксированная плата — это потолок: больше неё не спишут.
  2. Лимит расходов на каждый API-ключ — в момент его создания. Минута работы, а закрывает сразу целый класс проблем.
  3. Проверяйте, что вы приложили. Перед отправкой взгляните на вложения: PDF на 200 страниц, попавший туда случайно, — самая частая причина вопроса «куда делся мой лимит».

Готовый промпт: прикиньте цену

Вставьте его в ассистента, когда планируете что-то объёмное:

Прикиньте, прежде чем тратить
Я планирую сделать с тобой вот что: [опишите задачу]

Оцени честно: сколько примерно это займёт на входе и на выходе? Задача
потянет на бесплатном тарифе или на подписке — или ей место в оплате за
токены? Если выходит дорого — предложи способ дешевле, который даёт 90%
результата. И напомни, если цены, которые ты называешь, могут уже устареть.

Ассистенты оценивают стоимость своей работы лучше, чем можно ожидать, — если их об этом попросить. Последняя строка важна: у их знаний о ценах тоже есть дата отсечки.

Итог

  • Вы платите за токены на входе и на выходе; контекст — это всё, что модель прочитала, и он растёт с каждым сообщением.
  • Бесплатный тариф — настоящий, но с лимитами. Подписка — фиксированная плата на каждый день. API — счётчик, им стоит пользоваться позже.
  • Все цифры в этом уроке приблизительные: проверяйте текущие цены, прежде чем платить.
  • Лимит расходов на каждом API-ключе — и неожиданных счетов не будет.
Проверьте себя

Вы прикладываете PDF на 30 страниц и задаёте один вопрос. Что это делает с ценой?

Что из перечисленного НЕ может привести к неожиданному счёту при обычной переписке?

Почему очень длинный разговор начинает казаться «забывчивым»?

Вы только что создали свой первый API-ключ. Что нужно сделать сразу же?

Вопросы?

Списали что-то непонятное или хотите, чтобы кто-то проверил вашу настройку? Для этого есть Telegram-канал.