Все уроки · 44
ИИ и AGI: где мы на самом деле
Узкий ИИ у нас есть, AGI — пока нет. Что эта разница значит на практике, почему современные модели — это инструменты, а не самостоятельные субъекты, и почему она важна тем, кто создаёт продукты.
Два слова, которыми часто бросаются, не разобравшись
Почему это важно? Потому что эта терминологическая ошибка — самая дорогая в индустрии. Если исходить из того, что ИИ универсален, ваш продукт незаметно сломается на том, что никто не проверял. Если считать его просто автодополнением, вы упустите самый полезный инструмент в своей карьере. Разберитесь с терминами — и обе ловушки исчезнут.
Полистайте техноновости пять минут — и встретите оба утверждения: «ИИ оставит вас без работы» и «ИИ — это просто автодополнение, не переживайте». Оба основаны на путанице, а путаница возникает из-за того, что одним словом — «ИИ» — называют две разные вещи.
Начнём с терминов:
- Узкий ИИ — системы, которые превосходят человека в конкретных задачах и бесполезны за их пределами. Шахматный движок. Спам-фильтр. Современная LLM, которая умеет писать код и объяснять физику, но не может решить, чем ей заняться в 9 утра во вторник. Всё, что существует сегодня, относится сюда.
- AGI (Artificial General Intelligence, «общий искусственный интеллект») — гипотетическая система с человеческим уровнем способностей в любой интеллектуальной задаче: она сама ставит себе цели, осваивает новую область с нуля и надёжно действует в ситуациях, к которым её никто не готовил. Пока такой системы нет. Её никто не создал, и никто не знает, как далеко до этого.
Когда исследователи или руководители компаний обсуждают, через сколько лет появится AGI, они строят догадки о втором понятии. Вы же, создавая продукты, имеете дело с первым. Почти все практические ошибки в этой области возникают из-за того, что их путают.
Что такое узкий ИИ
Все системы, которыми вы можете пользоваться сегодня, — включая самые впечатляющие флагманские модели (в индустрии их называют frontier: это самые крупные и новые модели от OpenAI, Anthropic, Google и других), — устроены по одной схеме: человек ставит цель, система выдаёт результат, человек проверяет его.
LLM — самый гибкий из всех когда-либо созданных узких ИИ. Попросите её написать стихотворение, потом исправить регулярное выражение (небольшой шаблон для поиска текста, например «все адреса электронной почты в этом документе»), потом перевести текст на японский — справится со всем. Из-за такой гибкости она кажется универсальной. Но присмотритесь:
- Она работает только по запросу. Между вашими сообщениями никаких собственных целей у неё нет.
- У неё нет постоянной памяти. Каждый разговор начинается с чистого листа.
- Результат её не касается. Она ничего не может хотеть и не может отвечать за последствия: её не уволишь, на неё не подашь в суд, ей не доверишься так, как коллеге.
- Она ошибается уверенно. Когда она чего-то не знает, она не останавливается, а всё равно выдаёт правдоподобно звучащий текст.
Именно в этих пробелах и появляется инженерная работа: каждый пробел — это чья-то работа.
Что означал бы AGI
Даже «GPT, только на 20 процентов умнее» — ещё не AGI. Это другая категория систем с такими признаками:
- Универсальное самостоятельное обучение — поместите её в незнакомую область (скажем, ремонт скрипок), и она сама станет в ней компетентной, как это сделал бы умный человек
- Собственные цели — она сама решает, чем заняться, планирует на недели и месяцы вперёд и доводит дело до конца, и никому не нужно нажимать «запуск» на каждом шаге
- Надёжность на уровне человека — она знает границы своих знаний, умеет вовремя сказать «я не уверена» и ведёт себя достаточно предсказуемо, чтобы ей можно было поручить настоящую ответственность
Именно этот последний пункт инженеры недооценивают. Современные модели ошибаются уверенно и незаметно: неверный ответ выглядит точно так же, как верный. Чтобы системе можно было что-то поручить, она должна ошибаться заметно. Эта разница, а не «чистый» интеллект, и отличает инструмент от самостоятельного партнёра.
Инструменты, а не самостоятельные субъекты
Современные системы — в том числе «агенты» — это инструменты. Мощные, но инструменты. Они продолжают ваши намерения, собственных у них нет.
Задумайтесь, что такое агент по сути: цикл. Скрипт отправляет модели промпт, модель решает вызвать инструмент, скрипт его выполняет, возвращает результат и повторяет всё это, пока не сработает условие остановки. На каждом витке этого цикла модель по-прежнему просто предсказывает текст. Вся самостоятельность системы — цель, упорство, ответственность — целиком находится в коде и у человека, который его написал.
Посмотрите, как это выглядит на практике. Современный агент для программирования справляется с задачей, а затем упирается в границу, где инструмент заканчивается и должен появиться человек:
Обратите внимание, что произошло: агент отлично справился с чётко очерченной, проверяемой частью — поиск, диагностика, исправление, тест — и правильно вернул человеку решение, требующее суждения. Вернул он его потому, что решать, кому возвращать деньги, он в принципе не мог. Постановка целей, ответственность, подотчётность — всё это остаётся за человеком. Вот что на практике значит «инструмент, а не самостоятельный субъект».
Почему это важно, когда вы создаёте продукт
Чёткое различие прямо влияет на то, что и как вы создаёте:
- Проектируйте под проверку. Поскольку модель может уверенно ошибаться, ставьте человека (или автоматическую проверку) на всё важное. Просматривайте дифф (diff) — построчный список изменений, которые она внесла в ваш код, — прежде чем их примут в основную ветку. Сохраняйте ответы в логах. Сделайте проверку дешёвой.
- Постановка цели — на вас. Модель не догадается, что нужно вашим пользователям. Превратить расплывчатую потребность в точную цель — промпт, контекст, набор инструментов — это ваша работа, и это бо́льшая её часть.
- Подгоняйте задачи под возможности системы. Узкий ИИ силён в ограниченных задачах с обратной связью: сгенерировать, затем проверить. Ему трудно даются долгие, неоднозначные задачи на много дней. Разбивайте большие задачи на небольшие проверяемые циклы.
- Не полагайтесь на возможности, которых нет. «ИИ сам поймёт, что имел в виду клиент» — это допущение уровня AGI. Сегодня вместо этого приходится уточнять входные данные, ограничивать выходные и явно обрабатывать сбои.
- Не поддавайтесь ни одной из двух крайностей. «AGI уже здесь, писать код людям больше не нужно» и «это просто автодополнение, не обращайте внимания» неверны одинаково: обе пропускают настоящую работу — аккуратное применение мощного, но способного ошибаться инструмента.
Если отбросить и то и другое, остаётся быстрый, неутомимый, иногда ошибающийся младший коллега с мгновенным доступом к большей части человеческих знаний, который работает под вашим руководством. Команды, которые это усвоили, выпускают продукты уже сегодня. Команды, которые ждут AGI или делают вид, что он уже появился, не выпускают ничего.
Одна фраза, которую стоит запомнить
Сегодняшний ИИ — это быстрый, неутомимый и иногда ошибающийся помощник, которому от вас нужны три вещи: цель, контекст и суждение. Дайте ему все три — и он выдаст больше вас. Пропустите хоть одну — получите уверенную чушь.
Модель пишет безупречный код для одного файла, но не может решить, правильно ли с точки зрения бизнеса возвращать деньги клиентам. Почему?
Какое одно свойство больше всего отличает инструмент, которому можно что-то делегировать, от сегодняшних моделей?
В плане вашей команды написано: «ИИ сам поймёт, что имел в виду клиент». Что не так с этим планом?
Есть вопросы?
Застряли или появились вопросы по этой дорожной карте? Заходите в Telegram-канал — с радостью всё обсудим.