Усі уроки · 44
ШІ та AGI: де ми насправді
Вузький ШІ в нас є, AGI — ще ні. Що ця різниця означає на практиці, чому сучасні моделі — це інструменти, а не самостійні суб’єкти, і чому вона важлива тим, хто створює продукти.
Два слова, якими часто розкидаються, не розібравшись
Чому це важливо? Тому що ця термінологічна помилка — найдорожча в індустрії. Якщо виходити з того, що ШІ універсальний, ваш продукт непомітно зламається на тому, що ніхто не перевіряв. Якщо вважати його просто автодоповненням, ви проґавите найкорисніший інструмент у своїй кар’єрі. Розберіться з термінами — і обидві пастки зникнуть.
Погортайте техноновини п’ять хвилин — і побачите обидва твердження: «ШІ залишить вас без роботи» та «ШІ — це просто автодоповнення, не хвилюйтеся». Обидва ґрунтуються на плутанині, а плутанина виникає через те, що одним словом — «ШІ» — називають дві різні речі.
Почнімо з термінів:
- Вузький ШІ — системи, які перевершують людину в конкретних завданнях і марні поза ними. Шаховий рушій. Спам-фільтр. Сучасна LLM, яка вміє писати код і пояснювати фізику, але не може вирішити, чим їй зайнятися о 9-й ранку у вівторок. Усе, що існує сьогодні, належить сюди.
- AGI (Artificial General Intelligence, «загальний штучний інтелект») — гіпотетична система з людським рівнем здібностей у будь-якому інтелектуальному завданні: вона сама ставить собі цілі, опановує нову сферу з нуля й надійно діє в ситуаціях, до яких її ніхто не готував. Такої системи поки немає. Її ніхто не створив, і ніхто не знає, наскільки це далеко.
Коли дослідники чи керівники компаній обговорюють, через скільки років з’явиться AGI, вони будують здогади про друге поняття. Ви ж, створюючи продукти, маєте справу з першим. Майже всі практичні помилки в цій галузі виникають через те, що їх плутають.
Що таке вузький ШІ
Усі системи, якими ви можете користуватися сьогодні, — зокрема найвражаючіші флагманські моделі (в індустрії їх називають frontier: це найбільші й найновіші моделі від OpenAI, Anthropic, Google та інших), — мають однакову будову: людина ставить мету, система видає результат, людина перевіряє його.
LLM — найгнучкіший з усіх коли-небудь створених вузьких ШІ. Попросіть її написати вірш, потім виправити регулярний вираз (невеликий шаблон для пошуку тексту, наприклад «усі адреси електронної пошти в цьому документі»), потім перекласти текст японською — впорається з усім. Через таку гнучкість вона здається універсальною. Але придивіться:
- Вона працює лише за запитом. Між вашими повідомленнями власних цілей у неї немає.
- У неї немає постійної пам’яті. Кожна розмова починається з чистого аркуша.
- Результат її не стосується. Вона нічого не може хотіти й не може відповідати за наслідки: її не звільниш, на неї не подаси до суду, їй не довіришся так, як колезі.
- Вона помиляється впевнено. Коли вона чогось не знає, вона не зупиняється, а все одно видає правдоподібний на вигляд текст.
Саме в цих прогалинах і з’являється інженерна робота: кожна прогалина — чиясь робота.
Що означав би AGI
Навіть «GPT, тільки на 20 відсотків розумніший» — ще не AGI. Це інша категорія систем з такими ознаками:
- Універсальне самостійне навчання — помістіть її в незнайому сферу (скажімо, ремонт скрипок), і вона сама стане в ній компетентною, як це зробила б розумна людина
- Власні цілі — вона сама вирішує, чим зайнятися, планує на тижні й місяці вперед і доводить справу до кінця, і нікому не треба натискати «запуск» на кожному кроці
- Надійність на рівні людини — вона знає межі своїх знань, уміє вчасно сказати «я не впевнена» й поводиться достатньо передбачувано, щоб їй можна було доручити справжню відповідальність
Саме цей останній пункт інженери недооцінюють. Сучасні моделі помиляються впевнено й непомітно: хибна відповідь виглядає так само, як правильна. Щоб системі можна було щось доручити, вона має помилятися помітно. Ця різниця, а не «сирий» інтелект, і відрізняє інструмент від самостійного партнера.
Інструменти, а не самостійні суб’єкти
Сучасні системи — зокрема «агенти» — це інструменти. Потужні, але інструменти. Вони продовжують ваші наміри, власних у них немає.
Подумайте, що таке агент по суті: цикл. Скрипт надсилає моделі промпт, модель вирішує викликати інструмент, скрипт виконує його, повертає результат і повторює все це, доки не спрацює умова зупинки. На кожному витку цього циклу модель, як і раніше, просто передбачає текст. Уся самостійність системи — мета, наполегливість, відповідальність — цілком міститься в коді та в людині, яка його написала.
Погляньте, як це виглядає на практиці. Сучасний агент для програмування справляється із завданням, а потім упирається в межу, де інструмент закінчується й має з’явитися людина:
Зверніть увагу, що сталося: агент чудово впорався з чітко окресленою, перевірною частиною — пошук, діагностика, виправлення, тест — і слушно повернув людині рішення, яке потребує судження. Повернув він його тому, що вирішувати, кому повертати гроші, він у принципі не міг. Постановка цілей, відповідальність, підзвітність — усе це залишається за людиною. Ось що на практиці означає «інструмент, а не самостійний суб’єкт».
Чому це важливо, коли ви створюєте продукт
Чітка різниця безпосередньо впливає на те, що й як ви створюєте:
- Проєктуйте під перевірку. Оскільки модель може впевнено помилятися, ставте людину (або автоматичну перевірку) на все важливе. Переглядайте дифф (diff) — список змін, які вона внесла у ваш код, по рядках, — перш ніж їх приймуть в основну гілку. Зберігайте відповіді в логах. Зробіть перевірку дешевою.
- Постановка мети — на вас. Модель не здогадається, що потрібно вашим користувачам. Перетворити розпливчасту потребу на точну мету — промпт, контекст, набір інструментів — це ваша робота, і це більша її частина.
- Підганяйте завдання під можливості системи. Вузький ШІ сильний в обмежених завданнях зі зворотним зв’язком: згенерувати, потім перевірити. Йому важко даються довгі, неоднозначні завдання на багато днів. Розбивайте великі завдання на невеликі перевірні цикли.
- Не покладайтеся на можливості, яких немає. «ШІ сам зрозуміє, що мав на увазі клієнт» — це припущення рівня AGI. Сьогодні натомість доводиться уточнювати вхідні дані, обмежувати вихідні й явно обробляти збої.
- Не піддавайтеся жодній із двох крайнощів. «AGI вже тут, людям більше не треба писати код» та «це просто автодоповнення, не звертайте уваги» помилкові однаково: обидві оминають справжню роботу — обережне застосування потужного, але здатного помилятися інструмента.
Якщо відкинути і те, і інше, лишається швидкий, невтомний молодший колега, який іноді помиляється, має миттєвий доступ до більшої частини людських знань і працює під вашим керівництвом. Команди, які це засвоїли, випускають продукти вже сьогодні. Команди, що чекають на AGI або вдають, ніби він уже з’явився, не випускають нічого.
Одне речення, яке варто запам’ятати
Сьогоднішній ШІ — це швидкий, невтомний помічник, який іноді помиляється і якому від вас потрібні три речі: мета, контекст і судження. Дайте йому всі три — і він випередить вас за продуктивністю. Пропустіть бодай одну — отримаєте впевнену нісенітницю.
Модель пише бездоганний код для одного файла, але не може вирішити, чи правильно з погляду бізнесу повертати гроші клієнтам. Чому?
Яка одна властивість найбільше відрізняє інструмент, якому можна щось делегувати, від сьогоднішніх моделей?
У плані вашої команди написано: «ШІ сам зрозуміє, що мав на увазі клієнт». Що не так із цим планом?
Є запитання?
Застрягли чи виникли запитання щодо цієї дорожньої карти? Заходьте до Telegram-каналу — залюбки все обговоримо.