Пісочниця
Справжня мовна модель на вашій власній відеокарті — без ключа, без сервера, нічого не покидає цю вкладку.
Ця модель маленька і, чесно кажучи, доволі дурна
У ній близько 3 мільярдів параметрів — приблизно в сто разів менше, ніж у моделі, що стоїть за ChatGPT. Вона швидко забуває, суперечить собі й з радістю вигадує факти. Вона тут рівно для одного: щоб ви могли потикати справжню модель, поки читаєте, і побачити механізм на власні очі.
Ще одна чесна обмовка: англійською вона терпима. Російською та українською — помітно гірше: маленькі моделі погано справляються з цими мовами, і ця не виняток. Якщо понесе дурню, перейдіть на англійську — зазвичай це її отямлює.
Під час першого запуску завантажується близько 2,5 ГБ — один раз. Далі модель живе у вашому браузері й запускається миттєво: кнопка вище перетворюється на «вже завантажена». Якщо відеокарта її не потягне, сторінка мовчки завантажить меншу модель, замість того щоб здатися.
Що спробувати
- Запитайте щось, а потім спитайте: «а що я щойно запитав?» — вона знає це лише тому, що вся розмова надсилається їй знову щоразу.
- Надішліть довге повідомлення і дивіться, як росте число в правій панелі. Це і є контекст: усе, що моделі дозволено бачити.
- Розкажіть їй вигаданий «факт» і запитайте про нього пізніше. Скоріш за все, вона погодиться. Це галюцинація — наживо.
- Очистіть чат і поставте те саме питання знову. Нічого не перенеслося: між викликами у моделі немає памʼяті взагалі.
Усе, що ви друкуєте тут, нікуди не йде. Модель рахує на вашій відеокарті, всередині цієї вкладки.