TwiddleLab / Искусственный интеллект / Как работают языковые модели

Как модель учится: меньше удивления

Урок 7 из 12 · 7 мин · Бесплатно, без аккаунта

Что ты узнаешь

• Модель учится чтением: угадай следующее слово, увидь настоящее, измерь удивление, подтолкни веса. Это предобучение.
• Удивление это функция потерь: -log2(p) бит для вероятности p, которую модель дала настоящему слову. Шанс вдвое меньше, на один бит больше.
• Веса, или параметры, это миллиарды чисел. Факты вроде «Париж столица Франции» оказываются записаны в них.

Начать урок

Как идёт урок

1. Никто не вписывал факты в ChatGPT. Так где он их хранит?

   Нажми на коробку, где, по-твоему, модель хранит этот факт.

2. Модель это ты. Угадай, а потом почувствуй удивление.

   Для каждого пропуска тяни столбики, потом открой настоящее слово. Чем ниже был твой столбик для него, тем больше удивление.

3. Теперь модель читает миллиард страниц.

   После каждого слова она подталкивает веса к меньшему удивлению. Тяни ползунок или нажми «Пуск».

4. Прибавь чтения и смотри, как появляется факт.

   Крути регулятор прочитанных страниц до миллиарда.

5. Вот где живут факты.

   Нажми, чтобы открыть.

   Читать огромные объёмы текста и учиться угадывать следующее слово это предобучение.

   Удивление от настоящего слова, -log2(p) в битах, это функция потерь модели. Обучение скатывает её вниз, как долину из первого курса.

   Числа, которые она подталкивает, это её параметры (веса). Ответ на ставку: факт живёт в весах, а не в базе данных.

6. Собери один шаг обучения для слов.

   Перетащи четыре блока в цикл в правильном порядке. Один блок лишний. «Запуск», потом «Проверить».

7. Удивляйся меньше, чем новичок.

   Прочитай короткую историю как модель. Ставь столбики перед каждым словом. Новичок раскладывает столбики поровну. Меньше общее удивление, значит победа.

8. Математика: сколько бит в удивлении «1 из 8»?

   1/2 это 1 бит, 1/4 это 2 бита. Двигай метку для 1/8 и нажми «Проверить».

9. Какое слово сильнее всего удивит обученную модель?

   Нажми на одно слово и «Проверить».

10. Твой счёт по истории против класса и обученной модели.

    Покажи результаты.

Предыдущий урок: Внимание: какие слова важны · Следующий урок: Температура: скучно или безумно · Часть курса: Как работают языковые модели

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.