TwiddleLab / Искусственный интеллект / Как работают языковые модели
Угадай следующее слово
Что ты узнаешь
- Языковая модель смотрит на уже написанные слова и даёт каждому возможному следующему слову вероятность.
- Вероятности для одного пропуска в сумме дают 100%. У одних пропусков явный победитель, у многих нет.
- Чат-бот пишет по одной догадке за раз: добавляет выбранное слово и угадывает снова.
Как идёт урок
Клавиатура телефона угадывает твоё следующее слово. А что напечатаешь ты?
Набрано "See you". Нажми на слово, которое напечатаешь дальше, и посмотри, что предложит клавиатура.
Ты против модели: пять фраз.
Нажми на слово, которое напечатаешь дальше. Очко каждый раз, когда выбираешь самый высокий столбик модели.
Теперь пусть модель пишет сама.
Нажми «Шаг». Каждый раз она оценивает все следующие слова и берёт самый высокий столбик.
У этой игры есть имена.
Нажми, чтобы открыть.
Языковая модель это программа, которая берёт уже написанные слова и угадывает, что дальше. В твоей клавиатуре крошечная модель. ChatGPT огромная.
Она даёт каждому возможному следующему слову вероятность: насколько оно вероятно, от 0% до 100%. Столбики показывают их, и для одного пропуска они в сумме дают 100%.
Текст пишется по одной догадке за раз: выбрать слово, добавить, угадать снова.
Будь моделью: сделай свои столбики.
Тяни столбики, чтобы показать, насколько вероятно каждое слово. В сумме всегда 100%. Потом «Проверить», чтобы увидеть столбики модели.
Столбики закрыты. Какое слово модель выберет первым?
Нажми на слово, потом «Проверить».
Блиц: три фразы, по три секунды.
Перетащи самое вероятное слово в пропуск, пока не кончилась полоска. Побьёшь свой счёт из игры?
Следующий урок: Подсчёт уже модель · Часть курса: Как работают языковые модели
Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.