TwiddleLab / Искусственный интеллект / Как работают языковые модели

Проект: генератор имён для зверушек

Урок 12 из 12 · 8 мин · Бесплатно, без аккаунта

Что ты узнаешь

• Твой генератор это языковая модель на буквах: считай пары (или тройки), потом сэмплируй колесом.
• Температура меняет скучные имена на странные. Больше памяти делает имена правдоподобнее, но копирует обучающую выборку.
• Сравнивай модели по удивлению на именах, которых они не видели, и проверяй вывод на копии.

Начать урок

Как идёт урок

1. Новому виду зверушек нужно 100 имён. Собери для этого машину.

   Сначала выбери обучающие данные.

2. Обучи её: скорми ей свои имена.

   Вводи имена по одному или все сразу. Каждая пара букв бросает камешек.

3. Сделай 10 имён, буква за буквой.

   Колесо нарезано по парам после последней буквы.

4. Крути температуру.

   Попробуй холодно и горячо. Где имена новые, но их всё ещё легко произнести?

5. Что собрано, словами ИИ.

   Нажми, чтобы открыть.

   Твои имена это обучающая выборка. Подсчёт пар букв это биграммная модель, только на буквах вместо слов.

   Вращение колеса это сэмплирование, а температура меняет форму колеса.

   Оглядываться дальше значит взять контекстное окно побольше: правдоподобнее, но ближе к копированию.

6. Улучши машину: дай ей больше памяти.

   Перетащи нужный блок в ячейку улучшения и сравни имена. Потом «Проверить».

7. Пары или тройки: какая модель меньше удивляется?

   Обе читают настоящие имена, на которых не обучались. Нажми на модель получше и «Проверить».

8. Кузница имён: 10 имён, хотя бы 8 новых и легко произносимых, без копий.

   Задай память и температуру и нажми «Сделать 10 имён». Победа за 3 запуска даёт все звёзды.

9. Выбери свою пятёрку. Поймай копии.

   Перетащи пять имён в свою пятёрку, а копии в отдельную стопку. Потом «Проверить».

10. Код: подсчётная часть генератора на Python.

    Расставь четыре строки по порядку. Одна плитка лишняя. Запусти на своих именах и нажми «Проверить».

11. Модель с большой памятью написала 20 имён. Какие из них копии?

    Нажми на каждую копию обучающего имени и «Проверить».

12. Нарисуй зверушку для своего лучшего имени. Потом поделись карточкой.

    Рисуй на белом квадрате. Твоя пятёрка и настройки уже на карточке.

Предыдущий урок: Что происходит, когда жмёшь «Отправить» · Часть курса: Как работают языковые модели

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.