TwiddleLab / Искусственный интеллект / Как работают языковые модели
От автодополнения к ассистенту
Что ты узнаешь
- Базовая модель только продолжает документы. На вопрос викторины она может написать ещё вопросов.
- Дообучение на примерах диалогов учит её отвечать. Отзывы людей (голоса за лучшие ответы) делают её полезнее.
- Системный промпт это скрытая инструкция, которую приложение добавляет в каждый чат. Модель читает её как любой другой текст.
Как идёт урок
Сырая модель читает "What is the capital of France?" Что дальше?
Перетащи строку, которую, по-твоему, напишет сырая языковая модель.
Пусть сырая модель пишет.
Нажми «Писать».
Оценщик это ты. Выбери ответ получше, четыре раза.
После каждого голоса смотри на столбики модели для вопроса про Францию.
Как сырая модель становится ассистентом.
Нажми, чтобы открыть.
Модель после предобучения это базовая модель: она продолжает документы.
Дообучение тренирует её дальше на примерах диалогов, и она учится отвечать. Отзывы людей, голоса за лучшие ответы, делают её полезнее и вежливее.
Сверху приложение добавляет системный промпт: скрытую инструкцию в начале каждого чата.
Расставь путь по порядку: от сырой модели к ассистенту.
Перетащи три этапа на ленту и нажми «Проверить».
Этот бот сказал "Ahoy!" Никто не просил пирата. Почему?
Нажимай на слова в ответе бота, чтобы увидеть, куда они смотрят.
Напиши скрытую инструкцию.
Собери инструкцию из плиток, чтобы бот выполнил все три цели. Проверяй сколько угодно, но меньше попыток лучше.
Твой бот против другого бота на той же модели.
Задай обоим ботам одни и те же вопросы. Хотя бы два.
Какой этап дал ассистенту каждое поведение?
Перетащи каждое поведение на этап и нажми «Проверить».
Загадка: что происходит, когда жмёшь «Отправить»?
Нажми «Отправить» и смотри.
Предыдущий урок: Почему она выдумывает · Следующий урок: Что происходит, когда жмёшь «Отправить» · Часть курса: Как работают языковые модели
Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.
