TwiddleLab / Искусственный интеллект / Как думает нейросеть

Почему сети можно обмануть

Урок 9 из 10 · 7 мин · Бесплатно, без аккаунта

Что ты узнаешь

• Модель, которая выучила обучающие данные слишком точно, вместе с шумом, переобучилась: идеальна на старых данных, плоха на новых.
• Модель, слишком простая для закономерности, недообучилась: плоха и там, и там.
• Отложи валидационную выборку. Ошибка на ней это честная оценка.
• Больше гибкости никогда не повышает ошибку на обучении. Ошибка на валидации рисует букву U: целься в её дно.

Начать урок

Как идёт урок

1. ИИ ответил на 100% тренировочных вопросов, а на настоящих сильно провалился. Как так?

   Растение росло 8 дней. Две модели выучили его рост, и B проходит через каждую точку. Какой доверить 9-й день? Нажми на одну и «Проверить».

2. Начни с простого: одна прямая через рост.

   Тяни оба конца прямой. На карточке ошибка на обучении из урока 4: опусти её ниже 1 и нажми «Проверить».

3. Теперь пусть линия изгибается.

   Увеличивай гибкость, пока ошибка на обучении не станет 0, и нажми «Проверить».

4. Идеальный результат значит хорошая модель?

   Нажми Новые данные: измерения того же растения, на которых модель не обучалась. Потом нажми Перебор, чтобы попробовать все значения гибкости.

5. У этой ловушки есть имя.

   Нажми, чтобы открыть.

   Выучить обучающие данные так точно, что модель выучивает и их шум, это переобучение: идеально на старых данных, плохо на новых.

   Модель, слишком жёсткая, чтобы повторить закономерность, это недообучение: плохо и там, и там.

   Данные, отложенные от обучения, это валидационная выборка. Ошибка на ней это честная оценка, а её самая низкая точка и есть золотая середина.

6. Игра: золотая середина.

   Машина всегда берёт гибкость 4. На каждом наборе данных выбери свою гибкость на глаз и нажми Проверить на новых данных. Обгони машину на всех трёх.

7. Слишком просто, в самый раз или слишком гибко?

   Каждая карточка это модель со своей ошибкой на обучении и на новых данных. Разложи все карточки по зонам и нажми «Проверить».

8. В математике многочлен 9-й степени может пройти через любые 10 точек.

   Сломай: чуть сдвинь оранжевую точку и смотри на всю кривую. Потом исправь: понижай степень, пока кривая не успокоится, и нажми «Проверить».

9. Какая модель переобучилась?

   На каждом графике ошибка на обучении и на новых данных во время обучения модели. Нажми на переобученную и «Проверить».

10. День 9: твоя модель против твоей ставки.

    Зелёная это твоя модель растения из игры. Фиолетовый пунктир это модель из твоей ставки. Нажми Измерить день 9.

Предыдущий урок: Сеть решает XOR · Следующий урок: Проект: обучи свою сеть · Часть курса: Как думает нейросеть

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.