TwiddleLab / Искусственный интеллект / Как думает нейросеть

Скатываемся по графику ошибки

Урок 5 из 10 · 7 мин · Бесплатно, без аккаунта

Что ты узнаешь

• Почувствуй наклон, шагни вниз, повтори: это градиентный спуск.
• Наклон потерь под мячом это градиент. Он смотрит в гору, поэтому шаг идёт в другую сторону.
• Размер шага это скорость обучения. Один шаг: новое m = m - скорость обучения × градиент.
• Слишком маленький шаг ползёт, слишком большой перелетает. Хорошая скорость обучения быстрая и всё равно успокаивается.

Начать урок

Как идёт урок

1. Компьютер не видит всю кривую ошибки.

   Это как стоять на холме в тумане. Куда шагнуть, чтобы найти низ? Нажми на стрелку и «Проверить».

2. Те же шесть игроков, прямая попроще: меняться может только наклон m.

   Крути наклон. Каждый наклон оставляет столбик ошибки справа. Опусти ошибку ниже 0,3.

3. Шаг. Шаг. Шаг.

   Нажми «Шаг». Мяч чувствует наклон под собой и шагает вниз. Продолжай до дна.

4. А можно добраться одним прыжком?

   Нажми на размер шага, чтобы увидеть прыжок. Выбери тот, что приземляется ближе всего ко дну, и «Проверить».

5. Только что изобретён заново самый важный алгоритм ИИ.

   Нажми, чтобы открыть.

   Почувствуй наклон, шагни вниз, повтори: это градиентный спуск.

   Наклон потерь под мячом это градиент. Он смотрит в гору, поэтому шагаем в другую сторону.

   Размер шага это скорость обучения. Один шаг: новое m = m - скорость обучения × градиент.

6. Игра: до дна за 6.

   Мяч стартует справа. Задай скорость обучения и нажми «Поехали»: он сделает 6 шагов. С первой попытки три звезды.

7. Будь компьютером. Собери один шаг.

   Это долина попроще. Расставь плитки, чтобы получить новое m, и нажми «Проверить».

8. Два числа для настройки? Тогда холм становится картой.

   С двумя ручками потери это рельеф. Поверни стрелку так, чтобы мяч шёл прямо вниз, и нажми «Проверить».

9. m = 2.5, градиент = 3, скорость обучения = 0.1. Где приземлится мяч?

   Двигай метку по оси m и нажми «Проверить».

10. Гонка: твоя скорость обучения против 0.05.

    Оба мяча стартуют с одного места. Нажми «Гонка» и посмотри, кто первым успокоится на дне.

Предыдущий урок: Измеряем ошибку · Следующий урок: Цикл обучения · Часть курса: Как думает нейросеть

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.