TwiddleLab / Искусственный интеллект / Генеративный ИИ: создаём новое

Автоэнкодеры: сжать и восстановить

Урок 2 из 11 · 7 мин · Бесплатно, без аккаунта

Что ты узнаешь

• У автоэнкодера есть энкодер, который сжимает вход в короткий код, и декодер, который его восстанавливает.
• Узкая середина это бутылочное горлышко: оно заставляет код хранить только самое важное.
• Обучение делает ошибку восстановления маленькой. То, что непохоже на обучающие данные, восстанавливается плохо, и так он замечает дефекты.
• Задай числа кода вручную, и декодер нарисует зверушек, которых никто не подавал на вход.

Начать урок

Как идёт урок

1. Эта зверушка это 256 чисел. Можно ли отправить её всего четырьмя?

   Каждый пиксель это одно число от 0 до 1.

2. Пропусти зверушку через коды разного размера.

   Энкодер превращает 256 чисел в короткий код. Декодер восстанавливает по нему картинку.

3. Найди самый маленький код с ошибкой восстановления меньше 9.

   Двигай размер кода. Ошибка показана своим числом.

   Каждое лишнее число кода исправляет самое большое оставшееся отличие. Здесь 4-е число возвращает уши, и ошибка падает с 11,2 до 8,5.

4. Эта машина сжатия и восстановления это автоэнкодер.

   Её обучают так, чтобы выход совпадал со входом. Узкая середина заставляет хранить только важное.

5. Пропусти энкодер: задай 3 числа кода вручную и восстанови цель.

   Декодер рисует любой код, который ему дают.

6. Какую новую картинку автоэнкодер восстановит хуже всего?

   Нажми на одну, потом «Проверить». Восстановления появятся после.

   Декодер может рисовать только смеси выученного. Зверушка вверх ногами не похожа ни на одну обучающую картинку, поэтому ошибка восстановления около 41, а у обычных зверушек от 8 до 10.

7. Контролёр на заводе: поймай 3 сломанные игрушки.

   Каждая игрушка стоит над своим восстановлением. Можно ошибиться 2 раза.

8. Код: какие форматы возвращают точную копию?

   Перетащи каждый формат к тому, что возвращается после распаковки.

   ZIP и PNG без потерь: возвращается каждый байт. JPEG, MP3 и автоэнкодер с потерями: меньше, но только близко к оригиналу.

9. Зверушка из 256 чисел становится кодом из 4 чисел. Во сколько раз код меньше?

   256 ÷ 4 = 64, значит, код в 64 раза меньше. Цена: восстановление близкое, а не точное.

10. Отправь свою зверушку открыткой из 3 чисел.

    Задай любые 3 числа и нажми «Отправить». У получателя есть только декодер.

Предыдущий урок: Генерировать или классифицировать · Следующий урок: Прогулки по латентному пространству · Часть курса: Генеративный ИИ: создаём новое

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.