TwiddleLab / Искусственный интеллект / Как машины видят и слышат
Лица, камеры и справедливость
Что ты узнаешь
- Сеть для лиц превращает каждое фото в эмбеддинг лица: список чисел, точку. Фото одного человека ложатся рядом.
- Порог совпадения решает, насколько близко считается тем же человеком: шире пускает чужих, уже блокирует владельцев.
- Если группа редко встречалась в обучающих фото, её люди оказываются в тесной куче и чаще получают ложные совпадения.
- Справедливые системы проверяют ошибки по группам, учатся на разнообразных данных и оставляют проверку человеком там, где ошибки вредят.
Как идёт урок
Телефон разблокируется по твоему лицу за секунду. Так же хорошо он работал бы для всех?
Сделай догадку, потом «Проверить».
Сеть для лиц превращает каждое фото в точку. Измерь несколько расстояний.
Один цвет, один человек. Нажимай на два фото за раз.
Задай порог разблокировки для группы A: чужих не пускать, владельцев не блокировать.
У каждого сохранённого фото есть круг. Двигай его размер.
Что на самом деле делает телефон.
Нажми, чтобы открыть.
Точка для лица это эмбеддинг лица: список чисел, обученный так, чтобы фото одного человека ложились рядом.
Расстояние, которое ещё считается совпадением, это порог совпадения.
Любой порог меняет ложные разблокировки на блокировки, как линия тревоги в AI-3.
В тесте NIST 2019 года на 189 алгоритмах многие путали людей для одних групп в 10-100 раз чаще, чем для других.
Теперь примени свой порог к группе B, чьи лица редко встречались в обучающих фото.
Переключайся между двумя группами.
Переобучи с большим числом фото группы B. Что станет с кучей?
Двигай число обучающих фото.
Игра: честная разблокировка. Добейся работы для обеих групп с наименьшим количеством лишних данных.
Каждый шаг данных стоит 1. Потом задай один порог для всех.
Математика: система даёт 1 ложное совпадение на 100 000 сравнений. Город делает 1 000 000 сравнений в день. Сколько ложных совпадений?
Ожидаемые ложные совпадения = доля × сравнения = 1/100 000 × 1 000 000 = 10.
Где распознавание лиц почти безопасно, а где ошибка может кому-то навредить?
Перетащи каждое применение в кучку, потом «Проверить».
Одна и та же доля ложных совпадений в одном случае значит заново набранный PIN, а в другом ошибочно задержанного человека. Где ставки высоки, нужны проверки по группам и проверка человеком.
Составь свою карточку правил для честного распознавания лиц.
Положи на карточку 3 правила, потом «Проверить».
Общая точность может выглядеть отлично, а одна группа при этом получает гораздо больше ложных совпадений. Проверка по группам это находит, лучшие данные исправляют, а проверка человеком ловит остальное.
Предыдущий урок: Звук тоже картинка · Следующий урок: Проект: научи её видеть зверушек · Часть курса: Как машины видят и слышат
Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.
