TwiddleLab / Искусственный интеллект / ИИ и мы: пользуемся с умом
Галлюцинации и проверка фактов
Что ты узнаешь
- Галлюцинация это уверенный ответ, который неправда. Чат-бот выбирает вероятные следующие слова; он не ищет факты, если это не делает для него отдельный инструмент.
- Выдуманные источники выглядят настоящими: имя, университет, год. Найди их, прежде чем доверять.
- Проверка фактов: раздели ответ на утверждения, ищи каждое отдельно и найди первоисточник.
- Редкие ошибки складываются: 1 неверное утверждение из 20 значит около 3 неверных в сочинении из 60.
Как идёт урок
Ты просишь чат-бот помочь с докладом по истории. Он даёт 4 утверждения. Сколько из них правда?
Все звучат уверенно. Сделай ставку меткой, потом «Проверить».
Сверь каждое утверждение с найденным.
Вынеси вердикт каждому утверждению по результатам поиска справа.
Исследование с именем, университетом и годом звучит солидно. Но если поиск не находит ни статьи, ни страницы автора, ни новостей, самый безопасный вердикт: источник не найден, скорее всего выдумано.
Как чат-бот выдумывает исследование? Смотри, как он его пишет.
Нажми «Пуск» или иди по одному слову. Столбики показывают самые вероятные следующие слова.
У того, что сейчас было, есть название.
Галлюцинация: гладкий, уверенный ответ, который неправда. Модель предсказывает вероятные слова, а не проверяет их.
Проверка фактов: раздели ответ на утверждения и проверь каждое отдельно.
Первоисточник это то, откуда берётся факт: само исследование, официальная запись, собственная страница музея. Иди туда, а не к очередному пересказу.
Не всё нужно проверять. Какие части ответа чат-бота нужно?
Перетащи каждую часть на дорожку.
Пользуйся чат-ботами свободно для идей и формулировок. Всё, что выдаёт себя за факт, число, цитату или источник, нужно проверять.
Найди выдуманное утверждение. У тебя 3 поиска.
Ищи утверждение, чтобы увидеть, что найдётся. Отметь выдуманное, потом «Проверить». Меньше поисков, больше звёзд.
Сначала ищи самое рискованное утверждение: с конкретным именем, годом или числом. Общие факты, которые повторяет каждый источник, редко оказываются выдуманными.
Собери порядок проверки фактов для любого ответа.
Расставь 4 станции по порядку.
Поиск по всему ответу находит лишь новые копии этого ответа. Поиск по одному утверждению и переход к первоисточнику, вот что ловит ошибки.
Математика: чат-бот ошибается примерно в 1 утверждении из 20. В твоём сочинении 60 его утверждений.
Передвинь метку на число неверных утверждений, которое ожидаешь, потом «Проверить».
«Почти всегда прав» для сочинения мало: 60 x 1/20 = 3 ошибки, которых не видно. Поэтому проверяй утверждения, которые сдаёшь.
Последнее. Нажми на каждую строку, которую нужно проверить, прежде чем она попадёт в доклад.
Потом «Проверить», чтобы поставить печать.
Дата верна, а цитата знаменита, но проверить их всё равно нужно: под ними будет твоё имя. «Отчёт» это классическая ловушка: учёные оценивают, что Луна сжалась примерно на 50 метров за сотни миллионов лет, а не за год.
Предыдущий урок: Предвзятость: чьи это данные? · Следующий урок: Дипфейки и медиаграмотность · Часть курса: ИИ и мы: пользуемся с умом
Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.
