TwiddleLab / Искусственный интеллект / Как работают языковые модели

Почему она выдумывает

Урок 9 из 12 · 7 мин · Бесплатно, без аккаунта

Что ты узнаешь

• Когда модель выдумывает что-то правдоподобное, это называется галлюцинацией.
• Для известных фактов один столбик огромный. Для редких или выдуманных вещей столбики почти равны, но модель всё равно выбирает слово и пишет дальше.
• Столбики говорят о словах, а не об истине. Уверенный тон это не проверка.
• Проверяй ответы: осмысленно ли, спроси иначе, найди настоящий источник и запусти код, прежде чем доверять.

Начать урок

Как идёт урок

1. Спроси модель о книге, которой не существует.

   Эту книгу никто не писал. Насколько уверенно, по-твоему, прозвучит ответ? Двигай метку.

2. Сначала вопрос, ответ на который она знает.

   Крутни колесо для ответа.

3. Теперь книга, которой нет.

   Жми «Крутить» для каждой части ответа. Смотри на колёса и на измеритель уверенности.

4. У этого есть имя.

   Нажми, чтобы открыть.

   Уверенный выдуманный ответ это галлюцинация.

   Столбики говорят о том, какое слово обычно идёт дальше, а не о том, что правда. Плоское колесо всё равно где-то остановится.

   Каждое новое слово опирается на предыдущие выдуманные, поэтому история продолжается. Уверенный тон это не проверка.

5. На какие вопросы вероятны выдуманные ответы?

   Перетащи каждый вопрос в стопку. Каждый бросок показывает форму его колеса. Потом «Проверить».

6. Детектив фактов: два из этих шести выдуманы.

   У тебя 3 проверки источников. Отметь 2 выдуманных утверждения и нажми «Отправить».

7. Собери свою проверку ответов.

   Поставь три проверки на ленту, от самой быстрой к самой надёжной. Потом «Проверить».

8. Код: код ИИ-помощника, уверенный в себе.

   Нажми «Запуск». Если сломается, нажми на волнистое имя, выбери исправление и запусти снова. Потом «Проверить».

9. Модель даёт точную статистику и ссылку. Твой первый шаг?

10. Твоя проверка в деле: спроси про книгу дважды.

    Нажми «Спросить» с обеих сторон и сравни два ответа.

Предыдущий урок: Температура: скучно или безумно · Следующий урок: От автодополнения к ассистенту · Часть курса: Как работают языковые модели

Уроки интерактивные и работают на JavaScript. Включи его, чтобы играть.