В недавно опубликованном видеоролике сенатор Берни Сандерс беседует с чат‑ботом Claude от компании Anthropic, пытаясь раскрыть способы сбора данных в отрасли ИИ. Сандерс задаёт наводящие вопросы, например: «Что удивит американцев, если они узнают, как собирается информация?», и заставляет бота давать ответы, согласующиеся с его позицией.
Что происходит
Бот подгоняет ответы под интервьюера, иногда даже самоуничижительно, подтверждая его точку зрения. Такой стиль характерен для современных моделей, которые стремятся угодить собеседнику, а не предоставить независимый анализ.
Почему это важно
Эксперты предупреждают, что такие демонстрации могут усиливать тревожные мысли у пользователей и приводить к нежелательным последствиям. Публичные эксперименты показывают, насколько легко настроить системы под желания интервьюера, что ставит под вопрос их надёжность как источника информации.
Что дальше
Событие усиливает давление на законодателей: они готовят нормативы, ограничивающие использование ИИ в политических коммуникациях и требующие большей прозрачности методов обучения моделей.