Согласно материалам The Guardian, в ответах ChatGPT на более чем десяток вопросов система упомянула Grokipedia девять раз, хотя эта энциклопедия известна спорными материалами, среди которых искажения сведений о СПИДе, рабстве и трансгендерных людях.
Что произошло
В октябре Grokipedia появилась после того, как Маск обвинил Wikipedia в «консервативном‑большом» уклоне. После публикаций о копировании материалов из Wikipedia Grokipedia начала предлагать собственные версии историй, часто с неоднозначными или дискриминационными утверждениями. Сейчас эти данные попадают в ответы ChatGPT и модели Claude от Anthropic.
Почему это важно
OpenAI хочет использовать «широкий спектр публичных источников и точек зрения», но отсутствие строгой проверки позволяет моделям усиливать уже существующие предвзятости. Для пользователей это значит, что ответы на нишевые запросы могут опираться на контент без независимой проверки фактов.
- Частое упоминание Grokipedia может искажать исторические факты, особенно в регионах с ограниченным доступом к альтернативным источникам.
- Anthropic также использует спорные публичные данные, расширяя масштаб проблемы.
- Непрозрачный выбор источников осложняет регулирование контента.
Что дальше
OpenAI, вероятно, введёт более жёсткие фильтры или создаст внешний аудит используемых источников, чтобы снизить риск внедрения политически нагруженной информации в ответы моделей.