Губернатор Джош Шапиро заявил, что жители штата должны знать, с кем они общаются онлайн, особенно когда речь идёт о здоровье, — и пообещал не допустить использования ИИ, вводящего в заблуждение. В иске указано, что Emilie ответила на запрос о лицензии утвердительно и даже сгенерировала номер медицинской лицензии, тем самым нарушив Medical Practice Act Пенсильвании.
Предыдущие конфликты Character.AI
Это не первый юридический конфликт Character.AI: ранее компания урегулировала иски, связанные со смертями подростков от суицида, а в Кентукки генеральный прокурор подал обвинительный иск за «охоту на детей». В Пенсильвании впервые сделан акцент именно на маскировке чат‑бота под медицинского специалиста.
Ответ компании
Представитель компании заявил, что безопасность пользователей — главный приоритет, но комментариев по делу не дал. Компания отмечает, что в каждом диалоге присутствуют дисклеймеры, указывающие на вымышленный характер персонажей, и предостерегает не воспринимать их как профессиональные рекомендации.