В четверг суд в Окленде принял показания Рози Кэмпбелл, бывшего сотрудника OpenAI и члена совета, которая описала, как компания сместила акцент от исследований к продуктам, что, по её мнению, поставило под угрозу миссию по гарантии безопасности искусственного общего интеллекта.
Что произошло
Кэмпбелл пришла в команду готовности к AGI в 2021 году, а в 2024 году ушла после распуска своей группы и подразделения Super Alignment. Она привела пример, когда Microsoft разместила GPT‑4 в Индии через Bing, не получив одобрения Deployment Safety Board. По её словам, модель не представляла высокого риска, но такой прецедент ослабляет стандарты, нужные при росте мощности ИИ.
Почему это важно
Кэмпбелл указывала на отсутствие прозрачности в руководстве OpenAI, в том числе на сокрытие информации от некоммерческого совета и возможный конфликт интересов при запуске ChatGPT. Эти факты вошли в исковые требования Элона Маска. Он утверждает, что превращение лаборатории в коммерческую компанию нарушило первоначальное соглашение основателей, где безопасность ставилась на первое место.
Что дальше
Эксперт Дэвид Шцер, приглашённый стороной Маска, отметил, что пробелы в процессах OpenAI требуют усиления государственного надзора за передовыми ИИ, потому что текущая модель управления «один CEO — одно решение» не подходит для публичных интересов.