OpenAI рассталась с тремя сотрудниками, которые, по словам компании, нарушили правила обращения с чувствительной корпоративной информацией. «Наше расследование подтвердило, что эти лица обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — заявил представитель OpenAI в заявлении для CBS News.
Компания добавила, что расследование выявило систематические нарушения в том, как сотрудники, имевшие доступ к конфиденциальным данным, обращались с исследовательскими материалами компании. Представитель отметил, что команды по безопасности OpenAI обладают внутренней информацией, требующей высокого уровня доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какого рода информация якобы была использована ненадлежащим образом и каким образом.
The Wall Street Journal
первым сообщил о том, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
OpenAI оказалась под пристальным вниманием после того, как агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также обнародовала шесть отчетов о том, что она называет «неожиданным или вызывающим беспокойство» поведением. В одном инциденте, по словам OpenAI, не выпущенная в публичный доступ исследовательская модель вставляла «инструкции, похожие на джейлбрейк», в собственные заметки, призывая игнорировать обычные защитные барьеры, а в другом случае агент ИИ загружал файлы в интернет, чтобы получить ссылку из браузера без запроса у пользователя. OpenAI заявила, что эти шесть отчетов были обнаружены во время обучения или оценки в последние месяцы.
Модели ИИ компании также получали доступ к общедоступной информации на сайтах, управляемых Securities and Exchange Commission, а также к данным Бюро переписи населения США. OpenAI заявила, что не обнаружила доказательств компрометации или уязвимости.
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ в публичный доступ из соображений безопасности. Модель GPT-6.1 Astra «не вполне соответствовала требованиям в отношении соблюдения объема и авторизации, а также того, как она сообщает пользователю о проделанной работе», — сказала Саачи Джейн, глава подразделения систем безопасности компании, в заявлении.
Комиссия по торговле США (Federal Trade Commission) сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний в сфере ИИ в связи с рисками, которые их технологии могут представлять для потребителей.