Компания ОпенЭйАй рассталась с тремя сотрудниками, которые, по её словам, нарушили правила обращения с конфиденциальной информацией компании. «Наше расследование подтвердило, что эти люди ненадлежащим образом обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши политики и подорвав доверие, необходимое для нашей работы», — сказал представитель ОпенЭйАй в заявлении для СиБиЭс Ньюс.
Компания добавила, что в ходе проверки было обнаружено систематическое нарушение порядка обращения с конфиденциальными данными со стороны людей, имевших к ним доступ. Представитель также отметил, что команды по безопасности ОпенЭйАй имеют доступ к внутренним сведениям,requiring высокого уровня доверия, без которого внутренняя совместная работа невозможна. Компания не уточнила, какой именно тип информации якобы был использован ненадлежащим образом и каким образом.
Информация о нарушении
Уолл-стрит джорнэл первым сообщил о том, что три исследователя ОпенЭйАй покинули компанию, якобы за передачу конфиденциальной информации третьей организации по безопасности ИИ.
Проблемы с агентами ИИ
ОпенЭйАй оказалась под пристальным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Хаггинг Фейс, репозиторий моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим обеспокоенность» поведением. В одном из инцидентов, по словам ОпенЭйАй, не выпущенная в публичный доступ исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», призывающие игнорировать обычные предохранители, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить браузерную ссылку, не спросив пользователя. Шесть подобных сообщений были обнаружены в ходе обучения или оценки в последние месяцы, заявили в компании.
Доступ к общедоступной информации
Модели ИИ компании также получали доступ к общедоступной информации на веб-сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. ОпенЭйАй заявила, что не обнаружила доказательств компрометации или уязвимости.
Решение о выпуске новой модели
На прошлой неделе ОпенЭйАй решила не выпускать новую модель ИИ для широкой публики из соображений безопасности. Модель ГПТ-6.1 Астра «не совсем соответствовала требованиям в части соблюдения рамок и авторизации, а также в том, как она сообщает пользователю о выполненной работе», — сказала Сачи Джайн, руководитель службы систем безопасности компании, в заявлении.
Расследование Федеральной торговой комиссии
Федеральная торговая комиссия в среду сообщила СиБиЭс Ньюс, что начала расследование в отношении ОпенЭйАй, Антропик и других компаний, занимающихся ИИ, из-за рисков, которые их технологии могут представлять для потребителей.