Анализ: Anthropic и OpenAI последовательно выявили уязвимости в системе безопасности, вызвав обеспокоенность по поводу безопасности моделей ИИ

Согласно The Information, Anthropic и OpenAI столкнулись с инцидентами, связанными с безопасностью, что вызвало обеспокоенность рынка по поводу безопасности самих моделей ИИ.

В настоящее время Anthropic расследует потенциальный несанкционированный доступ к своей модели Claude Mythos со стороны пользователей. Почти одновременно стало известно, что OpenAI также случайно раскрыла несколько неопубликованных моделей в своем приложении Codex. Мнения экспертов отрасли указывают на то, что эти инциденты с уязвимостями усилили контроль за возможностями управления безопасностью компаний, занимающихся ИИ, и отражают тот факт, что системы безопасности текущих технологий ИИ все еще нуждаются в улучшении по мере их быстрого развития. Аналитики считают, что даже поставщики моделей ИИ, которые сосредоточены на возможностях кибербезопасности, сталкиваются с серьезными проблемами безопасности. По мере того, как ИИ постепенно используется для защиты от кибератак, проблемы, связанные с безопасностью платформы и контролем доступа, также стали критическими точками риска.