Директора по информационной безопасности годами воспринимали уязвимости больших языковых моделей как академические курьезы или редкие гипотетические кейсы. Эта беспечность закончилась ровно тогда, когда автономные агенты получили прямой доступ через API к корпоративным базам данных, платежным шлюзам и внутренним процессам. Традиционные файрволы и классические центры мониторинга безопасности (SOC) бессильны перед недетерминированными атаками: обычный движок правил не способен распознать рекурсивную инъекцию промпта или выявить отравление данных в векторном индексе.
По прогнозам Gartner, корпоративные расходы на безопасность ИИ в этом году достигнут $2,83 млрд — рост на 83% по сравнению с прошлым годом — и приблизятся к $4,78 млрд в следующем. Рынок осознает новую реальность: вывод ИИ в промышленную эксплуатацию без профильной инфраструктуры MLSecOps становится грубой халатностью.
Реальные эксплойты заставляют внедрять защиту в рантайме
Распределение капитала быстро подстраивается под ландшафт угроз. Раунд финансирования Серии B стартапа HiddenLayer на сумму $100 млн, возглавленный Delta-v Capital при участии Morgan Stanley, Ten Eleven Ventures, фонда M12 от Microsoft и Booz Allen Hamilton, наглядно показывает, куда направляются корпоративные бюджеты на киберзащиту. По словам сооснователя и CEO Криса Сестито, за последний год стартап более чем в десять раз увеличил регулярную годовую выручку (ARR), доведя ее до десятков миллионов долларов, причем более 90% дохода принесли новые клиенты.
Основу клиентской базы HiddenLayer составляют финансовые институты и ведущие технологические вендоры, а также масштабные контракты в оборонном и разведывательном секторах. Технический приоритет сместился с теоретического аудита моделей на активную защиту в среде исполнения (runtime): проверку целостности артефактов моделей, защиту весов от утечки и блокировку многоходовых враждебных промптов непосредственно перед их выполнением.
Концентрация капитала в сегменте MLSecOps
Приток инвестиций закрепляет за MLSecOps статус самостоятельного уровня корпоративного IT-стека. Для технических директоров (CTO) и глав безопасности (CISO), работающих в условиях жестких регуляторных требований, развертывание защитных барьеров становится обязательным условием для любого релиза моделей. Главный стратегический вопрос сейчас в другом: сумеют ли узкоспециализированные игроки удержать рынок, когда гиперскейлеры начнут встраивать нативные инструменты рантайм-контроля прямо в базовые API своих моделей.