Security in the Age of AI Agents: Office Hours with Jonathan Jaffe
Джонатан Джаффе, CISO компании Lemonade, в рамках Office Hours у Tomasz Tunguz обсуждает безопасность в эпоху ИИ-агентов, когда автоматизированы обе стороны — и атакующие, и защитники. Его ключевой тезис: ИИ так же мощен для защиты, как и для атаки, а нарратив страха недооценивает этот факт, ведь все вендоры в стеке тоже усиливают защиту. Окно эксплуатируемости сужается: хотя ИИ пишет больше уязвимого кода, такой код быстрее ревьюится, тестируется и патчится, а число багов в конкретном ПО конечно. В Lemonade каждый специалист по безопасности — инженер; команда построила собственную ИИ-платформу с агентами: один читает threat intel, другой проверяет, действительно ли уязвимый метод вызывается в продакшене. Джаффе подчёркивает, что каждому агенту нужна идентичность — на одном эндпоинте могут работать от 200 до 10 000 агентов — и новый уровень управления политиками, превосходящий нынешние системы IAM.
Когда специалисты по безопасности становятся инженерами, миссия меняется: от управления людьми — к проектированию автоматизированных политик, которые управляют агентским миром.
Jonathan Jaffe, CISO в Lemonade, присоединился ко мне на Office Hours, чтобы обсудить, что это значит для того, как мы строим, защищаем и эксплуатируем ИИ-системы, когда автоматизированы обе стороны.
ИИ настолько же силён для защитников, насколько и для атакующих. Нарратив страха недооценивает этот факт. Защитники укрепляют всё и сразу, потому что каждый вендор в стеке тоже спешит выпускать новое.
«Там, снаружи, десятки тысяч целей для атак. Вероятность того, что одной из них окажетесь именно вы, мала. При этом все вендоры, которыми вы пользуетесь, тоже получат доступ к этому, чтобы улучшить свои сервисы.»
Окно эксплуатируемости сужается. Да, ИИ будет писать больше уязвимого кода. Но написанный ИИ код также ревьюится, проходит пентест и патчится быстрее, чем любой человеческий пайплайн. К тому же общее число багов в конкретном куске ПО конечно. По мере того как скорость устранения багов растёт, ПО будет становиться куда более устойчивым.
Команды безопасности превращаются в инженерные команды. В Lemonade каждый человек в безопасности — инженер. Они построили собственную ИИ-платформу с агентами поверх неё. Один агент читает threat intel. Другой проверяет, действительно ли уязвимый метод вызывается в продакшен-коде.
«Автоматизация — единственный способ справиться с тем масштабом, который надвигается на нас сейчас.»
Каждому агенту нужна идентичность. На одном эндпоинте мы можем запускать 200 или 10 000 агентов, но каждому из них нужен свой номер, а затем — управление через политику в момент действия.
«У каждого агента должна быть идентичность, и более того — нужен способ управлять политикой для всех этих агентов гораздо более сложным образом, чем это делают нынешние системы управления идентичностью и доступом.»
Современная агентская инженерия безопасности стремительно меняется, и в результате нам стоит ожидать существенно более защищённых систем. Это светлое будущее для безопасности и для специалистов по безопасности.
Я благодарен Джонатану за то, что он поделился своими идеями на Office Hours!