Security in the Age of AI Agents: Office Hours with Jonathan Jaffe
Джонатан Джаффе, CISO компании Lemonade, в рамках Office Hours у Tomasz Tunguz обсуждает безопасность в эпоху ИИ-агентов, когда автоматизированы обе стороны — и атакующие, и защитники. Его ключевой тезис: ИИ так же мощен для защиты, как и для атаки, а нарратив страха недооценивает этот факт, ведь все вендоры в стеке тоже усиливают защиту. Окно эксплуатируемости сужается: хотя ИИ пишет больше уязвимого кода, такой код быстрее ревьюится, тестируется и патчится, а число багов в конкретном ПО конечно. В Lemonade каждый специалист по безопасности — инженер; команда построила собственную ИИ-платформу с агентами: один читает threat intel, другой проверяет, действительно ли уязвимый метод вызывается в продакшене. Джаффе подчёркивает, что каждому агенту нужна идентичность — на одном эндпоинте могут работать от 200 до 10 000 агентов — и новый уровень управления политиками, превосходящий нынешние системы IAM.
When security practitioners become engineers, the mission changes from managing people to architecting the automated policies that govern an agentic world.
Когда специалисты по безопасности становятся инженерами, миссия меняется: от управления людьми — к проектированию автоматизированных политик, которые управляют агентским миром.
Jonathan Jaffe, CISO at Lemonade, joined me on Office Hours to discuss what this means for how we build, secure, & operate AI systems when both sides are automated.
Jonathan Jaffe, CISO в Lemonade, присоединился ко мне на Office Hours, чтобы обсудить, что это значит для того, как мы строим, защищаем и эксплуатируем ИИ-системы, когда автоматизированы обе стороны.
AI is just as powerful for defenders as it is for attackers. The fear narrative underestimates this fact. Defenders harden everywhere, simultaneously, because every vendor in the stack is also racing to ship.
ИИ настолько же силён для защитников, насколько и для атакующих. Нарратив страха недооценивает этот факт. Защитники укрепляют всё и сразу, потому что каждый вендор в стеке тоже спешит выпускать новое.
“There are tens of thousands of attack targets out there. The chances that you’re going to be one of those is small. At the same time, all of the vendors that you use will also have access to this to improve their services.”
«Там, снаружи, десятки тысяч целей для атак. Вероятность того, что одной из них окажетесь именно вы, мала. При этом все вендоры, которыми вы пользуетесь, тоже получат доступ к этому, чтобы улучшить свои сервисы.»
The window of exploitability is narrowing. Yes, AI will write more vulnerable code. But AI-written code also gets reviewed, pen-tested, & patched faster than any human pipeline. Plus, the total number of bugs within a particular piece of software is finite. As the velocity of solving or resolving bugs increases, software will become far more resilient.
Окно эксплуатируемости сужается. Да, ИИ будет писать больше уязвимого кода. Но написанный ИИ код также ревьюится, проходит пентест и патчится быстрее, чем любой человеческий пайплайн. К тому же общее число багов в конкретном куске ПО конечно. По мере того как скорость устранения багов растёт, ПО будет становиться куда более устойчивым.
Security teams are becoming engineering teams. At Lemonade, every security person is an engineer. They built their own AI platform with agents on top of it. One agent reads threat intel. Another checks whether the vulnerable method is actually called in production code.
Команды безопасности превращаются в инженерные команды. В Lemonade каждый человек в безопасности — инженер. Они построили собственную ИИ-платформу с агентами поверх неё. Один агент читает threat intel. Другой проверяет, действительно ли уязвимый метод вызывается в продакшен-коде.
“Automation is the only way you can deal with the scale of what’s coming at us now.”
«Автоматизация — единственный способ справиться с тем масштабом, который надвигается на нас сейчас.»
Every agent needs an identity. On a single endpoint, we could be running 200 or 10,000 agents, but each one of them needs to be numbered and then governed by policy at the point of action.
Каждому агенту нужна идентичность. На одном эндпоинте мы можем запускать 200 или 10 000 агентов, но каждому из них нужен свой номер, а затем — управление через политику в момент действия.
“Every agent needs to have an identity, and more than that, you need a way to control policy for all of these agents in a much more complex way than current identity and access management systems do.”
«У каждого агента должна быть идентичность, и более того — нужен способ управлять политикой для всех этих агентов гораздо более сложным образом, чем это делают нынешние системы управления идентичностью и доступом.»
Modern agentic security engineering is rapidly transforming, and we should expect to see significantly hardened systems as a result. It’s a bright future for security and security professionals.
Современная агентская инженерия безопасности стремительно меняется, и в результате нам стоит ожидать существенно более защищённых систем. Это светлое будущее для безопасности и для специалистов по безопасности.
I’m grateful to Jonathan for sharing his insights at Office Hours!
Я благодарен Джонатану за то, что он поделился своими идеями на Office Hours!