Искусственный интеллект (ИИ) и машинное обучение все активнее используются злоумышленниками, упрощая их работу. В то же время, применение ИИ в российских продуктах информационной безопасности пока ограничивается в основном выявлением аномалий и в целом не имеет широкого распространения. Николай Перетягин, менеджер по продукту NGR Softlab, рассказал о том, над какими умными технологиями компания сейчас работает и как они помогут специалистам по ИБ.
Николай Перетягин: Дефицит экспертов в области информационной безопасности на российском и международном рынке труда требует автоматизации сложных или рутинных задач, которые не решаются простыми алгоритмическими методами. Мы проводим ряд исследований по использованию больших языковых моделей и связанных с ними технологий (LLM, RAG). С помощью ИИ мы стремимся повысить ценность наших продуктов и снизить требования к квалификации и опыту пользователей. Среди приоритетных направлений, которые находятся в разработке:
· Текстовый технический консультант по продукту. ИИ-помощник, способный простым языком ответить на вопросы по эксплуатации продукта или устранению неполадок. Это позволит не изучать многостраничную документацию и не тратить время на поиск нужной информации.
· Текстовый ИБ эксперт. Аналог Copilot от Microsoft, который по запросу поможет интерпретировать какое-либо событие и его потенциальный вред, а также даст рекомендации о дополнительных расследованиях и локализации угрозы и т.д.
· Автоматическое распознавание содержимого поступающих событий и формирование парсеров. Создание парсеров для подключения нестандартных источников требует редких и хороших знаний, значительное количество времени на внедрение и регулярной адаптации уже подключенных источников из-за изменений при обновлении программного обеспечения источников. ИИ возьмет эту работу на себя.
Помимо исследований возможности использования LLM-моделей, мы разрабатываем методы повышения точности выявления аномалий, поиска похожих событий и добавления контекста к найденным аномалиям. Это поможет сократить количество ложных срабатываний и улучшит способность продуктов находить аналогичные или взаимосвязанные случаи на основе известных вредоносных или нежелательных примеров поведения.
Николай Перетягин: Дефицит экспертов в области информационной безопасности на российском и международном рынке труда требует автоматизации сложных или рутинных задач, которые не решаются простыми алгоритмическими методами. Мы проводим ряд исследований по использованию больших языковых моделей и связанных с ними технологий (LLM, RAG). С помощью ИИ мы стремимся повысить ценность наших продуктов и снизить требования к квалификации и опыту пользователей. Среди приоритетных направлений, которые находятся в разработке:
· Текстовый технический консультант по продукту. ИИ-помощник, способный простым языком ответить на вопросы по эксплуатации продукта или устранению неполадок. Это позволит не изучать многостраничную документацию и не тратить время на поиск нужной информации.
· Текстовый ИБ эксперт. Аналог Copilot от Microsoft, который по запросу поможет интерпретировать какое-либо событие и его потенциальный вред, а также даст рекомендации о дополнительных расследованиях и локализации угрозы и т.д.
· Автоматическое распознавание содержимого поступающих событий и формирование парсеров. Создание парсеров для подключения нестандартных источников требует редких и хороших знаний, значительное количество времени на внедрение и регулярной адаптации уже подключенных источников из-за изменений при обновлении программного обеспечения источников. ИИ возьмет эту работу на себя.
Помимо исследований возможности использования LLM-моделей, мы разрабатываем методы повышения точности выявления аномалий, поиска похожих событий и добавления контекста к найденным аномалиям. Это поможет сократить количество ложных срабатываний и улучшит способность продуктов находить аналогичные или взаимосвязанные случаи на основе известных вредоносных или нежелательных примеров поведения.