В рамках предстоящей Российской недели кибербезопасности, которая пройдет в Москве с 26 по 30 октября, экспертное сообщество соберется на 12-м SOC Forum. Ожидается, что центральной темой дискуссий станет использование искусственного интеллекта как инструмента, который применяется одновременно и злоумышленниками, и специалистами по защите. В этом контексте особого внимания заслуживает опыт компании «Циан», разработавшей внутренний GenAI-контур, способный фильтровать персональную информацию и проводить автоматическую модерацию контента с помощью LLM-молей.
Евгений Радько, занимающий пост директора по информационной безопасности компании «Циан», подчеркивает, что основой стратегии предприятия является поддержание высокого уровня доверия клиентов. Поскольку сделки с недвижимостью, будь то покупка или аренда, представляют собой критически важные процессы, компания системно инвестирует в безопасность. Архитектура платформы включает пять уровней: инфраструктурный, аналитический, технологический (AI-платформа), продуктовый и слой безопасности. Последний не является изолированным модулем, а пронизывает все уровни системы.
По словам Евгения Радько, информационная безопасность в «Циане» интегрирована непосредственно в бизнес-процессы и выступает в качестве значимой бизнес-метрики. Защитные механизмы сопровождают развитие любого сервиса на всех стадиях — от первичной идеи до полноценного запуска в эксплуатацию. Вопросы киберзащиты обсуждаются повсеместно: от уровня инженеров-разработчиков до совета директоров. При этом подразделение безопасности позиционирует себя не как контролирующий орган, а как полноценный бизнес-партнер. В арсенале компании применяются как традиционные проверенные инструменты, так и инновационные решения на базе искусственного интеллекта. AI-модели используются для поиска уязвимостей в программном коде, проверки конфигураций и зависимостей, а также для автоматизации процедур security review, что позволяет эффективно справляться с рутинными задачами в масштабах всей платформы.
Одной из наиболее острых проблем для крупных площадок с пользовательским контентом остается мошенничество. В «Циане» для противодействия злоумышленникам применяются продвинутые ML- и AI-алгоритмы, которые в режиме реального времени отслеживают аномалии, анализиму отклонения в поведении пользователей и ценообразовании, а также проверяют подлинность объектов и выявляют дубликаты. Результаты внедрения этих технологий впечатляют: автоматическая модерация охватывает 95% всего контента, при этом 99% фейковых объявлений блокируются еще на этапе проверки. Доля спама и мошеннических звонков удерживается на уровне менее 1%. Несмотря на то, что полностью исключить фейки на глобальных платформах невозможно, компания стремится к их минимальному присутствию, опираясь на жалобы пользователей и последующее дообучение моделей.
Еще одним важным достижением компании стало создание единой внутренней AI-платформы, призванной устранить риски, связанные с «теневым ИИ». Речь идет о ситуации, когда сотрудники используют сторонние нейросети без ведома службы безопасности, что создает угрозу утечки конфиденциальных данных и компрометации IT-систем. Вместо введения жестких запретов, которые, по мнению Евгения Радько, являются ошибочной практикой, компания предоставила персоналу удобный и безопасный инструмент. Внутренняя платформа обеспечивает доступ к различным LLM-моделям (включая внешние), самостоятельно распределяет запросы, маскирует персональные данные «на лету» и контролирует соблюдение требований комплаенса. Это не только защищает данные, но и значительно ускоряет запуск новых AI-инициатив, позволяя компании автоматически рассчитывать экономическую эффективность использования ИИ.
Помимо инфраструктурных решений, компания развивает пользовательский сервис — «Циан-помощник», который уже протестировали более 7 миллионов человек. Данный интеллектуальный сервис решает две ключевые задачи. Во-первых, он выполняет функции персонального ассистента: пользователь может описать параметры поиска обычным языком, а алгоритм выделит важные критерии (бюджет, локацию, тип жилья) и мгновенно подберет варианты на рынке аренды, вторичном или первичном рынке недвижимости. Во-вторых, сервис предоставляет консультационные услуги, оперативно отвечая на вопросы по ипотечным программам, юридическим тонкостям и особенностям проведения сделок. Такой подход позволяет существенно снизить нагрузку на службу поддержки и сделать процесс поиска жилья максимально простым для клиента.
