Банк «Санкт-Петербург» и GlowByte реализовали отказоустойчивое решение для платформы управления данными на стеке Hadoop
Банк «Санкт-Петербург» совместно с ИТ-партнером GlowByte реализовал проект по созданию отказоустойчивого решения для платформы управления данными на стеке Hadoop с помощью инструмента Data Ocean Flex Loader.

Flex Loader – инструмент в составе платформы Data Ocean российского разработчика Data Sapience. Решение предназначено для автоматизации загрузки данных в такие популярные решения класса Big Data, как Hadoop, GreenPlum, объектное хранилище S3, а также для обеспечения межкластерной репликации в режиме, близкому к реальному времени.

Ян Гузов, CDO ПАО «Банк Санкт-Петербург»: «Платформа управления данными является источником для критичных отчетов банка, в том числе регуляторных. Платформа отличается повышенными показателями отказоустойчивости и относится к классу business critical, что делает ее уникальной на российском рынке. Для систем такого класса требуется создание резервного контура, что само по себе является трудной задачей в окружении Hadoop “из коробки”».

Глеб Смирнов, владелец платформы управления данными, заместитель CDO ПАО «Банк Санкт-Петербург»: «Для нас было важно иметь состояние резервного контура, близкого к реальному времени. Изучив все доступные инструменты на рынке и оценив возможность использования open-source-решений, мы остановили свой выбор на инструменте Data Ocean FlexLoader. В рамках проектной работы Flex Loader был интегрирован с нашими решениями по формированию аналитических расчетов и отчетности, он, по сути, является частью непрерывного регламентного процесса. Благодаря использованию Flex Loader мы не только достигли целевых показателей по отказоустойчивости, но и реализовали изоляцию изменений данных, которая недоступна в базовом дистрибутиве Hadoop».

Алексей Рундасов, коммерческий директор Data Sapience: «Наша компания всегда рада предложить передовые продукты для платформ управления данными, в том числе Flex Loader – инструмент в составе семейства Data Ocean, предназначенный для автоматизации загрузки данных в целевые системы на базе СУБД GreenPlum, экосистему Hadoop и объектное хранилище S3. Ключевыми особенностями Data Ocean Flex Loader являются синхронизация метаданных и контроль качества загружаемых данных, работа в инкрементальном режиме, гибкое управление приоритезацией, многопоточностью и конкурентностью. Кроме того, инструмент позволяет реплицировать данные между двумя кластерами GreenPlum или Hadoop в Disaster Recovery режиме».
Банк «Санкт-Петербург» – российский банк. На 1 января 2024 г. в банке обслуживается 2,219 млн частных лиц и более 60 тыс. компаний в 65 офисах в Санкт-Петербурге, Ленинградской области, Москве, Калининграде и Новосибирске, включая представительства в Краснодаре и Ростове-на-Дону. Акции банка торгуются с 2007 г..
GlowByte – российская консалтинговая группа ИТ-компаний. Лидер BI-индустрии в России (топ рейтинга BI CNews с 2017 г.) и СНГ. Поставщик решений BI и Big Data, отечественных продуктов и услуг в сферах финансовой аналитики и риск-менеджмента, DWH, CRM, Advanced Analytics, Machine Learning, RPA, IoT, BPM, AML и пр. Компания специализируется на проектах по импортозамещению. GlowByte работает на рынке внедрения аналитических решений для бизнеса с 2004 г.

Data Sapience – резидент «Сколково» и российский поставщик собственного программного обеспечения, специализирующийся на разработке аналитических инструментов для среднего и крупного бизнеса. Продукты компании включены в Реестр российского ПО и позволяют решать бизнес-задачи в области целевого маркетинга (доставка персонализированных коммуникаций), MLOps и управления жизненным циклом ML-моделей, управления рисками в сферах принятия решений (кредитный конвейер, предстраховые проверки и урегулирование убытков, скоринг контрагентов), противодействия отмыванию доходов (ПОД/ФТ) и мошенничеству (антифрод). В портфеле компании проекты в различных индустриях: финансовом секторе, телекоме, ритейле, e-commerce, производстве.