Arenadata Streaming

Платформа потоковой передачи и обработки данных. Корпоративная система для обмена сообщениями в реальном времени на базе Kafka и NiFi.

  • 162Кластера на поддержке
  • 39Клиентов
  • 24/7Техподдержка от вендора
ПРИМЕНЕНИЕ

Разные области использования

Три сценария для одного продукта.

Messaging

Взаимодействие производителя и получателя сообщений через брокера. Доступны две модели: очереди (point-to-point) и публикация/подписка (publish/subscribe). Брокер гарантирует доставку и сглаживает разницу в скорости работы producer и consumer.

iconКорпоративная шина данных (ESB). Надежный асинхронный обмен сообщениями между разнородными системами и приложениями.

iconРазвязка (decoupling) сервисов. Producer и consumer работают независимо, пиковые нагрузки сглаживаются очередью.

iconФоновые задачи. Постановка заданий в очередь и обработка пулом воркеров.

iconГарантированная доставка. Сообщение не теряется, если получатель временно недоступен.

Источники
Микросервисы
Внешние источники
Стриминговая платформа
Распределенная очередь
Apache Kafka
Kafka Streams
Kafka Connect
Потребители
Микросервисы
Системы рассылок
RTDM-системы
Внешние потребители

Альтернатива импортным решениям

Сертифицированная замена зарубежных стриминговых платформ.

НАТИВНАЯ МИГРАЦИЯ

Confluent Platform · Cloudera DataFlow · Stream Processing (HDF, CDF, CSP)

Тот же стек Apache Kafka и Apache NiFi. Прямой и естественный переход, данные переносятся без изменений.

Cloud & OnPrem

Amazon MSK · Kinesis · Azure Event Hubs · Google Pub/Sub · Confluent Cloud

Возможности управляемого облачного стриминга на своем железе.

ESB

IBM MQ · TIBCO EMS · Oracle Service Bus · RabbitMQ (Broadcom)

Замена корпоративных брокеров и шины данных.

  • Сертифицированный продукт

    Arenadata Streaming соответствует требованиям российских регуляторов.

    Включен в реестр российского программного обеспечения
    23927 от 06.09.2024

    Зарегистрирован в Роспатент
    2019662343 от 20.09.2019

    Подробнее
  • Российские операционные системы

    Продукт поддерживает популярные ОС, такие как РЕД ОС, ALT Linux и Astra Linux.

    ALT Linux10.2 SP

    РЕД ОС7.3 Сертифицированная редакция

    Astra Linux SE1.7.6 и 1.8.4, «Орел» и «Воронеж»

    А также зарубежные OC

    Ubuntu22.04 LTS

  • Аккредитация Минцифры России

    Компании Группы Arenadata включены в реестр аккредитованных организаций.

    Подробнееimage

    Безопасный код

    Оперативно правим CVE при выявлении уязвимостей в версиях продуктов Open Source.

    image
ХАРАКТЕРИСТИКИ

Технические преимущества

ADS открывает новые возможности для вашего бизнеса.

Apache Kafka. Распределенный, реплицируемый, упорядоченный лог. Высокая пропускная способность и горизонтальное масштабирование партициями.

Открытые форматы. Avro, JSON, Protobuf; Iceberg Sink Connector для записи событий в таблицы лейкхауса.

Tiered Storage (KIP-405). Закрытые сегменты лога выгружаются на удаленный уровень: HDFS, Apache Ozone (из ADH) или S3-совместимое хранилище. Локальные диски брокеров не растут, retention практически не ограничен.

KRaft. Метаданные кластера в Raft-кворуме контроллеров вместо ZooKeeper: проще эксплуатация, быстрее восстановление, выше масштабируемость по числу партиций.

Schema Registry. Централизованное управление схемами Avro/JSON/Protobuf с проверкой совместимости producer и consumer.

ЭКОСИСТЕМА

Продуманная интеграция

Arenadata Streaming поставляется с коннекторами, которые поддерживают обмен данных между сервисами ADS и другими продуктами.

Object storage
Databases
Language clients & Tools
Metrics and visualization
ОТЛИЧИЯ

Отличия от Open Source

Arenadata Streaming строится на открытых Kafka и NiFi, но добавляет единое управление, безопасность из коробки и вендорскую поддержку.

iconРегулярные бэкпорты CVE. Управление уязвимостью и обеспечение безопасности данных.

iconСогласованные версии компонентов. Все составляющие тестируются на совместимость.

iconСобственный инструмент развертывания. Arenadata Cluster Manager (ADCM) разработан для удобства администрирования кластером.

iconОтечественный вендор. Поддержка российских операционных систем, сервис и документация на русском языке.

ВНУТРЕННЕЕ УСТРОЙСТВО

Состав продукта

Слаженная работа компонентов обеспечивает высокую скорость обработки и надежность хранения.

Arenadata Streaming
Координатор
ZooKeeper
Распределенная очередь
Apache Kafka
Schema Registry
Kafka Connect
Cruise Control
Cruise Control
ksqlDB
REST Proxy
Потоковый ETL-инструмент
Apache NiFi
Apache MiNiFi
Apache NiFi Registry
Enterprise-сервисы
AD.S Control
Безопасность
Apache Ranger
OpenBao
Kerberos
РЕДАКЦИИ

Различие редакций

Community-редакция включает основной Open Source стек без enterprise-функций безопасности и высокой доступности (High Availability).

Community Edition
Бесплатно
Enterprise Edition
Индивидуальный расчет
Сервисы
Интерфейс и документация. Веб-интерфейс ADSC для управления кластерами Kafka

Безопасность (Kerberos, Ranger, Knox)

Мониторинг. Двухуровневая система: метрики хостов и сервисов (Kafka, NiFi)

Поддержка российских операционных систем
ALT Linux

10.2 SP

РЕД ОС

7.3 Сертифицированная редакция

Astra Linux SE

1.7.6 и 1.8.4, «Орел» и «Воронеж»

Возможности
Профессиональные услуги

Техническая поддержка 24/7

Установка и настройка платформы силами вендора

СОПРОВОЖДЕНИЕ

Техническая поддержка

Кластер Arenadata Streaming под надежным контролем.

24/7

Ваши задачи решаются без пауз и задержек, независимо от времени суток.

50+

Технических экспертов с опытом администрирования и разработки высоконагруженных решений.

1000+

Мы поддерживаем более тысячи кластеров заказчиков в самых различных отраслях.

99%

Соблюдаем SLA с высоким качеством обслуживания и надежности предоставляемых услуг.

500+

Обращений в месяц решает команда технической поддержки.

2

Языка службы поддержки: русский и английский.

Ближайшие курсы

Все курсы
СЕРВИСЫ

Профессиональные услуги

Ваша уверенность в успехе реализации проекта на каждом этапе.

Технический аккаунт-менеджмент

Технический аккаунт-менеджмент

Стратегия управления данными

Стратегия управления данными

Надежный старт

Надежный старт

Технический аудит

Технический аудит
FAQ

Часто задаваемые вопросы

Мы всегда на связи, и если у вас остались вопросы по нашему продукту, напишите нам и мы обязательно ответим.

ADS собирает Apache Kafka и Apache NiFi с патчами Arenadata в единый дистрибутив с управлением через ADCM. По сравнению с ванильной Kafka добавлены: готовая реализация Tiered Storage на HDFS/Ozone/S3, контур безопасности через ADPS (Ranger, Knox, Kerberos), web-интерфейс ADSC, регулярные бэкпорты CVE, поддержка российских ОС и российская техподдержка. В отличие от Confluent, бэкенды tiered storage и контур безопасности сделаны под экосистему Arenadata.

Apache Kafka, ZooKeeper, Kafka Connect (Debezium, MirrorMaker 2), Schema Registry, ksqlDB, Kafka REST Proxy, Apache NiFi и MiNiFi, NiFi Registry, Cruise Control, сервис мониторинга и отдельный продукт ADSC для управления.

С ванильной Apache Kafka, Confluent Platform, Cloudera DataFlow / Stream Processing (HDF/CSP на базе Kafka и NiFi). API Kafka совместим, поэтому переносятся топики, схемы и коннекторы.

Да. Установка Kafka в режиме KRaft через ADCM доступна с ADS 3.6.2.2 и не требует ZooKeeper. Поддерживается миграция с ZooKeeper на KRaft (с ADS 3.7.2.1), обратная миграция невозможна.

Tiered Storage (KIP-405) разделяет хранение и вычисления: горячие данные остаются на локальных дисках брокеров, а закрытые сегменты лога уходят на удаленный уровень. Так retention становится практически неограниченным при небольших локальных дисках.

Kafka Tiered Storage в ADS поддерживает HDFS и Apache Ozone из ADH (Hyperwave), а также S3-совместимое хранилище (например, MinIO). Связка настраивается импортом конфигурации ADH-кластера в ADCM, после чего core-site.xml и hdfs-site.xml автоматически копируются на Kafka-брокеры, а HADOOP_CONF_DIR проставляется автоматически. Закрытые сегменты логов выгружаются на HDFS/Ozone, локальные диски брокеров не растут. HDFS и S3 поддерживаются с ADS 3.6.2.2, Ozone добавили в 3.9.1.2.

Tiered Storage пишет закрытые сегменты на HDFS/Ozone из ADH; Iceberg Sink Connector пишет события в Iceberg-таблицы лейкхауса (в том числе на Ozone); ADPS обеспечивает единый контур безопасности; коннекторы NiFi и Kafka Connect связывают ADS с ADB (Greengage DB) и другими источниками.

Через ADPS: Apache Ranger (политики доступа и аудит), Kerberos (в том числе с Active Directory), SASL и TLS/SSL. ADPS обслуживает несколько кластеров ADS и другие продукты Arenadata из единого контура.

В очередных релизах поддерживаемых веток закрываются актуальные CVE по компонентам ADS. Сроки реакции на критические уязвимости оговариваются в рамках договора технической поддержки.

ADS зарегистрирован как программа для ЭВМ (свидетельство №2019662343 от 20.09.2019) и включен в Единый реестр российского ПО (реестровая запись №23927 от 06.09.2024). Enterprise-редакция поддерживает ALT Linux 10.2 SP, Astra Linux SE 1.7.6 и 1.8.4 («Орел» и «Воронеж») и РЕД ОС 7.3; компоненты совместимы с ФСТЭК-сертифицированными ОС (Astra SE, Alt SP).

Версия Community бесплатна и содержит ядро проекта с частью доработок Arenadata, работает на Ubuntu. Enterprise дает максимально полный набор: безопасность через ADPS (Ranger, Knox, Kerberos, LDAP/AD), расширенный мониторинг, поддержку российских ОС, дополнительные функции и сервисы сопровождения.

Open source компоненты ADS (Kafka, NiFi, ZooKeeper и др.) распространяются под лицензией Apache 2.0. Данные хранятся в открытых форматах (Avro, JSON, Protobuf) и читаются любым совместимым с Kafka API-клиентом, что снижает риск вендорной привязки. Enterprise-функции требуют коммерческой лицензии Arenadata.

НАЧНИТЕ СЕЙЧАС

Начните работу
с Arenadata Streaming

Платформа потоковой передачи и обработки данных. Корпоративная система для обмена сообщениями в реальном времени на базе Kafka и NiFi.