Confluent Platform · Cloudera DataFlow · Stream Processing (HDF, CDF, CSP)
Тот же стек Apache Kafka и Apache NiFi. Прямой и естественный переход, данные переносятся без изменений.
Три сценария для одного продукта.
Взаимодействие производителя и получателя сообщений через брокера. Доступны две модели: очереди (point-to-point) и публикация/подписка (publish/subscribe). Брокер гарантирует доставку и сглаживает разницу в скорости работы producer и consumer.
Корпоративная шина данных (ESB). Надежный асинхронный обмен сообщениями между разнородными системами и приложениями.
Развязка (decoupling) сервисов. Producer и consumer работают независимо, пиковые нагрузки сглаживаются очередью.
Фоновые задачи. Постановка заданий в очередь и обработка пулом воркеров.
Гарантированная доставка. Сообщение не теряется, если получатель временно недоступен.
Тот же стек Apache Kafka и Apache NiFi. Прямой и естественный переход, данные переносятся без изменений.
Возможности управляемого облачного стриминга на своем железе.
Замена корпоративных брокеров и шины данных.
Arenadata Streaming соответствует требованиям российских регуляторов.
Включен в реестр российского программного обеспечения
23927 от 06.09.2024
Зарегистрирован в Роспатент
2019662343 от 20.09.2019

Продукт поддерживает популярные ОС, такие как РЕД ОС, ALT Linux и Astra Linux.
ALT Linux10.2 SP
РЕД ОС7.3 Сертифицированная редакция
Astra Linux SE1.7.6 и 1.8.4, «Орел» и «Воронеж»
А также зарубежные OC
Ubuntu22.04 LTS
Компании Группы Arenadata включены в реестр аккредитованных организаций.
Оперативно правим CVE при выявлении уязвимостей в версиях продуктов Open Source.
ADS открывает новые возможности для вашего бизнеса.
Apache Kafka. Распределенный, реплицируемый, упорядоченный лог. Высокая пропускная способность и горизонтальное масштабирование партициями.
Открытые форматы. Avro, JSON, Protobuf; Iceberg Sink Connector для записи событий в таблицы лейкхауса.
Tiered Storage (KIP-405). Закрытые сегменты лога выгружаются на удаленный уровень: HDFS, Apache Ozone (из ADH) или S3-совместимое хранилище. Локальные диски брокеров не растут, retention практически не ограничен.
KRaft. Метаданные кластера в Raft-кворуме контроллеров вместо ZooKeeper: проще эксплуатация, быстрее восстановление, выше масштабируемость по числу партиций.
Schema Registry. Централизованное управление схемами Avro/JSON/Protobuf с проверкой совместимости producer и consumer.
Arenadata Streaming поставляется с коннекторами, которые поддерживают обмен данных между сервисами ADS и другими продуктами.
Arenadata Streaming строится на открытых Kafka и NiFi, но добавляет единое управление, безопасность из коробки и вендорскую поддержку.
Регулярные бэкпорты CVE. Управление уязвимостью и обеспечение безопасности данных.
Согласованные версии компонентов. Все составляющие тестируются на совместимость.
Собственный инструмент развертывания. Arenadata Cluster Manager (ADCM) разработан для удобства администрирования кластером.
Отечественный вендор. Поддержка российских операционных систем, сервис и документация на русском языке.
Слаженная работа компонентов обеспечивает высокую скорость обработки и надежность хранения.
Community-редакция включает основной Open Source стек без enterprise-функций безопасности и высокой доступности (High Availability).
10.2 SP
7.3 Сертифицированная редакция
1.7.6 и 1.8.4, «Орел» и «Воронеж»
Кластер Arenadata Streaming под надежным контролем.

Ваша уверенность в успехе реализации проекта на каждом этапе.
Мы всегда на связи, и если у вас остались вопросы по нашему продукту, напишите нам и мы обязательно ответим.
ADS собирает Apache Kafka и Apache NiFi с патчами Arenadata в единый дистрибутив с управлением через ADCM. По сравнению с ванильной Kafka добавлены: готовая реализация Tiered Storage на HDFS/Ozone/S3, контур безопасности через ADPS (Ranger, Knox, Kerberos), web-интерфейс ADSC, регулярные бэкпорты CVE, поддержка российских ОС и российская техподдержка. В отличие от Confluent, бэкенды tiered storage и контур безопасности сделаны под экосистему Arenadata.
Apache Kafka, ZooKeeper, Kafka Connect (Debezium, MirrorMaker 2), Schema Registry, ksqlDB, Kafka REST Proxy, Apache NiFi и MiNiFi, NiFi Registry, Cruise Control, сервис мониторинга и отдельный продукт ADSC для управления.
С ванильной Apache Kafka, Confluent Platform, Cloudera DataFlow / Stream Processing (HDF/CSP на базе Kafka и NiFi). API Kafka совместим, поэтому переносятся топики, схемы и коннекторы.
Да. Установка Kafka в режиме KRaft через ADCM доступна с ADS 3.6.2.2 и не требует ZooKeeper. Поддерживается миграция с ZooKeeper на KRaft (с ADS 3.7.2.1), обратная миграция невозможна.
Tiered Storage (KIP-405) разделяет хранение и вычисления: горячие данные остаются на локальных дисках брокеров, а закрытые сегменты лога уходят на удаленный уровень. Так retention становится практически неограниченным при небольших локальных дисках.
Kafka Tiered Storage в ADS поддерживает HDFS и Apache Ozone из ADH (Hyperwave), а также S3-совместимое хранилище (например, MinIO). Связка настраивается импортом конфигурации ADH-кластера в ADCM, после чего core-site.xml и hdfs-site.xml автоматически копируются на Kafka-брокеры, а HADOOP_CONF_DIR проставляется автоматически. Закрытые сегменты логов выгружаются на HDFS/Ozone, локальные диски брокеров не растут. HDFS и S3 поддерживаются с ADS 3.6.2.2, Ozone добавили в 3.9.1.2.
Tiered Storage пишет закрытые сегменты на HDFS/Ozone из ADH; Iceberg Sink Connector пишет события в Iceberg-таблицы лейкхауса (в том числе на Ozone); ADPS обеспечивает единый контур безопасности; коннекторы NiFi и Kafka Connect связывают ADS с ADB (Greengage DB) и другими источниками.
Через ADPS: Apache Ranger (политики доступа и аудит), Kerberos (в том числе с Active Directory), SASL и TLS/SSL. ADPS обслуживает несколько кластеров ADS и другие продукты Arenadata из единого контура.
В очередных релизах поддерживаемых веток закрываются актуальные CVE по компонентам ADS. Сроки реакции на критические уязвимости оговариваются в рамках договора технической поддержки.
ADS зарегистрирован как программа для ЭВМ (свидетельство №2019662343 от 20.09.2019) и включен в Единый реестр российского ПО (реестровая запись №23927 от 06.09.2024). Enterprise-редакция поддерживает ALT Linux 10.2 SP, Astra Linux SE 1.7.6 и 1.8.4 («Орел» и «Воронеж») и РЕД ОС 7.3; компоненты совместимы с ФСТЭК-сертифицированными ОС (Astra SE, Alt SP).
Версия Community бесплатна и содержит ядро проекта с частью доработок Arenadata, работает на Ubuntu. Enterprise дает максимально полный набор: безопасность через ADPS (Ranger, Knox, Kerberos, LDAP/AD), расширенный мониторинг, поддержку российских ОС, дополнительные функции и сервисы сопровождения.
Open source компоненты ADS (Kafka, NiFi, ZooKeeper и др.) распространяются под лицензией Apache 2.0. Данные хранятся в открытых форматах (Avro, JSON, Protobuf) и читаются любым совместимым с Kafka API-клиентом, что снижает риск вендорной привязки. Enterprise-функции требуют коммерческой лицензии Arenadata.