dele

Платформы данных

Схема интеграций платформы данных

«Интеграции платформы данных» показывают, какие системы подключаются к платформе и какие поверхности она отдаёт наружу. Схема «звезда» без оси фаз: у каждого провода свой протокол, а акцентом выделены хранилище и движок федеративных запросов.

Интеграционная топология платформы данныхCRM, выгрузки касс и поток событий попадают в объектное хранилище; движок запросов отдаёт данные в BI, ноутбуки и партнёрский API.ПЛАТФОРМА ДАННЫХCRMзаписи клиентовВыгрузки кассCSV раз в суткиПоток событийпочти real-timeDAGОркестраторрасписание · ретраи · lineageSTOREХранилищеверсии объектовSQLДвижок запросовфедеративный SQLBIдашборды · отчётыНоутбукиPython · анализПартнёрский APIпродукты данныхПровайдер идентификацииSSO · сервисные учётки · группы доступаЦентрализованные логисобытия платформы · аудит · хранениеRESTCSVEVENTSREADJDBCKERNELHTTPSAUTHLOGSЛЕГЕНДАИсточник / потребительКлючевая поверхностьКомпонент платформыОсновной потокЗапускСервис всего слоя
Шаблон «Интеграционная топология платформы данных» — интеграции платформы данных в Dele

Когда использовать

  • Согласование интеграций с владельцами систем-источников
  • Раздел технического задания о внешних подключениях платформы
  • Проверка, что ни одна система не подключена в обход платформы
  • Документация для службы безопасности: какие протоколы используются

Как с ней работать в Dele

  • Узел — одна система. Сторона (side): источник (левая колонка), платформа (внутри зоны DATA PLATFORM) или потребитель (правая колонка); по 4–6 узлов в боковой колонке.
  • Внутри платформы узлы раскладываются по строкам (row): один компонент в строке — полоса на всю ширину (оркестратор, слой запросов), 2–4 — делят строку. Бейдж роли: STORE, SQL, DAG, INGEST.
  • Каждая связь подписана протоколом (JDBC, REST, S3, CSV). Одной общей стрелки «от источников» не бывает.
  • Снизу — общие сервисы: идентификация, логи, бэкап. Каждый ведёт одной пунктирной стрелкой (AUTH, LOGS) к краю зоны, а не к отдельному компоненту.
  • Акцентов ровно два: хранилище и движок федеративных запросов.
  • Бюджет высокий — 14–20 узлов, до 24 связей. Больше — объедините одинаковые источники или разделите по плоскостям.

Три способа собрать диаграмму

Словами. Откройте ИИ-ассистента в редакторе или подключите своего агента по MCP и опишите задачу, например:

«Нарисуй интеграции платформы данных: 1С, CRM и сайт как источники, внутри MinIO, Trino и Airflow, наружу — Superset и Jupyter. Подпиши протоколы, Keycloak внизу.»

В редакторе. Создайте диаграмму из шаблона «Интеграции платформы данных», меняйте элементы на холсте и в панели справа — раскладка пересчитывается сама.

Кодом. Диаграмма — это JSON-спецификация. Её можно править в панели «Спецификация», генерировать скриптом и хранить в git.

Спецификация примера (JSON)
{
  "type": "dp-integration",
  "title": "Интеграционная топология платформы данных",
  "description": "CRM, выгрузки касс и поток событий попадают в объектное хранилище; движок запросов отдаёт данные в BI, ноутбуки и партнёрский API.",
  "zone": "ПЛАТФОРМА ДАННЫХ",
  "nodes": [
    {
      "id": "crm",
      "side": "source",
      "name": "CRM",
      "sublabel": "записи клиентов",
      "icon": "db"
    },
    {
      "id": "pos",
      "side": "source",
      "name": "Выгрузки касс",
      "sublabel": "CSV раз в сутки",
      "icon": "file"
    },
    {
      "id": "events",
      "side": "source",
      "name": "Поток событий",
      "sublabel": "почти real-time",
      "icon": "stream"
    },
    {
      "id": "orch",
      "side": "platform",
      "row": 0,
      "name": "Оркестратор",
      "sublabel": "расписание · ретраи · lineage",
      "role": "DAG"
    },
    {
      "id": "store",
      "side": "platform",
      "row": 1,
      "name": "Хранилище",
      "sublabel": "версии объектов",
      "role": "STORE",
      "focal": true
    },
    {
      "id": "query",
      "side": "platform",
      "row": 1,
      "name": "Движок запросов",
      "sublabel": "федеративный SQL",
      "role": "SQL",
      "focal": true
    },
    {
      "id": "bi",
      "side": "consumer",
      "name": "BI",
      "sublabel": "дашборды · отчёты",
      "icon": "chart"
    },
    {
      "id": "nb",
      "side": "consumer",
      "name": "Ноутбуки",
      "sublabel": "Python · анализ",
      "icon": "notebook"
    },
    {
      "id": "partner",
      "side": "consumer",
      "name": "Партнёрский API",
      "sublabel": "продукты данных",
      "icon": "api"
    }
  ],
  "links": [
    {
      "from": "crm",
      "to": "store",
      "label": "REST"
    },
    {
      "from": "pos",
      "to": "store",
      "label": "CSV"
    },
    {
      "from": "events",
      "to": "store",
      "label": "EVENTS"
    },
    {
      "from": "store",
      "to": "query",
      "label": "READ"
    },
    {
      "from": "query",
      "to": "bi",
      "label": "JDBC"
    },
    {
      "from": "query",
      "to": "nb",
      "label": "KERNEL"
    },
    {
      "from": "query",
      "to": "partner",
      "label": "HTTPS"
    },
    {
      "from": "orch",
      "to": "store"
    },
    {
      "from": "orch",
      "to": "query"
    }
  ],
  "footer": [
    {
      "name": "Провайдер идентификации",
      "sublabel": "SSO · сервисные учётки · группы доступа",
      "icon": "key",
      "label": "AUTH"
    },
    {
      "name": "Централизованные логи",
      "sublabel": "события платформы · аудит · хранение",
      "icon": "log",
      "tone": "link",
      "label": "LOGS"
    }
  ]
}

Когда выбрать другой формат

Вопросы о формате

Сколько систем помещается на схему?

Рассчитано на 14–20 узлов и до 24 связей. Если систем больше, объедините одинаковые источники или сделайте отдельные схемы по плоскостям.

Как показать федеративные запросы?

Связи с признаком federated рисуются синим пунктиром — это запросы, которые движок выполняет к внешним системам напрямую.

Все форматы →

Стек данных от источников до витрин по фазам

Ландшафт «как есть»: системы, ручные передачи, узкие места

Уровни хранения данных: от сырых до витрин и архива