Балансировка запросов к роутерам через Go-коннектор

В примере демонстрируется работа с повреждённым кластером под нагрузкой. Приложение непрерывно записывает кортежи пачками через все роутеры по очереди. Для записи используется операция replace. Если какой-либо роутер упал, трафик с него переключается на остальные роутеры. Если роутер поднялся, трафик на него возвращается.

Для мониторинга используются:

• Prometheus — сбор и хранение метрик;
• Grafana — визуализация метрик.

Содержание:

• Пререквизиты
• Запуск стенда
• Панель Grafana
• Увеличение нагрузки
• Имитация отказа роутера
• Восстановление роутера
• Остановка стенда

Для выполнения примера требуются:

• установленный Docker-образ Tarantool DB;

• приложение Docker compose;

• Go;

• исходные файлы примера go_balancer.

Для успешного запуска должны быть свободны порты:

• 3301—3306;
• 8080—8086.

Перейдите в директорию go_balancer/tt:

 
cd ./docs/docs/ru/assets/examples/go_balancer/tt

Запустите стенд:

 
docker compose up -d

Команда развернет стенд, состоящий из:

• кластера Tarantool DB (два шарда, два хранилища и два роутера);
• клиентского приложения, подающего нагрузку;
• средств мониторинга (Prometheus, Grafana).

После запуска должны работать все контейнеры, кроме tarantool-db-init. Также после запуска доступны следующие пользовательские интерфейсы:

• http://localhost:8083 — веб-интерфейс кластера Tarantool DB;
• http://localhost:8080 — веб-интерфейс Grafana.

Теперь откройте в браузере веб-интерфейс Tarantool DB по адресу http://localhost:8081. Перейдите во вкладку Cluster и проверьте, что отсутствуют ошибки или предупреждения. В течение нескольких секунд после старта кластер еще поднимается, так что могут появиться предупреждения.

После этого перейдите на вкладку Space Explorer и выберите любой узел, например storage1. Проверьте, что на узле есть спейс test.

Откройте в Grafana панель Tarantool dashboard. Проверьте, что графики показывают данные за последние 5 минут, а частота обновления равна 5 секундам:

В панели Tarantool Network activity откройте график Processed requests:

Выделите роутеры. Есть два способа это сделать:

• нажмите на название router-1 и, зажав Shift, нажмите на router-2.
• используйте переключатель сверху, чтобы выбрать роутеры на уровне всего дашборда:

В панели Tarantool operations statistics откройте график REPLACE space requests. Выберите все узлы, кроме роутеров:

В панели CRUD module statistics" откройте график REPLACE success requests:

Откройте вторую вкладку терминала. В этой вкладке перейдите в директорию go_balancer/go:

 
cd ./docs/docs/ru/assets/examples/go_balancer/go

Запустите клиентское приложение:

 
go run -tags go_tarantool_ssl_disable main.go

Здесь:

• go_tarantool_ssl_disable — опция, отключающая поддержку TLS. Так как для поддержки TLS требуется установленный OpenSSL 3.x, для простоты в примере поддержка TLS отключена.

На графиках теперь заметно, что нагрузка растет:

• растет число обработанных запросов на роутерах:

  

• растет число операций replace в единицу времени:

  

Включите отображение графиков хранилищ и оцените их:

В веб-интерфейсе Tarantool DB откройте вкладку Space Explorer и проверьте, что в хранилищах появились данные.

Чтобы имитировать отказ роутера, в первом терминале выполните команду:

 
docker compose stop tarantool-router1

Теперь в веб-интерфейсе Tarantool DB во вкладке Cluster узел tarantool-router1 помечается как нездоровый (unhealthy). График запросов изменится так:

Нагрузка на второй роутер увеличилась вдвое. График для второго роутера выглядит так:

Роста нагрузки на этом графике нет. График прерывается, так как роутер не работает и метрики с него не поступают. Количество операций replace при этом не изменилось:

Кол-во операций crud-replace на рабочем роутере возросло:

Для запуска первого роутера выполните следующую команду:

 
docker compose start tarantool-router1

В веб-интерфейсе Tarantool DB во вкладке Cluster видно, что узел tarantool-router1 восстановлен. Нагрузка на второй роутер уменьшилась вдвое, появились данные по нагрузке с первого:

Число операций replace не изменилось:

Кол-во операций crud-replace на один роутер снизилось:

Для остановки стенда:

• В первом терминале выполните команду:

   
  docker compose down

• Во втором терминале выполните команду Ctrl + Z.