Путь от монолита на PHP к микросервисам на Scala / Денис Иванов (2GIS)
•
3 likes•3,035 views
В своём проекте мы решали следующие задачи: + Скорость разработки задачи; + Стоимость поддержки задачи; + Возможность распараллеливать вычисления и задачи; + Возможность максимально просто масштабировать приложение; + CI/CD с минимальными усилиями. Я расскажу о том, как мы решали эти задачи, на какие грабли мы наступали, что из этого всего получилось, и что делать дальше. Что получили в итоге: + Мощь JVM под капотом Scala; + 15 минут от нажатия на кнопку "Merge request" до продакшена в 3 датацентра и 6 серверов с прохождением тестов (юнит + функциональные + интеграционные + нагрузочные); + 6 нод с приложениями вместо 18 (по 2 в каждом датацентре для отказоустойчивости) с запасом прочности в 60%; + Независимые пофичные релизы без даунтайма всех компонентов приложения; + М��сштабирование только того функционала и в том количестве, которое необходимо данному сервису.
Report
Share
Путь от монолита на PHP к микросервисам на Scala / Денис Иванов (2GIS)
- 2. 2GIS WebAPI
- 3. Данные 3
- 4. Данные • 8 стран • 300 городов • 50 тыс населенных пунктов 4
- 5. Данные • 8 стран • 300 городов • 50 тыс населенных пунктов • 5 млн организаций 5
- 6. Данные • 8 стран • 300 городов • 50 тыс населенных пунктов • 5 млн организаций • 50 млн гео-объектов И еще много всего 6
- 7. Нагрузка 7
- 8. Нагрузка • 30 млн. пользователей в месяц 8
- 9. Нагрузка • 30 млн. пользователей в месяц • 2000 RPS 9
- 10. Нагрузка • 30 млн. пользователей в месяц • 2000 RPS • 3 датацентра 10
- 11. Одна нода • 16 CPU • 16 GB RAM • Минимальная нагрузка - 50% 11
- 13. Проблемы 13
- 14. Проблемы • Долго работают скрипты (95% - 500ms) 14
- 15. Проблемы • Долго работают скрипты (95% - 500ms) • Невозможно параллельно, многопоточно выполнять какие-то задачи 15
- 16. Проблемы • Долго работают скрипты (95% - 500ms) • Невозможно параллельно, многопоточно выполнять какие-то задачи • Приложение - один большой кусок, который нужно выкатывать очень часто и целиком 16
- 17. Проблемы • Долго работают скрипты (95% - 500ms) • Невозможно параллельно, многопоточно выполнять какие-то задачи • Приложение - один большой кусок, который нужно выкатывать очень часто и целиком • Кеширование не спасает 17
- 18. Проблемы • Долго работают скрипты (95% - 500ms) • Невозможно параллельно, многопоточно выполнять какие-то задачи • Приложение - один большой кусок, который нужно выкатывать очень часто и целиком • Кеширование не спасает • Много команд разработчиков, сервисов, интеграций 18
- 19. Проблемы • Долго работают скрипты (95% - 500ms) • Невозможно параллельно, многопоточно выполнять какие-то задачи • Приложение - один большой кусок, который нужно выкатывать очень часто и целиком • Кеширование не спасает • Много команд разработчиков, сервисов, интеграций • Много тестов, которые долго работают 19
- 20. Решения 20
- 21. Решения • Поддерживать существующее и жить дальше 21
- 22. Решения • Поддерживать существующее и жить дальше • Переписать всё нафиг 22
- 23. Решения • Поддерживать существующее и жить дальше • Переписать всё нафиг • Подумать и распилить приложение на независимые куски 23
- 24. Севисная архитектура (SOA) — модульный подход к разработке программного обеспечения, основанный на использовании распределённых, слабо связанных заменяемых компонентов, оснащённых стандартизированными интерфейсами для взаимодействия по стандартизированным протоколам 24
- 25. Микросервисная архитектура • Малый размер • Тонкое масштабирование • Быстрый деплой • Лёгкость тестир��вания (Мок) • Любой язык 25
- 26. Микросервисная архитектура • Десятки приложений вместо одного • Сложность интеграционного тестирования 26
- 27. Поехали!
- 38. Shipyard • https://shipyard-project.com/ • Котейнеры • Образы • Реестры • Ноды • Логи • Консоль 38
- 42. Consul-template {{range tree "service/redis@east-aws"}} {{.Key}} {{.Value}}{{end}} 42
- 45. Схема работы
- 54. Router chain { "key": "ms4", "method": "/api/0.0.1/ms4", "data": {}, "timeout": 2000, "maxRetries": 0, "isVital": true, "waitFor": ["ms1", "ms2"] } 54
- 60. Базовый образ для контейнера • Ubuntu ~500мб, deb-пакеты • BusyBox ~50мб, нет пакетов 60
- 61. Java SDK 61
- 66. STOP!
- 68. Как распилить? • Выделить каждую группу методов в отдельный сервис 68
- 69. Как распилить? • Выделить каждую группу методов в отдельный сервис • Начать с самого мелкого и несвязного сервиса 69
- 70. Как распилить? • Выделить каждую группу методов в отдельный сервис • Начать с самого мелкого и несвязного сервиса • Постепенно выделять сервисы, переходя к более крупным 70
- 71. Прототип 71
- 72. Прототип • Тяжелый метод - поисковый запрос, запросы в БД, формирование 2000 маркеров с хешами, куча json-а 72
- 73. Прототип • Тяжелый метод - поисковый запрос, запросы в БД, формирование 2000 маркеров с хешами, куча json-а • PHP, PHP7, Java, Scala 73
- 74. Прототип • Тяжелый метод - поисковый запрос, запросы в БД, формирование 2000 маркеров с хешами, куча json-а • PHP, PHP7, Java, Scala • SLA - 95% за 300ms 74
- 75. Бенчмарк 75
- 76. Бенчмарк Реализация SLA Смерть php 30 rps 40 rps php7 70 rps 80 rps java 160 rps 180 rps scala 180 rps 200 rps 76
- 77. Scala vs Java 77
- 78. Scala vs Java • Те же библиотеки + свои 78
- 79. Scala vs Java • Те же библиотеки + свои • Меньше кода, чем на Java 79
- 80. Scala vs Java • Те же библиотеки + свои • Меньше кода, чем на Java • Много success-story в микросервисах 80
- 81. Scala vs Java • Те же библиотеки + свои • Меньше кода, чем на Java • Много success-story в микросервисах • Асинхронность и многопоточность намного проще из коробки + сторонние библиотеки 81
- 82. Scala vs Java • Те же библиотеки + свои • Меньше кода, чем на Java • Много success-story в микросервисах • Асинхронность и многопоточность намного проще из коробки + сторонние библиотеки • В компании есть несколько команд, использующих Scala на продакшене 82
- 83. Интеграция
- 87. Библиотечки 87
- 94. Spray path("api" / "1.0" / "some" / "method") { parameters('id.as[String]) { id => val response = DoSomeWork(id) onSuccess(response) { content => complete(content) } } } 01. 02. 03. 04. 05. 06. 07. 08. 94
- 95. Spray json case class User(name: String, isOk: Boolean) implicit val UserFormatter = jsonFormat2(User) val json = """{"name": "Denis", "isOk": true}""" val user = json.parseJson.convertTo[User] 01. 02. 03. 04. 05. 06. 07. 95
- 96. Typesafe config databases { catalog { host = "127.0.0.1" port = 5432 timeout = 5s } } 01. 02. 03. 04. 05. 06. 07. 96
- 97. Инвентарь 97
- 98. Инвентарь • Scala - основной язык для микросервисов 98
- 99. Инвентарь • Scala - основной язык для микросервисов • TeamCity - сборка и деплой 99
- 100. Инвентарь • Scala - основной язык для микросервисов • TeamCity - сборка и деплой • Ansible - деплой 100
- 101. Тестирование 101
- 102. Тестирование • Функциональные и интеграционные тесты на ваш продукт, которые у вас должны быть 102
- 103. Тестирование • Функциональные и интеграционные тесты на ваш продукт, которые у вас должны быть • Для нагрузки - yandex tank, gatling 103
- 104. Тестирование • Функциональные и интеграционные тесты на ваш продукт, которые у вас должны быть • Для нагрузки - yandex tank, gatling • Для реверс-инжиниринга - gor 104
- 105. Тестирование • Функциональные и интеграционные тесты на ваш продукт, которые у вас должны быть • Для нагрузки - yandex tank, gatling • Для реверс-инжиниринга - gor • Простой скрипт, кидающий запрос на 2 хоста и делающий diff 105
- 106. Стало 106
- 107. Стало • Сборка - 2 минуты 107
- 108. Стало • Сборка - 2 минуты • Тесты (с нагрузкой) - 5-10 минут 108
- 109. Стало • Сборка - 2 минуты • Тесты (с нагрузкой) - 5-10 минут • Деплой - 5 минут 109
- 110. Стало • Сборка - 2 минуты • Тесты (с нагрузкой) - 5-10 минут • Деплой - 5 минут • Серверов - 6 вместо 18 (по 2 в каждом ДЦ) 110
- 111. Одна нода • 4 CPU • 4 GB RAM • Средняя нагрузка - 5% • Максимальная нагрузка - 30% 111
- 112. Грабли 112
- 113. Грабли • CORS 113
- 115. Что дальше? 115
- 117. Что дальше? • Продолжать распиливать сервисы • Двигаться к поставленной цели (к "идеалу") 117
- 118. Итоги 118
- 120. Итоги • Поменьше велосипедов • Ставьте себе четкие, достижимые цели в короткий срок 120
- 121. Итоги • Поменьше велосипедов • Ставьте себе четкие, достижимые цели в короткий срок • Делайте задачи итеративно 121
- 122. Итоги • Поменьше велосипедов • Ставьте себе четкие, достижимые цели в короткий срок • Делайте задачи итеративно • Решайте проблемы по мере из возникновения 122
- 123. Итоги • Поменьше велосипедов • Ставьте себе четкие, достижимые цели в короткий срок • Делайте задачи итеративно • Решайте проблемы по мере из возникновения • Преждевременная оптимизация - зло 123