분류 전체보기 36

MYSQL HA & DR 토폴로지 - 토스ㅣSLASH 21

스크립트 바로가기: https://daglo.ai/share/f6L9Z-uv_szFXfbs 토스 데이터베이스의 HA 및 DR 솔루션에 대해 설명해 주세요. MMM은 MySQL Multi-Master Replication Manager의 약자로 토스 Live SQL 데이터베이스 HA 솔루션으로 사용되고 있다. 구글에서 개발한 솔루션이었으나, 현재는 업데이트가 중단되어 필요에 따라 자체 업데이트를 하며 운영하고 있다. 토스 데이터베이스는 마스터-마스터 노드로 구성되며, MMM을 통해 서로 데이터를 복제한다. 모니터링 데몬은 각 데이터베이스 서버에서 실행되며, 서비스 IP는 MMM 데이터베이스 롤 변경에 따라 이동되어, 애플리케이션 서버에 페일오버한다. 모니터링 항목은 4가지이며 이상이 있을 시 MMM이 스텐..

Database 2023.12.06

커버리지 지표 ( coverage metrix )

테스트 스위트 품질 측정을 위한 커버리지 지표 커버리지 지표란? 커버리지 지표는 테스트 스위트가 소스 코드를 얼마나 실행하는지를 백분율로 나타낸다. 일반적으로 커버리지 지표의 커버리지 숫자가 높을 수록 더 좋다고 알려져있지만, 사실 이것은 그리 간단하지 않다. 커버리지 지표는 중요한 피드백을 주더라도 테스트 스위트 품질을 효과적으로 측정하는 데 사용될 수 없다. 코드 커버리지가 너무 적을 때 ( 약 10% 미만 )는, 테스트가 충분치 않다는 좋은 증거이지만, 100 % 커버리지라고 해서 반드시 양질의 테스트 스위트를 보장하지는 않는다. 높은 커버리지의 테스트 스위트도 품질이 떨어질 수 있다. 코드 커버리지 지표에 대한 이해 가장 많이 이용되는 커버리지 지표는 "코드 커버리지( code coverage )..

단위 테스트의 목표

개요 단위 테스트를 배운다는 것은 테스트 프레임 워크나 목 라이브러리 등과 같은 기술적인 부분을 익히는 것에 그치지 않는다. 단위 테스트는 단순히 테스트를 작성하는 것보다 더 큰 범주이다. 테스트에 드는 노력을 가능한 한 줄이고 그에 따르는 이득을 최대화해야 한다. 두 가지를 모두 달성하기란 쉽지 않다. 단위 테스트 현황 지난 20년간 단위 테스트를 적용할 것을 독려하는 분위기가 자리 잡았으며, 대부분의 프로그래머는 단위 테스트를 실천하고 중요성을 알고 있다. 그냥 쓰고 버리는 프로젝트가 아니라면, 단위 테스트는 늘 적용해야 한다. 기업용 애플리케이션 개발 프로젝트는 거의 모두 단위 테스트가 적용되어 있으며, 제품 코드와 테스트 코드의 비율은 1:1에서 1:3 ( 제품 코드 한 줄 : 테스트 코드 세 줄..

Unit Testing (Vladimir Khorikov) 책을 리뷰하기 전

단위 테스트의 중요성은 개발을 공부한 이후부터 줄곧 들어왔다. 하지만 실무에서 개발을 하다보면 단위 테스트에 대한 여러 가지 질문이 생각난다. - 좋은 단위 테스트가 뭐지? 내가 작성한 것도 좋은 단위 테스트인가? - 테스트하고자 하는 것이 너무나 단순해서 결과가 자명한 경우에도 테스트 코드를 짜는 것이 필요할까? - 모든 함수를 테스트해야하는가? 일부만 테스트해도 된다면, 어디까지 테스트 코드를 짜는 것이 바람직할까? 이러한 질문들의 답을 찾기 위한 과정으로, 블라디미르 코리코프의 Unit Test ( 단위 테스트 | 생산성과 품질을 위한 단위 테스트 원칙과 패턴 )을 읽게 되었다. 이 책의 구성은 크게 다음과 같다. 1. 단위 테스트의 목표를 정의 / 좋은 테스트와 좋지 않은 테스트를 구별하는 방법 ..

쿼리 성능 최적화 (2)

쿼리를 재구성하는 방법 문제가 있는 쿼리를 최적화할 때는, 원하는 결과를 얻을 수 있는 다른 쿼리를 구성하는 것이 좋지만 반드시 원하는 결과와 동일한 데이터를 산출하는 쿼리를 고집할 필요는 없다. 효율성이 향상된다면 쿼리를 다시 작성하여 약간은 다른 결과를 검색하고, 궁극적으로 애플리케이션 코드를 통해 성능을 향상 시킬 수 있다. 이 섹션에서는 광범위한 쿼리를 재구성하는 데 도움이 되는 기법에 대해 설명하고 각 기법을 언제 사용하는지에 대해 설명하고자 한다. 복잡한 쿼리 vs 많은 쿼리 쿼리 설계에 대한 중요한 질문은 "복잡한 쿼리를 여러 개의 단순한 쿼리로 분할하는 것이 더 나은지 여부"이다. 데이터베이스 설계에 대한 전통적인 접근 방식은 가능한 한 적은 쿼리로 최대한 많은 작업을 수행하는 것을 강조했..

쿼리 성능 최적화 (1)

쿼리가 느린 이유 빠른 쿼리의 핵심은 당연히도 실행 시간에 있다. 쿼리는 작업이지만, 하위 작업으로 구성되며 이러한 하위 작업은 모두 시간을 소모한다. 결국 쿼리를 최적화하기 위해서는 하위 작업을 (1) 제거하거나, (2) 발생 횟수를 줄이거나 (3) 더 빠르게 수행하여 최적화해야한다. 일반적으로 클라이언트로부터 서버까지의 쿼리의 ( 아주 대략적인 ) 라이프 사이클은 구문 분석, 계획 실행 후 다시 클라이언트로 돌아가는 것으로 이루어진다. 여기서 실행은 쿼리의 수명 중 가장 중요한 단계이며, 이 작업에서 스토리지 엔진에 대한 많은 호출과 그룹화 및 정렬과 같은 검색 후 작업이 이루어진다. 이 모든 작업을 수행하는 동안 쿼리는 네트워크, CPU 및 통계, 계획, 잠금 등의 작업에 시간을 소비하며, 특히 행..

Gitlab 에서 Github 로의 마이그레이션 ( MR to PR )

개요 회사에서 Git 저장소를 Gitlab에서 Github로 이전하게 되었다. 마이그레이션 방법과 유의점에 대해 적어보고자 한다. 시작하기 전, 본 마이그레이션 방법은 큰 조직에는 그리 유용하지 않을 수 있다는 점을 미리 말한다. 지속적으로 MR 이 올라오고 이에 따라 배포가 이루어져야만 하는 조직에서는 Gitlab에서의 계속되는 변화를 Continuos 하게 Github로 옮기기 위해 미러링 등의 방법을 고려해야 한다. 필자의 조직( 백엔드팀 )은 5명 내외의 크지 않은 조직이기에, 팀원들에게 양해를 구하고 잠시 Gitlab으로 MR 올리는 것을 중지해달라는 양해를 구하고 마이그레이션을 진행하였다. Repsoitory 마이그레이션 Repository 마이그레이션은 간단하게 진행하였다. 현재는 로컬 저장..

Etc/Git 2023.11.11

고성능을 위한 인덱싱 (2)

앞선 고성능을 위한 인덱싱 (1) 에서는 다양한 유형의 인덱스를 소개하고, 유의할 점들을 살펴보았다. 이곳에서는 이런 인덱스들을 실제로 활용하고 최적화하는 방법에 대해 살펴본다. 고성능을 위한 인덱싱 전략 Prefix 인덱스 및 인덱스 선택성 인덱싱도 결국 비용이다. 데이터가 크기가 클수록 인덱스의 크기는 커진다. 이 때, 전체 값 대신 앞의 몇 개의 문자를 인덱싱 하면 공간을 절약하고 성능을 향상시킬 수 있다. "앞의 몇 개"의 기준은 총 데이터의 갯수 (#T)에 대한 고유한 데이터의 갯수(Cardinality)의 비율에 따라 달라진다. Cardinality / #T 의 값은 1 / #T부터 1까지의 스펙트럼을 지니며, 1에 가까울수록 훌륭한 인덱스 선택이 된다. 즉, 데이터의 고유성이 보장되는 범위 ..

고성능을 위한 인덱싱 (1)

개요 인덱스란, 스토리지 엔진이 행을 빠르게 찾기 위해 사용하는 데이터 구조이다. 인덱스는 우수한 성능을 위해 매우 중요하며, 데이터가 커질수록 더더욱 중요하다. 잘못된 인덱싱의 사용은 실제 성능 문제의 주요 원인이 되기도 한다. 인덱스 최적화는 쿼리 성능을 향상시키는 가장 강력한 방법이다. 인덱스는 성능을 수십 배나 향상시킬 수 있으며 최적의 인덱스는 때때로 단순히 양호한 인덱스보다 성능을 2배 정도 향상 시킬 수 있다. 인덱싱 기본 MySQL에서 인덱스가 어떻게 작동하는지 이해하는 가장 쉬운 방법은 책의 색인을 떠올리는 것이다. 책에서 특정 주제에 대해 찾고 싶다면, 색인을 펴서 주제를 논하는 페이지 번호를 찾고, 해당 페이지로 이동하면 된다. MySQL 스토리지 엔진은 비슷한 방식으로 인덱스를 사용..

스키마 설계와 관리

서론 논리적, 물리적으로 우수한 설계는 고성능 쿼리의 기반이 된다. 스키마 설계는 중요하지만, 때때로 트레이드 오프를 피하기 어렵기도 하다. 가령, 비정규화된 스키마는 일부 쿼리의 속도를 높일 수 있지만, 다른 쿼리의 성능에 영향을 줄 수 있다. 카운터 및 요약 테이블을 추가하는 것이 쿼리 최적화에 도움이 될 수는 있지만, 유지 보수에 비용이 많이 들 수 있다. 따라서, 이번 장에서는 MySQL 에서 스키마 설계 시 어떤 사항들을 유의해야 하는지 살펴보고자 한다. 최적의 데이터 유형 선택 MySQL은 다양한 데이터 유형을 지원하고, 성능 향상과 리소스의 낭비를 줄이기 위해서는 적절한 데이터 유형을 선택해야 한다. 다만, 아래의 간단한 지침들은 데이터 유형과는 무관하게 더 나은 설계를 하는 데에 도움을 준..