성능 향상을 위한 공부3 - 서킷 브레이킹
서킷 브레이커란?
서킷 브레이커가 뭔가 하니 두꺼비 집에서 과부하, 단로, 누전으로부터 전기 회로를 보호하는 안전장치다.
서킷 브레이킹은 분산 시스템에서 서비스 간의 의존성과 가용성을 보장하기 위한 패턴 중 하나.
서킷 브레이킹 동작 방식
1. 장애 서비스 일시적으로 엔드포인트에서 제거
서비스 장애 상황 시 호출이 지연/실패할 경우, 서킷 브레이커는 장애 서비스를 일정 기간 동안 엔드포인트에서 제거하고 서비스의 상태가 정상으로 회복되기를 기다린다(모니터링).
2. 장애 서비스로의 지연/장애 현상 전파 방지
장애 서비스에 대한 호출은 다른 서비스로 라우팅 되게 함으로써, 서비스 간의 지연 또는 장애 현상이 전파되는 것을 방지할 수 있게 해준다. 장애가 전체 시스템에 영향 최소화
서비스 메시
애플리케이션 서비스 간 모든 통신을 처리하는 소프트웨어 계층
애플리케이션이 확장되고, 마이크로서비스의 수가 증가함에 따른 성능 모니터링 문제 해결
서비스 간 연결을 관리하기 위해 모니터링, 로깅, 추적, 트래픽 제어와 같은 기능 제공
인프라 개발자, 서비스 개발자 -> 주로 인프라 개발자에게 서비스 메시는 이점을 준다
플랫폼 레이어(인프라 쪽)에 구성되는 네트워크 제어 방법
애플리케이션 트래픽을 관리, 추적 및 보안성을 강화하기 위해 사용
마이크로서비스 간 통신 문제 해결
대표 기능 -> 애플리케이션 트래픽 관리, 관찰 가능성, 보안
데이터 플레인, 컨트롤 플레인 두 개의 컴포넌트로 구성됨
데이터 플레인 : 애플리케이션 사이에 있는 프록시(envoy 서비스로 구성, 서비스와의 프록시 호출 담당) 네트워크로 구성됨, 서비스 메시의 모든 서비스에 대한 모든 인바운드 및 아웃바운드 트래픽 관장.
컨트롤 플레인 : 프록시에게 수행할 작업을 알려주고 메시를 작동하는 사람을 위한 인터페이스 제공, 서비스 검색(discovery), TLS 인증서 발급, 메트릭 집계 등 데이터 플레인이 작동하는데 필요한 컴포넌트 제공
컨트롤 플레인 <-> 프록시 <-> 애플리케이션
서비스 메시 툴
Istio
문제점
- 프록시 자원은 인프라와 관련해 리소스를 소비하며 네트워크 지연을 발생시킴.
- 프록시 사용 서비스 개수 증가 -> 메모리, CPU 소비량 증가, 커넥션 풀 수 증가(point of failure도 증가)
- 코드 수정 가능성(http 설정, 라이브러리 변경)
- 트러블 슈팅이 어렵다
대안
서킷 브레이커(Spring Cloud for Kubernetes), Observability의 대안(Jaeger, Zipkin 같은 분산 트레이싱 도구)