NCache 애플리케이션에 최적의 성능을 제공하도록 설계되었으며, 이를 달성하려면 매끄럽고 비용 효율적으로 확장되는 캐싱 환경이 필요합니다. NCache 메모리 내 데이터 저장소로 작동하며, 가장 큰 우려 사항은 단일 물리적 서버에서 사용할 수 있는 제한된 메모리이고, 그 다음으로는 계산 한계입니다. 기본 CRUD 작업, NCache 다음과 같은 많은 고급 기능을 지원합니다. Pub / Sub, 검색어, 기준 기반 페치 호출 등. 이러한 기능에 대한 클라이언트의 요구가 증가함에 따라 더 많은 처리 능력에 대한 필요성이 증가합니다. 즉, 조만간 캐시 서버가 최대 처리 한도에 도달하게 됩니다. 이런 일이 발생하면 NCache 당신을 버려두지 않습니다. 대신 해결책을 제시합니다.
주요 요점
분산 아키텍처를 통한 선형 확장성: NCache 이 기능을 사용하면 운영 중인 클러스터에 서버 노드를 추가하여 성능 저하 없이 트랜잭션 용량과 스토리지를 선형적으로 확장할 수 있습니다.
파이프라이닝을 통한 CPU 오버헤드 감소: 여러 클라이언트 요청을 단일 TCP 호출로 묶어 처리함으로써, NCache 비용이 많이 드는 "사용자-커널" 모드 전환을 최소화하고 네트워크 통신량을 줄입니다.
객체 풀링을 이용한 효율적인 메모리 관리: 엔진은 객체를 지속적으로 생성하고 소멸시키는 대신 내부 객체를 재사용하므로 부하가 높은 기간 동안 .NET 가비지 컬렉션(GC) 일시 중지 시간이 크게 줄어듭니다.
클라이언트 캐시를 통한 지역화된 데이터 액세스: 자주 사용하는 데이터를 애플리케이션 서버(InProc 또는 OutProc)에 직접 저장하면 클러스터 캐시로의 불필요한 네트워크 왕복이 줄어들어 읽기 작업이 많은 애플리케이션의 성능이 더욱 향상됩니다.
선형 확장성 NCache
환경이 위에서 언급한 한도에 도달하면 NCache 캐시 클러스터에 새 서버 노드(또는 여러 노드)를 추가할 수 있습니다. 여기에는 다음을 통해 클러스터에 새 물리적 노드를 추가하는 것이 포함됩니다. NCache 관리 센터 or NCache PowerShell 도구 이를 통해 전반적인 메모리가 향상되고 늘어나는 요청량을 처리할 수 있는 추가 리소스가 제공됩니다.

그림 1: 서버 노드를 추가하여 선형 확장성 달성 NCache 클러스터.
이 접근 방식은 선형 확장성을 보장합니다. 어떻게? 노드를 더 많이 추가할수록 애플리케이션 성능이 더 좋아집니다. NCache, 클러스터에 노드를 추가해도 오버헤드가 발생하지 않아 일관된 처리량이 저하됩니다. 최근 성능 벤치마크에 따르면, NCache 달성 2개의 서버 노드로 초당 5만 작업! 이것이 승리가 아니라면 무엇이 승리인지 말하기 어렵네요!

그림 2 : NCache 5개 노드로 구성된 클러스터에서 선형적인 확장성을 보여주는 처리량 벤치마크 결과입니다.
이 모든 것의 가장 좋은 점은 동적 성격 NCache 클러스터링. 기존 프로세스, 애플리케이션 또는 노드를 중단하지 않고 클러스터에 새 노드를 추가할 수 있습니다. 이러한 원활한 확장성은 중단 없는 운영과 캐싱 인프라의 쉬운 확장을 보장합니다.
조금 더 자세히 살펴보고 어떤 기능이 있는지 알아보겠습니다. NCache 확장성 표에 표시합니다.
확장성을 위한 클라이언트 작업
NCache 클라이언트에는 모든 서버 노드와 자동으로 연결되는 내장 기능이 있습니다. 그리고 NCache 배포 맵은 클라이언트가 필요한 데이터가 있는 노드를 식별하는 데 도움이 됩니다. 따라서 클라이언트에서 오는 작업은 여러 홉과 노드를 거치지 않습니다. 대신 특정 데이터가 있는 서버로 바로 홉을 하나 거치게 됩니다. 이 간단하면서도 스마트한 기능은 환경을 확장하는 데 도움이 됩니다.
운영 확장성을 위한 병렬성
NCache 다음과 같은 다양한 고급 작업을 지원합니다. 검색어, 대량 작업, 태그, 그리고 여러 노드에서 효율적으로 많은 다른 작업을 수행합니다. 이러한 작업을 라운드 로빈 방식으로 모든 노드에 보내는 대신, NCache 모든 작업을 모든 노드에 병렬로 보낼 수 있습니다.
예를 들어, 클라이언트는 캐시에 저장된 데이터를 쿼리하려고 하므로 해당 쿼리를 클러스터의 모든 노드로 보냅니다. 모든 노드는 해당 쿼리를 자체 데이터 세트에서 로컬로 실행하고 결과를 클라이언트와 공유합니다. 클라이언트는 모든 서버 노드의 결과를 병합하고 모든 최종 애플리케이션에 단일 응답을 반환합니다. 이 병렬 실행은 확장성을 향상시킬 뿐만 아니라 모든 노드에 동시에 워크로드를 분산하여 시스템 성능을 가속화합니다.
파이프라인은 어떻게 개선하나요? NCache 확장성?
'수다스러운' 네트워크 통신으로 인해 문제가 발생하는 기존 캐싱 메커니즘과는 달리, NCache파이프라인 방식은 왕복 횟수를 줄여줍니다. NCache 사용 파이프 라이닝 단일 TCP 호출로 네트워크를 통해 전송해야 하는 작업 청크를 생성합니다. 이 기술은 여러 요청을 개별적으로 전송하고 승인을 기다리는 오버헤드를 줄입니다.
예를 들어 NCache 클라이언트가 서버에 100개의 작업을 보내는 경우 일반적으로 100개의 별도 I/O 작업이 발생합니다. 각 작업에는 사용자 모드에서 커널 모드로의 전환이 필요하며, 이는 상당한 양의 CPU 전력을 소모할 수 있습니다. CPU 소모가 너무 많으면 비용이 많이 들고 잠재적으로 애플리케이션 성능이 저하될 수 있습니다. 그러나 클라이언트 측 파이프라인을 사용하면 이러한 작업이 서버에 대한 단일 I/O 호출로 결합됩니다.
서버 측 파이프라인은 서버가 한 번의 간단한 호출로 여러 I/O 호출을 수신하고 서버가 다시 보내는 응답도 함께 수신되도록 합니다. 이뿐만 아니라 서버는 들어오는 작업에 대한 최대 응답을 한 번에 생성하려고 시도합니다. 따라서 전용 호출로 서버로 전송된 100개 작업은 한 번의 호출로 서버에서 수신합니다. 그리고 받은 작업의 결과는 한 번의 호출로 서버에서 전송합니다. 이 기술은 시스템을 엄청나게 확장하는 데 도움이 됩니다.
파티션 복제에서 확장 가능한 백그라운드 복제
클라이언트가 서버 노드에서 업데이트 작업을 수행하는 경우 NCache 장애 허용 및 고가용성을 위해 복제 서버에 대한 복제를 처리합니다. 이 복제는 클라이언트가 개입하지 않고 백그라운드에서 발생합니다. 백그라운드 프로세스라는 점 외에도 이 복제는 최대 비용을 절약하기 위해 대량으로 수행됩니다. 이 접근 방식은 복제 작업 부하를 백그라운드로 오프로드하여 확장성을 향상시키고 캐시가 고가용성을 유지하도록 보장합니다. 이는 성능과 안정성을 모두 개선하는 윈윈 솔루션입니다.
확장성을 위한 쓰기 뒤 캐싱
클라이언트가 데이터 쓰기를 요청하면, NCache 데이터가 캐시와 데이터베이스 모두에 기록되도록 합니다. 이는 비동기 메커니즘을 통해 달성됩니다. 후기 쓰기. Write-behind가 활성화된 경우 서버는 처음에 데이터를 캐시에 쓰고 클라이언트에 빠르게 제어권을 반환하여 계산 지연을 최소화합니다. 백그라운드에서 NCache 캐시된 데이터로 데이터베이스를 비동기적으로 업데이트하기 위해 배치 시스템을 사용합니다. 이 접근 방식은 캐시와 데이터베이스가 동기화 상태를 유지하면서 메모리 내 캐시의 높은 성능을 유지하도록 합니다.
쓰기 비하인드 메커니즘은 데이터베이스 쓰기 작업을 백그라운드로 오프로드하여 확장성을 높이고, 이를 통해 애플리케이션이 성능 저하 없이 더 많은 트랜잭션을 효율적으로 처리할 수 있게 해줍니다.
메모리 관리에서 개체 풀링을 통한 확장성
.NET 환경에서 자동 가비지 콜렉터(GC)가 활성화되면 애플리케이션에서 진행 중인 모든 활동이 중단되어 메모리 내 데이터 계산이 일시 중지됩니다. 이러한 일시 중지는 애플리케이션 성능에 큰 타격을 줍니다. 생성하는 객체가 많을수록 GC가 더 많이 발생하고 이 타격이 더 커집니다.
이러한 긴 GC 일시 중지를 방지하려면 NCache 네이티브 .NET 캐시는 개체 풀링 기술을 자체 메모리 관리로 사용합니다. 이 메커니즘에서, NCache 서버는 개체를 풀링하고 새 개체를 만드는 대신 재사용하므로 GC를 호출할 필요가 줄어듭니다. 이 요구 사항이 적을수록 애플리케이션에서 더 많은 성능을 얻을 수 있으므로 확장성이 높아집니다.
확장성을 유도하는 클라이언트 캐시
확장성과 관련하여 클라이언트 캐시 가장 중요한 특징은 다음과 같습니다 NCache. 클러스터 캐시의 가장 자주 사용되는 데이터를 애플리케이션이 실행되는 동일한 머신에 저장합니다. 애플리케이션과 클러스터 캐시 사이에 클라이언트 캐시를 사용하면 애플리케이션과 가까운 로컬 캐시 리소스를 제공합니다. 이 캐시는 애플리케이션의 대부분 읽기 요청을 처리하여 필연적으로 I/O 비용 절감으로 이어집니다. 따라서 업데이트된 데이터에 빠르게 액세스할 수 있을 뿐만 아니라 애플리케이션도 확장됩니다.
이 확장성은 다음에서 이동할 경우 더욱 최적화될 수 있습니다. 아웃프로크 클라이언트 캐시 InProc 로컬 노드에 접근하는 비용을 줄여 클라이언트 캐시를 구축합니다.
다음 표는 이 글에서 논의된 핵심 아키텍처 특징을 요약한 것입니다. NCache극심한 거래 부하를 처리하는 능력:
| 확장성 기능 | 기술적 역할 | 성능에 미치는 영향 |
|---|---|---|
| 파이프 라이닝 | 여러 클라이언트 명령을 하나의 TCP 요청으로 묶습니다. | 네트워크 I/O 오버헤드와 작업당 CPU 사이클을 줄입니다. |
| 객체 풀링 | 내부 객체를 재사용합니다. NCache 엔진. | 부하가 높은 상황에서 가비지 컬렉션(GC) 일시 중지 시간을 최소화합니다. |
| 클라이언트 측 확장성 | 여러 클라이언트 인스턴스에 요청 처리를 분산합니다. | 애플리케이션 계층이 병목 현상이 되는 것을 방지합니다. |
| 클라이언트 캐싱 | 자주 사용하는 데이터를 로컬(InProc/OutProc)에 저장합니다. | 읽기 작업이 많은 부하에서 I/O 비용과 지연 시간을 획기적으로 줄여줍니다. |
맺음말
응용 프로그램을 최대한 활용하는 동안 두 가지 주요 장애에 직면할 수 있습니다. 캐시의 계산 부하가 증가하거나 데이터 저장소의 설정된 경계에 도달합니다. 둘 다 확장을 통해 크게 향상될 수 있습니다. NCache. 당신은 완전히 제어할 수 있습니다 NCache 환경에 확장성을 제공할 준비가 된 기능이 풍부한 제품입니다. 그럼, 무엇을 기다리고 계신가요? 다운로드 NCache .
자주 묻는 질문 (FAQ)
Q : 어떻게합니까? NCache 서버 노드를 추가할 때 "병목 현상"을 피하는 방법은 무엇일까요?
A: NCache 이 시스템은 데이터와 요청 처리가 클러스터의 모든 노드에 분산되는 분산 아키텍처를 활용합니다. 이를 통해 서버를 추가할수록 CPU 및 스토리지 용량이 선형적으로 증가하여 특정 노드가 성능 병목 현상이 되는 것을 방지합니다.
질문: 사용자 모드에서 커널 모드로의 전환이 확장성에 문제가 되는 이유는 무엇입니까?
A: 모든 개별 네트워크 I/O 작업마다 CPU는 사용자 모드에서 커널 모드로 전환해야 합니다. 트랜잭션이 많은 환경에서는 이러한 전환이 수천 번 발생하여 상당한 CPU 오버헤드가 발생합니다. NCache파이프라인 처리는 여러 작업을 하나로 결합하여 필요한 전환 횟수를 획기적으로 줄임으로써 이 문제를 해결합니다.
질문: .NET 환경에서 객체 풀링을 사용하는 구체적인 장점은 무엇입니까?
A: .NET에서 대용량 객체의 빈번한 생성 및 소멸은 가비지 컬렉터(GC)를 트리거하여 애플리케이션 실행을 일시 중단시킬 수 있습니다. 객체 풀링을 사용하면 이러한 문제를 해결할 수 있습니다. NCache 기존 내부 객체를 재사용하여 "힙"을 안정적으로 유지하고, 극한 부하 상황에서도 캐시가 응답성을 유지하도록 합니다.
질문: 아키텍트는 클라이언트 캐시를 구현할 때 InProc 방식과 OutProc 방식 중 어떤 방식을 선택해야 할까요?
A: OutProc Client Cache는 캐시를 위해 로컬 프로세스를 제공하는 반면, InProc Client Cache는 캐시가 애플리케이션 자체 메모리 공간 내에 상주하기 때문에 확장성을 극대화하는 데 이상적입니다. 이를 통해 "로컬 IPC 비용"(프로세스 간 통신)이 제거되어 자주 사용하는 데이터에 가장 빠른 속도로 접근할 수 있습니다.






