다들 캐시를 어떻게 관리하나요?

Question

분산 시스템 환경일 경우에 여러 대의 서비스들이 캐시를 동기화하고 있어야 할 텐데우선 제가 알기로는 대규모 서비스의 경우 1차 캐시, 2차 캐시 이런식으로 cpu처럼 구분하는 편으로 알고 있긴 합니다.궁금한 게 보통 캐시서버를 별도로 두고 해당 캐시서버를 여러 서버에서 조회하도록 하는지..=> 사실상 이렇게 하면 편하긴 하겠지만, 네트워크 i/o 등의 문제로 성능저하가 발생할 거 같고캐시 서버를 2차 캐시서버로 두고, 각 서버 내에 1차 캐시서버를 보유해서 pub/sub 구조로 캐시를 동기화 시키는지=> 이렇게하면 구현의 복잡성은 올라가더라도 성능은 더 우세할 거 같긴 하고정답은 없겠다만위 방법 말고도 보편적으로 권장되는 방법이 있나 싶어서요.그리고 보통 여러분들은 캐시에서 어떤 데이터를 관라히나요?

siva6 · Answer

동기화가 필요하면 중앙 캐시서버를동기화가 필요없으면 로컬 캐시를동기화가 필요하지만, 완전 동시 반영까지 필요없으면 중앙 캐시를 로컬캐시를 걸기도 합니다.가장 간편하게는 CF를 캐시로 사용합니다.

dong bang · Answer

https://www.youtube.com/watch?v=BnS6343GTkY&t=361s1. 동기화가 실시간으로 되어야 하는 건 실시간 동기화2. 동기화가 몇분 늦어도 되는건 시간 동기화3. 동기화를 몇시간 간격으로 하고 변동된 데이터만 채리픽으로 변경 가능하게짜기 때문에 보통 진입을 안하죠 생각할게 많아서

shin7688 · Answer

이중화 구성 및 Fail-over를 하기 위해 분산캐쉬서버를 사용하였습니다.3년전 모은행 프로젝트는 도메인 라이센스 방식으로 CPU나 서버 숫자에 관계가 없어 Redis를 2차캐쉬로 사용하였습니다. 서버가 3대였고 노드당 18core 총 54core 였기에 redis를 사용하였습니다. CPU 사용은 Redis는 개발팀에게 별다른 이슈가 없었습니다. 설치가 쉽고 이용하는 방법도 쉬웠습니다.1년전 타은행 프로젝트는 Core당 라이센스 방식으로 서버가 2대였고 노드당 8core 총 16core 였습니다.이 때는 CPU가 상대적으로 적어서 1차 캐쉬(Local Cacche)와 2차캐쉬(분산캐쉬) 를 동시에 사용하는 하이브리드 분산캐쉬를 Hazelcast를 사용하였습니다. Hazelcast를 이미 Redis를 사용하던 팀원들이 반대를 하였습니다. 제품 관리상 Redis는 유지보수가 쉬웠지만 Hazelcast는 하이브리드 방식으로 사용하였기에 Redis보다 어려웠습니다.

kmksk · Answer

보통 1차, 2차 캐시를 구분하면 1차 캐시는 로컬 메모리에 저장하는것 뜻합니다. 2차캐시는 리모트 서버에 저장하는것을 말합니다. 보통 redis, memcached 같은거그래서 데이터를 불러올때 1차 캐시를 먼저 조회 하고 없으면 2차 캐시를 조회 없으면 실 데이터 조회하고 2차 1차에 저장합니다.생각보다 리모트 캐시(redis) 가 좋아서 성능 문제는 크게 없어요. 쿠팡이나 트래픽 큰 기업들에서 많이 사용함.동기화 전략은 복잡하게 안하고 ttl 을 1차는 매우짧게 2차는 짧게 가져 가면 됩니다.redis 성능에 좋아서 왠만해선 1,2차 까지 나누지 않고 redis 만 써도 충분합니다.

shin7688 · Answer

모통신사 상품정보를 Mybatis로 1차캐쉬를 이용해서 캐쉬 정보를 사용하였습니다. 캐쉬 정보가 TTL이 1시간 정도 였습니다.모은행 상품정보를 Oracle Coherence를 2차캐쉬를 이용해서 캐쉬 정보를 사용하였습니다.둘 다 10년전 Mybatis 2차 캐쉬를 사용할 수 있는 환경이 아니었습니다. 현재 Mybatis 는 1차 캐쉬로 JVM 메모리를 적게 사용하는 데이타를 이용하고 데이타 자체가 크면 2차 캐쉬에 사용하도록 할 수 있습니다. 예를 들어 2차 캐쉬로 Redis나 Hazelcast를 사용할 수 있습니다.

초무쿤 · Answer

redis에 캐시데이터를 넣어주는게 아니라.redis에 cache evict 이벤트를 publish 하는 형태도 있는데요. (캐시 무효화 이벤트만 분산 서버들이 공유)예를 들어 1. 메뉴 변경 => 변경 후 redis에 menu:evict 토픽으로 이벤트 메시지 날림.2.다른 sub중인 어플리케이션들에서는 menu:evict 이벤트 발생 시 메뉴 변경 되었음으로 다시 캐시 또는 그냥 evict.장점은 redis는 그냥 내용을 저장하는게 아니라 cache evict 이벤트만 전달하므로 부하 감소단점: 추가로 sub시 evcit또는 재로딩하는 로직을 구현해야됨.

다들 캐시를 어떻게 관리하나요?

6개의 답변

Q&A 목록