Project/Collecting Event Data
로그 데이터 수집하기: Prologue.AWS 저장소 검토
Hyunie
2022. 10. 31. 19:51
728x90
반응형
1. 종류 걸러내기
* 쿼리 불가능한 EBS, EFS 제외
* QLDB (Ledger), Neptune(Graph), Keyspaces(Wide Column) 형태 적합하지 않아 제외
NoSQL의 단점: 커넥션, 구축 필요
FS의 단점: 느림
이름 | 종류 | 장점 | 단점 |
DynamoDB | key-value | - 인덱스 설정 가능 - ACID, 트랜잭션 지원 - 확장성 - 온디맨드 백업 및 복구 - 다중리전중복 |
- 쿼리 용량 초과시 요청 거부 (지연 x) |
ElastiCache | In-memory | - 응답시간 낮음 - Serverless Redis - 타리전에서 읽을 수 있음 - hit ratio가 높은 데이터 적재에 적합 |
- 오토스케일링 x (하려면 별도 구축 필요) - 데이터 보존 x |
MemoryDB | In-memory | - 응답시간 낮음 - 데이터 영구 보존 |
- 비쌈 |
DocumentDB | Document | ||
Timestream | Time-series | ||
ES | - Rest API 제공 - SQL 쿼리 가능 |
- 1초 딜레이 (실시간 처리x) | |
S3 | FS | - SQL 쿼리 가능 | - NoSQL보다 느림 (특히 파일 크기가 작을 수록) |
파이프라인 : 로그 발생 -> 원천 저장(검토하는 storage) -> Redshift -> MySQL(서비스DB) -> 대시보드
- 압축 가능성
- 쿼리 가능성 (백엔드에서? 왜?)
- RDB로 넣어줄 수 있어야함
- EBS -> S3로 바로 파일 땡길수 있는지 (스냅샷 복사)
728x90
반응형