일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- HTTP
- chatGPT
- Collaborative Filtering Bandit
- 메타버스
- 중국플랫폼
- 머신러닝 파이프라인
- 언어모델
- 미국석사
- COFIBA
- 클라우드자격증
- llm
- 머신러닝
- TFX
- 네트워크
- transformer
- MAB
- MLOps
- 자연어처리
- nlp
- AWS
- BANDiT
- aws자격증
- MSCS
- BERT이해
- 플랫폼
- RecSys
- docker
- BERT
- 클라우드
- 추천시스템
Archives
- Today
- Total
목록병렬성 (1)
Julie의 Tech 블로그
인프라 구조 - 안정성과 성능
인프라를 구성하고 운영하다보면 성능 이슈가 생길 때도 있다. 시스템 성능에 대해 두 지표가 대표적인데, 응답과 처리량이다. 응답의 경우 처리당 소요시간이며, 처리량은 단위 시간당 처리되는 양을 의미한다. 실제로 시스템을 운영할 때는 응답자 별로 평균값을 계산하여 평균 응답시간을 집계하게 된다. 응답시간은 보통 웹 브라우저로 화면 응답 시간, 결과 표시 시간, 웹 서버 처리 시간, AP서버 처리 시간 등을 합한다. 처리해야하는 양이 많을 경우 병목현상이 생기기도 한다. 3계층형 아키텍쳐에서 아래와 같은 병목 현상들을 볼 수 있다. 1. CPU 병목 현상 2. 메모리 병목 현상 3. 디스크 I/O 병목 현상 4. 네트워크 I/O 병목 현상 5. 애플리케이션 병목 현상 병목현상을 처리하는 방안으론 ..
Tech
2021. 5. 14. 11:18