일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
- MLOps
- 중국플랫폼
- 미국석사
- BERT이해
- BERT
- 언어모델
- BANDiT
- llm
- 머신러닝
- 머신러닝 파이프라인
- 자연어처리
- 플랫폼
- HTTP
- COFIBA
- MSCS
- aws자격증
- 추천시스템
- AWS
- 클라우드
- transformer
- chatGPT
- docker
- MAB
- 네트워크
- RecSys
- 메타버스
- 클라우드자격증
- nlp
- Collaborative Filtering Bandit
- TFX
- Today
- Total
목록인프라 (2)
Julie의 Tech 블로그
인프라를 구성하고 운영하다보면 성능 이슈가 생길 때도 있다. 시스템 성능에 대해 두 지표가 대표적인데, 응답과 처리량이다. 응답의 경우 처리당 소요시간이며, 처리량은 단위 시간당 처리되는 양을 의미한다. 실제로 시스템을 운영할 때는 응답자 별로 평균값을 계산하여 평균 응답시간을 집계하게 된다. 응답시간은 보통 웹 브라우저로 화면 응답 시간, 결과 표시 시간, 웹 서버 처리 시간, AP서버 처리 시간 등을 합한다. 처리해야하는 양이 많을 경우 병목현상이 생기기도 한다. 3계층형 아키텍쳐에서 아래와 같은 병목 현상들을 볼 수 있다. 1. CPU 병목 현상 2. 메모리 병목 현상 3. 디스크 I/O 병목 현상 4. 네트워크 I/O 병목 현상 5. 애플리케이션 병목 현상 병목현상을 처리하는 방안으론 ..
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/wIph1/btq4TnKexL8/w89naLdOWy4V707XbSTL3K/img.png)
이번 글에서는 IT 인프라 아키텍쳐 구조에 대해 살펴볼 것이다. 우리가 흔히 서비스를 구성할 때, IT 인프라 아키텍쳐를 빼놓고선 시작할 수가 없다. IT 인프라는 컴퓨터로 구성되어 있고, '집약형'과 '분할형'으로 구분하여 설계할 수 있다. 집약형의 경우 단순히 대형 컴퓨터로 모두 처리하는 것이다. 이는 확자성 측면에서도, 비용적인 측면에서도 비효율적이다. 요즈음은 가격이 저렴하고 확장성이 높은 '분할형' 구조를 선호하는 편이다. 분할형 아키텍쳐는 또 다시 두 가지 형태로 나뉜다. 첫 째는 수직 분할형 아키텍쳐로, 클라이언트 - 서버로 나뉘는 것이다. 이는 요즈음 흔히 사용되는 개념으로, 클라이언트는 보통 PC, 스마트폰, 태블릿 등이 해당된다. 일례로 HTS를 이용한다고 했을때, 주식 데이터는..