일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
- 중국플랫폼
- BERT
- llm
- BANDiT
- 메타버스
- 추천시스템
- transformer
- MLOps
- chatGPT
- HTTP
- 머신러닝
- 머신러닝 파이프라인
- aws자격증
- 언어모델
- COFIBA
- 네트워크
- Collaborative Filtering Bandit
- 플랫폼
- docker
- AWS
- 클라우드자격증
- BERT이해
- MSCS
- RecSys
- 클라우드
- 미국석사
- 자연어처리
- MAB
- TFX
- nlp
- Today
- Total
목록인프라 (2)
Julie의 Tech 블로그
인프라를 구성하고 운영하다보면 성능 이슈가 생길 때도 있다. 시스템 성능에 대해 두 지표가 대표적인데, 응답과 처리량이다. 응답의 경우 처리당 소요시간이며, 처리량은 단위 시간당 처리되는 양을 의미한다. 실제로 시스템을 운영할 때는 응답자 별로 평균값을 계산하여 평균 응답시간을 집계하게 된다. 응답시간은 보통 웹 브라우저로 화면 응답 시간, 결과 표시 시간, 웹 서버 처리 시간, AP서버 처리 시간 등을 합한다. 처리해야하는 양이 많을 경우 병목현상이 생기기도 한다. 3계층형 아키텍쳐에서 아래와 같은 병목 현상들을 볼 수 있다. 1. CPU 병목 현상 2. 메모리 병목 현상 3. 디스크 I/O 병목 현상 4. 네트워크 I/O 병목 현상 5. 애플리케이션 병목 현상 병목현상을 처리하는 방안으론 ..
이번 글에서는 IT 인프라 아키텍쳐 구조에 대해 살펴볼 것이다. 우리가 흔히 서비스를 구성할 때, IT 인프라 아키텍쳐를 빼놓고선 시작할 수가 없다. IT 인프라는 컴퓨터로 구성되어 있고, '집약형'과 '분할형'으로 구분하여 설계할 수 있다. 집약형의 경우 단순히 대형 컴퓨터로 모두 처리하는 것이다. 이는 확자성 측면에서도, 비용적인 측면에서도 비효율적이다. 요즈음은 가격이 저렴하고 확장성이 높은 '분할형' 구조를 선호하는 편이다. 분할형 아키텍쳐는 또 다시 두 가지 형태로 나뉜다. 첫 째는 수직 분할형 아키텍쳐로, 클라이언트 - 서버로 나뉘는 것이다. 이는 요즈음 흔히 사용되는 개념으로, 클라이언트는 보통 PC, 스마트폰, 태블릿 등이 해당된다. 일례로 HTS를 이용한다고 했을때, 주식 데이터는..