일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- nlp
- transformer
- chatGPT
- RecSys
- 네트워크
- 언어모델
- docker
- llm
- AWS
- 머신러닝
- 메타버스
- 추천시스템
- 자연어처리
- BERT이해
- 플랫폼
- 중국플랫폼
- TFX
- 미국석사
- Collaborative Filtering Bandit
- HTTP
- aws자격증
- BERT
- 클라우드자격증
- BANDiT
- 클라우드
- 머신러닝 파이프라인
- MSCS
- MLOps
- MAB
- COFIBA
Archives
- Today
- Total
목록모델배포 (1)
Julie의 Tech 블로그
MLOps, 머신러닝 파이프라인 설계 - (5) Data Preprocessing
본 글은 MLOps의 데이터 전처리 단계인 Preprocessing 과정에 대해 다뤄볼 것이다. 이전에는 데이터의 수집, 수집된 데이터의 정합성 검증 과정까지 다루었다면, 이제 본격적으로 데이터를 주입하여 모델에 input하기 전까지의 과정을 다루게 되는 것이다. 글을 시작하기에 앞서 본 글은 Tensorflow TFX 라이브러리를 기반으로 설명을 하고 있는데, MLOps의 프레임워크 서비스로 꼭 모든 파이프라인 단계를 빌딩해야한다는 것은 아니다. 기존에 numpy 나 pandas로 전처리를 하고 있었다면, 그로 충분히 사용할 수도 있다. Why Data Preprocessing? 우리가 흔히 수집하는 데이터는 모델이 인식할 수 있는 포맷대로 수집되지 않는다. 예를 들어 모델의 정답지로 사용하는 ..
Tech/MLOps
2022. 1. 2. 16:49