일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
Tags
- TFX
- 미국석사
- transformer
- 미국 개발자 취업
- MSCS
- MAB
- 클라우드
- RecSys
- 플랫폼
- nlp
- BERT
- chatGPT
- docker
- MLOps
- 합격후기
- swe취업
- 자연어처리
- 추천시스템
- 머신러닝
- 언어모델
- AWS
- 클라우드자격증
- HTTP
- llm
- BANDiT
- BERT이해
- 중국플랫폼
- 네트워크
- maang
- 메타버스
Archives
- Today
- Total
목록Data Preprocessing (1)
SWE Julie's life

본 글은 MLOps의 데이터 전처리 단계인 Preprocessing 과정에 대해 다뤄볼 것이다. 이전에는 데이터의 수집, 수집된 데이터의 정합성 검증 과정까지 다루었다면, 이제 본격적으로 데이터를 주입하여 모델에 input하기 전까지의 과정을 다루게 되는 것이다. 글을 시작하기에 앞서 본 글은 Tensorflow TFX 라이브러리를 기반으로 설명을 하고 있는데, MLOps의 프레임워크 서비스로 꼭 모든 파이프라인 단계를 빌딩해야한다는 것은 아니다. 기존에 numpy 나 pandas로 전처리를 하고 있었다면, 그로 충분히 사용할 수도 있다. Why Data Preprocessing? 우리가 흔히 수집하는 데이터는 모델이 인식할 수 있는 포맷대로 수집되지 않는다. 예를 들어 모델의 정답지로 사용하는 ..
Tech/MLOps
2022. 1. 2. 16:49