일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- MLOps
- 언어모델
- llm
- MSCS
- COFIBA
- 클라우드자격증
- 미국석사
- HTTP
- 추천시스템
- 자연어처리
- BERT이해
- TFX
- 중국플랫폼
- RecSys
- nlp
- docker
- 메타버스
- AWS
- transformer
- 클라우드
- 네트워크
- aws자격증
- BERT
- Collaborative Filtering Bandit
- 머신러닝
- BANDiT
- 플랫폼
- 머신러닝 파이프라인
- chatGPT
- MAB
- Today
- Total
Julie의 Tech 블로그
LLM OS? 언어모델이 제시하는 새로운 패러다임 본문
Andrej Karpathy가 X에 LLM OS를 출시하려고 준비 중이라며 올린 게시물을 보고 이 글을 쓰기 시작했다.
https://twitter.com/karpathy/status/1723140519554105733
GPT4를 프로세서로 사용하고 context window를 RAM으로, 그리고 프로세서가 브라우저와 다른 LLM모델, 파일 시스템, 소프트웨어 툴, 그리고 주변장치 I/O와의 communication이 가능한 형태를 그리고 있다.
이러한 설계가 시작된 배경을 이해해보려면 요즈음의 LLM이 어떤 task 수행이 가능한가를 살펴보면 된다.
- text, audio, vision등의 modality가 갖춰진 input, output 처리
- code interpreter, 프로그램을 읽고 쓰는 능력
- 브라우저 및 인터넷 엑세스
- Embedding된 데이터베이스에서의 정보 저장 및 검색
이들을 메모리 접근, I/O 장치 관리 등 OS가 하는 임무로 확장해서 해석해본 것이다.
이러한 시도를 지지하는 누군가는 LLM을 챗봇으로만 한정해서 보는 것은 과거에 컴퓨터가 처음 나왔을 때 계산기로만 치부했던 수준이라며 완전히 새로운 파라다임을 제시하고 있음을 알고 있어야한다고 말하더라. 물론 아직 시작 단계일 뿐이고 상용화되긴 어려운 수준의 성능이지만 시도 자체에 의의가 있다고 본다.
개인적인 궁금함에 좀 더 자료들을 살펴보니, 혹자는 LLM이 OS, App store, App 자체도 바꿀만한 혁명이라고 보기도 한다. 일례로 개인화된 앱을 만들어주어서 이제는 앱을 더 이상 설치할 필요가 없다거나 다양한 데이터 포맷을 손쉽게 관리해주는 등 기존의 OS에서 좀 더 나아가 역동적으로 컨트롤을 할 수 있다는 가능성을 제시한다.
과거부터 사람과 컴퓨터간의 상호작용 방법은 오랜 시간을 걸쳐 발전해왔다. 그 중에는 command line 인터페이스, GUI 등이 있다. 특히 GUI의 출현으로 비기술자들도 컴퓨터와의 소통이 가능해졌지만, 여전히 유저에게 부담이 남아있다. 필요한 메뉴와 앱을 직접 돌아다녀야한다는 것과 개발자의 사전정의된 로직만을 따라야만 한다는 것이 단점이다. 하지만 LLM은 user에 완전하게 맞춰줄 수 있다. 대화형 인터페이스는 이제 더 이상 유저에게 action을 요구하지 않으며 아주 직관적이고 개인화된 경험을 선사해줄 수 있다.
Windows Copilot이 바로 그 예시 중 하나인데, taskbar 형태로 챗봇과 대화하며 개인 비서처럼 활용할 수 있다. 이처럼 OS와 App간의 경계를 흐리게 하는 여러 LLM 기반 서비스들이 있는데, 그 중 몇 가지만 꼽아보자면,
- 원하는 아케이드 게임 무엇이든 자연어로 표현하면 만들어주는 LLM
- 자연어로 요구하면 macOS App을 만들어주는 LLM
등이 있다. 그래서 막연하게 상상해보자면 LLM의 능력을 갖춘 OS가 탄생했을 때는 우리가 더이상 Word나 Excel과 같은 프로그램을 직접 실행하지 않아도 된다. 요구사항만을 잘 전달한다면 LLM-powered OS가 직관적으로 내 니즈에 맞추어 데이터를 조작할 것이기 때문이다. LLM 자체가 software filter로서 필요한 상황에 따라 적합한 소프트웨어를 활용할 줄 알아 내게 맞춤화된 application을 만들어낼 수도 있는 것이다. 그래서 누군가는 아이폰이 좋은 하드웨어 필터가 되었듯이 LLM 역시 어떤 모델은 미래의 소프트웨어 필터가 될 것이라고 말했다.
Andrej Karpathy가 올린 대략의 구조를 보면 File system마저도 embedding된 형태도 포함하고 있어 단순히 파일을 저장하는 공간으로 그칠 것이 아니라 자체적으로 효율성을 관리하는 등의 능력을 갖춘 파일 시스템이 되는 것이다.
나는 하드웨어쪽에 대해 아는 바가 짧아서 이렇다할 비평을 낼 수는 없지만, 분명 내가 새로운 시대로의 중요한 변곡점에 함께하고 있다는 생각은 들었다.
이 글을 읽고서 나와 비슷한 궁금증을 지니고 있는 사람에게 다음 글도 읽어보기를 추천한다:
https://julie-tech.tistory.com/148
'Tech' 카테고리의 다른 글
주변 친구 찾기 - 웹소켓, Redis, Redis Pub/Sub (0) | 2024.02.15 |
---|---|
근접성 서비스(Proximity Service) - 지오해시, 쿼드트리, S2 (0) | 2024.02.15 |
Vector Store: Azure Vector Search에 대하여 (0) | 2023.08.22 |
[UIUC MCS 회고] 대학원을 졸업하며.. (8) | 2023.08.10 |
ChatGPT Plugin이란, 구축 방법 (0) | 2023.04.25 |