nanochat은 챗봇을 6단계로 처음부터 만들어보는 카파시의 교육용 코드로, GPU·코딩이 필요해 비개발자엔 원리 이해용입니다.
nanochat이 뭔가요
ChatGPT 같은 챗봇을, 데이터부터 대화 화면까지 '처음부터' 직접 만들어보는 학습용 코드입니다.
- LLM (Large Language Model)거대 언어 모델
- ChatGPT처럼 사람 말을 이해하고 글을 만들어내는 AI의 종류입니다. nanochat은 이 LLM을 작은 규모로 직접 만들어봅니다.
- Training / Pretraining학습 / 사전학습
- AI에게 엄청난 양의 글을 보여주며 말을 배우게 하는 과정입니다. 시간과 전기(=돈)가 많이 드는 단계입니다.
- GPU그래픽 처리 장치
- AI 학습에 쓰는 고성능 계산용 부품입니다. 개인 PC엔 보통 없어, 시간당 돈을 내고 클라우드에서 빌려 씁니다.
나한테 맞는 자료일까 — 정직한 장벽
솔직히, 비개발자가 직접 돌리기엔 장벽이 큽니다. 대신 '원리 이해'에는 좋은 자료입니다.
먼저 분명히 해둘 게 있습니다. nanochat은 '바로 쓰는 도구'가 아니라 '코드로 된 학습 자료'입니다. 카파시가 공개한 이유도 'AI 챗봇이 만들어지는 전 과정을 한 곳에서 따라가 보게 하려는 것'에 가깝습니다.
비개발자가 직접 실행하려면 다음 장벽을 넘어야 합니다.
- GPU(고성능 계산 장비)가 필요합니다 — 공식 README는 'GPU 8장이 달린 노드(8XH100)'를 기준으로 안내합니다. 개인 PC엔 보통 없어서, 클라우드에서 시간당 돈을 내고 빌려야 합니다.
- 돈이 듭니다 — 공식 표기 기준 가장 작은 학습도 약 $48(8XH100 약 2시간), 저렴한 스팟 인스턴스로도 ~$15가 듭니다. '무료 프로그램'이 아니라 '클라우드 사용료가 드는 실습'입니다.
- 터미널·코딩 지식이 필요합니다 — 마우스 클릭이 아니라 명령어로 클라우드 서버에 접속하고 스크립트를 실행해야 합니다.
그래서 코딩이 처음이라면 직접 돌리기보다, 'AI가 이런 단계들을 거쳐 만들어지는구나'를 이해하는 용도로 보는 것을 권합니다. 정작 챗봇을 '쓰고 싶은' 거라면 ChatGPT·Claude 같은 완성된 서비스가 훨씬 쉽고 빠릅니다. 라이선스는 MIT(자유 오픈소스)라 코드를 보고 배우는 데는 제약이 없습니다.
코드가 무료(MIT)니까 나도 따라 하면 공짜로 내 ChatGPT를 만들 수 있는 거죠?
코드 자체는 무료지만, 실제로 학습시키려면 GPU를 빌리는 클라우드 사용료(공식 표기 ~$15~$48부터)와 코딩·터미널 지식이 듭니다. 또 그렇게 만든 챗봇은 ChatGPT만큼 똑똑하지 않은 '작은 모델'입니다. '공짜로 ChatGPT 만들기'가 아니라 '돈·기술을 들여 원리를 실습하기'로 이해하는 게 정직합니다.
원리를 깊이 알고 싶은 분
AI가 어떤 단계(데이터→학습→대화)를 거쳐 만들어지는지 제대로 이해하고 싶고, 코딩·클라우드를 배워볼 의향이 있는 분에게 좋은 자료입니다.
챗봇을 '쓰고' 싶은 분
글쓰기·요약·번역처럼 챗봇을 실제로 활용하고 싶다면 직접 만들 필요가 없습니다. ChatGPT·Claude 같은 완성된 서비스가 훨씬 쉽고 빠릅니다.
무엇을 보여주나 — 챗봇이 만들어지는 전 과정
글자 쪼개기부터 대화 화면까지, AI 챗봇 제작의 '전체 흐름'을 한 곳에 담았습니다.
공식 README 기준, nanochat 하나에 챗봇을 만드는 거의 모든 단계가 들어 있습니다. 비개발자가 직접 돌리지 않더라도, 'AI 챗봇이 이런 단계를 거쳐 만들어지는구나'를 그림처럼 이해하는 데 도움이 됩니다. 각 단계가 무슨 뜻인지 아래에서 풀어 봅니다.
nanochat이 다루는 챗봇 제작 단계
- 토큰화 — 사람 글을 AI가 다루기 쉬운 작은 조각으로 쪼개기
- 사전학습 — 방대한 글을 보여주며 기본 말솜씨를 익히게 하기
- 미세조정 — 'ChatGPT처럼 대화하도록' 다듬기
- 평가 — 만든 모델이 얼마나 똑똑한지 점수로 재기
- 추론 — 완성된 모델에게 실제로 질문하고 답 받기
- 대화 화면 — ChatGPT 같은 웹 채팅 화면으로 직접 말 걸어보기
비용과 장벽 — 미리 알아둘 것
코드는 무료지만, 돌리려면 클라우드 GPU 사용료와 기술이 듭니다.
| 항목 | 내용(변동될 수 있음) |
|---|---|
| 프로그램 코드·라이선스 | MIT 라이선스 — 자유롭게 보고·쓰고·고칠 수 있는 오픈소스(코드 자체는 무료) |
| 실행에 필요한 장비 | 고성능 GPU 노드(공식 기준 8XH100). 개인 PC엔 보통 없어 클라우드에서 빌려야 함 |
| 학습 비용(공식 표기) | 약 $48(8XH100 약 2시간), 스팟 인스턴스로는 ~$15 — GPU 가격은 시점·업체에 따라 다름 |
| 필요한 지식 | 터미널·명령어·기초 코딩(파이썬·PyTorch 환경). 비개발자에겐 진입 문턱이 큼 |
| 성격 | 바로 쓰는 도구가 아니라 학습·실습용 공개 코드 |
GPU가 뭔지 모르는데, 그냥 내 노트북에서 돌리면 안 되나요?
원칙적으로 단일 GPU에서도 돌아가지만 시간이 훨씬 오래 걸리고, 애초에 일반 노트북엔 학습에 쓸 만한 GPU가 없는 경우가 많습니다. 그래서 공식 안내도 클라우드에서 GPU 노드를 빌리는 방식을 기준으로 합니다. 노트북만으로 'GPU 없이' 제대로 학습하기는 현실적으로 어렵다고 보는 게 정직합니다.
어떻게 돌아가나 — 큰 흐름 한눈에 보기
직접 실행하지 않더라도, 이 순서를 알면 'AI가 만들어지는 과정'이 그림처럼 그려집니다.
1단계 · 클라우드 GPU 서버 빌리기
공식 README는 클라우드 업체(예: Lambda)에서 GPU 8장짜리 노드(8XH100)를 빌려 켜는 것으로 시작합니다. 시간당 사용료가 드는 단계이며, 비개발자에겐 가장 낯선 부분입니다.
2단계 · 서버에 접속해 코드 내려받기
터미널로 그 서버에 원격 접속(ssh)한 뒤, nanochat 코드를 내려받습니다. 마우스가 아니라 명령어로 다루는 단계라 코딩·터미널 지식이 필요합니다.
3단계 · 준비 스크립트 한 번에 실행
공식 안내 기준 'bash runs/speedrun.sh' 같은 명령 하나로, 데이터 준비부터 토큰화·사전학습·미세조정·평가까지 학습 전 과정이 자동으로 이어집니다. 작은 모델도 수 시간이 걸립니다.
4단계 · 만든 챗봇에 직접 말 걸기
학습이 끝나면 대화용 웹 화면(공식 예: python -m scripts.chat_web)을 띄워, 내가 방금 만든 작은 챗봇에 직접 질문해 봅니다. ChatGPT 같은 화면이지만 능력은 작은 모델 수준입니다.
5단계 · 결과를 점검하고 정리하기
답이 어설퍼도 정상입니다. 어떤 단계에서 무엇이 정해지는지 살펴보고, 다 쓴 클라우드 서버는 요금이 계속 나가지 않도록 반드시 끄거나 반납합니다(비용 관리 중요).
오늘 해볼 것 — 부담 없이 원리 한 걸음
GPU를 빌리지 않아도 됩니다. '읽고 이해하기'부터 가볍게 시작해 보세요.
1단계 · 공식 저장소 소개 훑기
github.com/karpathy/nanochat 를 열어 첫 화면 소개(README)를 읽습니다. 영어가 부담되면 브라우저 번역을 켜고, '어떤 단계들이 있나'만 눈에 담아도 충분합니다.
2단계 · 단계 이름과 뜻 연결하기
이 매뉴얼의 '토큰화·사전학습·미세조정·평가·추론' 단어가 저장소의 어디에 해당하는지 맞춰 봅니다. 단어 뜻만 잡혀도 AI 뉴스가 훨씬 잘 읽힙니다.
3단계 · 내게 맞는지 정직하게 판단
'나는 클라우드 GPU에 돈·시간을 쓸 의향이 있나?', '터미널·코딩을 배워볼 마음이 있나?' 두 질문에 스스로 답해 봅니다.
4단계 · 아니라면 쉬운 길로
직접 실행이 부담되면 멈춰도 괜찮습니다. 챗봇을 쓰고 싶으면 ChatGPT·Claude를, 원리를 더 배우고 싶으면 카파시의 무료 강의·해설부터 보는 게 더 쉬운 입구입니다.
- 직접 학습을 시도한다면 명령어는 기억에 의존하지 말고 공식 README에서 그대로 복사하기
- 클라우드 GPU를 빌렸다면 끝난 뒤 서버를 반드시 끄거나 반납해 요금 새는 것 막기
- 만든 챗봇의 답은 '작은 모델'임을 감안해, 사실로 받아들이지 말고 한 번 확인하기
| 이걸 했으면 첫걸음 끝 | 확인 |
|---|---|
| 공식 저장소에서 '무엇을 배우는 자료인지' 확인했다 | ☐ |
| 토큰화·학습·추론 같은 단계 이름의 뜻을 대략 잡았다 | ☐ |
| 'GPU·코딩·비용' 장벽이 나에게 맞는지 판단했다 | ☐ |
| 직접 안 돌리더라도 '원리 이해'라는 목표는 챙겼다 | ☐ |
자주 묻는 질문
nanochat은 무료인가요?
코드는 MIT 라이선스라 자유롭게 보고 쓰고 고칠 수 있는 무료 오픈소스입니다. 다만 실제로 챗봇을 학습시키려면 클라우드에서 GPU를 빌리는 사용료가 듭니다. 공식 README 기준 가장 작은 학습도 약 $48, 저렴한 스팟 인스턴스로도 ~$15 정도입니다. GPU 가격은 시점·업체에 따라 달라지니 공식 안내를 확인하세요.
코딩을 전혀 모르는데 쓸 수 있나요?
직접 실행은 권하기 어렵습니다. 터미널로 클라우드 서버에 접속하고 스크립트를 돌려야 해 비개발자에겐 장벽이 큽니다. 대신 'AI 챗봇이 어떤 단계로 만들어지는지' 원리를 이해하는 용도로는 비개발자에게도 충분히 가치가 있습니다.
nanochat으로 진짜 ChatGPT를 만들 수 있나요?
아닙니다. 만들어지는 모델은 README 표현으로 약 'GPT-2급'의 작은 모델이라, 지금의 ChatGPT·Claude와는 능력 차이가 큽니다. '진짜 ChatGPT 만들기'가 아니라 '챗봇이 만들어지는 원리를 작은 규모로 체험하기'로 기대치를 잡으세요.
GPU가 꼭 있어야 하나요? 내 노트북은 안 되나요?
공식 안내는 GPU 8장짜리 노드(8XH100)를 기준으로 합니다. 단일 GPU로도 돌긴 하지만 시간이 훨씬 오래 걸리고, 일반 노트북엔 학습용 GPU가 없는 경우가 많습니다. 그래서 보통 클라우드에서 GPU를 빌려 씁니다.
그냥 챗봇을 쓰고 싶은데 이게 맞나요?
맞지 않습니다. 챗봇을 활용하는 게 목적이라면 직접 만들 필요 없이 ChatGPT·Claude 같은 완성 서비스가 훨씬 쉽고 빠릅니다. nanochat은 '쓰는 도구'가 아니라 '만드는 원리를 배우는 자료'입니다.
누가 만들었고, 믿을 만한가요?
안드레이 카파시가 공개한 교육용 코드입니다. 그는 전 테슬라 AI 총괄이자 OpenAI 창립 멤버로, AI 교육 자료로 잘 알려진 인물입니다. 다만 내용·요금·코드는 업데이트로 바뀔 수 있으니 공식 저장소에서 최신 정보를 확인하세요.
출처와 확인 경계
성격·요구사항·비용·라이선스는 nanochat 공식 GitHub 저장소와 README 원문을 직접 확인해 정리했습니다(2026-06-08 기준). 공식 안내 기준 라이선스는 MIT(자유롭게 보고 쓰고 고칠 수 있는 오픈소스)이며, README는 'GPT-2급 챗봇을 약 $48(8XH100 GPU 노드 약 2시간), 스팟 인스턴스로는 ~$15에 학습'한다고 표기합니다. 화면·명령어·요금·GPU 가격·라이선스 표기는 업데이트로 바뀔 수 있으니 아래 내용은 큰 흐름으로 참고하고, 실제 진행 전 공식 저장소에서 최신 정보를 한 번 확인하세요. AI가 만든 코드·모델·결과가 항상 맞는 것은 아니므로, 직접 돌려보거나 결과를 쓸 때는 한 번 확인하는 게 좋습니다.