AI 에이전트는 사람이 준 목표를 받아 스스로 계획을 세우고 도구를 써가며 여러 단계를 끝까지 처리하는 AI입니다. 질문에 답만 하는 챗봇과 다릅니다.
0. AI 에이전트가 뭔가요 — 한 줄로 먼저
이름은 거창해 보이지만, '무엇이 다른가'만 잡으면 어렵지 않습니다.
- AI 에이전트에이전트
- 사람이 준 목표를 위해 스스로 계획하고 도구를 써서 행동하는 AI. 핵심에 대화형 AI(LLM)가 있어 'LLM 에이전트'라고도 부릅니다.
- 자율성자율성
- 사람이 매 단계를 일일이 지시하지 않아도 스스로 다음 행동을 정하는 성질. 다만 목표와 규칙은 사람이 정해 줍니다.
- 도구 사용도구 사용
- AI가 검색·계산·외부 앱(서로 연결해 부르는 통로를 'API'라고 합니다) 같은 바깥 도구를 불러 쓰는 것. 자기가 배운 것 너머의 일을 처리하게 해줍니다.
- 워크플로우워크플로우
- 사람이 미리 짜둔 정해진 순서를 따라 도는 자동화. 순서를 스스로 바꾸지 않는다는 점이 에이전트와 다릅니다.
에이전트는 어떻게 일하나 — 목표를 받아 도는 한 바퀴
복잡해 보여도, 사람이 일을 처리하는 순서와 거의 같습니다.
에이전트가 일하는 방식은 사람이 일을 처리하는 순서와 닮았습니다. 먼저 사람이 목표를 줍니다. 그러면 에이전트는 그 목표가 무엇을 원하는지 이해하고, 한 번에 못 하는 일이면 작은 단계로 나눕니다. IBM은 이렇게 목표를 잘게 쪼개는 것을 '작업 분해'라고 설명합니다.
다음으로 에이전트는 도구를 써서 행동합니다. 여기서 도구란 검색, 계산, 외부 앱 같은 것입니다. Anthropic은 에이전트를 가리켜 '검색·도구·메모리(이전 내용을 기억하는 것)가 붙은 대화형 AI', 즉 보강된 AI가 도구를 반복(루프) 안에서 쓰는 것이라고 설명합니다. 행동한 뒤에는 그 결과를 확인하고, 목표에 닿지 못했으면 다시 계획을 가다듬어 같은 바퀴를 한 번 더 돕니다. 목표를 이루면 사람에게 결과를 돌려줍니다.
에이전트가 자기가 배운 지식만으로 답하지 않고 바깥에서 자료를 찾아 근거로 삼는 방식도 있는데, 그 대표적인 한 가지가 RAG입니다. 궁금하면 RAG가 무엇인지 쉽게 풀어둔 글을 함께 보면 도움이 됩니다.
사람이 목표를 준다
예: '이 자료들 모아서 한 장으로 정리해줘'처럼, 무엇을 원하는지 알려줍니다.
이해하고 단계로 나눈다
한 번에 못 하는 일이면 작은 단계로 쪼갭니다. IBM은 이를 '작업 분해'라고 부릅니다.
도구를 써서 행동한다
검색하거나 외부 앱(API)을 불러, 자기가 배운 것 너머의 일을 실제로 처리합니다.
결과를 확인한다
목표에 닿았으면 끝내고, 아니면 다시 2~3단계를 반복합니다.
막히면 사람에게 확인
중요한 판단이 필요하거나 막히면, 멈추고 사람에게 물어봅니다.
흔한 오해 — '사람 없이 알아서 다 하는 만능'?
기대가 너무 크면 실망하기 쉽습니다. 실제 성격을 알면 잘 쓸 수 있습니다.
AI 에이전트는 목표만 던져주면 사람 없이 알아서 완벽하게 다 처리해주는 만능 자동화 아닌가요?
그렇지는 않습니다. 에이전트는 좁게 정해진 목표를 받아 도구를 써가며 단계를 밟는 것에 가깝습니다. 목표와 지켜야 할 규칙은 사람이 정해 주어야 하고, 막히거나 중요한 판단이 필요한 지점에서는 멈춰 사람에게 확인을 받습니다. Anthropic도 '가장 단순한 방법으로 충분하면 굳이 복잡한 에이전트를 쓰지 말라'고 권합니다.
챗봇과 에이전트 — 무엇이 다른가
표에서 내가 지금 하려는 일과 가까운 줄을 찾아보세요.
| 챗봇 (질문-답형 AI) | AI 에이전트 | |
|---|---|---|
| 하는 일 | 물어보면 아는 선에서 답한다 | 목표를 받아 끝까지 처리한다 |
| 일하는 방식 | 한 번의 질문 → 한 번의 답 | 이해→계획→도구 사용→확인을 반복 |
| 도구 사용 | 대부분 자기가 배운 지식 안에서 답 | 검색·외부 앱 같은 바깥 도구를 불러 쓴다 |
| 사람의 역할 | 질문하고, 받은 답을 직접 활용 | 목표·규칙을 정하고, 결과를 확인 |
| 잘 맞는 일 | 설명·요약·초안처럼 한 번에 끝나는 일 | 자료를 모아 여러 단계로 처리하는 일 |
사무직이라면 — 언제 챗봇, 언제 에이전트
지금 하려는 일 한 가지만 떠올리면 어느 쪽인지 보입니다.
HR 담당이 휴가 규정을 쉽게 풀 때
→ 챗봇. '이 규정 쉬운 말로 바꿔줘'처럼 한 번에 끝나는 일은 챗봇이 빠르고 충분합니다.
여러 자료를 모아 한 장으로 정리할 때
→ 에이전트형 작업. 여러 곳을 찾아보고 단계를 밟아야 하는 일은 에이전트가 도구를 써가며 처리하기에 어울립니다.
어떤 경우든 마지막엔
→ 사람이 한 번 검토. 에이전트가 준 결과도 그대로 쓰기보다 한 번 읽어보면 마음이 편합니다.
- 오늘은 챗봇에게 평소 궁금하던 것 한 가지를 물어보기
- 여러 단계가 필요한 일이 떠오르면 '이건 에이전트가 어울리겠다'고 알아채 보기
오늘 해볼 것 — 5분 첫걸음
무리하지 말고, 개념을 내 일에 비춰보는 것부터.
5분이면 충분합니다 (4단계)
- 평소 하는 일 중 '한 번에 끝나는 일'과 '여러 단계가 필요한 일'을 하나씩 떠올려 보기
- 한 번에 끝나는 일은 챗봇에게 물어보기 (예: '안내문 초안 써줘')
- 여러 단계 일은 '목표 → 단계 → 도구'로 쪼개 보며, 에이전트가 어떻게 거들지 그려 보기
- 결과가 나오면 그대로 쓰지 말고 한 번 직접 확인해 보기
| 이걸 했으면 첫걸음 끝 | 확인 |
|---|---|
| 챗봇과 에이전트의 차이를 한 문장으로 말할 수 있다 | ☐ |
| 내 일을 '한 번에 끝나는 일'과 '여러 단계 일'로 나눠봤다 | ☐ |
| 한 번에 끝나는 일을 챗봇에게 하나 물어봤다 | ☐ |
| AI가 준 결과를 그대로 쓰지 않고 한 번 직접 확인했다 | ☐ |
자주 묻는 질문
AI 에이전트랑 챗봇은 뭐가 다른가요?
챗봇은 물어보면 아는 선에서 답해주는 AI이고, 에이전트는 목표를 받아 스스로 계획하고 도구를 써가며 여러 단계를 끝까지 처리하는 AI입니다. '물어보기'와 '맡기기'의 차이라고 보면 쉽습니다.
에이전트는 사람 없이 알아서 다 하나요?
아닙니다. 목표와 지켜야 할 규칙은 사람이 정해 주어야 하고, 막히거나 중요한 판단이 필요한 지점에서는 멈춰 사람에게 확인을 받습니다. '사람을 대신'한다기보다 '시킨 일을 끝까지 거든다'에 가깝습니다.
에이전트는 모르는 걸 어떻게 처리하나요?
자기가 배운 지식만으로 답하지 않고, 검색이나 외부 앱 같은 도구를 불러 씁니다. 답의 근거가 될 자료를 먼저 찾아 쓰는 방식의 한 가지가 RAG입니다.
워크플로우랑 에이전트는 같은 건가요?
다릅니다. 워크플로우는 사람이 미리 짜둔 정해진 순서를 따라 돕니다. 에이전트는 그 순서를 스스로 정하고 바꿀 수 있다는 점이 다르다고 Anthropic은 설명합니다.
비개발자도 에이전트를 쓸 수 있나요?
네. 개념만 알아도 충분히 출발할 수 있습니다. 처음에는 챗봇으로 한 번에 끝나는 일부터 익숙해지고, 여러 단계가 필요한 일이 생겼을 때 에이전트를 떠올리면 됩니다.
출처와 확인 경계
에이전트의 정의·구성요소·동작 원리는 Anthropic·IBM·AWS·위키백과 네 곳에서 공통으로 확인했습니다. 이 글은 시간이 지나도 잘 바뀌지 않는 개념만 다루며, 특정 제품의 가격·순위처럼 자주 바뀌는 정보는 일부러 담지 않았습니다.
- Anthropic, Building Effective Agents — '워크플로우'와 '에이전트'의 구분, 도구를 루프에서 쓰는 LLM이라는 동작 원리
- IBM, What are AI agents — 에이전트 정의와 구성요소(지각·계획·도구·메모리), 핵심에 LLM이 있다는 설명
- AWS, What is an AI agent — 환경과 상호작용해 목표를 위해 자율적으로 일하는 프로그램이라는 정의와 계획·메모리 모듈
- Wikipedia, Intelligent agent — 환경을 인식하고 목표 달성을 위해 자율적으로 행동하는 존재라는 형식적 정의