AI 토큰 ? 토큰이 무엇인가, 토큰 효율적으로 쓰는 방법 (쉬운 설명)

"토큰이 부족합니다", "토큰 한도 초과".

AI 쓰다 보면 자꾸 나오는 '토큰' 

다 쓸까봐 걱정인데 개념은 뭔지 잘 와닿지 않으시죠? 쉽게 설명해드리고

토큰을 효율적으로 쓰는 꿀팁도 알려드리겠습니다. 

 

토큰은 AI가 글을 읽는 단위입니다

사람은 글자로 읽고, AI는 토큰으로 읽습니다.

우리는 글을 읽을 때 글자나 단어 단위로 봅니다. 그런데 AI는 좀 다르게 쪼개요. 글자도 아니고 단어도 아닌, 그 중간쯤 되는 덩어리로 봅니다. 그게 토큰입니다.

말로만 하면 감이 안 오니까 실제로 쪼개 보겠습니다.

 

 

"안녕하세요 반갑습니다" 는 11글자인데 AI는 이렇게 5조각으로 봅니다.

안  |  녕하세요  |  반  |  갑  |  습니다

규칙이 없어 보이죠? 맞습니다. 자주 나오는 덩어리는 통째로, 드문 것은 잘게 쪼개는 방식이라 사람 눈엔 이상하게 보입니다. 영어도 마찬가지예요. unbelievable 은 한 단어지만 un / bel / ievable 세 조각입니다.

 

이걸 왜 알아야 하나요

토큰이 세 가지를 결정하기 때문입니다.

항목	토큰과 무슨 상관?
사용 한도	유료 요금제의 "몇 시간마다 몇 개" 제한이 사실 토큰 기준입니다
요금	API로 쓰면 토큰 개수만큼 돈이 나갑니다
기억 용량	대화가 길어지면 앞부분을 잊는데, 그 한계도 토큰 단위입니다

즉 토큰을 아끼면 더 오래, 더 싸게, 더 똑똑하게 쓸 수 있습니다.

 

"한국어는 3배 비싸다"는 옛날 얘기입니다

이 말 많이 들어보셨죠? 절반만 맞습니다. 직접 세어봤습니다.

같은 뜻의 문장	예전 모델	요즘 모델
한국어	40 토큰	28 토큰
영어	15 토큰	15 토큰
차이	2.7배	1.9배

여전히 한국어가 불리하긴 합니다. 다만 예전만큼은 아니에요. AI 회사들이 한국어를 포함한 여러 언어를 더 잘 쪼개도록 개선했거든요.

그래서 영어로 물어봐야 하나요? 아니요. 1.9배 아끼자고 어색한 영어로 쓰면 질문의 정확도가 떨어져서 다시 물어보게 되고, 결국 토큰을 더 씁니다. 편한 한국어로 짧고 명확하게 쓰는 게 낫습니다.

진짜 토큰을 먹는 범인은 따로 있습니다

대부분 이걸 모릅니다. AI는 매번 대화 전체를 처음부터 다시 읽습니다.

AI에겐 기억력이 없어요. 20번째 질문을 하면, 1번부터 19번까지의 대화를 통째로 다시 읽은 다음에 답합니다. 매번요.

 

계산해 보면 이렇게 됩니다.

몇 번째 대화	이번에 처리하는 양	그때까지 누적
1번째	460	460
5번째	2,300	6,900
10번째	4,600	25,300
20번째	9,200	96,600

20번째 질문 한 번이 첫 질문의 20배를 먹습니다. 질문 길이는 똑같은데요. 한도가 갑자기 빨리 닳는 느낌이 드는 게 이것 때문입니다.

파일을 붙이면 더 심해집니다. A4 3장짜리 한글 문서가 약 1,400토큰인데, 그 대화에서 10번 주고받으면 같은 문서를 10번 다시 읽습니다. 14,000토큰이 됩니다.

⭐토큰 아끼는 법 7가지⭐

1. 주제가 바뀌면 새 대화를 시작하세요

이게 가장 효과가 큽니다. 아까 봤듯이 대화가 길어질수록 매번 처리량이 불어나니까요. 마케팅 얘기하다가 코딩 질문을 하려면 새 창을 여세요. 앞의 마케팅 대화를 계속 끌고 다닐 이유가 없습니다.

2. 인사말과 사족을 줄이세요

실제로 재봤습니다. 같은 부탁인데

"음 그러니까 제가 궁금한 게 있는데요, 혹시 괜찮으시다면 이 엑셀 파일을 좀 봐주실 수 있을까요? 제가 이걸 어떻게 정리해야 할지 잘 모르겠어서요..." 73토큰

"이 엑셀을 월별 매출 표로 정리해줘." 16토큰

5배 차이입니다. 게다가 짧은 쪽이 뭘 원하는지 더 명확해서 답도 잘 나옵니다.

3. 필요한 부분만 붙여넣으세요

100페이지 보고서에서 3페이지만 궁금하면 그 3페이지만 주세요. 전체를 붙이면 그 대화 내내 100페이지를 계속 다시 읽습니다.

4. 답변 길이를 지정하세요

AI 답변도 토큰을 씁니다. 그냥 물어보면 친절하게 길게 쓰거든요.
"세 줄로", "표로만", "결론부터 한 문단" 처럼 지정하면 확 줄어듭니다.

5. 한 번에 제대로 물어보세요

"보고서 써줘" 하고 다섯 번 고치는 것보다, 처음에 누구에게, 몇 장, 어떤 톤인지 알려주는 게 총량으로 훨씬 적게 씁니다. 고칠 때마다 이전 대화를 다 다시 읽으니까요.

6. 이미지는 생각보다 비쌉니다

사진 한 장이 글 몇 페이지에 맞먹습니다. 스크린샷을 여러 장 붙이면 순식간에 한도가 찹니다. 꼭 필요한 것만, 잘라서 올리세요.

7. 긴 대화는 중간에 요약하고 새로 시작하세요

대화가 20번쯤 넘어가면 "지금까지 정한 내용 정리해줘" 라고 한 뒤, 그 요약만 복사해서 새 대화로 옮기세요. 맥락은 유지되고 처리량은 초기화됩니다.

반대로, 아끼면 안 되는 것

토큰 아끼려다 더 손해 보는 경우도 있습니다.

• 맥락을 빼먹는 것. "이거 고쳐줘"라고만 하면 AI가 엉뚱한 걸 고칩니다. 다시 물어보느라 더 씁니다.
• 예시를 안 주는 것. "이런 느낌으로" 하고 샘플 하나 주는 게, 열 번 설명하는 것보다 쌉니다.
• 어색한 영어로 쓰는 것. 1.9배 아끼려다 의도 전달이 안 되면 손해입니다.

목표는 짧게 쓰는 게 아니라 낭비를 줄이는 겁니다. 필요한 정보는 다 주되, 인사말과 지난 대화를 끌고 다니지 않는 것. 이게 핵심이에요.

정리

토큰이 뭐야?	AI가 글을 읽는 단위. 글자와 단어의 중간쯤 되는 덩어리
한국어는 손해야?	영어보다 1.9배 정도. 예전 2.7배보다 나아졌음
뭐가 제일 많이 먹어?	긴 대화. 매번 처음부터 다시 읽기 때문
제일 쉬운 절약법은?	주제 바뀌면 새 대화 시작하기
주의할 점은?	맥락까지 아끼면 다시 묻느라 더 씀

딱 하나만 기억하신다면 이겁니다. 새 주제는 새 대화창에서. 이거 하나로 체감이 확 달라집니다.

본문의 토큰 수치는 최신 모델 기준으로 직접 세어본 값입니다. 모델과 서비스마다 조금씩 다를 수 있어요.

 

 

AI 시대 MCP 모르는 간첩이죠? 
👇 MCP 에 대한 쉬운 설명은 아래글 참고해주세요! :) 👇

MCP가 대체 뭐냐고!! 진짜 쉽게 설명해드림