#직장인 A씨는 최근 인공지능(AI) 모델 유료 구독을 시작했다. 무료 버전보다 뛰어난 결과물에 만족하며 에이전트 기능과 바이브 코딩 등에도 적극적으로 활용해왔다. 그러던 어느날 갑자기 AI 이용에 제한이 걸렸다. 유료 구독자에게 주어지는 고성능 모델의 질문 횟수를 소진했기 때문이다. 질문할 때마다 토큰이 차감되는 건 알았지만, 구체적인 허용량과 소모기준을 몰랐던 A씨는 어떻게 해야 토큰을 효율적으로 쓸 수 있을지 새로운 고민이 생겼다.
AI 기술의 발달로 개인 비서처럼 쓸 수 있는 에이전트 AI 활용이 급증하면서 토큰 소비량도 폭발적으로 늘고 있다. 빅테크 기업들이 이용자를 확보하기 위해 치열한 가격 경쟁을 펼치고 있음에도 정작 이용자들이 체감하는 비용부담은 오히려 커지는 추세다. 토큰 소비량 자체가 기하급수적으로 늘고 있어서다.
특히 국내 이용자들의 부담은 더 크다. 한글은 영어보다 AI가 인식하는 토큰 소모량이 더 많기 때문이다. 이에 따라 토큰을 얼마나 효율적으로 소비하느냐가 AI 시대 새로운 '디지털 리터러시(디지털을 활용하는 종합적인 능력, 디지털 문해력)'로 부상하고 있다.
똑똑한 AI 탓에 토큰 비용↑
골드만삭스는 최근 보고서를 통해 2030년 전 세계 AI 토큰 소비량이 올해와 비교해 24배까지 급증할 것으로 전망했다. 스스로 판단하고 행동하는 에이전트 AI가 보편화되면서 서버 운영비용과 전력소모 등이 늘어나고, 그 결과 이용자에게 전가하는 비용이 늘어날 수밖에 없기 때문이다.
실제로 오픈AI와 앤트로픽 등 글로벌 빅테크의 요금정책도 바뀌고 있다. 일반 이용자 대상으로는 구독 방식의 정액제를 운영하는 것과 달리 기업용 서비스에는 사용량에 비례하는 '토큰 기반 요금제'로 바꾸는 추세다. AI를 적극적으로 활용하는 기업의 경우 토큰 소비가 많아지고 비용 증가로 이어질 수 있다.
이미 비상이 걸린 곳도 있다. 우버는 최근 연간 AI 예산을 조기에 소진하자 직원들의 1인당 AI 토큰 사용액을 제한했다. 직원들이 코딩 등에 AI를 쓰면서 토큰 소비가 급증했기 때문이다. 국내에서도 안랩 등 일부 기업들이 토큰 사용 상한선을 정해 비용관리에 나섰다.
일반 이용자도 예외는 아니다. 정액제인 표준 모델에서 원하는 기능을 충족하지 못하면 비용을 더 많이 지불해야 하는 최상위·고성능 모델로 갈아탈 수밖에 없어 지출이 늘어나게 된다.
가성비 높이는 현명한 질문법
국내 이용자 입장에선 영어 중심으로 설계된 글로벌 AI 모델보다 한국어에 최적화된 모델을 이용하는 게 토큰 소모량을 줄일 수 있다. 다만 이를 위해선 글로벌 모델과 경쟁할 수 있는 한국형 AI가 경쟁력을 갖춰야한다.
토큰 소비 구조를 이해하고 어떻게 질문할지에 대한 고민도 필요하다. 같은 결과물을 얻더라도 어떻게 물어보느냐에 따라 토큰 소비량이 달라질 수 있어서다.
일반적으로 토큰은 질문을 AI가 이해할 때 소비하는 '입력 토큰'과 이를 기반으로 AI가 추론과 생성을 거쳐 결과물을 내놓을 때 소비하는 '출력 토큰'으로 나뉜다. 글로벌 빅테크의 가격 정책상 출력 토큰은 입력 토큰보다 단가가 3~5배 더 비싸기 때문에 답변이 길어질수록 비용부담이 커진다.
이런 이유로 전문가들은 불필요한 맥락을 줄이고 원하는 결과를 명확하게 지정해야 한다고 조언한다. 가령 "이 문서 요약해줘"보다 "이 문서 핵심 주장을 3줄로 요약해줘"로 명확히 하고, 답변 형식도 "표로 정리해줘" 혹은 "예시는 빼고 결론만" 등으로 명확히 하는 게 낫다.
또한 모든 질문에 고성능 모델을 쓸 필요는 없다. 단순한 사실 확인이나 간단한 텍스트 작성은 sLLM(경량거대언어모델)을 활용하고, 복잡한 추론이나 코딩에만 고성능 모델을 교차 선택하는 것이 경제적이다.
업계 관계자는 "AI를 통해 토큰을 얼마나 잘 쓰는지가 경쟁력을 가르는 기준이 되는 시점이 곧 올 수 있다"며 "불필요하게 고성능 모델을 쓰는 게 아닌 자신의 상황에 맞는 모델을 사용하는 게 중요하다"고 말했다.
