「GPT-4 쓰면 되지」의 문제
대부분의 인공지능 플랫폼은 당신을 대신해 조용히 결정합니다. 마음에 드는 모델을 하나 고르고, 모든 것을 거기에 잇고, 그대로 나아갑니다. 그것은 작동하지 않게 될 때까지 작동합니다——모델이 내려앉을 때까지, 경쟁사가 특정 일에서 더 나은 것을 내놓을 때까지, 자기 API 열쇠를 가져와 비용을 자기 계정에 두고 싶어질 때까지, 이미지를 만들어야 하는데 기본 모델이 그것을 못 할 때까지.
흔한 처방은 내림 목록입니다. 모델을 하나 고르고, 어디에나 쓰고, 절충은 알아서 감당하라는 것. 그것은 배분이 아니라 떠넘기기입니다. ToRun은 구조적으로 다른 일을 합니다.
역량을 앞에 두는 통로
ToRun의 모든 요청은 모델에 닿기 전에 네 단계를 지납니다.
1. 모드가 제품의 면을 정합니다. 대화 세션을 열거나 조사 작업을 시작할 때, 당신은 모드를 고르고 있습니다. 모드는 화면의 딱지가 아니라 필수와 선택 역량의 정해진 묶음을 지닙니다. 조사 작업은 도구(웹 검색), 긴 맥락, 구조화된 출력을 필요로 합니다. 보통의 대화 세션은 기본적으로 문장 생성만 필요로 합니다.
2. 역량 묶음이 거름망이 됩니다. ToRun은 여러 공급자의 모델 목록을 유지합니다——OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral 등. 각 항목은 그 모델이 실제로 지원하는 역량의 합집합을 지닙니다. 시각, 도구, 코드 실행, 이미지 생성, 음성 입력, 음성 출력, 영상 생성, 임베딩, 재정렬, 실시간 전송, 추론 등. 1단계의 묶음을 이 목록과 맞춰 봅니다. 필수 역량을 모두 채우지 못하는 모델은 떨어집니다.
3. 가격-품질 순위가 승자를 고릅니다. 거름망을 지난 모델 가운데, ToRun은 요청이 실제로 무엇인지에 따라 정렬합니다. 짧고 단순한 물음은 비용으로 정렬하므로 빠르고 값싼 답이 옵니다. 더 길거나 어려운 물음은 품질 하한을 지키며 비용 단위당 역량으로 정렬합니다. 이미지를 실은 차례는 원당 추론이 아니라 모델이 얼마나 잘 보는지로 정렬합니다. 작업 흐름의 실행기는 품질 우선으로 바뀝니다. 지켜보지 않는 곳에서 도는 자동 처리는 가장 싼 지름길이 아니라 가장 좋은 결과를 겨냥해야 하기 때문입니다. BYOK 이용자는 요청이 자신의 공급자 계정을 지나므로 가격에 들어오는 방식이 다릅니다.
4. 대체 사슬이 공급자의 장애를 흡수합니다. 고른 모델이 서비스 오류를 돌려주면, 그 모델을 뺀 채 같은 통로를 다시 지납니다. 두 번째로 알맞은 모델이 답합니다. 쓸 만한 후보가 모두 내려앉지 않는 한, 당신에게 오류는 보이지 않습니다.
구체적인 보기: 시각과 도구를 함께
화면 갈무리를 붙여 넣고, 거기 담긴 것에 관한 맥락을 웹에서 찾아 달라고 ToRun에 부탁한다고 합시다. 이 요청은 두 역량을 동시에 건드립니다. 시각(모델이 이미지를 입력으로 받아야 함)과 도구(모델이 웹 검색 함수를 부를 수 있어야 함)입니다.
단일 모델 방식에서는 막힙니다. 당신의 플랫폼이 그 조합을 지원하거나 하지 않거나 둘 중 하나입니다. 역량에 따른 배분이라면 ToRun은 두 요건을 겹칩니다. 시각과 도구 호출 모두에 확인된 지원이 있는 모델만 거름망을 지납니다. 그 짧은 목록에서 가격과 품질의 순위가 지금 모드에 가장 좋은 것을 고릅니다. 첫 후보가 제한되었거나 내려앉았다면, 다음 것이 당신이 아무것도 하지 않아도 요청을 처리합니다.
실무에서 이는 중요합니다. 시각을 갖춘 모델의 면면은 지난 한 해에 크게 바뀌었고 계속 바뀔 것입니다. 역량에 따른 배분 덕에 ToRun은 새로 더해진 모델을 목록에 오르는 즉시 자동으로 고려합니다. 당신 쪽의 갱신은 필요 없습니다.
왜 이것이 묶임을 이기는가
단일 모델 플랫폼에는 대체 방책이 하나뿐입니다. 공급자가 장애를 고치기를 기다리는 것. 역량을 앞에 두는 플랫폼에는 목록이 있습니다. OpenAI에 사고가 있으면 Anthropic이나 Gemini가 감당할 수 있는 요청은 그쪽에서 처리됩니다. 새 Mistral 모델이 구조화된 출력에서 더 나은 가격 대비 품질을 낸다면, 강제 이전 없이 해당 모드들의 순위에 들어옵니다.
같은 논리가 BYOK에도 적용됩니다. 어떤 공급자에 자기 API 열쇠를 더하면, 그 인증 정보는 배분 층 안에 갇힌 채 유지됩니다. 그 공급자의 알맞은 모델에 들어맞는 요청은 ToRun의 계정 대신 당신의 열쇠를 쓸 수 있고, 알맞은 청구 등급에서 비용을 당신과 공급자의 관계로 옮깁니다. 배분 통로는 바뀌지 않습니다. 실행 시점에 어떤 인증 정보를 쓰는지만 바뀝니다.
대가는 정직함입니다. 가장 싼 모델이 당신의 일에 가장 똑똑하리라고 ToRun은 보장할 수 없습니다. 순위는 드러나 있어, 무엇이 왜 골라졌는지 보이고 덮어쓸 수도 있습니다. 그 투명함이 목적입니다. 모든 요청은 쓰인 모델, 실행 시점에 유효했던 가격 단위, 비용의 내역과 함께 청구 기록을 씁니다. 공급자의 단가가 바뀐 뒤라도, 요청이 돈 순간에 스냅숏이 얼려져 있으므로 어떤 호출이든 몇 달 뒤에 확인할 수 있습니다.
모든 것을 해내는 하나의 모델은 편안한 꾸며 낸 이야기입니다. 정말 원하는 것은 일마다 알맞은 모델을 찾아내고 그 선택을 읽을 수 있게 하는 플랫폼입니다.