Ongelma lähestymistavassa »ota GPT-4 ja siinä se«
Useimmat tekoälyalustat tekevät hiljaisen päätöksen puolestasi: valitsevat mieleisensä mallin, kytkevät kaiken siihen ja jatkavat eteenpäin. Se toimii, kunnes se lakkaa toimimasta — kunnes malli kaatuu, kunnes kilpailija julkaisee jotain parempaa tiettyyn tehtävään, kunnes haluat tuoda oman API-avaimesi ja pitää kustannuksen omalla tililläsi, kunnes tarvitset kuvien tuottamista eikä oletusmalli osaa sitä.
Tavanomainen lääke on pudotusvalikko. Valitse malli, käytä sitä kaikkialla, selviä kompromisseista itse. Se ei ole ohjausta, se on siirtämistä. ToRun tekee jotain rakenteellisesti toisenlaista.
Kyvykkyydet ensin -putki
Jokainen pyyntö ToRunissa kulkee neljän vaiheen läpi ennen kuin se koskettaa mallia.
1. Tila määrittää tuotepinnan. Kun avaat Keskustelu-istunnon tai käynnistät Tutkimus-tehtävän, valitset Tilan. Tila ei ole vain käyttöliittymän merkintä: se kantaa määriteltyä joukkoa pakollisia ja valinnaisia kyvykkyyksiä. Tutkimus-tehtävä tarvitsee työkaluja (verkkohaku), pitkän asiayhteyden ja jäsennellyn tulosteen. Tavallinen keskusteluistunto tarvitsee oletuksena vain tekstin tuottamisen.
2. Kyvykkyysjoukko muuttuu suodattimeksi. ToRun pitää yllä monen palveluntarjoajan malliluetteloa — OpenAI, Anthropic/Claude, Google/Gemini, DeepSeek, xAI/Grok, Mistral ja muut. Jokainen merkintä kantaa niiden kyvykkyyksien yhdisteen, joita malli todella tukee: näkö, työkalut, koodin suorittaminen, kuvien tuottaminen, ääni sisään, ääni ulos, videon tuottaminen, upotukset, uudelleenjärjestely, reaaliaikainen virta, päättely ja muuta. Ensimmäisen vaiheen joukkoa verrataan tähän luetteloon. Mallit, jotka eivät täytä kaikkia pakollisia kyvykkyyksiä, putoavat pois.
3. Hinta-laatu-järjestys valitsee voittajan. Suodattimen läpäisseistä malleista ToRun järjestää sen mukaan, mikä pyyntö todella on. Lyhyt yksinkertainen kysymys järjestetään kustannuksen mukaan, joten saat nopean ja halvan vastauksen. Pidempi tai vaikeampi järjestetään kyvykkyyden mukaan kustannusyksikköä kohti, laatukynnystä vasten. Kuvan mukanaan tuova vuoro järjestetään sen mukaan, kuinka hyvin malli näkee, ei päättelyn mukaan euroa kohti. Työnkulkujen suorittajat vaihtavat laatuetusijaan, koska valvomatta ajavan automaattisen putken pitäisi tähdätä parhaaseen tulokseen, ei halvimpaan oikoreittiin. BYOK-käyttäjät astuvat hinnoitteluun toisin, koska pyyntö kulkee heidän oman palveluntarjoajatilinsä kautta.
4. Varaketjut imevät palveluntarjoajan häiriöt. Jos valittu malli palauttaa palveluvirheen, sama putki ajetaan uudelleen tämä malli poissuljettuna. Toiseksi paras kelvollinen malli vastaa. Et näe mitään virhettä, ellei kaikki käyttökelpoiset ehdokkaat ole poissa käytöstä.
Konkreettinen esimerkki: näkö plus työkalut
Oletetaan, että liität kuvakaappauksen ja pyydät ToRunia hakemaan verkosta asiayhteyttä siihen, mitä se näyttää. Tämä pyyntö koskettaa kahta kyvykkyyttä yhtä aikaa: näköä (mallin täytyy hyväksyä kuva syötteenä) ja työkaluja (mallin täytyy osata kutsua verkkohakutoimintoa).
Yhden mallin lähestymistavalla jäät jumiin: alustasi tukee tuota yhdistelmää tai ei. Kyvykkyyspohjaisella ohjauksella ToRun leikkaa molemmat vaatimukset. Suodattimen läpäisevät vain mallit, joilla on vahvistettu tuki sekä näölle ETTÄ työkalujen kutsumiselle. Tästä lyhyestä listasta hinnan ja laadun mukainen järjestys valitsee parhaan nykyiseen tilaasi. Jos pääehdokas on rajoitettu tai poissa käytöstä, seuraava palvelee pyynnön ilman että teet mitään.
Käytännössä tämä merkitsee: näkevien mallien joukko on muuttunut paljon viime vuonna ja muuttuu edelleen. Kyvykkyyspohjainen ohjaus saa ToRunin ottamaan uudet mallit automaattisesti huomioon heti kun ne luetteloidaan, ilman mitään päivitystä sinun puoleltasi.
Miksi tämä voittaa lukituksen
Yhden mallin alustalla on yksi varastrategia: odottaa, että palveluntarjoaja korjaa häiriön. Kyvykkyydet ensin -alustalla on luettelo. Kun OpenAI:lla on häiriö, ne pyynnöt, jotka Anthropic tai Gemini pystyvät palvelemaan, palvellaan siellä. Kun uusi Mistral-malli tarjoaa paremman hinta-laatusuhteen jäsennellyssä tulosteessa, se astuu asianomaisten tilojen järjestykseen ilman pakotettua siirtymää.
Sama logiikka pätee BYOK:iin. Kun lisäät oman API-avaimesi palveluntarjoajalle, nuo tunnistetiedot pysyvät suljettuina ohjauskerroksen sisällä. Pyynnöt, jotka sopivat tuon palveluntarjoajan kelvollisiin malleihin, voivat käyttää avaintasi ToRunin tilin sijaan, siirtäen kustannuksen suhteeseesi palveluntarjoajan kanssa asianmukaisella laskutustasolla. Ohjausputki ei muutu: muuttuu vain se, mitä tunnistetietoja suoritushetkellä käytetään.
Kompromissi on rehellisyys: ToRun ei voi taata, että halvin malli olisi tehtävääsi älykkäin. Järjestys on näkyvillä — näet, mikä valittiin ja miksi, ja voit ohittaa sen. Tämä läpinäkyvyys on tarkoitus. Jokainen pyyntö kirjoittaa laskutustietueen käytetyllä mallilla, suorituksessa voimassa olleella hinnoitteluyksiköllä ja kustannuserittelyllä. Voit tarkastaa minkä tahansa kutsun kuukausia myöhemmin, myös palveluntarjoajan hinnanmuutosten jälkeen, koska tilannekuva on jäädytetty hetkellä, jolloin pyyntö ajettiin.
Yksi malli, joka tekee kaiken, on mukava keksintö. Se, mitä todella haluat, on alusta, joka löytää oikean mallin jokaiseen tehtävään ja tekee tästä valinnasta luettavan.