Hvað verkferill er í raun hér
Flest »verkferlatól« á sviði gervigreindar eru fyrirmælakeðjur með þunnu lagi ofan á. Smiðurinn í ToRun er stefnt hringlaust net (DAG) af tegundabundnum þrepum: þú tengir líkanaköll, verkfærakall, skilyrt greinar, lykkjur og undirferla í net, og vélin framkvæmir þau í röð tengsla, samhliða þar sem netið leyfir.
Hvert þrep er fullgild eining með eigin stillingu: gerð þreps (LLM-kall, vefleit, keyrsla kóða, myndgerð, sókn, umbreyting og svo framvegis), inntaksskema, villustefna (bila hratt, reyna aftur með bið, fara á varaleið), fjárhagsþak framkvæmdar á hvert þrep og tímamörk.
Líkanabeining innan hvers LLM-þreps fer gegnum sömu færnirás og allt annað í ToRun. Þú lýsir yfir hvað þú þarft — skipulagt úttak, sjón, notkun verkfæra, rökhugsun, samhengisglugga upp á að minnsta kosti N tákn — og framkvæmandinn leysir úr því hvaða líkan hentar best meðal þeirra þjónustuaðila sem eru tiltækir þá. Skili uppáhaldsþjónustuaðilinn þinn 5xx tekur varakeðjan sjálfkrafa við.
Framkvæmendur með gæði í fyrsta sæti og hverju það breytir í reynd
Þegar þú keyrir verkferil velur framkvæmandinn af ásetningi líkön í gæðaflokki fremur en ódýrasta kostinn. Tvær ástæður: sjálfvirkni framleiðir afurðir (skýrslur, skapað efni, kóða) sem enginn les yfir strax, svo gæðabrestir hlaðast upp í hljóði; og við hóflegt magn er kostnaðarmunurinn minni en verð lélegs úttaks sem knýr fram nýja keyrslu eða handavinnu.
Í reynd þýðir þetta að verkferill sem »dregur saman rannsókn og skrifar skýrslu« kýs traust rökhugsunarlíkan fyrir samantektina og hágæða textalíkan fyrir skrifin, í stað þess að hlaupa á verðgólfið. Þú getur gengið fram hjá þessu á tilteknu þrepi ef þú veist að létt líkan dugir þar.
Reikningsgerðin fylgir öðrum hluta ToRun: hvert líkanakall innan verkferils skrifar nákvæmlega eina færslu með frystri verðmynd. Keyrsla sem kallar á þrjú ólík líkön í fimm þrepum gefur fimm færslur. Þú getur skoðað nákvæman kostnað hverrar keyrslu, sundurliðaðan eftir þrepum, líka eftir á — jafnvel mánuðum síðar, þegar verð þjónustuaðila hafa þegar hreyfst.
Að rekja keyrslu
Hver verkferlakeyrsla skilar skipulagðri slóð. Slóðin sýnir netið með athugasemdum við hvern hnút: upphafstími, lokatími, leyst líkan, fjöldi inn- og úttákna, framkvæmd verkfærakall og villa ef einhver var. Á LLM-þrepum geturðu flett út nákvæmlega þeim fyrirmælum sem voru send og hráa svarinu sem barst.
Bili þrep segir slóðin þér hvort villan kom úr líkanakallinu (villa þjónustuaðila, samhengisyfirflæði, synjun vegna efnisstefnu), úr verkfæri síðar í rásinni (nettímamörk, mistök í skemaprófun) eða úr þinni eigin skilyrðarökvísi. Þú þarft ekki að bæta við skráningu: hún er tekin á innviðastigi í hverri keyrslu.
Hverja keyrslu má endurtaka með sama inntaki, sem gerir það beint að endurskapa bilun.
Lítið dæmi: vikulegur verkferill um samkeppnisvöktun
Ímyndaðu þér verkferil sem þú ræsir hvern mánudagsmorgun:
- Vefleitarþrep — leitar að nýlegri umfjöllun fyrir mengi lykilorða um keppinauta og skilar lista yfir slóðir og brot.
- Sóknarþrep — dregur upp síðustu fjórar skýrslur úr þekkingargrunni til að setja upphafssamhengið.
- Samantektarþrep (LLM) — eimar leitarniðurstöður í skipulagðar niðurstöður: nýja eiginleika, verðbreytingar, athyglisverðar tilkynningar.
- Ritþrep (LLM) — skrifar hnitmiðað innanhússminnisblað í samræmdum húsastíl, grundvallað á samandregnu niðurstöðunum.
- Afhendingarþrep — birtir minnisblaðið á stilltan webhook-endapunkt.
Netið hefur eðlileg tengsl: þrep 3 veltur á 1 og 2 (sem geta keyrt samhliða), þrep 4 á 3, þrep 5 á 4. Framkvæmandinn gerir þetta án nokkurrar sértækrar samhliðastillingar: hann les leggina.