Ekki geta allir hópar sent fyrirmæli sín í ský annarra. Regluvæddar greinar, álag hins opinbera og fyrirtæki með strangar reglur um staðsetningu gagna þurfa að gervigreindarstafli þeirra haldist innan eigin nets. ToRun er dreift sem vettvangur til eigin hýsingar einmitt fyrir þetta tilvik — og þetta er ekki skorin útgáfa. Þetta er sama varan, undir þinni stjórn.
Hvað eigin hýsing þýðir hér
Eigin hýstur ToRun er allur vettvangurinn settur upp á innviðum sem eru þínir: þínir netþjónar, þinn Kubernetes-klasi eða einn Docker-hýsill í gagnaveri. Engin skylda er til að hringja heim vegna ályktunar. Þegar þú beinir spjallskilaboðum, myndgerð eða verkferlaþrepi fer beiðnin til líkananna sem þú stilltir, og þau geta verið alfarið staðbundin.
Uppsetningin er hugsuð til að lítill hópur reki hana. Docker-uppsetning með einni skipun reisir viðmótið, Angular-framhliðina, MongoDB, Redis og atburðarásina. Þaðan bendirðu á líkanaþjóna þína og hlutageymsluna þína, og vettvangurinn hegðar sér eins og hýsta útgáfan.
Komdu með þín eigin staðbundnu mállíkön
Færnibeiningu ToRun er sama hvort líkan býr hjá skýjaþjónustuaðila eða á vél með skjákorti í þínum eigin skáp. Þú skráir líkan í listann með þeirri færni sem það styður (texti, sjón, verkfæri, skipulagt úttak og svo framvegis), bendir biðlaranum á staðbundna ályktunarendapunktinn þinn, og það gengur inn í sömu beiningarrás og allt annað.
Það þýðir að þú getur keyrt líkön með opnum vogum gegnum staðbundinn þjón — sömu OpenAI-samhæfðu ályktunarendapunkta og flestir hópar í eigin hýsingu nota þegar — og látið ToRun velja á milli þeirra eftir færni og kostnaði nákvæmlega eins og það veldi milli skýjaþjónustuaðila. Verkferill getur blandað staðbundnu líkani fyrir viðkvæm þrep við skýjalíkan fyrir hin, leyfi stefna þín það. Eða þú getur haldið hverju kalli innan girðingarinnar.
Sömu hlutar, undir þínum lyklum
Eigin hýsing þýðir ekki að gefa upp traustbúnað vettvangsins. Á eigin innviðum hefurðu enn:
- Færnibeiningu með sjálfvirkri vara milli þeirra líkanaþjóna sem þú skráir.
- Eina reikningsfærslu á hvert kall — kostnaðarbókin vinnur á þeim verðum sem þú stilltir, svo þú getur enn skipt útgjöldum á hóp, ham og líkan þótt reikningurinn sé þinn.
- BYOK-hólf fyrir þá skýjaþjónustuaðila sem þú velur samt að nota, með auðkenni dulkóðuð í hvíld og úttektarslóð yfir lausn þeirra.
- Úttekt keðjaða með tætigildum fyrir aðgerðir sem krefjast sönnunar á óbreyttu efni.
- Tól fyrir gagnaréttindi samkvæmt GDPR/KVKK — aðgangur og eyðing að beiðni skráðs einstaklings keyra gegn þínum eigin gagnagrunni, svo eyðingarbeiðni er uppfyllt alfarið innan þíns eftirlitsmarks.
Leyfisveiting og uppfærslur
Útgáfan til eigin hýsingar er leyfisbundin á hverja uppsetningu með aðgangi að frumkóða, svo að öryggishópurinn þinn geti farið yfir hvað keyrir innan girðingar þinnar. Uppfærslur berast sem undirritaðar útgáfur sem þú beitir þegar þú ákveður — engin þvinguð sjálfuppfærsla ýtir breytingum inn í regluvætt umhverfi án samþykkis þíns. Fyrir hópa sem þurfa það er til samningur um vörslu frumkóða, svo að uppsetningin haldist nothæf óháð stöðu birgisins.
Fyrir hverja þetta er
Hafi mótbára þín gegn upptöku gervigreindarvettvangs alltaf verið »við megum ekki hleypa þeim gögnum út úr netinu okkar«, þá er eigin hýstur ToRun svarið. Þú færð nútímalegt gervigreindarvinnusvæði með mörgum þjónustuaðilum — spjall, sköpun, verkferla, minni, þekkingargrunna — sem keyrir gegn líkönunum þínum, á búnaðinum þínum, með þeirri sannreynanleika sem regluvörsluhópur biður raunverulega um.
Ræddu við okkur um eigin uppsetningu eða lestu kaflann um uppsetningu á staðnum undir /docs fyrir viðmiðunarbygginguna.