AI-teenusepakkuja ühendamine ja mudeli registreerimine

Kolm tasandit, mida ei tohi segi ajada

Mudeli ühendamine Sapphire I.C.D.S.-iga koosneb kolmest eraldi kirjest. Teenusepakkuja kirjeldab välist teenust: selle püsivat võtit, baas-URL-i, paigaldatud adapterit ja juurdepääsusaladust. Mudel talletab teenusepakkuja mudeli identifikaatori ja selle tehnilised piirid. Profiil määrab tegeliku töökäitumise: süsteemijuhise, kontekstieelarve, vastuse mahu ja lisaparameetrid. Selline eristus võimaldab kasutada üht mudelit mitmes režiimis, ilma API-võtit dubleerimata või mudeli tegelikke piire ühe ülesande seadistustega asendamata.

Seadistamine toimub haldusjaotises AI Settings. Juurdepääs sellele peab olema antud Helixi kaudu. Enne alustamist hankige teenusepakkujalt valitud mudeli ajakohane base URL, model ID ja piirangud ning veenduge, et vastav adapter on Sapphire'i serverikeskkonda juba paigaldatud. Vormivälja tekst ei paigalda teeki iseseisvalt.

1. samm. Teenusepakkuja loomine

Avage teenusepakkujate jaotis ja looge uus kirje. Väli Vendor key peab sisaldama lühikest püsivat masinidentifikaatorit, näiteks acme_ai. Kasutage ladina väiketähti, numbreid ja alakriipsu. Ärge lisage siia domeeni, paketti, piirkonda ega mudeliversiooni: võti seob seadistused kokku ja peab tavapärased tootemuudatused üle elama.

Display name on mõeldud operaatoritele ja võib olla inimloetav. Sisestage väljale Base URL teenusepakkuja API dokumenteeritud HTTPS-baasiaadress ilma konkreetse mudeli teeta ja ilma päringustringi tokenita. Ärge kopeerige URL-i brauserikonsoolist ega lisage sellele juhuslikku lõppmarsruuti. Kui pakkuja pakub mitut ühilduvat API-t, kasutage varianti, mille jaoks adapter on paigaldatud.

Vendor key peab vastama paigaldatud teenusepakkuja variandile, mille platvormi standardlaadur tuvastab. Väli Provider library on praeguses käituskeskkonnas ühilduv fallback metadata ning mittetühja vendor key korral ei määra see tavaliselt adapterit. See ei ole failitee ega uue teegi paigaldamise mehhanism. Kui vajalik provider variant ei ole paigaldatud, edastage ülesanne juurutuse administraatorile.

Väljale Secret name jäetakse tavaliselt selle adapteri jaoks kokkulepitud saladuse nimi ning väljale Secret value sisestatakse väljastatud API-võti. Saladust ei tohi panna nimesse, URL-i, kirjeldusse, kuvatõmmisesse, piletisse ega profiili JSON-i. Pärast salvestamist näitab liides ainult saladuse olemasolu, mitte selle algset väärtust. Redigeerimisel jätke väärtuse väli tühjaks, kui võtit pole vaja muuta; uus mittetühi väärtus tähendab saladuse roteerimist. Praktiline järjekord on järgmine: looge teenusepakkuja esmalt väljalülitatuna, salvestage saladus, kontrollige ülejäänud välju ja alles seejärel lubage kirje.

2. samm. Mudeli registreerimine

Liikuge mudelite jaotisse ja valige äsja loodud teenusepakkuja. Model key peab täpselt ühtima API aktsepteeritava identifikaatoriga, kaasa arvatud sidekriipsud, punktid ja versioonisufiks. See ei ole vabalt valitav pseudonüüm. Mugava nimetuse jaoks on eraldi väli Display name.

Seejärel kandke mudeli ametlikult kaardilt üle kolm piirangut. Maximum context on kontekstiakna täielik piir. Maximum input on suurim lubatud sisend. Maximum output on genereeritava vastuse piir. Kõik väärtused sisestatakse positiivsete täisarvudena tokenites. Sisend ega väljund eraldi ei tohi olla täielikust kontekstist suurem. Ärge kasutage reklaamitud kontekstiväärtust, kui valitud API või pakett lubab vähem.

Tokenizer variant määrab tokenite hindamise viisi. Sisestage täpne toetatud variant, kui see on teada. Kui uue perekonna jaoks on praegu saadaval ainult konservatiivne hinnang, kasutage selle kokkulepitud variandinime, mitte juhuslikult mudeli nime. Väli on kohustuslik: vale tokenizer ei põhjusta üksnes kosmeetilist ebatäpsust, vaid kompaktimise hetke ja lubatud päringusuuruse vale arvutuse.

Turvaline lubamise järjekord

1. Looge teenusepakkuja õige HTTPS-URL-i ja paigaldatud adapteriga.
2. Salvestage saladus ja veenduge, et loendis kuvatakse selle olemasolu tunnus.
3. Looge mudel täpse model key ja kinnitatud piirangutega.
4. Looge sellele mudelile eraldi profiil; ilma profiilita pole tööpoliitika määratud.
5. Lubage mudel ja teenusepakkuja esmalt piiratud kontrolliks ning määrake vaikeprofiil alles seejärel.

Kontrollimiseks avage uus AI-seanss, valige loodud profiil selgesõnaliselt ja tehke lühike tööriistadeta päring, näiteks paluge tagastada üks tekstirida. Uus seanss välistab vana profiilivaliku ja kogunenud ajaloo mõju. Pärast baasvastust kontrollige voogedastust ja alles seejärel tööriistadega stsenaariume. Tööriistade kättesaadavust juhivad kataloog ja rühmaõigused, mitte teenusepakkuja või mudeli kirje.

Tüüpilised vead

• Autentimisviga: kontrollige saladuse olemasolu, kehtivusaega ja kuulumist õigesse projekti ning roteerige seda ainult vajaduse korral.
• Model not found: võrrelge model key väärtust märkhaaval API dokumentatsiooniga ja veenduge, et konto tohib mudelit kasutada.
• Vale marsruut: kontrollige base URL-i, valitud adapterit ja mudelitee puudumist baasaadressis.
• Piirangute salvestamine lükatakse tagasi: kõik kolm väärtust peavad olema positiivsed ning input ja output ei tohi ületada context väärtust.
• Mudel ei ilmu töökeskkonda: teenusepakkuja, mudel ja profiil peavad olema lubatud; profiil peab viitama samale paarile ning olema praegusele kasutajale kättesaadav.

Ärge muutke aktiivsel profiilil korraga saladust, URL-i, model key väärtust ja piiranguid. Tehke muudatusi ükshaaval ja dokumenteerige kontrolli tulemus. Mudelipõlvkonna vahetamisel on turvalisem registreerida uus mudel ja uus profiil, testida neid eraldi ning seejärel vahetada vaikeprofiili. Nii säilib arusaadav tagasipöördumistee ilma olemasolevate kirjete tähendust muutmata.

Vastuvõtmine ja hooldus

Pärast edukat minimaalset päringut dokumenteerige töödokumentatsioonis vendor key, model key, profiili otstarve, piirangute allikas ja kontrollimise kuupäev. Saladust ennast ärge talletage. Kontrollige eraldi käitumist ajutiselt välja lülitatud teenusepakkujaga: kasutaja peab saama selge vea, mitte jääma lõputult ootama. Kui teenusel on mitu piirkonda või paketipõhist marsruuti, vormistage need teadlike seadistustena, mitte ärge muutke base URL-i diagnostika ajal.

Vaadake piirangud korrapäraselt üle teenusepakkuja ajakohase dokumentatsiooni põhjal. Mudeli ärinime muutus ei tähenda alati uut API-identifikaatorit ning uus identifikaator ei taga sama tokenizer variant väärtust. Iga selline muudatus läbib sama tsükli: eraldi kirje, profiil, testseanss, vastuse kontroll ja alles seejärel kasutajate ümberlülitamine.