Kontrollitud AI juurdepääs äritööriistadele
Isoleeritud AI-vestlus võib koostada kirja või CV, kuid selle äriline väärtus muutub kiiresti tegevuse puudumise tõttu piiratuks. Kliendikaardi kontrollimiseks, materjali leidmiseks, marsruudi uuendamiseks või aruande koostamiseks vajab assistent ettevõtte süsteemi tööriistu. Samal ajal tekitab just see juurdepääs peamise riski: mudel ei tohiks saada rohkem volitusi kui töötaja ega muuta andmete lugemist iseseisvalt muudatuseks.
Sapphire'is on AI juurdepääs ehitatud platvormi hallatava osana. Olemasolevad ärimoodulid avaldavad rangelt määratletud toiminguid ja keskne AIControli juhtkiht määrab, millised neist on organisatsioonile ja üksikutele rühmadele lubatud. Töötaja näeb ainult talle saadaolevat komplekti ja server kontrollib poliitikat iga kõne puhul uuesti. Siin olev vestlusliides aitab teil tööriista valida, kuid see ei ole turvapiir.
Kolm juhtimistaset
Esimene tase on ettevõtte kataloog. Administraator lubab AI-stsenaariumide korral ainult tööriistu, mis on kasutamiseks valmis. Funktsiooni olemasolu moodulis ei tähenda, et see muutub mudelile automaatselt kättesaadavaks. See võimaldab AI-d tutvustada etapiviisiliselt: alustada turvalise otsingu ja analüüsiga, seejärel pärast protsesside kontrollimist ühendada mustandite koostamine ja alles seejärel individuaalsed muutmistoimingud.
Teine tase on rühmaõigused. Turundus, logistika, toimetus ja tugi võivad töötada erinevate moodulite ja tegevustega. AI kasutamise lubamine ei vabasta iseenesest kõiki ärifunktsioone. Lõplik komplekt moodustub globaalsest poliitikast, rühmaõigustest ja tööriista hetkeseisust. Kui töötaja õigus ära võetakse, kaotab tehisintellekt ka vastava võimaluse.
Kolmas tase on valik konkreetsel töösessioonil. Kasutaja saab olemasolevat komplekti ülesandele sobivaks kitsendada, näiteks jätta ainult teadmistebaasist otsimise ja kataloogi lugemise. Ta ei saa laiendada õigusi üle administraatori seatud piiride. Valitud vajalikke utiliite saab tsentraalselt hooldada, et tagada tööstsenaariumi stabiilsus.
Lugege, muutke ja kriitilisi toiminguid
Ettevõtete jaoks on oluline teha vahet teabe hankimisel ja süsteemi oleku muutmisel. Sapphire'i tööriistad kirjeldavad toimingu olemust ja välised integratsioonid eraldavad lugemis-, kirjutamis- ja kustutamisalad. Klient võib enne muudatuste tegemist täiendavalt küsida kinnitust, kuid lõplik otsus jääb alati serveri poolele: kas konto, grupp, luba ja ulatus on praegu kehtivad.
Muudatustoimingud tehakse ärimooduli piires. Mudel ei saa otsest universaalset juurdepääsu andmebaasile ega konstrueeri suvalisi käske. See põhjustab kontrollitud parameetritega konkreetse toimingu: loo kirje, värskenda lubatud välju, muuda olekut või hanki aruanne. Kui kontroll ebaõnnestub või moodul keeldub toimingust, rakendub tõrge sellele kõnele ja see ei keela assistendi ülejäänud võimalusi.
Selline leping on mugav mitte ainult turvalisuse, vaid ka kvaliteedi seisukohast. Tööriist tagastab struktureeritud tulemuse, et AI saaks parandada mittetäielikke parameetreid, soovitada operaatorile selgitusi või jätkata ülesannet muul ohutul viisil. Korduvatele tõrgetele kehtivad piirangud, et vältida lõputut korduskatsete tsüklit, samas kui tavapärane vastus kasutajale jääb kättesaadavaks.
Sisemine assistent ja välised ühendused
Sapphire toetab sisemist AI-keskkonda ja eraldi välist juurdepääsu selgelt avaldatud tööriistadele. Mõlemad kasutavad samu äriõigusi, kuid neid ei ühendata automaatselt. Sisseehitatud assistendile kättesaadav tööriist ei muutu pelgalt olemasolu tõttu väliseks. Väline juurdepääs nõuab eraldi avaldamist ja oma poliitikat. Väline MCP on praegu developer-alpha järgus; ainsa praegu kontrollituna kinnitatud integratsioonina nimetatakse ChatGPT-d.
OAuth-ühendus algab minimaalse õigusega mcp.basic ning selle ulatust suurendatakse scope step-up'i kaudu, kui klient taotleb lisatööriista. Praeguses developer-alpha teostuses saab personal bearer token kindlaksmääratud server-owned scope'ide komplekti; tegelikku täitmist piiravad lisaks kasutaja kehtivad õigused ja mooduli poliitika. Personal token'i scope'ide granuleeritud valikut praegu ei pakuta. Kasutaja või administraator saab vaadata ühenduse turvalisi andmeid ja selle tühistada ilma kehtivaid pääsuandmeid avaldamata.
See lähenemisviis on kasulik ettevõtte platvormi integreerimiseks heakskiidetud tehisintellekti klientidega, nii et organisatsioon ei anna ühele rakendusele pidevat universaalset juurdepääsu. Iga ühendus on seotud omaniku, praeguste lubade ja piiratud ulatusega. Rolli muutmine või loa tühistamine peatab vastavate toimingute edasise kasutamise.
Jälgimine ilma tarbetu avalikustamiseta
AI-ülesande täitmisel säilib seos päringu, käivitatud tööriista ja selle tulemuse vahel. See aitab lahendada vastuolulisi muudatusi, hinnata automatiseerimise kvaliteeti ja täiustada tööjuhendeid. Tavakasutajale näidatakse turvalist tegevuse kirjeldust ning üksikasjalikud argumendid ja tehnilised tulemused on saadaval vaid individuaalse loaga rollidele.
Tööriistadest saadud andmeid käsitletakse andmetena, mitte mudeli uute süsteemireeglitena. Juhtimisjuhised on määratletud tsentraliseeritud profiilides ja poliitikates. See eraldamine vähendab riski, et välise dokumendi, kaardi või veebilehe tekst üritab muuta organisatsiooni kehtestatud käitumise piire.
Rakendamise stsenaarium
- Määratlege protsessid, milles AI peab üksnes teavet leidma ja kokku võtma.
- Lubage pilootrühmale piiratud tööriistakomplekt ja kontrollige seda tegelike ülesannetega.
- Lisage kirjutamistoimingud ainult siis, kui protsessi omanikud ja tulemuskriteeriumid on selgelt määratud.
- Jagage õigused rühmade kaupa ja lubage kasutajal komplekti seansi jaoks veelgi kitsendada.
- Analüüsige korrapäraselt kutsete logi, keeldumisi ja ettevalmistatud muudatuste kvaliteeti.
Selle tulemusena ei tööta Sapphire'i tehisintellekt ettevõtte süsteemi kõrval privilegeeritud robotina, vaid protsessi teise kontrollitud osalejana. See kasutab töötaja kehtivat identiteeti, piiratud kataloogi ja moodulipõhiseid reegleid. See võimaldab teil saada automatiseerimisest praktilist kasu ilma kiiruse kontrollita.