גישה מבוקרת של AI לכלים עסקיים
צ'אט AI מבודד יכול להפיק מכתב או קורות חיים, אבל הערך העסקי שלו הופך במהירות מוגבלת בגלל חוסר הפעולה. כדי לבדוק כרטיס לקוח, למצוא חומר, לעדכן מסלול או להכין דוח, העוזר זקוק לכלי מערכת ארגוניים. יחד עם זאת, הגישה הזו היא שיוצרת את הסיכון העיקרי: המודל לא אמור לקבל יותר סמכות מהעובד, או להפוך את קריאת הנתונים באופן עצמאי לשינוי.
ב-Sapphire גישת AI בנויה כחלק מנוהל מהפלטפורמה. המודולים העסקיים הקיימים מפרסמים פעולות מוגדרות בקפדנות, ומערך AIControl המרכזי קובע אילו מהם מורשים לארגון ולקבוצות בודדות. העובד רואה רק את הסט שעומד לרשותו, והשרת בודק מחדש את המדיניות בכל שיחה. ממשק הצ'אט כאן עוזר לך לבחור כלי, אך אינו מהווה גבול אבטחה.
שלוש רמות שליטה
הרמה הראשונה היא המדריך הארגוני. המנהל מאפשר רק כלים שמוכנים לשימוש בתרחישי AI. הנוכחות של פונקציה במודול אינה אומרת שהיא הופכת לזמינה אוטומטית לדגם. זה מאפשר לך להציג AI בשלבים: התחל עם חיפוש וניתוח מאובטח, ולאחר מכן, לאחר בדיקת התהליכים, חבר את הכנת הטיוטות ורק לאחר מכן פעולות שינוי בודדות.
הרמה השנייה היא זכויות קבוצתיות. שיווק, לוגיסטיקה, עריכה ותמיכה יכולים לעבוד עם מודולים ופעילויות שונות. מתן אפשרות להשתמש בבינה מלאכותית אינה כשלעצמה פותחת את כל הפונקציות העסקיות. הסט הסופי נוצר מהמדיניות הגלובלית, זכויות הקבוצה והמצב הנוכחי של הכלי. אם זכותו של עובד נשללת, ה-AI גם מאבד את ההזדמנות המתאימה.
הרמה השלישית היא הבחירה בפגישת עבודה ספציפית. המשתמש יכול לצמצם את הסט הזמין כך שיתאים למשימה, למשל, להשאיר רק חיפוש במאגר הידע וקריאת הקטלוג. הוא אינו יכול להרחיב זכויות מעבר לגבולות שנקבעו על ידי המנהל. ניתן לתחזק את כלי השירות הנדרשים הנבחרים באופן מרכזי כדי להבטיח שתרחיש העבודה יישאר יציב.
קריאה, שינוי ופעולות קריטיות
עבור עסקים, חיוני להבחין בין אחזור מידע ושינוי מצב המערכת. כלי Sapphire מתארים את אופי הפעולה, ואינטגרציות חיצוניות מפרידות בין אזורי הקריאה, הכתיבה והמחיקה. הלקוח עשוי לבקש בנוסף אישור לפני שינויים, אך ההחלטה הסופית תמיד נשארת בצד השרת: האם החשבון, הקבוצה, ההרשאה וההיקף תקפים כרגע.
פעולות השינוי מתבצעות בגבולות המודול העסקי. המודל אינו זוכה לגישה אוניברסלית ישירה למסד הנתונים ואינו בונה פקודות שרירותיות. זה גורם לפעולה ספציפית עם פרמטרים מסומנים: יצירת רשומה, עדכון שדות מותרים, שינוי סטטוס או קבלת דוח. אם הבדיקה נכשלת או שהמודול דוחה את הפעולה, הכשל חל על שיחה זו ואינו משבית את היכולות הנותרות של העוזר.
חוזה כזה נוח לא רק לאבטחה, אלא גם לאיכות. הכלי מחזיר תוצאה מובנית כך שה-AI יכול לתקן פרמטרים לא שלמים, להציע הבהרות למפעיל, או להמשיך את המשימה בדרך בטוחה אחרת. כשלים חוזרים כפופים להגבלות כדי למנוע לולאה אינסופית של ניסיונות חוזרים, בעוד התגובה הרגילה למשתמש נשארת זמינה.
חיבורים פנימיים וחיצוניים
Sapphire תומכת בסביבת AI פנימית ובגישה חיצונית נפרדת לכלים שפורסמו במפורש. שני המסלולים משתמשים באותן הרשאות עסקיות, אך אינם מתמזגים אוטומטית. כלי שזמין לעוזר המובנה אינו הופך לחיצוני רק מעצם קיומו. המסלול החיצוני דורש פרסום נפרד ומדיניות משלו. ממשק ה-MCP החיצוני נמצא כעת בשלב developer alpha; ChatGPT היא האינטגרציה היחידה שמוצגת כאן בשלב זה כאינטגרציה מאומתת.
חיבור OAuth מתחיל בהרשאה המזערית mcp.basic ומתרחב באמצעות scope step-up כאשר הלקוח מבקש כלי נוסף. במימוש developer-alpha הנוכחי, personal bearer token מקבל מערך קבוע של scopes המוגדר בצד השרת; הביצוע בפועל מוגבל בנוסף לפי ההרשאות העדכניות של המשתמש ומדיניות המודול. בשלב זה לא מוצעת בחירה פרטנית של scopes עבור personal token. המשתמש או מנהל המערכת יכולים לעיין במידע בטוח על החיבור ולבטל אותו בלי לחשוף נתוני גישה פעילים.
גישה זו שימושית לשילוב פלטפורמה ארגונית עם לקוחות AI מאושרים, כך שהארגון לא יעניק לאפליקציה אחת גישה אוניברסלית תמידית. כל חיבור משויך לבעלים, להרשאות נוכחיות ולהיקף מוגבל. שינוי תפקיד או ביטול הרשאה עוצרים שימוש נוסף בפעולות המתאימות.
צפיות ללא חשיפה מיותרת
בביצוע משימת AI נשמר הקשר בין הבקשה, הכלי שהופעל והתוצאה שלו. זה עוזר למיין שינויים שנויים במחלוקת, להעריך את איכות האוטומציה ולשפר את הוראות העבודה. למשתמש הרגיל מוצג תיאור מאובטח של הפעילות, וטיעונים מפורטים ותוצאות טכניות זמינים רק לתפקידים עם הרשאה אישית.
נתונים המתקבלים מהכלים מטופלים כאל נתונים ולא כחוקי מערכת חדשים עבור המודל. הוראות בקרה מצוינות בפרופילים ובמדיניות מרכזיים. הפרדה זו מפחיתה את הסיכון שטקסט ממסמך חיצוני, כרטיס או דף אינטרנט ינסה לשנות את גבולות ההתנהגות שנקבעו על ידי הארגון.
תרחיש יישום
- זהו תהליכים שבהם ה-AI צריך רק למצוא מידע ולסכם אותו.
- הפעילו מערך מוגבל של כלים לקבוצת פיילוט ובדקו אותו במשימות אמיתיות.
- הוסיפו פעולות כתיבה רק כאשר בעלי התהליך וקריטריוני התוצאה מוגדרים בבירור.
- הפרידו הרשאות לפי קבוצות ואפשרו למשתמש לצמצם עוד את המערך בהפעלה מסוימת.
- נתחו בקביעות את יומן הקריאות, הסירובים ואיכות השינויים שהוכנו.
כתוצאה מכך, AI ב-Sapphire אינו פועל כרובוט מיוחס לצד המערכת הארגונית, אלא כמשתתף מבוקר אחר במערך התהליכים. הוא משתמש בזהות התקפה של העובד, בספרייה מוגבלת ובכללים ספציפיים למודול. זה מאפשר לך לקבל יתרונות מעשיים מאוטומציה ללא יכולת שליטה במסחר עבור מהירות.