Beveiliging en controle

Gecontroleerde AI-toegang tot bedrijfstools

Geïsoleerde AI-chat kan een brief of cv opleveren, maar de zakelijke waarde ervan wordt snel beperkt door het gebrek aan actie. Om een klantenkaart te controleren, materiaal te vinden, een route bij te werken of een rapport op te stellen, heeft de assistent bedrijfssysteemtools nodig. Tegelijkertijd is het deze toegang die het grootste risico met zich meebrengt: het model mag niet meer autoriteit krijgen dan de medewerker, of zelfstandig het uitlezen van data omzetten in een verandering.

Bij Sapphire wordt AI-toegang gebouwd als een beheerd onderdeel van het platform. Bestaande bedrijfsmodules publiceren strikt gedefinieerde bewerkingen, en de centrale AIControl-beheerlaag bepaalt welke daarvan zijn toegestaan voor de organisatie en individuele groepen. De medewerker ziet alleen de set die voor hem beschikbaar is en de server controleert bij elke oproep opnieuw het beleid. De chatinterface hier helpt u bij het kiezen van een tool, maar vormt geen beveiligingsgrens.

Drie controleniveaus

Het eerste niveau is de bedrijfsdirectory. De beheerder schakelt alleen tools in die klaar zijn voor gebruik in AI-scenario’s. De aanwezigheid van een functie in een module betekent niet dat deze automatisch beschikbaar komt voor het model. Hierdoor kunt u AI in fasen introduceren: begin met veilig zoeken en analyseren, koppel vervolgens, na het controleren van de processen, de voorbereiding van concepten en pas daarna individuele wijzigingsbewerkingen.

Het tweede niveau zijn groepsrechten. Marketing, logistiek, redactie en ondersteuning kunnen met verschillende modules en activiteiten aan de slag. Het toestaan van het gebruik van AI ontgrendelt op zichzelf niet alle bedrijfsfuncties. De laatste set wordt gevormd uit het mondiale beleid, groepsrechten en de huidige staat van de tool. Als het recht van een medewerker wordt ingetrokken, verliest de AI ook de bijbehorende kans.

Het derde niveau is de keuze in een specifieke werksessie. De gebruiker kan de beschikbare set verfijnen om bij de taak te passen, door bijvoorbeeld alleen de kennisbank te doorzoeken en de catalogus te lezen. Hij kan de rechten niet uitbreiden buiten de door de beheerder vastgestelde grenzen. Geselecteerde vereiste hulpprogramma's kunnen centraal worden onderhouden om ervoor te zorgen dat het werkscenario stabiel blijft.

Lezen, wijzigen en kritische bewerkingen

Voor bedrijven is het van cruciaal belang om onderscheid te maken tussen het ophalen van informatie en het wijzigen van de status van het systeem. Sapphire-tools beschrijven de aard van de bewerking, en externe integraties scheiden de lees-, schrijf- en verwijdergebieden. De klant kan bovendien om bevestiging vragen vóór wijzigingen, maar de uiteindelijke beslissing blijft altijd aan de serverkant: of het account, de groep, de toestemming en de reikwijdte op dit moment geldig zijn.

Wijzigingsoperaties worden uitgevoerd binnen de grenzen van de bedrijfsmodule. Het model krijgt geen directe universele toegang tot de database en construeert geen willekeurige opdrachten. Het veroorzaakt een specifieke actie met gecontroleerde parameters: een record maken, toegestane velden bijwerken, de status wijzigen of een rapport ophalen. Als de controle mislukt of de module de bewerking afwijst, is de fout van toepassing op deze oproep en worden de overige mogelijkheden van de assistent niet uitgeschakeld.

Een dergelijk contract is niet alleen handig voor de veiligheid, maar ook voor de kwaliteit. De tool retourneert een gestructureerd resultaat, zodat de AI onvolledige parameters kan corrigeren, verduidelijking aan de operator kan voorstellen of de taak op een andere veilige manier kan voortzetten. Voor terugkerende fouten gelden beperkingen om een eindeloze lus van nieuwe pogingen te voorkomen, terwijl het normale antwoord aan de gebruiker beschikbaar blijft.

Interne assistent en externe verbindingen

Sapphire ondersteunt een interne AI-omgeving en afzonderlijke externe toegang tot expliciet gepubliceerde tools. Beide gebruiken dezelfde bedrijfsrechten, maar worden niet automatisch samengevoegd. Een tool die beschikbaar is voor de ingebouwde assistent wordt niet alleen door zijn bestaan extern toegankelijk. De externe omgeving vereist afzonderlijke publicatie en eigen beleid. Externe MCP bevindt zich momenteel in de developer-alpha-fase; ChatGPT is de enige integratie die hier op dit moment als geverifieerd wordt vermeld.

Een OAuth-verbinding begint met de minimale scope mcp.basic en wordt via scope step-up uitgebreid wanneer de client een extra tool aanvraagt. Een personal bearer token krijgt in de huidige developer-alpha-implementatie een vaste, server-owned set scopes; de feitelijke uitvoering wordt daarnaast beperkt door de actuele gebruikersrechten en het beleid van de module. Een fijnmazige keuze van scopes voor een personal token wordt vooralsnog niet aangeboden. De gebruiker of beheerder kan veilige informatie over de verbinding bekijken en deze intrekken zonder actieve toegangsgegevens prijs te geven.

Deze aanpak is handig voor het integreren van een bedrijfsplatform met goedgekeurde AI-clients, zodat de organisatie niet één applicatie eeuwigdurende universele toegang verleent. Elke verbinding is gekoppeld aan een eigenaar, huidige machtigingen en een beperkt bereik. Het veranderen van een rol of het intrekken van toestemming stopt verder gebruik van de bijbehorende bewerkingen.

Waarneembaarheid zonder onnodige openbaarmaking

Bij de uitvoering van een AI-taak blijft de relatie tussen het verzoek, de aangeroepen tool en het resultaat behouden. Dit helpt om controversiële veranderingen op te lossen, de kwaliteit van de automatisering te evalueren en werkinstructies te verbeteren. De normale gebruiker krijgt een veilige beschrijving van de activiteit te zien, en gedetailleerde argumenten en technische resultaten zijn alleen beschikbaar voor rollen met individuele toestemming.

Gegevens ontvangen van de tools worden behandeld als gegevens en niet als nieuwe systeemregels voor het model. Controle-instructies worden gespecificeerd in gecentraliseerde profielen en beleid. Deze scheiding verkleint het risico dat tekst uit een extern document, kaart of webpagina zal proberen de grenzen van het gedrag te veranderen die door de organisatie zijn vastgesteld.

Implementatiescenario

Bepaal processen waarin AI uitsluitend informatie moet zoeken en samenvatten.
Schakel voor een pilotgroep een beperkte toolset in en toets deze met echte taken.
Voeg schrijfbewerkingen alleen toe wanneer proceseigenaren en resultaatcriteria duidelijk zijn.
Scheid rechten per groep en laat de gebruiker de set voor een sessie verder beperken.
Analyseer regelmatig het oproeplogboek, afwijzingen en de kwaliteit van voorbereide wijzigingen.

Als gevolg hiervan werkt AI in Sapphire niet als een bevoorrechte robot naast het bedrijfssysteem, maar als een andere gecontroleerde deelnemer in het proces. Het maakt gebruik van de geldige identiteit van de werknemer, de beperkte directory en modulespecifieke regels. Hierdoor kunt u praktische voordelen halen uit automatisering zonder dat u controle inruilt voor snelheid.