Introduzione alla governance dell'intelligenza artificiale

La governance dell'intelligenza artificiale è il modo in cui l'IA viene usata dall'organizzazione in modo sicuro, conforme e controllato dai costi. In Azure Databricks, Unity AI Gateway è il piano di controllo per l'intelligenza artificiale: instrada ogni modello e richiesta MCP, applica limiti di frequenza e controlli dei costi, applica i criteri di servizio e registra l'utilizzo, in qualsiasi provider di modelli e in qualsiasi agente di codifica. Unity Catalog gestisce gli asset sottostanti (modelli, server MCP e funzioni) con gli stessi privilegi e criteri già usati per i dati, quindi non si mantiene un modello di accesso separato per l'intelligenza artificiale.

Questo vale per l'intelligenza artificiale esterna, non solo per le risorse ospitate Azure Databricks. Si governa esattamente nello stesso modo:

• Agenti di codifica esterni , ovvero Claude Code, Cursor, Codex, Interfaccia della riga di comando gemini e altri, indirizzandoli tramite un servizio di modello Databricks.
• Server MCP esterni , registrati come Servizi MCP del catalogo Unity.
• Modelli esterni, ad esempio OpenAI, Anthropic e Google, accessibili tramite Unity AI Gateway.

È possibile gestire tutto da un'unica posizione: chi può accedere a ogni asset di intelligenza artificiale, come il traffico viene instradato e controllato dai costi tramite Il gateway di intelligenza artificiale unity e il modo in cui ogni richiesta e risposta è consentita, negata o inviata per l'approvazione.

Questa guida è destinata agli amministratori dell'area di lavoro e dell'account che configurano la governance dell'intelligenza artificiale per la prima volta. Al termine, i team possono usare l'intelligenza artificiale in modo produttivo mentre Azure Databricks applica automaticamente le regole. Imposterai come:

• Controlla quali servizi di IA i team possono usare: concedi e revoca l'accesso a modelli e server MCP con gli stessi privilegi di Unity Catalog e gli stessi criteri di concessione ABAC che usi per tabelle e volumi.
• Instrada il traffico AI e controlla i costi: invia il traffico dei modelli e MCP tramite Unity AI Gateway, con limiti di frequenza e tetti di spesa con qualsiasi provider di modelli.
• Applicare i criteri di servizio alle richieste e alle risposte: allegarecriteri di servizio che consentono, negano o richiedono l'approvazione per un'interazione in base al contenuto, bloccano le informazioni personali, negano il contenuto dei criteri o inseriscno un essere umano nel ciclo, senza modificare il codice dell'applicazione.
• Monitorare l'utilizzo e i costi: tenere traccia degli elementi usati e dei costi in tabelle di utilizzo e inferenza regolate.

Per una prima vittoria pratica, passare direttamente a un'esercitazione: gestire l'accesso GitHub di un agente di codifica o moderare il contenuto di un servizio modello.

Prerequisiti

• Area di lavoro abilitata per Unity Catalog. Consulta Introduzione al Catalogo Unity.
• Accesso come amministratore dell'account per abilitare le anteprime oppure un amministratore dell'account che possa abilitarle per te.

Passaggio 1: Abilita le anteprime della governance dell'IA

Il gateway di intelligenza artificiale unity e i criteri di servizio sono in versione beta. Prima di poterli usare, un amministratore dell'account deve abilitarli dalla pagina Anteprime nella console dell'account. Vedere Gestire le anteprime di Azure Databricks.

La governance degli asset di Unity Catalog è generalmente disponibile e non richiede l'anteprima.

Passaggio 2: Gestire l'accesso agli asset di intelligenza artificiale nel catalogo unity

Unity Catalog gestisce gli asset di intelligenza artificiale come oggetti proteggibili, quindi puoi concedere e revocare l'accesso a questi asset con gli stessi privilegi e i criteri di concessione ABAC che usi per tabelle e volumi. Concentrarsi sui due asset principali di intelligenza artificiale:

• Servizi MCP: regola l'accesso ai server MCP registrati come entità a protezione diretta di Unity Catalog, con filtri degli strumenti e criteri di servizio. Vedere Servizi MCP nel catalogo unity.
• Modelli: regola l'accesso ai modelli di Machine Learning registrati, inclusi i modelli di base ospitati Azure Databricks. Vedere Gestire il ciclo di vita del modello.

Unity Catalog gestisce anche le funzioni usate dagli agenti come strumenti, con gli stessi privilegi. Per l'uso degli strumenti negli agenti, i servizi MCP offrono la governance più ricca, inclusi i criteri di filtro e di servizio degli strumenti.

Concedi solo i privilegi di cui ciascun principal ha bisogno. L'accesso a un asset di intelligenza artificiale determina cosa può raggiungere un agente che agisce per conto di un utente.

Passaggio 3: Indirizzare e controllare il traffico di intelligenza artificiale con Unity AI Gateway

Unity AI Gateway è il piano di controllo per gli agenti: instrada il traffico verso i modelli e i servizi MCP utilizzati dalla tua organizzazione, applica i controlli dei costi e registra l'utilizzo — da un unico punto, attraverso lo stesso livello di governance di Unity Catalog:

1. Esaminare il funzionamento di Unity AI Gateway e come iniziare. Vedi governance dell'IA con Unity AI Gateway.
2. Creare servizi di modello per i tuoi LLM, inclusi i modelli ospitati in Azure Databricks e quelli di provider esterni. Vedere Creare e gestire i servizi modello.
3. Indirizza il tuo agente di coding — Claude Code, Cursor, Codex, Gemini CLI e altri — verso un servizio di modelli di Azure Databricks, in modo che il relativo traffico sia governato e contabilizzato tramite Unity AI Gateway. Vedere Integrazione con gli agenti di codifica.
4. Impostare limiti di frequenza e limiti di spesa per proteggere la capacità e controllare i costi. Vedere Configurare i limiti di frequenza per i servizi di intelligenza artificiale usando Unity AI Gateway.
5. Gestire l'accesso ai server MCP registrati come Servizi MCP del catalogo Unity, con concessioni, selezione degli strumenti e criteri di servizio. Vedere Connettere gli agenti a strumenti di terze parti con i servizi MCP.

Passaggio 4: Controllare il contenuto della richiesta e della risposta con i criteri di servizio

Dopo aver gestito gli asset e il traffico, aggiungere controlli sul contenuto delle singole richieste e risposte. Collegare un criterio di servizio a un servizio modello o a un servizio MCP per consentire, negare o richiedere l'approvazione di un'interazione in base al relativo contenuto, ad esempio bloccare le informazioni personali o negare una chiamata allo strumento out-of-policy. Vedi Criteri di servizio per gli oggetti proteggibili dell'IA e Creare e allegare un criterio di servizio.

Passaggio 5: Monitorare l'utilizzo e i costi

Verificare che la governance funzioni e tenere traccia delle attività nel tempo:

• Tenere traccia dell'utilizzo del modello e del MCP, che ha chiamato cosa e quando, nelle tabelle di utilizzo regolate.
• Analizzare i costi tra modelli, entità e tag.
• Esaminare i payload di richiesta e risposta completi nelle tabelle di inferenza.

Come funziona insieme

Unity Catalog è la base per la governance dell'intelligenza artificiale su Azure Databricks: regola gli asset di intelligenza artificiale come entità a protezione diretta, allo stesso modo in cui regola i dati. Unity AI Gateway è il piano di controllo per il traffico verso tali asset e i criteri di servizio regolano il contenuto di ogni richiesta e risposta:

• Asset: ogni modello, server MCP, funzione e connessione è un oggetto proteggibile di Unity Catalog, gestito con gli stessi privilegi che utilizzi per i dati.
• Traffico: Unity AI Gateway instrada ogni servizio modello e richiesta di servizio MCP e applica limiti di frequenza, utilizzo e costi.
• Comportamento: i criteri di servizio consentono, negano o richiedono l'approvazione per singole richieste e risposte, in base al contenuto.

Pertanto, quando un agente chiama uno strumento o un modello, la richiesta viene autenticata, autorizzata in Unity Catalog e indirizzata tramite Unity AI Gateway prima di raggiungere qualsiasi sistema esterno:

Iniziare con un'esercitazione

Mettere in pratica queste funzionalità con un'esercitazione:

• Esercitazione: Gestire l'accesso MCP GitHub di un agente di codifica
• Esercitazione: Moderare il contenuto di un servizio modello con protezioni e criteri di servizio

Passaggi successivi

• Informazioni su come i criteri di servizio controllano il contenuto delle richieste e delle risposte.
• Esplora Unity AI Gateway per una governance completa dei servizi modello e MCP.