Matrice di responsabilità - LLMaaS

Ecco il RACI della ripartizione delle responsabilità tra il cliente e Cloud Temple per l'utilizzo della piattaforma LLM as a Service (LLMaaS).

Definizione dei diversi ruoli

Ricordiamo qui i diversi ruoli del RACI :

Ruolo	Descrizione
(R) Esegue	__R__alizza il processo
(A) Approva	__A__pprova l'esecuzione del processo
(C) Consulta	__C__onsultato durante il processo
(I) Informato	__I__nformato sui risultati del processo

Definire le proprie esigenze

Attività	Ruolo Cliente	Ruolo Cloud Temple
Verificare che il servizio LLMaaS sia conforme alle esigenze dell'applicazione	RA	CI
Sottoscrivere il servizio e selezionare un livello di fatturazione	RA	I

Implementare il servizio

Attività	Ruolo Cliente	Ruolo Cloud Temple
Garantire il mantenimento in condizioni operative della piattaforma LLMaaS (API, GPU)	I	RA
Garantire il mantenimento in condizioni di sicurezza della piattaforma LLMaaS	I	RA
Gestire le chiavi di accesso API (creazione, rotazione, revoca)	RA
Sviluppare e mantenere il codice dell'applicazione client	RA

Operazioni ricorrenti

Attività	Ruolo Cliente	Ruolo Cloud Temple
Garantire la disponibilità dell'API LLMaaS	I	RA
Supervisionare il corretto funzionamento della piattaforma e dei modelli	I	RA
Gestire gli incidenti sulla piattaforma LLMaaS	I	RA
Gestire i problemi sulla piattaforma LLMaaS	I	RA
Gestire la capacità dell'infrastruttura GPU	I	RA
Gestire l'evoluzione dei modelli (aggiunta, deprecazione)	C, I	RA
Monitorare i consumi e la fatturazione	RA	I

Gestione della sicurezza

Attività	Ruolo Cliente	Ruolo Cloud Temple
Proteggere l'infrastruttura fisica e la piattaforma LLMaaS	I	RA
Gestire gli accessi e i permessi degli utenti finali dell'applicazione	RA
Proteggere i dati e i prompt inviati all'API	RA	C
Garantire la riservatezza dei dati elaborati dai modelli	R	A
Gestire la conformità dell'applicazione finale (GDPR, ecc.)	RA	I

Continuità operativa

Attività	Ruolo Cliente	Ruolo Cloud Temple
Garantire la continuità operativa della piattaforma LLMaaS	I	RA
Garantire il backup dei dati dell'applicazione cliente	RA
Mantenere il piano di continuità operativa per l'applicazione cliente	RA

Reversibilità

Attività	Ruolo Cliente	Ruolo Cloud Temple
Implementare il progetto di reversibilità (pianificazione, strumenti, obiettivi)	RA	C
Esportare i dati e il codice dell'applicazione cliente	RA
Eliminare le chiavi API e gli accessi al servizio	RA