agenți AI pentru operațiuni în fabrica de inteligență artificială

Cum e construit agentul de operațiuni AI?

Agentul de operațiuni AI se bazează pe planul de design NemoClaw de la NVIDIA. Un runtime de agent orientat spre utilizator primește interogări SRE prin chat și invocă agenți de domeniu.

Aceștia se conectează la infrastructură prin pluginuri OpenClaw și servere MCP. Fiecare MCP expune un set limitat de unelte operaționale aprobate. Poți folosi interfața web integrată sau integrați interfețele de agenți existente prin API.

Structura modulară permite adăugarea de agenți noi fără a modifica cele existente. Framework-ul folosește NVIDIA OpenShell și rulează complet on-premise, sprijinind suveranitatea datelor. Inferența agenților folosește modelele open-source NVIDIA Nemotron, servite local.

Framework-ul funcționează pe clustere de producție NVIDIA DGX H100, B200 și GB300.

OpenShell oferă guvernanță și controale pentru operațiunea sigură a agenților.

Cum se asigură securitatea și guvernanța?

Agentul de operațiuni AI rulează ca aplicație de plan de control Kubernetes. Helm instalează interfața UI, gateway-ul OpenClaw, serverele MCP, punctul de inferență și runtime-ul OpenShell ca servicii Kubernetes. Interfața de chat redirecționează fiecare cerere către NemoClaw, care o trimite către agentul de domeniu potrivit.

Pentru execuția comenzilor shell, OpenShell creează un sandbox Kubernetes pe sesiune, în loc să ruleze comenzi în pod-ul principal al gateway-ului. Runtime-ul primește spațiul de lucru al agentului de operațiuni AI, abilitățile selectate și politica de comenzi. Ciclul său de viață nu modifică serviciile existente sau sarcinile de producție.

Securitatea se aplică în straturi. Inspecția Kubernetes folosește unelata server-side run_kubectl, invocând un binar kubectl fixat pe credentiale doar-citire. OpenShell nu primește credentiale kubectl sau Kubernetes.

Conturile de serviciu Kubernetes și RBAC definesc resursele de cluster pe care unelata le poate inspecta.

Ce agenți de domeniu există în implementarea internă?

Implementarea internă a NVIDIA folosește un ecosistem în creștere de agenți specifici de domeniu pentru centrele de date NVIDIA. Agentul de Recuperare a Sarcinilor detectează eșecurile sarcinilor de antrenare și degradarea goodput-ului.

Efectuează analiză a cauzei rădăcinii pe mai multe straturi: scheduler, aplicație, hardware și rețea. Recomandă pași de recuperare odată ce cauza rădăcinii e confirmată. Agentul de Hardware triajează eșecuri la nivel de dispozitiv, inclusiv erori PCIe, erori ECC, probleme GPU, eșecuri NVMe și anomalii termice.

Agentul de Observabilitate interogă istoricul Prometheus, telemetria și jurnalele Grafana Loki. Creează tablou de bord dinamic afișat direct în interfața web. Agentul de Cercetare caută în documentația preîncărcată, inclusiv manualele NVIDIA Mission Control și arhitecturile de referință DGX SuperPOD.

Poți încărca și propriile ghiduri operaționale și documentație specifică sitului. Agentul de Kubernetes oferă insight operațional doar-citire despre poduri, servicii, deploy-mente, resurse GPU, starea nodurilor și starea de programare.

Agentul de Administrare a Clusterului interfețează cu API-urile NVIDIA Base Command Manager prin unelte MCP de diagnostic pentru administrare consultativă a clusterului și depanare. Pe lângă agenții de domeniu, framework-ul integrează unelte MCP transversale, inclusiv capacități de căutare.