Microsoft lansează controale noi pentru agenții AI în Microsoft 365 E7

Ce aduce nou?

Microsoft a lansat o suită de instrumente de gestionare concepute să limiteze și să monitorizeze agenții de inteligență artificială în abonamentul Microsoft 365 E7. Aceste funcționalități se integrează și cu platforma Project Perception a companiei, oferind companiilor un control mai strict asupra sistemelor software autonome.

Acest pas Limite dinamice bazate Administratori pot defini limite precise pentru fiecare agent AI. Aceste restricții stabilesc la ce surse de date și aplicații poate accesa agentul.

Cum funcționează modelul „least privilege” pentru agenții AI?

Sistemul ajustează în mod dinamic aceste limitări în funcție de nivelul de risc. Dacă comportamentul agentului declanșează indicii de risc crescut, permisiunile lui se restrânge automat. Această abordare proactivă ajută la prevenirea scurgerilor de date sau a acțiunilor neautorizate.

Hayete Gallot, vicepreședinte executiv al Microsoft Security, a explicat într-un post de blog recent că organizațiile trebuie să trateze agenții AI cu aceeași rigurozitate ca și angajații umani. Ea a subliniat că acordarea unui acces larg și necontrolat creează vulnerabilități semnificative. Noile instrumente impun un model de „least privilege” pentru operațiunile AI, asigurându-se că agenții primesc doar accesul minim necesar pentru sarcinile lor.

Integrarea cu Project Perception îmbunătățește capacitatea de monitorizare.

Cum monitorizează Project Perception agenții AI în timp real?

Platforma oferă vizibilitate în timp real asupra activităților agenților în întreaga organizație. Echipele de securitate pot urmări interacțiunile dintre agenți și diferitele active de date. Această transparență permite identificarea rapidă a anomaliilor.

Administratorii pot seta praguri care declanșează alerte imediate sau blocări automate. Sistemul învață din incidentele trecute pentru a rafina algoritmii de evaluare a riscului.

Această schimbare reflectă o tendință mai largă din industrie de a securiza sistemele autonome. Pe măsură ce capacitățile AI se extind, suprafața de atac pentru actorii răi crește. Măsurile de securitate tradiționale adesea nu țin cont de actorii non-umani. Abordarea Microsoft umple această lacună prin crearea unui plan de control dedicat AI, asigurând că agenții operează în limite de siguranță predefinite și reducând riscul de expunere accidentală sau malitioasă a datelor.

Este acest pas un pas spre securizarea sistemelor autonome?

Când sistemul detectează un risc crescut, limitele operaționale ale agentului se restrânge imediat. De exemplu, un agent poate pierde accesul la bazele de date sensibile ale clienților sau poate fi restricționat de la comunicarea cu servicii externe.

Aceste schimbări se produc automat, fără intervenție manuală. Această capacitate de reacție rapidă este esențială pentru prevenirea daunelor. Analistii de securitate pot apoi să Dacă riscul scade, permisiunile pot fi restabilite treptat, asigurând continuitatea afacerii fără a compromite securitatea.

Ce se întâmplă când riscul crește?

Ce este Project Perception? Project Perception este o platformă Microsoft concepută pentru monitorizarea și securizarea agenților AI.

Lucrează alături de Microsoft 365 E7 pentru a oferi capacități avansate de supraveghere a sistemelor autonome.

Ce întrebări frecvente există despre aceste noi funcționalități?

Cine a anunțat aceste noi instrumente de securitate? Hayete Gallot, vicepreședinte executiv al Microsoft Security, a lansat aceste instrumente, subliniind necesitatea unei guvernări stricte a agenților AI în mediile de afaceri.

Aceste instrumente se aplică tuturor produselor Microsoft? Anunțul menționează în mod specific Microsoft 365 E7 și Project Perception.

Aceste instrumente fac parte dintr-o suită specializată pentru gestionarea riscurilor agenților AI în aceste platforme.