Microsoft wprowadza nowe narzędzia bezpieczeństwa w pakiecie 365 E7 oraz system Project Perception, które traktują agentów AI jako potencjalne zagrożenia wewnętrzne i stale oceniają ich ryzyko. To przełomowe podejście do zarządzania bezpieczeństwem w erze autonomicznych systemów AI.
Microsoft zrobił coś przewrotnego: zaczął traktować własnych agentów AI jak podejrzanych pracowników z dostępem do firmowych tajemnic. Nowe narzędzia w pakiecie 365 E7 oraz system Project Perception nieustannie monitorują i oceniają ryzyko płynące ze strony autonomicznych systemów AI, jakby każdy bot mógł w każdej chwili "pójść na stronę wroga". To przyznanie, że era agentów AI niesie ze sobą zupełnie nową klasę zagrożeń, których sami twórcy nie potrafią jeszcze w pełni kontrolować.
Brzmi jak dojrzałe, odpowiedzialne podejście do bezpieczeństwa, ale warto zadać niewygodne pytanie: jeśli Microsoft sam nie ufa swoim agentom AI na tyle, by potrzebować specjalnych narzędzi do ich nadzorowania, to dlaczego reszta świata miałaby im ufać bezgranicznie?
To streszczenie zostało przygotowane przy pomocy narzędzi AI na
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google