Microsoft potwierdził, że w usłudze Copilot Chat doszło do nieprawidłowego przetwarzania treści e‑mail. Problem dotyczył także wiadomości oznaczonych etykietą „poufne”, które powinny być chronione przez firmowe zasady zapobiegania wyciekom danych.

Usterka pozwalała Copilotowi na odczyt i streszczanie treści bez wyraźnego uprawnienia ze strony organizacji. Według firmy działo się tak od stycznia, co oznacza kilka tygodni potencjalnego narażenia korespondencji.

Winny moduł Copilot Chat. Microsoft wdraża poprawkę

Microsoft wskazał, że błędnie przetwarzane były wersje robocze oraz wysłane wiadomości w Outlooku, gdy miały przypiętą etykietę poufności. Administratorzy mogą śledzić incydent pod numerem CW1226324 w centrum komunikatów Microsoft 365.

W praktyce oznaczało to, że Copilot Chat mógł uzyskać dostęp do treści, które powinny być wykluczone z przetwarzania przez AI. Microsoft nie informuje, by dane trafiały do treningu modelu, chodziło o nieuprawnione przetwarzanie na potrzeby czatu i tworzenia podsumowań.

Firma rozpoczęła dystrybucję łatki na początku lutego. Nie podano jednak, kiedy wszystkie środowiska Microsoft 365 otrzymają pełną naprawę. Rzecznik Microsoftu nie odpowiedział na pytania o liczbę dotkniętych klientów. Brak danych o skali utrudnia ocenę wpływu usterki na organizacje korzystające z Copilota w Wordzie, Excelu i PowerPoincie.

Parlament Europejski ogranicza wbudowane AI

Dział IT Parlamentu Europejskiego poinformował, że zablokował wbudowane funkcje AI na służbowych urządzeniach europosłów. Decyzję uzasadniono ryzykiem, że narzędzia AI mogą wynosić wrażliwe dane do chmury.

W świetle wykrytego błędu w Copilocie takie obawy zyskują na znaczeniu. Incydent pokazuje, że kontrola dostępu i etykiety poufności nie zawsze wystarczą bez poprawnie działających zabezpieczeń po stronie dostawcy.

Źródło: TechCrunch