קופיילוט סורק מכתבים פרטיים של משתמשים תוך כדי עיוות הגנה – מיקרוסופט הכירה בכך כטעויות.

מיקרוסופט גילתה באג ב-Copilot שהופך מיילים חסויים למבצעים כלליים

לפי הודעת שירות החברה, באג ב-Microsoft 365 Copilot החל בתחילת ינואר לגרום לסייען האינטליגנציה המלאכותית לתמצת אוטומטית את תוכן דוא״לים של משתמשים. תוך כדי זה עברה על מדיניות מניעת איבוד נתונים (DLP) שהארגונים משמשים בה להגנה על מידע רגיש.

מה בדיוק קרה
* באג מספר CW1226326 נרשם ב-21 בינואר ומשפיע על פונקציית הצ'אט בלשונית העבודה של Copilot.
* כתוצאה מכך האלגוריתם קרא לא נכון את המיילים שנמצאים בתיקיות „נשלחו” ו„טיוטות“, כולל הודעות המסומנות כ־“סודיות” (הן מגבילות במיוחד גישה לכלי אוטומטיים).
* ההודעה של מיקרוסופט אומרת: *«הודעות דוא״ל של משתמשים עם תווית „סודי” מטופלות לא נכון ב-Microsoft 365 Copilot Chat»*. בה גם מדגישים שה-IA מסכמת הודעות אפילו כאשר קיימת תווית סודיות או מדיניות DLP.

איך מיקרוסופט מגיבה
* מאוחר יותר החברה אישרה כי הסיבה היא באג בקוד והתחילה לעבוד על תיקון בתחילת פברואר.
* עד אמצע השבוע הנוכחי, מיקרוסופט הודיעה שהיא ממשיכה לעקוב אחר פריסת התיקון ומתקשרת עם המשתמשים שנפגעו כדי להעריך את איכות העדכון.

מה עדיין לא ידוע
מיקרוסופט טרם ציינה מועדי תיקון מלא של הבאג ואינה גילתה את מספר המשתמשים או הארגונים שנפגעו. בדוח מצוין כי ככל שהחקירה מתקדמת, היקף הבעיה עשוי להשתנות.