מיקרוסופט מציעה פתרון לעצירת התפשטות הדיפ‑פייקים באינטרנט

מיקרוסופט משיקה סט חדש של תקנים לאימות תוכן מקוון

מיקרוסופט הכריזה על יצירת «תקני טכנולוגיה» להערכת מציאות חומרי המופיעים ברשת. המטרה היא לסייע למפתחי בינה מלאכותית ולפלטפורמות חברתיות לזהות אם תמונות או וידאו שונו באמצעות כלים דיגיטליים (למשל, דיפ-פי) וכמה מהשיטות שלהם אמינות.

איך מערכת האימות פועלת
* דוגמה עם ציור של רמברנדט

- נוצר יומן מפורט של מקור: מקומות אחסון, בעלי קודמים.

- הציור סרוק, וממזרות המברשת נוצרת חתימה מתמטית – «אצבע דיגיטלית».

- בעת הצגת האמנות במוזיאון, המבקר יכול לפתוח את הנתונים ולוודא את המקוריות.

* שיטות כבר בשימוש

מיקרוסופט חקרה 60 שילובים של טכניקות קיימות (מחיקת מטהדאטה, שינויים קטנים, מניפולציה מכוונת). לכל מודל נבנה התנהגות במצבים שונים.

חוקרים זיהו:

- שילובים אמינים – ניתן להציג לקהל הרחב.

- שילובים לא אמינים – עשויים רק להגביר את הבלבול.

מדוע זה חשוב
* חקיקה דורשת שקיפות בינה מלאכותית (למשל, «חוק השקיפות של בינה מלאכותית» בקאליפורניה).

* מיקרוסופט עדיין לא הודיעה אם תיישם תקנים אלה בשירותיה: Copilot, Azure, OpenAI ו-LinkedIn.

התקנים אינם קובעים את אמיתות התוכן; הם רק מצביעים על כך שהחומר עבר מניפולציה וממקמו. אם התחום ייקבל אותם, יצירת תוכן מטעה תהפוך למורכבת יותר.

מצב התעשייה
פעילות של מיקרוסופט: C2PA (2021) – מעקב מקור; מתפתחות כלים חדשים
Google: סימני מים לתוכן שנוצר בינה מלאכותית (מאז 2023); יישום פעיל
אך סט הכלים המלא של מיקרוסופט עשוי להישאר רק «פרויקט» אם שחקנים בשוק יראו איום על מודל העסק שלהם.

יעילות הפתרונות הקיימים
* מחקר הראה שרק 30 % מהפוסטים באינסטגרם, לינקדאין, פינטרסט, טיקטוק ויוטיוב מתויגים כיצירת בינה מלאכותית.

* פריסה מהירה של כלים לאימות מסוכנת: כשלים עשויים לפגוע באמון המשתמשים.

מנגנונים מקיפים יותר עדיפים. לדוגמה, אם תמונה אמינה עברה עריכה קטנה בבינה מלאכותית, הפלטפורמה עלולה לטעון אותה כיצור מלא בינה מלאכותית. גישה משולבת מפחיתה את הסיכון לתוצאות חיוביות שגויות.

סיכום
מיקרוסופט מציעה סט מבוקר של תקנים לזיהוי מניפולציה דיגיטלית בתוכן. הכלים הללו מיועדים להעלות שקיפות ואמון בחומר מקוון, אך הצלחתם תלויה בקבלת התחום ובאמינות האימות המשולב.