הבינה המלאכותית כעת יכולה לחשוף את יוצרי החשבונות המזויפים באינטרנט, מה שמסכן את האנונימיות ברשת.

איך בינה מלאכותית חושפת חשבונות מזויפים

רבים ברשת יוצרים פרופילים אנונימיים או מזויפים מתוך אמונה שזה מגן על זהותם. אך מחקרים חדשים מצביעים שמודלים מודרניים של בינה מלאכותית לא רק מזהים “הטעויות” הללו, אלא גם קובעים את הבעלים האמיתיים.

מי חקר את השאלה?

האוניברסיטה הטכנית הגבוהה שווייצר (ETH Zurich), תוכנית החינוך והמחקר העצמאית MATS, וכן החברה Anthropic פרסמו יחד תוצאות כקובץ PDF.

איך מודלי בינה מלאכותית פועלים?

המודלים משתמשים במספר אותות: התאמות נתונים (מקטעים קטנים ועד מערכים גדולים) ותבניות התנהגות ייחודיות. סימני אלה מאפשרים “לחשד” באותנטיות החשבון ולרוב מציאת הבעלים האמיתיים.

מספר מפתח של המחקר

למה זה חשוב?

התוצאות עשויות להשפיע לא רק על משתמשים רגילים, אלא גם על אלה שמפרסמים מידע בשמות אחרים ברשתות החברתיות. בינה מלאכותית יכולה לחשוף את שמות האקרים המפיצים נתוני עובדים של חברות, וכן אנשים שמעניקים שאלות בפורומים פתוחים. אפילו מנהלי עסקים משתמשים לפעמים בדמויות כדי לקדם עסק או להזיק למתחרים – במקרה ידוע הוא אילון מאסק. בנוסף, חשיפת זהות עלולה לסכן מתווכים, פעילים ונפגעי אלימות שזמן הא anonymity חיוני להם.

בעיות בהגנה מפני דיאנונימיזציה

המדענים ממליצים מספר צעדים:

1. להגביל גישה לנתוני משתמש דרך API בפלטפורמות.
2. לחזק מנגנוני זיהוי איסוף מידע אוטומטי.
3. לצמצם את ייצוא כמויות גדולות של נתונים.

אך החוקרים מציינים שאפילו הצעדים הללו אינם מבטיחים הגנה מלאה. בשנים הקרובות – ואולי אפילו בחודשים – יהיה קשה יותר למנוע מהבינה מלאכותית לבצע פעולות אלו.

מסקנה:

מודלי בינה מלאכותית כבר מסוגלים לזהות חשבונות מזויפים ולגלות את הבעלים האמיתיים ברוב המקרים. זה מסכן את האנונימיות לא רק של משתמשים רגילים, אלא גם של אלה שהבטחתם תלויה בסתר. חיזוק אמצעי הגנה עשוי להאט תהליך אך עדיין אינו מפסיק את התפתחות הטכנולוגיה.