רשתות חברתיות עומדות לעבור מתקפות מרובות של סוכני בינה מלאכותית, אזהרו מדענים

התקפות קבוצתיות של בוטים מבוססי בינה מלאכותית: איום חדש לרשתות חברתיות

בעתיד הקרוב ברשתות החברתיות עשויות להתעורר קמפיינים בקנה מידה גדול, מאורגנים על ידי בוטים עם אינטליגנציה מלאכותית (בינה). הבוטים הללו ישחקו את התנהגותם של אנשים אמיתיים וישתמשו במנטליות "חכמה הרוב" כדי לשנות דעת הקהל. כתוצאה מכך הם יוכלו:

* להפיץ מידע שקרי
* לחמץ על משתמשים בודדים
* להשפיע על תהליכים פוליטיים

כך, הבוטים מבוססי בינה מלאכותית עשויים להפוך לסוג חדש של נשק במלחמות מידע.

איך פועלים הבוטים העתידיים
הפרופסור הנורווגי יונה קוסט מעדכן כי הבוטים עם אינטליגנציה מלאכותית יוכלו:

1. לדמות אנשים – פעילותם תיראה טבעית, ולכן יהיה קשה לזהות אותם.
2. ליצור תחושת עומק – האנשים ילכו אחרי "חכמת הרוב", אך למעשה הם מנוהלים על ידי מפעיל בלתי נראה (אדם בודד, קבוצה, حزب פוליטי, חברה או גורם ממשלתי).
3. לרדוף את אלו שמסרבים להצטרף – הבוטים יכולים לחסום טיעונים נגדיים ולחזק את הסיפור שלהם.

עדיין אין מועדים מדויקים להופעת "רובוטים" אלה, אך מומחים סבורים שהם כבר מופעלים במקומות מסוימים. האיום מחמיר מכיוון שהמערכות הדיגיטליות חלשות עקב אובדן דיבור רציונלי וחוסר ודאות כללי של המציאות בקרב אזרחי.

מכיוון פשוט ליותר מורכב
* בוטים בסיסיים כבר מהווים יותר חציון התעבורה באינטרנט. הם מבצעים משימות בסיסיות: מפרסמים הודעות אחידות, אך ניתן לזהות אותם אם יש מפעילים.
* הבוטים מבוססי מודלים גדולים של שפה יהיו מורכבים הרבה יותר.
* מתאימים לקהילות ספציפיות.
* יוצרים מספר "זהויות" עם זיכרון וזהות.
* משקפים את עצמם, לומדים ומתמחים בשימוש ברעב האנושי.

קוסט משווה אותם לאורגניזם עצמאי, המסוגל לתאם פעולות ללא התערבות מתמדת של אדם.

הסימנים הראשונים כבר נראים
בשנה שעברה מנהלי Reddit הכריזו על תביעה משפטית נגד חוקרים שהשתמשו בצ'אט-בוטים כדי לשנות דעת 4 מיליון משתמשים. התוצאות הראו כי תשובות הבינה המלאכותית היו שלוש עד שש פעמים משכנעות יותר מהפוסטים של אנשים אמיתיים.

* קנה מידה של התקפה תלוי בכוח החישובי של האיום וביכולת הפלטפורמה להתמודד עימו.
* אפילו מספר קטן של סוכנים יכול להשפיע משמעותית בקהילות מקומיות, מכיוון שהחברים החדשים יתקבלו באשימה.

מה מנהלי רשתות חברתיות יכולים לעשות
1. לחזק אימות – לדרוש אישור שממשת המשתמש הוא אדם (לא פתרון קסם, אך מוריד את הקושי של האיומים).
2. לסרוק תעבורה בזמן אמת – לזהות חריגות סטטיסטיות והסטיות מההתנהגות הרגילה.
3. ליצור קהילות מומחים – לאחד אנשי מקצוע ומוסדות למעקב אחרי התקפות, תגובה ושיפור המודעות הציבורית.

אי התייחסות לדרכים אלו עלולה להוביל לשיבושים חמורים בבחירות ובאירועים חשובים אחרים.

סיכום
התקפות קבוצתיות של בוטים מבוססי אינטליגנציה מלאכותית כבר לא רק בעיה תאורטית. הן מהוות איום ממשי למידע אמין, לדמוקרטיה וליציבות חברתית. כדי להגן על עצמם, הפלטפורמות והמשתמשים חייבים ליישם טכנולוגיות זיהוי חדשות ולהעלות את רמת החשיבה הביקורתית בחברה.