עובדי אמזון משתמשים בבינה מלאכותית רק לדיווח, ולא לתוצאות אמיתיות.

איך בינה מלאכותית דינמית הופכת למדד ביצועים של עובדים

עם עליית הפופולריות של טכנולוגיות הבינה המלאכותית הדינמית (AI) חברות מבקשות מהעובדים שלהן להציג הישגים מעשיים בשימוש במערכות אלה. בתגובה ללחץ זה נוצר תופעה חדשה: העובדים משאירים לבינה מלאכותית משימות חסרות משמעות רק כדי לשפר את סטטיסטיקות השימוש שלהם.

הפיננסיאלי טיימס מתאר את המצב באמזון

במאמר של Financial Times מדובר כיצד עובדי ענק המסחר האלקטרוני משתמשים באופן הולך וגובר בפתרון התוכנה MeshClaw. הסוכן מחובר לכלי העבודה של העובדים ויכול לבצע משימות בשמם. חלק מהם מנצלים אותו לאוטומציה של פעולות כמעט חסרות ערך כדי להעלות את דירוג הביצועים האישי שלהם בתחום ה-AI.

הסיבה – הלחץ המתעצם מהבכיר: כעת יותר מ-80 % מהמתכנתים חייבים להשתמש ב-AI כל שבוע. לכל עובד יש סטטיסטיקה נפרדת, והעובדים שמאחרים מהמטרות צריכים להסביר זאת למנהלים. למרות שהמנהל רשאי באופן פורמלי לא להעריך עובדים לפי נתוני שימוש בתוקנים של AI, בחודשים האחרונים הופיעו חשדות כי זה קורה.

במציאות כזו, חלק מעובדי אמזון מתעוררים לתמריצים שקריים: הם מדמים פעילות גבוהה למען רווח אישי ולא לטובת החברה. זה חשוב במיוחד עבור ענקים טכנולוגיים שמשקיעים סכומים עצומים בתשתית AI ורוצים להראות למשקיעים ולמנהלים את התועלת האמיתית מהיישום.

איך אמזון מנהלת נתוני שימוש ב-AI

אמזון מתכננת להשקיע השנה כ-200 מיליארד דולר בהוצאות היקשרות. כדי לוודא שהטכנולוגיות מיושמות בפועל, החברה מחזקת את הבקרה על השימוש ב-AI. בתחילה פורסמה סטטיסטיקה קבוצתית של שימוש ב-AI לעובדים, אך כעת גישה לתוצאות אישיות זמינה רק למומחים עצמם ולמנהל הישיר שלהם. למנהלים אסור באופן פורמלי להשתמש במידע זה להערכת ביצועי עובדים.

המצב בחברות טכנולוגיה אחרות

Financial Times מציין כי פגיעות דומות מתרחשות גם ב-Meta Platforms. MeshClaw, שנוצר על ידי יותר מ-30 מומחי אמזון, מסוגל לטעון קוד תוכנה לגרסאות ייצור, לסנן הודעות ולתקשר עם אפליקציות כמו Slack. רבים מהעובדים מודאגים מאבטחת הפתרונות הללו: AI יכול ליצור שגיאות והבקרה על פעולותיו נשארת חלשה.

כך עולה כי הדרישות לשימוש ב-AI דינמי מובילות ליצירת מדדי ביצועים שמקבלים לפעמים את המטרה עצמה, ולא אמצעי להשגת תוצאות עסקיות אמיתיות.