אופנאי עיכבה למעשה את פנטגון בשימוש בבינה מלאכותית למעקב ולפעילות צבאית

אופנאי ואי־פנטגון: איך התנהלה העסקה עם AI

*אופנאי חתמה על הסכם חדש עם משרד הביטחון של ארצות הברית (פנטגון), החלפת אנתרופי, אך בתגובה לחששות הציבוריים, ראש החברה סם אלטמן אמר שה条件 הוגדרו בהתאם לעקרונות הבטיחות. למעשה המצב נראה אחרת, כך מדווח The Verge.*

1. מה שהבטיח אלטמן
- שני דרישות מפתח:
1) איסור על מעקב פנימי רחב קנה מידה;
2) אחריות אנושית לשימוש בכוח, כולל מערכות נשק אוטונומיות.

- הפנטגון הסכים "להכלול" את הפריטים הללו בחוקים ובמדיניות, ואופנאי – בהסכם.

2. מדוע יש ספק
- ברשתות החברתיות הופיעו שאלות: האם באמת הושגה התאמה לשמירה על הגבלות?
- מומחים סבורים שהפנטגון לא ניתנה דחייה מלאה. ההסכם מכיל ניסוח "כל שימוש חוקי", שמאפשר מגוון רחב של פעולות.

3. מה בדיוק נדון
צד פעולה נקודת מפתח פנטגון איסוף וניתוח נתונים גדולים על אזרחי ארה"ב לא נכנע לרצון להשתמש בנתונים בקנה מידה גדול אופנאי הגבלות על שימוש במערכת למעקב רחב קנה מידה הצהרה כי "לא ניתן לאסוף או לנתח נתוני אמריקאים בכמויות גדולות, בלתי מוגבלות"
- הצדדים סיכו בנוגע לפרשנות המונח *טכנית חוקית*.
- בארה"ב מושג זה מתרחב בהדרגה ומכיל כעת תוכניות מעקב רחב קנה מידה.
- אופנאי דחה את הפרשנות הזו.

4. מסגרת משפטית
- תקנים עיקריים:
- תיקון רביעי לחוקה;
- חוק הביטחון הלאומי (1947);
- חוק הח espionage והמעקב האסור (1978);
- צו מנהלי מספר 12333;
- הנחיות פנימיות של הפנטגון למודיעין חיצוני.
- אחרי ה-9/11, שירותי הביטחון האמריקאיים חיזקו את המעקב, בטענת שהכל במסגרת החוק.
- סנואדן (2013) חשף איסופים נרחבים של שיחות טלפון ונתונים מ-Verizon, Microsoft, Google, Apple. הצו 12333 מאפשר תקיפה נתונים מחוץ לארה"ב גם על אזרחים.

5. דווח דיאלוג
חברה עמדה Anthropic (דאריו אמודיי) החוק עדיין אינו מכסה את כל האפשרויות של AI למעקב רחב קנה מידה אופנאי (סם אלטמן) החוזה מוגבל לחוק הקיים; עם חוקים חדשים, ניסוחים יישארו כפי שהם.
- מומחים מציינים שהמילים בשימוש ("לא מוגבל", "כללי", "פתוח") לא יוצרים איסור ברור ויכולות לאפשר שימוש נרחב ב-AI במודיעין.

6. מסקנות
- הצדדים: אופנאי טוענת שמירה על עקרונות הבטיחות, אך הפנטגון שומר את הזכות למעקב רחב קנה מידה.
- החוק: ההסכם מבוסס על חוקים קיימים, אך פרשנותם עשויה לשנות את המציאות של שימוש ב-AI בהגנה.
- דיבור ציבורי: שאלות לגבי שקיפות ואחריות נותרו פתוחות.