אנתופיק סירבה לבקשת הפנטגון לשימוש צבאי בלתי מותנה ב‑AI, גם כשיש אזהרות

מצב:

החברה Anthropic סירבה להעניק למשרד הביטחון האמריקאי (MoD) גישה בלתי מוגבלת למודלי ה-IA שלה, למרות איומי אובדן חוזה בסך 200 מיליון דולר.

קשר:

במהלך פגישה בבית הלבן, שר הביטחון פיט אג'סאט נתן ל-Anthropic עד סוף יום העבודה של שישי לחשוב על ההצעה, אך כבר ביום חמישי החברה הודיעה על סירובה.

עמדות הצדדים:

- MoD דורש גישה מלאה לטכנולוגיות ה-IA לשימוש חופשי במטרות צבאיות.
- שחקנים גדולים אחרים (OpenAI, Google, xAI של מאסק) הסכימו לאפשר ל-Pentagon להשתמש במערכות שלהם «לכל מטרות חוקיות» ברשתות שאינן סודיות ועובדים על הסכמים לרשתות סודיות.

תגובה של Anthropic:

בצהרתו של המנכ"ל דאריו אמודאי (Dario Amodei) הדגיש כי החברה משתפת פעולה באופן פעיל עם מבנים צבאיים ומאמינה בחשיבות האקזיסטנציאלית של ה-IA להגנה על ארצות הברית. אך היא מעולם לא התנגדו לפעולות צבאיות ספציפיות ומאמינה שה-IA עשוי להפר ערכים דמוקרטיים רק במקרים מאוד מוגבלים.

אמודאי הדגיש שתי «קו אדום»:

1) חוסר בקרה מרחבית על אזרחי ארצות הברית;
2) איסור פיתוח נשק אוטונומי קטלני (או כל נשק שיכול להשמיד מטרות ללא שליטה אנושית).

החברה עדיין לא מוכנה לשימוש במערכות אוטונומיות מלאות.

תוצאות אפשריות:

ה-Pentagon כבר פנה לחברות הגנתיות גדולות לבקש הערכת התלות במודל Claude. אם MoD יראה את Anthropic כ«איום על שרשרת האספקה», זה עשוי להוביל לסיווג החברה כאיום לאומי, דבר שמחולל בדרך כלל חברות סיניות ורוסיות.

ה-Pentagon הודיעו שהם מוכנים לבקש אישור מכל הספקים והקבלנים שלא משתמשים במודלים «אנטרופיים». במקרה של דחיית שירותי Anthropic, החברה מוכנה להבטיח מעבר חלק למ供应 אחר ללא הפרעות בפעולות צבאיות.

צעדים חוקתיים:

ה-Pentagon בוחן יישום חוק הייצור הצבאי משנת 1950, המאפשר לרשות הפדרלית להתערב בפעילות חברות פרטיות כדי לעמוד בדרישות MoD.

מסר מפתח של Anthropic:

האיום מצד משרד הביטחון אינו משנה את עמדת החברה: הם לא יכולים להעניק באופן מוסרי גישה מלאה. במקרה של סירוב לשיתוף, Anthropic מוכנה לתמוך במעבר חלק ולהמשיך לספק את המודלים בתנאים מוסכמים.

סיכום:

Anthropic נשארת מחויבת לעקרונות הפרטיות וההגבלות בשימוש צבאי ב-IA, למרות הסיכון לאובדן חוזה משמעותי. משרד הביטחון, מצד שני, שואף לקבל גישה מלאה לטכנולוגיות מתקדמות מכל ספקים מרכזיים. אפשרויות הפתרון כוללות התערבות ממשלתית פדרלית או מעבר לספקים חלופיים.