הראש של יחידת האבטחה הסייבר של AI ב-Anthropic עזב את החברה, מכיר בכך שהעולם נמצא בסכנה.

מריננק שארמה עוזב את אנתרופיק: מכתב לחברים ותוכניות לעתיד

מנכ"ל מחלקה למחקר בטיחות בינה מלאכותית בחברת אנתרופיק, מריננק שארמה (Mrinank Sharma), פרסם בתחילת השבוע הודעת נפרדותו ברשת. בה הוא מסביר את סיבות עזיבתו, משתף מחשבות על הסיכונים הנוכחיים ומספר מה יעסוק בו בעתיד.

מה שנאמר במכתב
* הישגים – שארמה מציין כי "הגיע כאן לכל מה שרצה". בין הפרויקטים המוזכרים – פיתוח מנגנוני הגנה נגד ביוטירוריזם באמצעות בינה מלאכותית וחקר השפעת רשתות עצביות על החברה.

* סיבת העזיבה – המחבר הגיע למסקנה שכעת הזמן להתקדם. הוא חשבה באופן מתמיד על "הסיכון שהבינה המלאכותית, הנשק הביולוגי ורצף המשברים המקושרים יכולים להביא כרגע". לדעתו אנו מתקרבים לשער שאחרי זה החכמה צריכה לגדול בפרופורציה עם היכולת שלנו להשפיע על העולם; אחרת נתקלו בתוצאות בלתי צפויות.

* מחסומי תרבות – שארמה מדגיש כמה קשה לשמור ערכים תחת לחץ. הוא ראה זאת הן בתוך עצמו והן בחברה, שבה לעיתים צריך לוותר על משהו חשוב לטובת השפעה חיצונית, וגם בחברה כולה.

* תוכניות עתידיות – לאחר העזיבה הוא מתכוון לעבוד לפי עקרונותיו וללמוד שירה ותחומים יצירתיים נוספים.

מה קורה באנתרופיק
* כבר עזבו כמה מפתחי מובילים מהחברה, מה שמחזק את גל השינויים בצוותים.

* אנתרופיק משוחחת על גיוס השקעות נוספות. אם העסקה תסתיים בהצלחה, ערך שוק החברה עשוי לעלות עד 350 מיליארד דולר.

* בשבוע שעבר הוצא לפעולה גרסה חדשה של המודל Claude Opus 4.6. היא משפרת את הפרודוקטיביות במשרד ואת יעילות התכנות, מרחיבה את חלון ההקשר לעבודה עם מסמכים גדולים ותומכת במשימות מורכבות יותר.

היכן למצוא את המכתב
טקסט מלא של מכתב ההתפטרות של שארמה פורסם במאמר Business Insider. זה יספק מבט מעמיק על מחשבותיו והמוטיבציה שלו.