אופנאי ייעד את «ראש הכשרת», שיקפיד על ביטחון האינטליגנציה המלאכותית

אופנאי קבע את מנהל החדש לבטיחות בינה מלאכותית

בשל השאלות המתמשכות לגבי שימוש בטוח בבינה מלאכותית, חברת OpenAI הכריזה על חבר חדש בצוות – דילן סקנדינארו בתפקיד *ראש הכנה* (מנהל הכנות).

מי הוא דילן סקנדינארו?
תקופה חברה תפקיד מאי 2023–פברואר 2024 אנתופיק מנהל פרויקטים לבטיחות בינה מלאכותית ספטמבר 2022–מאי 2025 DeepMind (גוגל) מומחה לנתונים סינתטיים להכשרת Gemini עד 2022 Palantir, Unity Technologies, Everyday Robots תפקידים שונים בתחום למידת מכונה ופיתוח תוכנה
סקנדינארו ידוע בכך שבמקומות העבודה הקודמים שלו עסק במשימות דומות בהפחתת סיכונים בפיתוח מודלי בינה מלאכותית.

מה משמעות המינוי החדש?
* תפקיד: מיקום מוביל בצוות הכנות – אחראי על הכנה והטמעת אמצעים שמאפשרים פיתוח מודלים חזקים ללא סכנה למשתמשים.
* תנאים: שכר $550,000 בשנה ועוד מניות של OpenAI.
* הקשר: מאז 2023 בחברה פעיל צוות הכנות שהוביל בעבר אלכסנדר מדריי, מומחה מ-MIT.

איך מנהל OpenAI רואה את המצב
מנהל הבעלים סם אלטמן ציין כי עם ההאצה בפיתוח מודלים החברה תצטרך להתמודד עם סיכונים חדשים ומורכבים יותר. הוא הדגיש:

> "נפעל על מודלים חזקים מאוד. זה ידרוש אמצעי זהירות מתאימים כדי להמשיך לספק יתרונות גדולים."

אלטמן ביטא אמון ביכולתיו של סקנדינארו:
*«הוא המועמד הטוב ביותר לתפקיד הזה מכל האנשים שפגשתי עד כה», – אמר.
הוסיף כי בזכות מנהל חדש זה הצוות יוכל להתמקד בבטיחות ארוכת טווח ו«ישן בשקט יותר».

מה מצופה מסקנדינארו?
סקנדינארו עצמו הכיר בכך שמודלי בינה מלאכותית מהירים יכולים לגרום ל"הזיקנה אקסטרימלית ואפילו בלתי הפיכה". לכן לפניו עומדת משימה:

* לפתח אסטרטגיות להפחתת סיכונים;
* להטמיע פרקטיקות אימון וביצוע בטוחות למודלים;
* לתאם את מאמצי כל צוות OpenAI בתחום זה.

סיכום
OpenAI מרחיבה את מבנה הבטיחות שלה, מושכת מומחה מניסיון מהחברות המובילות בתעשייה. המינוי החדש מדגיש את הרצון של החברה לפיתוח אחראי של בינה מלאכותית ולהתכונן לאתגרים עתידיים.