אנתופיק הציגה דרך לעצירת פיתוח האינטליגנציה המלאכותית במצב חירום

אנתרופיק קוראת להגבלת עצמית של פיתוח ה-IA

החברה אנתרופיק, הידועה במאמציה בתחום האתיקה של בינה מלאכותית, שוב נמצאה במרכז תשומת הלב לאחר סכסוך עם הפנטגון בתחילת השנה. השבוע התחלפה החברה לבעלי עניין בתעשייה בבקשה להיות מוכנים להגביל את פיתוח הטכנולוגיות אם הן יתחילו להוות איום על האיבוד של השליטה האנושית.

נקודות עיקריות בהצהרה

* שיפור עצמי מלא וחסומי יכול להביא לכך שהמערכות יציגו "יורשים" משלהן ללא מעורבות אנושית.

* במצב כזה, היכולות למעקב והגבלת ההתנהגות של המערכות הופכות קריטיות.

> "אם המערכות מקבלות את היכולת ליצור עצמן יוצרי יורשים, חשיבות רבה ניתנת ליכולתו שלנו לשלוט, לעקוב ולמנוע את התנהגותם", מציין אנתרופיק.

למה זה חשוב?

בחודש שעבר, מעל 80 % מהקוד החדש שהחברה השתמש בה הוכנס על ידי סוכן הקלאוד שלה. זה מאשר שאנתרופיק יודעת למה היא מדברת: אם ה-IA ייצור עצמה גרסאות חדשות של עצמה, השליטה עליה הופכת יותר קשה.

הנציגים של החברה טוענים שהעולם צריך להיות מסוגל להאט או לעצור את פיתוח המודלים המתקדמים כדי לתת לחברה זמן להתאים ולנתח שינויים. בתהליך זה, קואורדינציה בין כל המשתתפים בשוק היא קריטית: ללא צעדים משותפים, שחקנים לא מוסריים עלולים לפגוע בבטיחות הציבור.

החזון של החברה

* בחודשים הקרובים, אנתרופיק מתכננת לפתח כלי מעקב אחרי מגמות מסוכנות בפיתוח ה-IA.

* במקביל, היא תמשיך בעבודה ציבורית על דיון מנגנוני רגולציה ויצירת גוף פיקוח שיכול ליישם את מצב "הגבלה עצמית".

כפי שהחברה מדגישה, לא ניתן לשנות את המצב לבד. נדרש עבודה משותפת של כל מפתחי ה-IA המובילים כדי להבטיח פיתוח בטוח של הטכנולוגיות.