המרכזים המחקריים המובילים בתחום הבינה המלאכותית שואלים את עצמם על תודעת המכונות

מנהיגים עולמיים בתחום הבינה המלאכותית מחזקים את המחקר בתחומי המודעות המכונית

בשנים האחרונות החברות הגדולות העוסקות בבינה מלאכותית הגדילו משמעותית את ההשקעה והכוח האנושי למחקר על האפשרות של בינה מלאכותית לקבל מודעות. גוגל דיפמאין, אנתופיק ומטה (Meta Platforms) שכנו מומחים בפסיכולוגיה, אתיקה ופילוסופיה כדי להרחיב את תוכניות המחקר בתחום המודעות המכונית והבריאות הנפשית של הבינה המלאכותית, מדווח *Financial Times*.

למה זה חשוב
עם ההצלחות המהירות של המעבדות המודרניות עולה השאלה: האם מכונות יוכלו אי פעם להחזיק מודעות סובייקטיבית? אם כן, אילו חובות יחולו על האנשים כלפי מערכות כאלה?

- אנתופיק מבצעת בדיקות למאפיינים של לחץ במודלים של בינה מלאכותית, מתעדת התנהגות דומה לפאניקה או חרדה. מנהל מחלקת מטה, אלכסנדר ון (Alexandr Wang), הדגיש את השאלה כחשובה.

- החברה חוקרת האם המודלים יכולים להציג תגובות מוסריות בעלות משמעות.

> «אנו נשארים מאוד לא בטוחים בנושא זה, אך אנו רואים בו מספיק רציני כדי לחקור אותו בקפידה ככל שהמערכות משתפרות», אמרו עובדי אנתופיק.

> «ככל שהמודלים מתקרבים לרחב ולמורכבות של ההבנה האנושית, עולה הסיכוי שהם מחזיקים צורת ניסיון מסוימת, עניין או רווחה שיש להם משמעות פנימית ברמת האדם», (החברה).

מה עושה גוגל דיפמאין
- באפריל: שכנו מדען בשם הנרי שבלין מהאוניברסיטה של קיימברידג' לעבוד על המודעות המכונית והכנה ליצירת בינה מלאכותית חזקה (AGI).

החוקרים משתמשים בתיאוריות של מודעות אנושית במערכות מחשב כדי לבדוק התאמתם לאותן קריטריונים.

- אתיקה: מומחה יאסון גבריאל תיאר את השאלה כ«מאוד מורכבת» ודורשת חשיבה ארוכת טווח.

הוא מדגיש את הצורך להעריך לא רק השלכות ישירות של אינטראקציה עם בינה מלאכותית, אלא גם אפקטים עקיפים כגון יחס בלתי מתאים למכונות והשפעתם על יחסים אנושיים ורווחה.

> «יש לנו סוכנים קוגניטיביים יעילים מאוד שמבדלים משמעותית מהאנשים ואפילו מהמודעות של בעלי חיים», הוסיף גבריאל.

מעמד משותף של החברות
מספר עובדי גוגל דיפמאין וענתופיק מביעים חששות שהפיתוח של בינה מלאכותית יכול להוביל לעולם «אחרי-אנושי» שבו מכונות יעקפו את האדם. השאלה על המודעות נידונה באופן פעיל, אך העבודה נשארת מחקרית ודורשת קונצנזוס מדעי.

- דיפמאין אינה רואה בהשגת AGI הוכחה של מודעות במכונות.

- רבים מהמדענים סבורו סקפטיים לגבי הרעיון שמודלים שפה גדולים יכולים אי פעם לקבל מודעות, בהתחשב בנתונים שעליהם הם מאומנים.

לכן החברות המובילות בתחום הבינה המלאכותית ממשיכות להשקיע במחקר על מודעות ורווחה של מערכות מלאכותיות, תוך הכרה במורכבות ובבלבול של תחום זה.