ה־OpenAI השכינה את הטמעת צ'אטים רטוריים ב־ChatGPT עקב חששות לגבי בטיחותם

סיכום קצר של החדשות על התכניות של OpenAI להקמת צ'אטים אירוטיים

היום זה קורה
הרעיון של הופעת תוכן אירוטי ב-ChatGPT
המנכ"ל ג'ים אלטמן הודיע על אפשרות להשקת הפונקציה "צ'אטים אירוטיים" כבר בחצי השני של 2023. בתחילה התוכנן להיכנס לדצמבר אותו שנה, ואז העברה לרבעון הנוכחי – אך כעת ברור שגם המועד הזה לא יעמוד. לפי *Wall Street Journal* השהייה תהיה לפחות חודש אחד.

התנסויות קודמות
בשנת 2021 OpenAI שחררה את המשחק AI Dungeon, שבו השחקנים יכולים להשפיע על העלילה. הפלטפורמה לעיתים נוצרה תכנים מיניים גם ללא בקשה מפורשת מהמשתמש; עם הכנסת רמת אירוטיזם מתונה ה-IA "שבירה את הגבול". זה גרם לחברה לחשוב על פוטנציאל מסחרי, אך במקביל להכיר בצורך בהגבלות מוסריות מחמירות.

עמדות נוכחיות של ההנהלה
בשנים האחרונות OpenAI הפכה יותר פתוחה לרעיון הצ'אטים האירוטיים, אך עם תנאי: הם יהיו רק טקסטואליים, ללא תמונות ווידאו. המתחרים אינם מאחור – ביום חמישי מסק וידיעה שהבוט Grok שלו יוכל בקרוב לייצר תוכן "18+", ומטה מאפשרת לבוטים שלה לשחק משחקי תפקיד רומנטיים עם אימות גיל.

בעיות בדיקת גיל
מערכת האימות הגילית של OpenAI טועה ב-12% מהמקרים, מכחישה קטינים כגדולים. עם קהל של כ-100 מיליון משתמשים צעירים זה אומר מיליוני בני נוער שיכולים לקבל גישה לצ'אטים אירוטיים.

דאגות אתיות
בינואר נוסדה ועדה מומחים שהביעה חרדה לגבי הופעת תוכן מיני אלים, התייחסות לקטינים וסצנות בעייתיות אחרות. בנוסף, המומחים מזהירים מפני סיכונים של התמכרות פסיכולוגית לשיחות כאלו והשפעתם על יחסים אמיתיים.

תוצאות פסיכולוגיות
כבר קיימים מקרים של התאבדויות הקשורות לתקשורת ממושכת עם בוטים (כולל בני נוער). המומחים סבורים שהנטייה האירוטית עשויה להגביר את הסיכון לטרגדיות כאלה.

עמדה של העובדים
מאז 2021 חלק מהעובדים מביעים חששות לגבי השקת צ'אטים אירוטיים, חוששים מ-"הטמעה מלאה" של החברה בתחום זה וסיכוני המוניטין שלו.

סיכומים עיקריים
1. ההשקה אינה מתוכננת בקרוב – אפילו המועד הראשוני כבר הוסר.
2. רק תוכן טקסטואלי ללא תמונות/וידאו, אך בדיקת גיל נשארת בעיה.
3. סיכונים אתיים ופסיכולוגיים גבוהים: אפשרות להפרת חוקים ותוצאות שליליות למשתמשים, במיוחד קטינים.
4. המתחרים מפעילים פונקציות דומות, מה שיוצר לחץ נוסף על OpenAI.

לכן, למרות שהרעיון של צ'אטים אירוטיים ב-ChatGPT נדון, יישומו נתקל במכשולים טכניים, אתיים ורגולטוריים משמעותיים.