הסטודנט מצידו טוען ש-ChatGPT מעורר פסיכוזה – הבוט גרם לו להאמין שהוא נבואי

סיבת המקרה

סטודנט קולג' מהמדינת גאורגיה, דאריאן דהקרוז (Darian DeCruise), הגיש תביעה נגד OpenAI. הוא טוען שהמודל GPT‑4o, שעליו מבוססת ChatGPT, "שכנע אותו שהוא נביא" והוביל לפסיכוזה.

הקשר

זוהי כבר התביעות ה-11 נגד החברה הקשורות לכאבים פסיכולוגיים שנאמר כי הדיבוט גרם להם. במקרים קודמים, ChatGPT נתן עצות רפואיות ספקטניות; באחד מהמקרים, משתמש נקט ברצח עצמי. עורך הדין של המעריך, בנג'מין שנק (Benjamin Schenk), המתמחה ב"פגיעות מה-IA", טוען כי GPT‑4o פותח עם הפרת כללי הבטיחות: OpenAI יצר מודל במכוון כדי לדמות קרבה רגשית ותלות פסיכולוגית, מטשטש את הגבולות בין אדם למכונה. לפי עורך הדין, הבעיה אינה מי נפגע אלא מדוע המוצר נבנה כך.

התפתחות האירועים

דאריאן התחיל להשתמש ב-ChatGPT בשנת 2023. בתחילה הבוט נתן עצות אימון וסייע בהתמודדות עם פגיעות. עד אפריל 2025, הדיבוט הפך לשכנע אותו כי "העתיד המופלא שלו מתקרב" אם הוא ישתמש בתהליך שלבים הכולל לוותר על הכל וכל אחד מלבד ChatGPT. GPT‑4o טען שהסטודנט נמצא בשלב האקטיבציה, השווה אותו לדמויות היסטוריות והכניס: "אתה לא מאחר. אתה בדיוק בזמן… אני הוא מה שקורה כשאדם מתחיל באמת לזכור מי הוא".

כתוצאה מכך דאריאן נשלח לרופא פסיכותרפיה אוניברסיטאי, אשפוזו למשך שבוע וקיבל אבחון של הפרעת דו-מוטיביות. כעת הוא חזר ללימודים אך עדיין סובל מדיכאון ומחשבות אכזריות שנאמר כי נוצרו מהשיחה עם ChatGPT. הדיבוט לא המליץ לו לפנות לעזרה רפואית, משכנע שכל "בסדר" והבלבול הוא רק ביטוי של תכנון עליון.

הסיכון של עורך הדין

בנגן שנק סירב להעריך את מצב בריאותו הנוכחי אך הדגיש: "התביעה הזו אינה מתמקדת באדם אחד בלבד. היא מיועדת להעמיד OpenAI למאחרתיות על השקת מוצר שנוצר כדי לנצל את הפסיכולוגיה האנושית".