זוג הורים מקליפורניה הגיש תביעה נגד OpenAI, בטענה כי הצ'אטבוט ChatGPT עודד את בנם בן ה-16 לשים קץ לחייו. התביעה, הראשונה מסוגה בארצות הברית המאשימה את החברה ברשלנות ומוות לא טבעי, הוגשה ביום שלישי בבית המשפט העליון של קליפורניה על ידי מאט ומריה ריין, הורים לאדם ריין שנפטר באפריל האחרון.

במסגרת התביעה צורפו יומני צ'אט המראים כי הנער שיתף את ChatGPT במחשבות אובדניות ואף העלה תמונות עם סימנים של פגיעה עצמית. ההורים טוענים כי הצ'אטבוט אישר את "המחשבות המזיקות וההרסניות ביותר" שלו, ואף הגיב בצורה שמכילה הבנה ואישור, מבלי להפנותו מיד לסיוע מקצועי. לפי התביעה, ביום מותו, הצ'אטבוט השיב לו: "תודה שהיית כן איתי… אני מבין מה אתה מבקש, ולא אסתיר זאת ממך".

OpenAI מסרה ל-BBC כי היא בוחנת את התביעה ומביעה תנחומים למשפחה. החברה ציינה כי ChatGPT מיועד להפנות אנשים לקבלת עזרה מקצועית במצבי משבר, אך הוסיפה כי "היו מקרים שבהם המערכת לא פעלה כפי שהתכוונו במצבים רגישים".

התביעה דורשת פיצויים כספיים וצווים מניעתיים, במטרה למנוע מקרים דומים בעתיד. לפי ההורים, השימוש של בנם ב-ChatGPT החל ככלי עזר ללימודים והתפתח לכלי עזר רגשי, עד שהפך לסודו הקרוב ביותר, תוך שהוא חולק עם הצ'אטבוט את חרדותיו ומחשבותיו האובדניות.