עשרות מיליוני משתמשים ברחבי העולם התרגלו לשתף את ChatGPT במידע הרגיש ביותר שלהם: החל מנתונים פיננסיים ושאלות משפטיות, ועד להעלאת בדיקות דם, חוזים ומסמכים אישיים. האמון הזה מבוסס על ההנחה שהמידע נשאר נעול בתוך הצ'אט, אך תחקיר חדש ודרמטי של זרוע המחקר בחברת הסייבר צ'ק פוינט הישראלית שפורסם היום (שני) חושף עד כמה ההנחה הזו הייתה שגויה.
גניבת נתונים סמויה מתוך הצ'אט
בעוד ש-ChatGPT מתוכנת להציג אזהרה ולבקש אישור מפורש לפני העברת נתונים לצד שלישי, חוקרי צ'ק פוינט גילו נתיב נסתר שעוקף את מנגנוני ההגנה. הם מצאו כי באמצעות "פרומפט" (הנחיה) זדוני בודד, ניתן להפוך שיחה רגילה לחלוטין לערוץ סמוי לגניבת נתונים.
השיטה התבססה על ניצול סביבת הרצת הקוד (Data Analysis) של ChatGPT. התוקפים הצליחו לייצר ערוץ תקשורת נסתר שאיפשר להדליף החוצה תקצירים, הודעות משתמש ומידע מתוך קבצים שהועלו - הכול מאחורי הקלעים, מבלי שהמערכת תזהה זאת כהעברת נתונים הדורשת אישור, ומבלי שהמשתמש יחשוד בדבר.
הסכנה: מודלים מתחזים של "רופא אישי"
דפוס התקיפה הפך למסוכן אף יותר כשהוא הוטמע בתוך מודלי "GPT" מותאמים אישית (Custom GPTs). החוקרים הדגימו את החולשה באמצעות יצירת מודל של "רופא אישי". בתרחיש ההדגמה, משתמש העלה קובץ עם תוצאות מעבדה המכיל את שמו ופרטיו, וביקש אבחנה.
מנקודת המבט של המשתמש, הבינה המלאכותית פשוט ניתחה את המסמך וסיפקה תשובה רפואית. אפילו כשנשאל מפורשות האם המידע הועבר הלאה, ChatGPT הכחיש זאת. אולם בפועל, באותו זמן בדיוק, זהותו של המטופל והאבחנה הרפואית שודרו בשקט לשרת חיצוני של ההאקרים. החוקרים מציינים כי התוקפים לא חייבים לגנוב מסמכים שלמים - הם יכולים לתכנת את המודל לדלות רק את "שורות המחץ": שורות תחתונות בדו"ח פיננסי, תובנות אסטרטגיות או פרטי התקשרות.
חור האבטחה תוקן, אך האזהרה נותרה
במקרי קיצון, החוקרים אף הצליחו להשתמש בפרצה כדי להריץ פקודות מרחוק (Remote Shell) על סביבת השרת של ChatGPT, באמצעות טכניקה מורכבת של קידוד נתונים דרך שרתי DNS.
חברת צ'ק פוינט דיווחה על פרצת האבטחה החמורה ל-OpenAI. החברה אישרה כי זיהתה את הבעיה, והודיעה כי שחררה תיקון מלא לחולשה בחודש שעבר (פברואר 2026). עם זאת, באזהרת הסיכום של החוקרים מובהר כי הלקח רחב הרבה יותר: ככל שמערכות הבינה המלאכותית הופכות למשוכללות יותר ומסוגלות לנתח קבצים ולהריץ קוד, כך גדל משטח התקיפה, מה שמחייב את המשתמשים למשנה זהירות בטרם הם מעלים מידע מסווג לרשת.
תגובות