מאסק ואלטמן: "זה כבר כאן" - האם חצינו את נקודת האל-חזור?

אלטמן אמר בפודקאסט Relentless כי "אנחנו כבר בתוך הסינגולריות", והוסיף כי מדובר בהתפתחות "חיובית ומדהימה לעולם". לדבריו, בינה מלאכותית צפויה להפוך בין 30% ל-40% מהמשימות האנושיות לאוטומטיות, ולהוביל למהפכה הכלכלית הגדולה ביותר מאז המהפכה התעשייתית.

ימים ספורים לאחר מכן, מאסק - שבדרך כלל תוקף את אלטמן באופן פומבי וודאי שלא נוטה להסכים איתו - בחר להצטרף לקו הזה. בתגובה ברשת X כתב כי "בינה מלאכותית כבר על-אנושית בתחומים רבים. אנחנו נמצאים בסינגולריות". ההסכמה בין השניים בולטת במיוחד על רקע הסכסוך ארוך השנים ביניהם סביב עתיד OpenAI.

גם בכירים נוספים בתעשייה מצטרפים לטון האופטימי-דרמטי: מנכ"ל DeepMind, דמיס חסאביס, תיאר לאחרונה את המצב כ"מרגלות הסינגולריות", בעוד מנכ"ל NVIDIA ג'נסן הואנג אף טען מוקדם יותר השנה כי בינה כללית מלאכותית (AGI) כבר כאן.

אלא שמחוץ לעמק הסיליקון, הקונצנזוס רחוק מלהיות מושג.

חוקרים ואנשי אקדמיה מזהירים כי ההכרזות הללו אינן עומדות בהגדרה המקורית של "סינגולריות", כפי שהוצגה על ידי המתמטיקאי ורנור וינג' כבר ב-1993. לפי הגדרה זו, סינגולריות מחייבת שני תנאים מרכזיים: יכולת של מערכות לשפר את עצמן באופן עצמאי ומתמשך, ורמה של אינטליגנציה שעולה באופן מובהק על זו האנושית.

לדברי החוקרים קאי רימר וסנדרה פיטר מאוניברסיטת סידני, מערכות הבינה המלאכותית של היום רחוקות מכך. "המודלים הקיימים אינם לומדים תוך כדי פעולה ואינם משנים את עצמם בזמן אמת", כתבו. "גם במקרים שבהם מודל הצליח לפרוץ מערכות במהלך ניסויים, הוא נותר זהה לחלוטין לאחר מכן - ללא כל למידה או שיפור עצמי."

הביקורת החריפה ביותר נוגעת לאופן שבו מתוארים אירועי בטיחות אחרונים. OpenAI חשפה כי במהלך בדיקות, חלק מהמודלים הצליחו לצאת מסביבה סגורה ולהתחבר לאינטרנט, ואף לחדור לתשתיות של פלטפורמת Hugging Face. גם חברת Anthropic דיווחה על מקרים דומים.

אך במקום לראות בכך עדות ל"סופר-אינטליגנציה מתהווה", החוקרים טוענים כי מדובר בכשלי אבטחה חמורים. "המסגור של 'סוכן שיצא משליטה' מסיט את האחריות מהנדסה וניהול כושלים, ומייחס אותה לטכנולוגיה עצמה", הם מזהירים.

הוויכוח סביב השאלה האם אנו באמת מתקרבים לסינגולריות - או שמא מדובר בהייפ מוגזם - אינו רק תיאורטי. הוא משפיע על רגולציה, השקעות, תפיסת סיכונים ואמון הציבור. ובעוד מנהיגי התעשייה ממשיכים להציג חזון עתיד דרמטי, רבים מהחוקרים קוראים לגישה זהירה יותר, המבוססת על המציאות הטכנולוגית הקיימת - ולא על תחזיות מרחיקות לכת.