ג'פרי הינטון, שנחשב לאחד מאבות הבינה המלאכותית המודרנית, העניק בימים האחרונים אזהרה חריפה נוספת בנוגע לכיוון שאליו מתפתחת הטכנולוגיה. הינטון אמר כי הערכה שלפיה קיים סיכוי של כ-10% שבינה מלאכותית תביא בסופו של דבר להכחדת האנושות היא "לא בלתי סבירה".
עם זאת, הינטון הקפיד לסייג את המספר. לדבריו, כאשר מומחים מעניקים הסתברויות מדויקות לתרחיש חסר תקדים כמו השתלטות של בינה מלאכותית, מדובר במידה רבה בהערכות אינטואיטיביות ולא בנתונים סטטיסטיים מוצקים. האנושות, הסביר, מעולם לא התמודדה עם מצב שבו היא יוצרת ישויות אינטליגנטיות שעשויות להיות חכמות ממנה באופן משמעותי.
הינטון, שעבודתו על רשתות עצביות עמוקות סייעה להניח את היסודות למהפכת ה-AI הנוכחית, מזהיר כבר מספר שנים מפני הסיכונים של הטכנולוגיה. אחד החששות המרכזיים שלו נוגע לרגע שבו מערכות בינה מלאכותית יהפכו לאינטליגנטיות בהרבה מבני האדם ויפעלו בצורה שאיננו מסוגלים לצפות או לשלוט בה.
בריאיון ל-CNN המחיש הינטון את החשש באמצעות השוואה חריפה. אם תיווצר מערכת שהפער האינטלקטואלי בינה לבין בני האדם יהיה דומה לפער שבין בני אדם לתרנגולות, לדבריו, השאלה לא תהיה כיצד נוכל לעצור אותה אם תרצה להיפטר מאיתנו, אלא כיצד נוודא מלכתחילה שהיא לא תרצה לעשות זאת.
התרחיש שמדאיג את הינטון אינו בהכרח מרד רובוטים בסגנון סרטי מדע בדיוני. הסכנות עשויות להופיע בצורות אחרות, בהן מתקפות סייבר בקנה מידה חסר תקדים, סיוע בפיתוח נשק ביולוגי או פתוגנים מסוכנים, מערכות אוטונומיות שיפעלו ללא פיקוח, ואפילו מצב שבו מערכות AI ילמדו לשפר את עצמן במהירות.
האזהרות קיבלו השבוע חיזוק מצד חוקרים נוספים בתעשיית הבינה המלאכותית. אוון הובינגר, חוקר בכיר באנתרופיק, אמר כי לדעתו קיים סיכוי של יותר מ-10% שמערכות AI מתקדמות יובילו להכחדת האנושות בתוך כעשור. במקביל, החוקר ג'ייקוב קוקסון, שעבד בעבר ב-OpenAI ובאנתרופיק, פרש מעבודתו והזהיר כי התחרות בין חברות הבינה המלאכותית עלולה לגרום להן להתקדם במהירות גדולה יותר מהיכולת לפתח מנגנוני בטיחות.
הינטון עצמו אמר בעבר כי הוא מעריך את הסיכון הקיומי מבינה מלאכותית בטווח של כ-10% עד 20%, אך מדגיש שוב ושוב שאין דרך אמינה לחשב מספר כזה. גם לוח הזמנים שמטריד אותו התקצר. בעוד שבעבר דיבר על תקופה של עשרות שנים עד שמערכות יהפכו לחכמות מאיתנו, כיום הוא אינו שולל אפשרות שהדבר יתרחש בתוך פחות מעשור.
לצד האזהרות, הינטון אינו טוען שהאסון בלתי נמנע. בשנה האחרונה הוא אף הציג רעיון שלדבריו מעניק לו מעט יותר תקווה: פיתוח מערכות AI ש"ידאגו" לבני האדם ושבהן הרצון להגן על האנושות יהיה מרכיב יסודי באופן שבו הן פועלות. לדבריו, הבעיה היא שכיום מושקעים משאבים עצומים בהפיכת המערכות לחכמות יותר, אך הרבה פחות מאמץ מוקדש לשאלה כיצד לגרום להן לפעול לטובת בני האדם.
האזהרות האחרונות מגיעות על רקע דיון הולך וגובר בקרב חוקרים ומחוקקים בשאלה כיצד לפקח על הדור הבא של מערכות הבינה המלאכותית. חוקרים בתחום קוראים לבדיקות בטיחות עצמאיות, לפיקוח ממשלתי הדוק יותר ולשיתוף פעולה בינלאומי, מתוך תפיסה כי מרוץ בלתי מבוקר בין חברות ומדינות עלול להפוך בעצמו לאחד מגורמי הסיכון הגדולים ביותר.
המסר של הינטון, אם כן, אינו שבינה מלאכותית עומדת בוודאות להשמיד את האנושות, אלא שהסיכון האפשרי גדול מכדי להתעלם ממנו. מבחינתו, אפילו הסתברות של 10% לתרחיש כה קיצוני מצדיקה השקעה משמעותית בהרבה במחקר בטיחות, רגולציה ופיתוח מערכות שניתן יהיה לשלוט בהן גם כאשר הן יהפכו לחכמות מאיתנו.
