גדולי ההייטק: "עצרו את מירוץ הבינה מלאכותית"

גדולי ההייטק בקריאת אזהרה: "עצרו את מירוץ הבינה מלאכותית".

למעלה מ-1,100 מומחי בינה מלאכותית (AI) חתמו על עצומה לעצירת המחקר בבינה מלאכותית מתקדמת. החשש- אובדן שליטה בטכנולוגיה.

"עצרו את מירוץ הבינה מלאכותית"

אילון מאסק, מנכ"ל ומייסד 'טסלה', ההיסטוריון פרופסור יובל נח הררי וסטיב ווזניק, אחד ממייסדי 'אפל' חתומים גם הם על העצומה.
העצומה קוראת לעצור את 'מירוץ החימוש' בטכנולוגיית הבינה המלאכותית לאור החשש מפני ההשלכות הכבדות שעלולות להיות כרוכות בפיתוח שלה.

העצומה היא יוזמה של ארגון מכון עתיד החיים (Future of Life Institute) שאחת ממטרותיו היא קידום מדיניות של שימוש זהיר בטכנולוגיות בינה מלאכותית. על העצומה חתומים בין היתר מהנדסים מחברות הטכנולוגיה הגדולות בעולם כדוגמת מטא, גוגל ואמזון.

"להקפיא את המחקר במערכות הבינה"

הבינה המלאכותית כבשה את העולם והשימוש שלה נעשה בקרב ציבור נרחב, החל מסטודנטים שמשתמשים בה לכתיבת עבודות וכלה באמנים שנעזרים בה ליצירת אמנות.
הגרסאות החדשות של הבינה המלאכותית נגישות לכלל הציבור ומשמשות רבים.

מהמכתב עולה הדרישה להקפיא את המחקר במערכות הבינה המשוכללות.

התפתחותה המהירה של הטכנולוגיה העלתה איתה את השאלה, איך בעצם הבינה המלאכותית עובדת ואיך היא חושבת ומגיעה למסקנות?.

כעת, עם היכולות החדשות שמציגות הגרסאות החדשות של תוכנות הבינה המלאכותית ונגישותן לציבור הרחב, עולה חשש כבד משימוש לרעה בתוכנות מסוג זה. אחד החששות המרכזיים שמעלים חתומי העצומה היא העובדה שמערכות רבות כוח ועוצמה שהיו בעבר שמורות לגופי הממשלה בלבד, נמצאות בידיו של כל דורש וייעשה בתוכנות מסוג זה שימוש לרעה כנגד החברה, כדוגמת השימוש שעושים האקרים ותוקפי סייבר.

יש לציין, כי בשלב זה בחלק ניכר מחברות הבינה המלאכותית לא קיימת רגולציה או ועדת אתיקה שדואגת לפרמטרים של אתיקה ושמירה על בינה מלאכותית זהירה.
בתחילת החודש דווח כי חברת מייקרוסופט פיטרה כחלק מהקיצוצים בחברה את ועדת האתיקה של פרויקט הבינה המלאכותית ופעולות מסוג זה עלולות לגרום לשימוש לרעה בבינה המלאכותית.

חתומי העצומה קוראים להקמת רשויות רגולטוריות שיפקחו על טכנולוגיות הבינה המלאכותית ויבצעו מעקב צמוד על מערכות בעלות כוח מיחשוב גדול.

"שלא ניפול אל התהום"

במכתב שכתבו משתתפי העצומה נכתב: "האנושות יכולה ליהנות מעתיד משגשג בזכות בינה מלאכותית. לאחר שהצלחנו ליצור מערכות AI רבות עוצמה. בעבר, החברה האנושית ידעה לעצור פיתוח של טכנולוגיות עם פוטנציאל לגרום לאסון לחברה. אנחנו יכולים לעשות את זה גם במקרה הזה. בואו נהנה כולנו מ'קיץ של AI', כדי שלא ניפול בלי הכנה מוקדמת אל התהום",