השיטה שהופכת אנשים ל"בלתי נראים" למצלמות מעקב

סוורינגן, איש סייבר מקנזס סיטי וממייסדי קהילת ההאקרים SecKC, ביצע לדבריו יותר מ-31 מיליון בדיקות במהלך השנה האחרונה. הוא השתמש במודל למידת חיזוק, אשר לומד אילו דפוסים חזותיים מצליחים לבלבל מערכות ראייה ממוחשבת - ולאחר מכן משפר אותם באופן מתמשך.

לדבריו, המטרה היא ליצור מעין מנגנון "יציאה" ממערך המעקב האלגוריתמי המתרחב במרחב הציבורי. "פרטיות היא זכות יסוד", אמר סוורינגן ל-TechCrunch. "אני רוצה לאפשר לאנשים לבחור שלא להיות במעקב".

במהלך הדגמה פומבית בכנס Def Con 34 בלאס וגאס, סוורינגן כיסה מכונית טויוטה יאריס משנת 2009 בדפוס שיצר, ולדבריו הצליח למנוע ממצלמת קורא לוחיות רישוי של חברת Flock לזהות את הרכב. הוא הציג את המחקר גם בכנס Black Hat, שנערך מוקדם יותר באותו שבוע.

לפי סוורינגן, המודל שלו הצליח להטעות את כל 11 אלגוריתמי הזיהוי בקוד פתוח שנבדקו במסגרת הפרויקט. בין היתר נכללו מערכות הדומות לאלו המשמשות מצלמות לזיהוי לוחיות רישוי, מצלמות גוף של שוטרים ופלטפורמות זיהוי פנים.

ביגוד נגד מעקב צוברת תאוצה

המחקר של סוורינגן משתלב במגמה רחבה יותר של "אופנה אדוורסרית" - בגדים ואביזרים שעוצבו במיוחד כדי לבלבל מערכות ראייה ממוחשבת. מותגים כמו Cap_able ו-Urban Privacy כבר משווקים פריטי לבוש הכוללים דפוסים שעשויים לגרום לתוכנות מעקב לסווג בני אדם בטעות כבעלי חיים או כחפצים אחרים.

אולם יעילותם של פתרונות כאלה משתנה בין מצלמות, תנאי תאורה, זוויות צילום וסוגי אלגוריתמים. גם סוורינגן מכיר במגבלות: לדבריו, הדפוסים החזקים ביותר שפותחו במסגרת noRecognition אינם מפורסמים באינטרנט, כדי למנוע מחברות המעקב לאמן את מערכותיהן מחדש נגדן.

מרוץ חימוש טכנולוגי

הטכנולוגיה מעוררת שאלות מורכבות. מצד אחד, היא יכולה להעניק לאזרחים כלי להגנה מפני מעקב בלתי רצוי - למשל בהפגנות או באירועים ציבוריים שבהם אנשים חוששים שייווצר תיעוד של השתתפותם. סוורינגן סיפר כי נמנע מלהשתתף במחאה בשנה שעברה, מחשש שמצלמות יעקבו אחר המשתתפים ויזהו אותם.

מן הצד השני, אותם כלים עשויים לשמש גם עבריינים או גורמים עוינים המבקשים לחמוק מזיהוי באתרים רגישים. חברות המעקב צפויות לנסות לאמן מחדש את המודלים שלהן באמצעות דוגמאות לדפוסים המטעים, אך עדכון של מיליוני מצלמות שכבר הותקנו ברחבי העולם הוא משימה מורכבת ויקרה.

בינתיים, סוורינגן טוען כי המודל שלו ממשיך לייצר דפוסים חדשים בקצב קבוע - וכל כישלון בניסוי הופך לחומר לימוד שמאפשר למערכת להשתפר. "כל כישלון משפר את המודל שלי, ולכן הם הופכים לטובים יותר ויותר", אמר.