חברת הבינה המלאכותית אנתרופיק החלה להטמיע סימני מים בלתי נראים בטקסטים שמפיקים מודלי Claude שלה, במסגרת מאמץ להתיישר עם דרישות השקיפות החדשות של חוק הבינה המלאכותית האירופי. המהלך, שמיושם ברחבי העולם ולא רק במדינות האיחוד האירופי, עורר במהירות ביקורת מצד משתמשים - ובמקביל כבר הוביל לפיתוח כלי קוד פתוח שנועד למחוק את הסימון.
הטכנולוגיה שבה משתמשת אנתרופיק מבוססת על SynthID-Text, גישת סימון שפותחה ב-Google DeepMind. בניגוד לסימן מים גלוי, כמו לוגו על גבי תמונה, מדובר בדפוס סטטיסטי סמוי המוטמע בבחירת המילים עצמן. המערכת מזהה מצבים שבהם קיימות כמה חלופות ניסוח תקינות באותה מידה, ומטה את הבחירה לכיוון מסוים בהתאם למפתח קריפטוגרפי סודי.
כך, למשל, במקום בחירה אקראית בין מילים נרדפות או בין ניסוחים דומים, המודל עשוי לבחור באחת מהחלופות באופן שתורם לדפוס שניתן לזהות בהמשך. לטענת אנתרופיק, המשתמשים לא אמורים להבחין בשינוי, והסימון אינו פוגע באיכות הטקסט, במהירות ההפקה או בעלות השימוש במודל.
החברה מסרה כי היא מתכננת להשיק גם ממשק API לזיהוי הטקסטים המסומנים, אם כי פרטים מלאים על אופן הפעולה והזמינות של הכלי טרם פורסמו. סימני המים יחולו על מודלי Claude שהושקו לאחר 2 באוגוסט 2026 - המועד שבו נכנס לתוקף קוד השקיפות של חוק ה-AI האירופי.
למרות שהדרישה הרגולטורית מגיעה מאירופה, אנתרופיק בחרה להחיל את המנגנון בכל העולם. לפי החברה, בשלב זה אין לה דרך יציבה ואמינה להגביל את השימוש בסימון לפי אזור גיאוגרפי. המשמעות היא שגם משתמשים מחוץ לאיחוד האירופי עשויים לקבל טקסטים שנושאים את הדפוס הסמוי.
מחאות ברשת וטענות לביטולי מנויים
ההודעה על המהלך עוררה תגובות חריפות ברשתות החברתיות ובקהילות משתמשים. משתמשים אחדים ברשת X טענו כי ביטלו את מנויי Claude שלהם בעקבות ההחלטה, בעוד אחרים הביעו חשש מפגיעה בבעלות על תוכן, בפרטיות וביכולת של כותבים ועורכים להשתמש בבינה מלאכותית ככלי עבודה מבלי שהטקסט יישא מעין “חתימה” נסתרת.
בין המבקרים בלט ג'ון אניס, איש תוכן בתחום המתמטיקה והבינה המלאכותית, שפרסם צילום מסך של ביטול המנוי שלו וכינה את רעיון סימני המים “מגוחך”. לצד הביקורת, היו גם משתמשים שתמכו במהלך וטענו כי בעידן שבו הולך ונעשה קשה להבחין בין תוכן אנושי לתוכן שנוצר במכונה, דרוש מנגנון שיסייע בזיהוי ובשקיפות.
אנטרופיק, מצדה, טענה כי לא זיהתה עלייה במספר ביטולי המנויים מאז פרסום ההכרזה. עם זאת, הוויכוח סביב המהלך מדגיש את המתח הגובר בין דרישות רגולטוריות לשקיפות ובטיחות לבין הציפייה של משתמשים לשליטה מלאה בתוצרים שהם מפיקים באמצעות כלי AI.
כלי נגד תוך ימים
במקביל לביקורת, כבר הופיע כלי שנועד לעקוף את המנגנון. צ'רלס הוסקינסון, מייסד Cardano, פרסם ביום ראשון כלי קוד פתוח בשם “Anthropies” - משחק מילים על Anthropic והמילה האנגלית להרפס. הכלי, שהופץ ברישיון Apache 2.0, מעביר טקסט שנוצר ב-Claude דרך מודל שפה אחר לצורך ניסוח מחדש.
הרעיון פשוט: סימן המים נשען על דפוס סטטיסטי בבחירות הלשוניות של המודל. כאשר הטקסט עובר שכתוב מהותי, הדפוס המקורי מתפוגג. לפי אנתרופיק עצמה, עריכה קלה אינה צפויה להסיר את הסימון, אך שכתוב מלא שמחליף את כלל הניסוח והמילים עשוי לעשות זאת.
הוסקינסון הציג את הכלי כאזהרה מפני ההשלכות האפשריות של סימון תוכן בינה מלאכותית. לדבריו, משתמשים עלולים להיתקל בעתיד בשאלות משפטיות הנוגעות לבעלות, לייחוס ולשימוש חוזר בטקסטים שנוצרו בסיוע Claude. הוא גם העלה חשש מפני תוצאות חיוביות שגויות: למשל, מצב שבו עורך אנושי מזין טקסט מקורי לבדיקה לשונית קצרה, ולאחר מכן הטקסט מזוהה בטעות כתוצר של בינה מלאכותית.
נכון לעכשיו, אנתרופיק לא פרסמה תגובה פומבית לכלי החדש. החברה ציינה כי מפתחי AI גדולים נוספים חתמו על אותו קוד התנהגות אירופי וצפויים ליישם מנגנוני סימון משלהם.
