כיצד נכנס אלגוריתם צנזורה סיני ליוטיוב?

תמונה: shutterstock

בדיקה פשוטה שערכתי בחודש מאי באמצעות מספר חשבונות יוטיוב הראתה כי יוטיוב מוחקת אוטומטית תגובות לסרטונים (לא משנה איזה סרטון) שמופיעים בהם ביטויים מסוימים בסינית. אילו ביטויים? כאלו המשמשים לבקר את המפלגה הקומוניסטית הסינית (המק”ס). בכל פעם שכתבתי את “הביטוי האסור” בתגובות, נמחקה התגובה שלי בתוך שניות ספורות עד 20 שניות לכל היותר – דבר המרמז שאלגוריתם אוטומטי מוחק זאת.

אחד הביטויים שרשמתי כתגובה לסרטון, לא משנה בכלל איזה סרטון, הוא 共匪 (גונג-פֵיי בסינית) שמשמעותו “שודדים קומוניסטים”. ביטוי נוסף הוא 五毛 (וו-מָאוֹ בסינית) שמשמעותו “חמישים סנט” – ביטוי המתאר את צבא הטרולים האינטרנטי שהמשטר הסיני מפעיל כדי להפיץ את התעמולה שלו ברשת. לפי דיווחים, הטרולים הסינים מקבלים חמישים סנט עבור כל תגובה שהם רושמים, המציגה באור חיובי את המשטר. כאמור, לא משנה מאיזה חשבון יוטיוב כתבתי את זה, זה נמחק מיד.

ניסויים נוספים שערכתי הראו שיוטיוב אינה מוחקת ביטויים דומים שרושמים באנגלית ואפילו לא קללות. יוטיוב מאפשרת לקלל חופשי. אבל לכתוב “שודדים קומוניסטים” בסינית (共匪)? זה לא.

פניתי לאחד הדוברים של גוגל בארה”ב (הבעלים של יוטיוב). בתגובה הוא ביקש שאשלח לו עדויות למחיקות. כמובן סיפקתי לו את העדויות, כולל לינקים לסרטוני יוטיוב שבהן נמחקו התגובות ואפילו סרטוני וידאו המנציחים את הרגע שבו נמחקת התגובה בזמן אמת. הדובר לא חזר אליי, אבל גורם אחר בחברה, שביקש לא להזדהות בשמו, אמר לי כי גוגל אינה מכירה בכלל באופציה של מחיקה אוטומטית של תגובות. זה לא קיים אצלה. עם זאת, ידוע שיוטיוב יכולה לצנזר או למחוק תוכן, כולל תגובות, כאשר אלה אינם מתאימים למדיניות הקהילה שלה. האם מדיניות הקהילה של יוטיוב כוללת מילים בסינית? לא. למעשה היא לא כוללת רשימת מילים כלל. וכדי שיוטיוב תמחק תגובה שאינה תואמת למדיניות הקהילה שלה – משתמש כלשהו צריך להתלונן על התגובה ואז אדם ביוטיוב צריך לבדוק אותה.

בעקבות הבדיקה שביצעתי פורסם מאמר על הנושא באתר החדשות הטכנולוגיות The Verge ובאתר החדשות Business Insider ובהמשך באתר הגארדיאן ובאתרים נוספים. דובר גוגל אמר לאתרים כי הנושא בבדיקה.

בסוף מאי החלטתי לבדוק זאת שוב. הקלדתי את הביטויים, והפלא ופלא, הצנזורה המביכה ביוטיוב לפתע הופסקה. אבל השאלה הגדולה נותרה בלתי פתורה – כיצד הצליח אלגוריתם צנזורה סיני להשתחל לקוד של יוטיוב ולמחוק ביטויים בסינית המבקרים את המפלגה הקומוניסטית הסינית בתוך 20 שניות לכל היותר?

לשאלה הזו אין כרגע תשובה, אבל להלן מספר רמזים העשויים להאיר מעט על התעלומה:

1. מאז יוני 2018 גוגל משתפת פעולה עם גוף מחקר מוביל בנושא בינה מלאכותית באוניברסיטת צינג-חואה, שהיא מוסד אקדמי יוקרתי בסין. הגוף נקרא Tsinghua University Institute for Artificial Intelligence (TUIFAI) והוא מבצע מחקר בנושא בינה מלאכותית גם עבור צבא סין.

2. מאז יולי 2018 גוגל משתפת פעולה גם עם מעבדה לבינה מלאכותית באוניברסיטת פודן (Fudan) הנמצאת בשנגחאי.

3. באותה שנה הופנו חיצי ביקורת נגד גוגל לאחר שהתגלה כי היא פיתחה בחשאי אפליקציית חיפוש מצונזרת עבור השוק הסיני, כחלק מפרויקט שכונה “Dragonfly”. לפי מידע פנימי שהודלף לאתר The Intercept, האפליקציה תוכננה כדי לקשר בין היסטוריית החיפושים של המשתמש ובין מספר הטלפון הנייד שלו – דבר היכול בקלות לאפשר למשטר הסיני לטרגט אנשים. עורכי דין, פעילי זכויות אדם ואפילו עובדים בגוגל דיברו נגד הפרויקט, שככל הנראה הוקפא מאז.

4. ביולי 2019 נאם המשקיע המיליארדר פיטר תיל בוועידת הקונסרבטיבים הלאומית בוושינגטון. תיל, שבין שלל עיסוקיו גם יושב בחבר המנהלים של פייסבוק (בדירקטוריון), אמר כי צריך לחקור את גוגל על “החלטתה הבוגדנית לעבוד עם הצבא הסיני” (גוגל דחתה את הטענות שהיא עובדת עם צבא סין). בריאיון לרשת פוקס ניוז רמז תיל כי פרויקט הבינה המלאכותית של גוגל DeepMind היה נתון להשפעות זרות. “משרד הביטחון הסיני ככל הנראה הסתנן לגוגל. אני חושב שהנהלת גוגל קיבלה מעין החלטה לאפשר לתוכנה (DeepMind) לצאת (להימכר, פ”ס) מהדלת הקדמית או לחילופין לאפשר להם לגנוב אותה מהדלת האחורית”.

5. למעשה הרבה קודם לכן, בין 2006 ל-2010, הריצה גוגל גרסה מצונזרת של מנוע החיפוש שלה בסין. היא עזבה את המדינה רק לאחר שלטענתה הופעלו נגדה מתקפות סייבר מתוך סין.

6. המפלגה הקומוניסטית הסינית מפעילה את מערכת הצנזורה על האינטרנט המתקדמת בעולם. היא גם מעסיקה עשרות אלפי אנשים שמוחקים ידנית תוכן וכותבים תגובות חיוביות או שליליות על פי הנחיות המשטר.

7. מנכ”ל גוגל סונדאר פיצ’אי אמר כי החברה השקיעה בסין במשך שנים רבות והיא מתכננת להמשיך לעשות זאת.

כל זה, כמובן, מידע כללי בלבד היכול לשמש קצה חוט להמשך חקירה. כך שהתעלומה נותרה, בינתיים, בלתי פתורה. 

פיטר סוואב כותב בעיתון אפוק טיימס בניו יורק

רוצה לקבל תוכן איכותי היישר למייל שלך מדי שבוע?

הירשמו עכשיו לניוזלטר שלנו ובתור התחלה קבלו גישה לכתבה זו ולכל הכתבות באתר ל-24 שעות.

נא להכניס שם פרטי

נא להכניס שם משפחה

נא להכניס דואר אלקטרוני תקין

נא להכניס מספר טלפון תקין

הנך מאשר/ת קבלת תוכן מרחיב דעת ומעורר מחשבה ודיוור פרסומי מאת אפוק טיימס ישראל בעמ. אנו מתחייבים לא להעביר את הפרטים שלך לשום גורם אחר, ולשלוח לך רק תוכן רלוונטי.

התחברות למנויים רשומים

תודה! שלחנו לכם את סיסמת הכניסה לדואר האלקטרוני. המשך קריאה נעימה!