הגבלת תוכן
באתרי אינטרנט המאפשרים למשתמשים להגיב, הגבלת תוכן (content moderation) הוא תהליך של זיהוי תגובות שאינן רלוונטיות, דוחות, לא חוקיות, מזיקות או מעליבות ובשל כך אינן שימושיות או אינפורמטיביות. מטרת הגבלת התוכן היא להסיר או להחיל תווית אזהרה על תוכן בעייתי או לאפשר למשתמשים לחסום ולסנן תוכן בעצמם.[1]
סוגים שונים של אתרי אינטרנט מאפשרים למשתמשים ליצור תוכן מסוגים שונים כגון כתיבת הערות, השתתפות בפורומים באינטרנט, עריכת בלוגים. אתרי חדשות המאפשרים השתתפות משתמשים מופעלים באמצעות סביבות עבודה כגון phpBB, Wiki או PHP-Nuke
בהתאם לתוכן ולקהל היעד מנהלי האתר קובעים אילו תרומות משתמשים מתאימות והם מבצעים את סינון החומרים לפי קביעות אלה. לרוב הם שואפים למנוע טרולינג, ספאם או שילהוב, אם כי זה משתנה מאוד מאתר לאתר.
פלטפורמות מרכזיות משתמשות לשם כך בשילוב של כלים אלגוריתמיים, דיווח משתמשים וסריקות שנעשות בידי אנשים. אתרי מדיה חברתית מעסיקים מגבילי תוכן כדי לבדוק ידנית או להסיר תוכן שסומן כדברי שטנה או תוכן אחר מעורר התנגדות. בעיות תוכן אחרות כוללות פורנו נקמה, תמונות פוגעניות, פורנוגרפיית ילדים ותעמולה.
בדרך כלל, צורת ניטור התוכן מושפעת מהפלטפורמה בה מוצג התוכן. דוגמה בולטת לכך למשל היא ויקיפדיה - אתר שהתוכן בו מבוסס על חכמת ההמונים, ומכאן שמתן אמון במשתמש מאפשר לו לתרום לפלטפורמה. מנגד, מנגנוני האכיפה בוויקיפדיה מאפשרים זיהוי מהיר ויעיל של ניצול לרעה של האמון הניתן במשתמשי ויקיפדיה, כך שמשתמש בעל כוונה להשחתה יורחק מהאתר ובמקרים חמורים במיוחד אף יעברו פרטיו לרשויות מקומיות (מתוקף חוקי קניין כמו איסור השחתה וכיו״ב). דוגמה הפוכה עשויה להיות אינטרנט רימון, בו ניטור התוכן מתבצע טרם חיבור המשתמש לפלטפורמה, וקשה עד בלתי אפשרי לזהות פרצות במנגנון ניטור התוכן שלו, כל שכן לזהות פרצות תוך כוונה לנצלן.
הגבלה באמצעות פיקוח
עריכהמערכת הגבלה מסוג זה נראית לעיתים קרובות בפורומים באינטרנט. זו קבוצה של אנשים שנבחרת על ידי מנהלי האתר (בדרך כלל על בסיס ארוך טווח) לפעול כנציגיהם, בכדי לאכוף בשמם את חוקי הקהילה. חברים בקבוצה זו מנטרים המקבלים הרשאות מיוחדות למחוק או לערוך עריכות ואף לחסום אנשים, על סמך כתובות הדואר האלקטרוני או כתובות ה-IP שלהם, מתוך מטרה להסיר מתוך השיח תרומות שמבחינתם הן שליליות.
יותר מ-95% מפעילות הגבלת התוכן המדווחת כיום נעשית באמצעות בינה מלאכותית. בשנת 2022 היו יותר מ-15,000 עובדי הגבלת תוכן בפייסבוק[2], (רובם כלל לא היו עובדי החברה, אלא שכירים באמצעות חברות צד שלישי[3]), ביוטיוב היו 10,000 ובטוויטר כ-1,500.
הגבלת תוכן מסחרי (CCM)
עריכהמסוף שנות ה-80 ותחילת שנות ה-90, חברות טכנולוגיה החלו לבצע מיקור חוץ של מקומות עבודה למדינות זרות שיש להן כוח עבודה משכיל שנאלץ לעבוד בזול[4]. מקומות עבודה אלה לעיתים קרובות נמצאים באזורים עם שכר נמוך כמו הודו והפיליפינים. מיקור החוץ בתחום הגבלת תוכן גדל כתוצאה מהתעצמות המדיות החברתיות. עם הגידול המכריע של האתרים שמאפשרים תוכן גולשים, החברות היו זקוקות להרבה יותר עובדים בתחום הגבלת תוכן.
עובדים בתחום הגבלת תוכן קוראים, עורכים ומוחקים תוכן שלעיתים הוא מטריד עד כדי כך שחלקם סובלים בעקבות כך מנזקים נפשיים ומתסמינים דומים להפרעת דחק פוסט-טראומטית[5]. לצורך הימנעות ממצב זה יש עניין להרחיב את השימוש בבינה מלאכותית, כדי לסנן את התוכן הפוגעני והבלתי הולם ביותר.
דוגמאות להגבלת תוכן בידי המשתמשים
עריכההגבלת תוכן בידי המשתמשים מתרחשת בויקיפדיה, שבה כל המשתמשים מוזמנים לקחת חלק פעיל, לערוך, לעדכן ואף להסיר תוכן.
דוגמה אחרת היא טוויטר, שם מוזמנים המשתמשים לדווח על תוכן שאינו הולם ומפר את תקני הקהילה. כאשר משתמשים פוגשים תמונה או סרטון שלדעתם אינם מתאימים, הם יכולים ללחוץ על כפתור הדיווח. וכך להגיש תלונה לממונים בטוויטר על הגבלת התוכן.
מובילי דעה ונבחרי ציבור נוהגים לעיתים לחסום ברשתות החברתיות תגובות של אזרחים. כך הם למעשה מונעים מהאזרחים את האפשרות להתקשר, לפנות אליהם בשאלות או לבקר אותם. בגלל מרכזיות הדיונים בשיח הציבורי, פעולה זו עלולה להיחשב כפגיעה בחופש הביטוי[6].
אתר יוטיוב מאפשר למשתמשיו לייצר סינון תכנים, כדי לאפשר - למשל - להורים לפקח על התכנים שהילדים נחשפים להם[7].
ראו גם
עריכהקישורים חיצוניים
עריכה
הערות שוליים
עריכה- ^ Grygiel, Jennifer; Brown, Nina (ביוני 2019). "Are social media companies motivated to be good corporate citizens? Examination of the connection between corporate social responsibility and social media safety". Telecommunications Policy. 43 (5): 2, 3. doi:10.1016/j.telpol.2018.12.003. נבדק ב-25 במאי 2022.
{{cite journal}}: (עזרה) - ^ Digital content moderation industry expected to reach $13.60B by 2027, BRAND MINDS
- ^ Facebook content moderator who quit reportedly wrote a blistering letter citing 'stress induced insomnia' among other 'trauma', INSIDER, 15 באפריל 2021
- ^ Elliott, Vittoria; Parmar, Tekendra. ""The darkness and despair of people will get to you"". rest of world.
{{cite web}}: תחזוקה - ציטוט: url-status (link) - ^ Olivia Solon (2017-05-04). "Facebook is hiring moderators. But is the job too gruesome to handle?". The Guardian. נבדק ב-2018-09-13.
- ^ רבקי דב"ש, [www.techpolicy.org.il מסמך מדיניות: חסימת משתמשים ברשתות חברתיות על ידי נבחרי ציבור], באתר המכון הישראלי למדיניות טכנולוגיה, אוגוסט 2021
- ^ הפעלת סינון תוכן ביוטיוב, באתר איגוד האינטרנט הישראלי, 25.7.2022