במשך שנים בנתה פייסבוק אלגוריתמים שמטרתם למקסם מעורבות והקלקה, אסטרטגיה שסייעה לחברה לגייס 2.7 מיליארדי משתמשים במשפחת היישומים שלה, הכוללת גם את אינסטגרם ומסנג'ר. אבל כיום החברה מוכנה להילחם במעשיה שלה בעבר, כדי למנוע את התפשטותם של תכנים מזיקים.
בשבועות האחרונים הודיעה פייסבוק על סדרת מאפיינים חדשים ועדכוני מוצרים, שנוגדים את ההנדסה המרכזית של המערכות שלה. השינויים הקטנים נועדו לצמצם את כמות החדשות הכוזבות ("פייק ניוז") והמידע השגוי המופץ באתריה. החברה לא תסיר לחלוטין את התוכן, אך בכוונתה להטיל משטר נוקשה על הפצתו.
לדוגמה, החברה תעדכן את אלגוריתם גלילת "פיד" התכנים של כל גולש באמצעות סקירת אתרים לא ידועים שהמאמרים שלהם זוכים לגל חשיפה פתאומי. בפייסבוק אומרים שבדיקות פנימיות העידו שדפוס כזה הוא דגל אדום למידע שגוי ולידיעות "קליקבייט". המאמרים הבעייתיים לא יוסרו, אך החשיפה אליהם תופחת.
השאלה היא אם שינויים כאלו הם אכן קטנים ושוליים, או שמא הם יפגעו בבסיס הפעילות של חברה רווחית אך כזו שהציבור מאבד את אמונו בה. אלגוריתם הפיד מתייחס למאות אלפי אותות התנהגותיים כאשר הוא קובע אילו פוסטים יקודמו, וקשה להעריך את ההשפעה של תיקון יחיד על מערכת מורכבת כזו.
החברה גם תרחיב את בדיקת העובדות בכל הנוגע לתמונות, תוסיף מאפייני פרטיות למסנג'ר, ותנקוט פעולות נוספות לגבי פוסטים, תגיות (האשטג) ותכנים או התנהגויות "גבוליות", שלא מפרות מבחינה טכנית את כללי החברה אבל יכולות להוביל לתוצאות מזיקות.
"ככל שהתוכן מתקרב לגבול הסטנדרטים של הקהילה, אנחנו רואים שהוא זוכה ליותר ויותר חשיפה", אמר הנרי סילברמן, מומחה תפעול בפייסבוק, באירוע במטה הרשת החברתית במנלו־פארק, קליפורניה. "זה מה שעומד מאחורי הפתגם העיתונאי הישן: אם זה מדמם, זה מוביל".
ייתכן שפייסבוק מצליחה להפחית את התפשטות הפייק ניוז בארה"ב: חוקרים עצמאיים מזהים ירידה בשיעור האמריקנים שביקרו באתרי חדשות כוזבות במהלך בחירות האמצע בשנה שעברה, לעומת שיעורם בבחירות לנשיאות בשנת 2016.
במסנג'ר, אחד מיישומי השיחה של פייסבוק, החברה מוסיפה סימן אימות, "וי כחול", שנועד לעזור לאנשים להבחין בין חשבונות אמיתיים ומזויפים. משתמשים יוכלו גם לקבל התרעה אם יצטרפו לשיחות ולצ'אטים בווידאו הכוללים אנשים שחסמו בעבר.
באינסטגרם החברה תסיר תוכן בעל מאפיינים מיניים ותוכן גבולי אחר מכרטיסיות Explore ו־Discover, שתי דרכים שבהן אנשים מוצאים משתמשים חדשים ופוסטים שלא חיפשו במפורש. משתמשים שמחפשים מונחים בעלי אופי מיני, אלים או לא חוקי מוצאים דף ריק.
החברה תרחיב את היקף המונחים החסומים. "יש לנו רף גבוה יותר כשאינסטגרם ממליץ על תוכן שמגיע ממשתמשים שלא בחרת לחפש או לעקוב אחריהם במפורש", אמר מנהל המוצר ויל רובן.
