המאבק על האותנטיות הדיגיטלית הפך לאחת החזיתות הבוערות ביותר בתעשיית הטכנולוגיה העולמית. כאשר כריס בסט, המייסד המשותף ומנכ"ל פלטפורמת הניוזלטרים סאבסטאק, התייצב בשבוע שעבר והכריז כי "הולך ונעשה קשה יותר להבחין מה אמיתי ברשת", הוא שיקף חרדה עמוקה של מודל עסקי שלם. סאבסטאק לא הסתפקה בהצהרות, אלא השיקה כלי ייעודי המאפשר לקוראים לזהות טקסטים שנכתבו על ידי מודלי שפה. הנתונים שגיבו את המהלך הזה צריכים להטריד כל משקיע בוול סטריט: מחקרים עדכניים מצביעים על כך שארבעה מתוך כל עשרה טקסטים ברשתות החברתיות כיום הם מזויפים או שנוצרו על ידי אלגוריתמים.
בסט הזהיר במפורש כי "פלטפורמות שיתגמלו זיוף ייצרו מרוץ לתחתית". מנקודת מבט כלכלית, המשמעות היא שחיקת האמון של המשתמשים, שהוא הנכס המניב ביותר של כל רשת חברתית. ברגע שהפיד מוצף בתוכן סינתטי, זמן השהייה של המשתמש האנושי צונח, ואיתו גם היכולת להגיש פרסומות ממוקדות ויקרות. המודל העסקי של האינטרנט המסחרי בנוי על תשומת לב אנושית, וכאשר זו מופנית לתוכן שנוצר באפס מאמץ ובאפס עלות, שיווי המשקל מופר. המהלך של סאבסטאק מאותת לשוק התקשורת המסורתי והחדש כאחד שקוראים מוכנים לשלם דמי מנוי רק כאשר הם יודעים שיש אדם אמיתי מאחורי המקלדת, כזה שחולק תובנות וניסיון חיים ששום שרת מחשבים לא יכול לשכפל.
הזירה המקצועית סופגת גם היא זעזועים מהירים ונאלצת לחשב מסלול מחדש. לינקדאין, הרשת החברתית מבית מיקרוסופט הממוקדת בעולם העבודה, מצאה את עצמה בחזית המאבק מול הזיהום הדיגיטלי. השבוע הציגה החברה כפתור דיווח חדש המאפשר לכל משתמש לסמן פוסטים או תגובות שנראים כאילו נכתבו על ידי מכונה. הארי סריניבסאן, סמנכ"ל המוצר של לינקדאין, הודה בגלוי כי "הזיהום של הבינה המלאכותית הוא עדיפות עליונה עבור כולנו". המספרים שהוא חשף ממחישים את סדר הגודל של האירוע הפיננסי: רק בחודשיים האחרונים, המערכות של לינקדאין חסמו מיליארדי ניסיונות לפרסם תגובות אוטומטיות, כאשר מדי יום נלכדים מאות אלפי ניסיונות של בוטים לשתול תגובות במטרה לייצר מעורבות מזויפת.
המהלך המעניין ביותר של הרשת המקצועית הוא דווקא נסיגה טקטית מאחת ההבטחות הצרכניות של התקופה האחרונה. החברה החליטה להסיר את ההנחיה האוטומטית שהציעה למשתמשים לשדרג את הפוסטים שלהם באמצעות כלים אוטומטיים, ותחזור להציע כלי פשוט ובסיסי של הגהה. זהו רגע שבו פלטפורמת ענק מבינה שהכנסת אוטומציה מוגזמת לתוך תהליך יצירת התוכן פוגעת בליבת המוצר שלה. בדומה לחברות אחרות, לינקדאין אינה פוסלת לחלוטין שימוש בכלים טכנולוגיים כדי ללטש כתיבה, אך הקו האדום שורטט מחדש. שוק העבודה מבוסס על מוניטין ואמינות, ופרופיל עסקי שייצבע כולו בגוונים סינתטיים עלול להבריח מגייסים ומשקיעים פוטנציאליים.
המערכה על איכות התוכן מתרחבת גם לזירת הווידאו, המקום שבו תקציבי הענק מחליפים ידיים. יוטיוב, זרוע הווידאו העוצמתית של גוגל, עדכנה החודש את מדיניות המוניטיזציה שלה כדי לקבוע אילו סוגי תכנים יהיו זכאים לחלוקת רווחים מפרסומות. הרקע להחלטה הזו נובע ממחקרי עומק שנערכו בשנה החולפת, אשר חשפו תופעה פיננסית מטרידה: ערוצים שלמים שכל התוכן בהם נוצר באופן בלעדי על ידי קוד מחשב גרפו מיליוני מנויים, וחלקם אף ייצרו הכנסות של מיליוני דולרים. המודל הכלכלי של יוטיוב מבוסס על שותפות עם יוצרים, אך כאשר האלגוריתם מתגמל חוות תוכן שמייצרות סרטונים בקצב תעשייתי וללא מגע יד אדם, המערכת האקולוגית כולה מאבדת מערכה.
כדי לבלום את ההצפה של מה שהפלטפורמה מכנה תוכן לא אותנטי, יוטיוב הגדירה שלוש קטגוריות של סרטונים שלא יורשו לייצר הכנסות: תוכן גנרי, תוכן חזרתי ותוכן מבוסס תבניות קבועות. אלו בדיוק סוגי התכנים שקל מאוד ומהיר מאוד לייצר בימינו. מאט הלפרין, מנהל תחום האמון והבטיחות ביוטיוב, הסביר כי בעוד שהטכנולוגיה מאפשרת דברים נפלאים, היא משמשת לעיתים קרובות מדי ליצירת סרטונים ירודים, והמטרה כעת היא לעקור מהשורש את תעשיית חוות התוכן. מהלכים אלו של ענקיות הטכנולוגיה מסמנים תפנית חדה ביחס לבינה המלאכותית היוצרת, מאימוץ עיוור לרגולציה עצמית נוקשה. המאבק הנוכחי מתמקד בשימור האמון והאותנטיות כנכסים הכלכליים החשובים ביותר של הפלטפורמות. בסופו של דבר, חברות שישכילו לסנן את הרעש הסינתטי ולהבליט תוכן אנושי איכותי, יהיו אלו שישמרו על קהל המשתמשים ועל זרם ההכנסות מפרסום בטווח הארוך.
