से एक परेशान करने वाली रिपोर्ट वॉल स्ट्रीट जर्नल युवा लड़कियों के व्यक्तिगत अनुभवों को खोदती है, जिन्हें टिकटोक के माध्यम से अत्यधिक वजन घटाने की चुनौतियों, शुद्ध करने की तकनीकों और घातक आहारों के खरगोश के छेद में भेज दिया गया था, जो खाने के विकारों के विकास में योगदान कर रहे थे, या मौजूदा को बदतर बना रहे थे। WSJ यह देखने के लिए अपना स्वयं का प्रयोग किया कि टिकटॉक का एल्गोरिदम संभावित रूप से इस तरह की हानिकारक सामग्री को कैसे बढ़ावा दे सकता है – इसके निष्कर्ष टिकटोक के अचानक निर्णय की व्याख्या कर सकते हैं कि उसके वीडियो अनुशंसा प्रणाली को कैसे संचालित किया जाए।
जैसा कि रिपोर्ट में विस्तृत है, WSJ 100 से अधिक खाते बनाए “जिन्होंने थोड़ा मानवीय हस्तक्षेप के साथ ऐप को ब्राउज़ किया,” जिनमें से 12 बॉट 13 साल के बच्चों के लिए पंजीकृत थे जो वजन घटाने, शराब और जुए के आसपास के वीडियो पर समय बिताते थे। रिपोर्ट में शामिल एक चार्ट से पता चलता है कि जैसे ही एक बॉट ने अचानक जुए से संबंधित वीडियो देखना बंद कर दिया और इसके बजाय वजन घटाने के बारे में वीडियो पर समय बिताना शुरू कर दिया, टिकटॉक के एल्गोरिदम ने खुद को उसी के अनुसार समायोजित कर लिया; इसने वजन घटाने वाले वीडियो की संख्या में तेजी से वृद्धि की, जिसे बॉट ने व्यवहार में इस बदलाव के लिए जिम्मेदार माना।
अपने प्रयोग के अंत तक, WSJ पाया गया कि बॉट ने कुल 255,000 वीडियो देखे, जिनमें से 32,700 में एक विवरण या मेटाडेटा था जो वजन घटाने से संबंधित सैकड़ों कीवर्ड की सूची से मेल खाता था। 11,615 वीडियो में टेक्स्ट विवरण थे जो खाने के विकारों से संबंधित कीवर्ड से मेल खाते थे, जबकि 4,402 में कीवर्ड का संयोजन था जो खाने के विकारों के सामान्यीकरण का संकेत देता था।
इन वीडियो में से कई कथित तौर पर टिकटोक द्वारा फ़्लैग किए जाने से बचने के लिए विकार से संबंधित कीवर्ड खाने के लिए अलग-अलग वर्तनी का उपयोग कर रहे थे। के बाद WSJ 2,960 ईटिंग डिसऑर्डर से संबंधित वीडियो के नमूने के लिए प्लेटफॉर्म को अलर्ट किया, 1,778 को हटा दिया गया – the WSJ का कहना है कि यह स्पष्ट नहीं है कि इसे टिकटॉक ने हटा लिया था या खुद क्रिएटर्स ने।
बस एक दिन पहले WSJकी रिपोर्ट गिर गई, टिकटॉक की घोषणा कि वह इन खतरनाक खरगोश छेदों को बनने से रोकने के लिए नए तरीकों पर काम कर रहा है। यह परिवर्तन भी कुछ ही दिनों बाद हुआ WSJ का कहना है कि उसने अपनी आगामी कहानी के बारे में एक बयान के लिए टिकटॉक से संपर्क किया, इसलिए यह संभव है कि रिपोर्ट प्रकाशित होने से पहले टिकटोक ने अपडेट को पहले से ही रोल आउट कर दिया हो।
अपने पोस्ट में, टिकटोक स्वीकार करता है कि कुछ प्रकार की सामग्री को बार-बार देखना हमेशा स्वस्थ नहीं होता है, जिसमें अत्यधिक डाइटिंग और फिटनेस से संबंधित वीडियो शामिल हैं। यह अब यह पहचानने के तरीके पर काम कर रहा है कि क्या इसकी सिफारिश प्रणाली अनजाने में ऐसे वीडियो पेश कर रही है जो टिकटोक की नीतियों को तोड़ नहीं सकते हैं, लेकिन अत्यधिक खपत होने पर हानिकारक हो सकते हैं। प्लेटफ़ॉर्म यह भी कहता है कि यह एक ऐसे टूल का परीक्षण कर रहा है जो उपयोगकर्ताओं को कुछ शब्दों या हैशटैग वाले वीडियो को उनके फॉर यू पेज पर दिखने से रोक देगा।
टिकटॉक के प्रवक्ता जेमी फावाजा ने एक बयान में कहा, “हालांकि यह प्रयोग टिकटॉक पर अधिकांश लोगों के अनुभव को नहीं दर्शाता है, यहां तक कि एक व्यक्ति के पास भी ऐसा अनुभव बहुत अधिक है।” कगार. “हम शैक्षिक या पुनर्प्राप्ति-उन्मुख सामग्री की अनुमति देते हैं क्योंकि हम समझते हैं कि यह लोगों को यह देखने में मदद कर सकता है कि आशा है, लेकिन ऐसी सामग्री जो अव्यवस्थित खाने को बढ़ावा देती है, सामान्य करती है या महिमामंडित करती है, निषिद्ध है।” प्रवक्ता ने यह भी बताया कि टिकटॉक ऐप के भीतर नेशनल ईटिंग डिसऑर्डर एसोसिएशन हॉटलाइन तक पहुंच प्रदान करता है।
यदि यह स्थिति आपको जानी-पहचानी लगती है, तो ऐसा इसलिए है क्योंकि इंस्टाग्राम पहले ही इससे गुजर चुका है (और अभी भी इससे निपट रहा है)। व्हिसलब्लोअर फ्रांसिस हौगेन ने फेसबुक पेपर्स को लीक करने के बाद, आंतरिक फेसबुक दस्तावेजों का खुलासा करने का एक संग्रह, इंस्टाग्राम ने अपने डूबते जहाज में छेदों को भरने के लिए जल्दी से काम किया।
कागजात बताते हैं कि फेसबुक ने किशोरों पर इंस्टाग्राम के प्रभाव पर अपना शोध किया, और पाया कि ऐप किशोरों के मानसिक स्वास्थ्य पर कहर बरपा सकता है, और युवा लड़कियों के शरीर की छवि को भी खराब कर सकता है। लगभग एक महीने बाद, इंस्टाग्राम ने एक ऐसी सुविधा शुरू करने की अपनी योजना की घोषणा की, जो संभावित रूप से हानिकारक सामग्री को देखने से किशोरों को दूर कर देगी। इसने एक “ब्रेक ब्रेक” फीचर भी शुरू किया है जो उपयोगकर्ताओं को ऐप को बंद करने के लिए प्रेरित करता है यदि उन्होंने प्लेटफॉर्म पर 10, 20 या 30 मिनट से लेकर एक निर्धारित समय बिताया है।