تیک‌تاک در نظر دارد روند نظارت بر ویدیوهای به اشتراک گذاشته شده در بستر خود را از طریق جایگزینی سیستم خودکار مبتنی بر هوش مصنوعی با بازبینی‌های انسانی تسریع بخشد.
در حال حاضر این شرکت قصد دارد با بهره‌گیری از سیستم بازبینی خودکار، ویدیوهایی با مضامین برهنگی، جنسی، خشونت، محتوای گرافیکی، فعالیت‌های غیر قانونی و محتوای نقض‌کننده قوانین امنیتی خود را در ایالات متحده و کانادا حذف کند. اگر سیستم ویدیوهایی با محورت موضوعات اعلام شده را شناسایی کند، ویدیو را بلافاصله از تیک‌تاک حذف می‌کند و به تولیدکننده این فرصت را می‌دهد تا از طریق ناظران انسانی تقاضای تجدید نظر کند.
سخنگوی تیک‌تاک در گفت‌وگو با رسانه ورج اظهار داشت:”این شبکه اجتماعی تاکنون تمام ویدیوهای به اشتراک گذاشته شده در ایالات متحده را از طریق ناظران انسانی مورد بازبینی قرار داده است.” این تغییر به معنای محدودسازی میزان ویدیوهایی ناشایستی است که ناظران محبور به تماشای آن بودند، می‌باشد و امکان بررسی هرچه دقیق‌تر ویدیوهایی با محوریت کلاهبرداری را که به منظور بازرسی محتوایی نیازمند زمان بیشتری هستند، نیز فراهم می‌سازد.
متاسفانه بازبینی محتوای منتشر شده در شبکه اجتماعی خطراتی را نیز به همراه دارد. به عنوان مثال، ناظران برخی شرکت‌ها مانند فیسبوک پس از تماشای ویدیوهایی که می‌بایست آنها را مورد ارزیابی قرار دهند، علائمی از بیماری اختلال استرس پس از حادثه (PTSD) را از خود بروز داده‌اند. همچنین به نقل از Axios، نخستین منبع منتشرکننده این خبر، این اطلاعیه را می‌توان به عنوان بخشی از تلاش‌ها برای ایجاد شفافیت بیشتر در مورد ویدیوهایی تعدیل شده نیز در نظر گرفت.
مشکلی که احتمالاً تیک‌تاک با آن مواجه خواهد شد این است که سیستم‌های خودکار هرگز کامل نیستند و برخی جوامع ممکن است به دلیل خطاهای سیستم بازبینی خودکار با خسارات چشمگیری مواجه شوند. در نظر داشته باشید این شبکه اجتماعی سابقه حذف محتواهایی با موضوعات نژادپرستی را در کارنامه دارد و اخیراً نیز به دلیل استفاده از هشتک‌های جنسیتی با انتقادات شدیدی مواجه شده است. البته تیک‌تاک بیان می‌کند استفاده از سیستم بازبینی خودکار را تنها در محتمل‌ترین حالات ممکن آزمایش خواهد کرد. این شرکت همچنین درحال آزمایش فناوری مذکور در سایر کشورها از جمله برزیل و پاکستان می‌باشد و اظهار می‌کند تنها 5 درصد از محتوای حذف شده توسط سیستم خودکار می‌بایست در پلفترم باقی می‌ماند. این موضوع بدان معناست که سیستم توسعه‌یافته توسط تیک‌تاک دقت عملکرد 95 درصدی را در آزمایش‌ها به ثبت رسانده است.
درست که میزان خطا 5 درصدی ناچیز به نظر می‌رسد، اما اگر آنرا در تعداد ویدیوهای به اشتراک گذاشته شده در تیک‌تاک قرار دهید (8,540,088 ویدیو تنها طی سه ماهه نخست سال 2021 در نسخه ایالات متحده تیک‌تاک بارگذاری شده است)، متوجه خواهید شد که همین درصد خطا اندک می‌تواند منجر به حذف چندین هزار ویدیو از این پلتفرم شود. اکثر ویدیوهای حذف شده به دلیل موضوعات اعلام شده تیک‌تاک توسط سیستم بازبینی خودکار این شرکت تعدیل شده‌اند. همانطور که پیشتر نیز بدان اشاره شد، دیگر قرار نیست تمامی ویدیوهای به اشتراک گذاشته شده در این شبکه اجتماعی توسط ناظران انسانی مورد بازبینی قرار گیرد. سخنگوی تیک‌تاک بیان می‌کند ناظران انسانی همچنان گزارش‌های مربوط به شکایات انجمن‌ها، درخواست‌های تجدید نظر و سایر ویدیوهایی حذف شده توسط سیستم بازبینی خودکار را بازرسی خواهند کرد. تیک‌تاک می‌گوید “طی چند هفته آینده” سیستم بازبینی خودکار خود را راه‌اندازی خواهد کرد.
