کامنت‌های سمی و نفرت‌انگیز در یوتیوب یک دردسر دائمی برای این شرکت، سازندگان و کاربران بوده است. این شرکت قبلاً تلاش کرده است تا با ارائه ویژگی هایی مانند نشان دادن هشدار به افراد در زمان ارسال پست، این امر را کاهش دهد تا آنها بتوانند بیشتر مراقب باشند. در حال حاضر، سرویس استریم در حال معرفی ویژگی جدیدی است که با شدت بیشتری این افراد را از نظرات توهین آمیزشان سوق می دهد و اقدامات گسترده تری را انجام می دهد.
یوتیوب می گوید برای افرادی که کامنت های توهین آمیز آنها به دلیل نقض آن حذف شده است، اعلان ارسال می کند قوانین پلت فرم. اگر با وجود دریافت اعلان، کاربر همچنان به ارسال نظرات توهین آمیز ادامه دهد، سرویس او را از ارسال هر گونه نظر دیگر به مدت ۲۴ ساعت منع می کند. این شرکت گفت که این ویژگی را قبل از عرضه امروز آزمایش کرده است و متوجه شده است که اعلان‌ها و زمان‌بندی‌ها از نظر مادی موفق بوده‌اند.
در حال حاضر، تشخیص نظرات نفرت‌انگیز فقط برای نظرات انگلیسی زبان در دسترس است، اما هدف سرویس پخش این است که در آینده زبان‌های بیشتری را نیز شامل شود. قابل ذکر است، هشدار قبل از ارسال برای انگلیسی و اسپانیایی در دسترس است.
این شرکت گفت: «هدف ما هم محافظت از سازندگان در برابر کاربرانی است که سعی می‌کنند از طریق نظرات بر جامعه تأثیر منفی بگذارند، و هم شفافیت بیشتری را به کاربرانی که ممکن است نظراتشان را به دلیل نقض خط‌مشی حذف کرده‌اند، ارائه دهیم و امیدواریم به آنها کمک کنیم دستورالعمل‌های انجمن ما را درک کنند.»
اگر کاربر فکر می کند که نظر او به اشتباه حذف شده است، می تواند نظر خود را به اشتراک بگذارد بازخورد. با این حال، این شرکت نگفته است که آیا نظرات را پس از بررسی بازخوردها بازیابی خواهد کرد یا خیر.
علاوه بر این، در یک پست انجمنیوتیوب گفت که روی بهبود سیستم‌های تشخیص مبتنی بر هوش مصنوعی کار می‌کند. این شرکت ادعا کرد که ۱٫۱ میلیارد کامنت “هرزنامه” را در نیمه اول سال ۲۰۲۲ حذف کرده است. یوتیوب همچنین سیستم خود را برای شناسایی و حذف بهتر ربات ها در ویدیوهای چت زنده بهبود بخشیده است.
یوتیوب و سایر شبکه‌های اجتماعی توانسته‌اند با تکیه بر شناسایی خودکار، محتوای هرزنامه و توهین‌آمیز را تا حدی کاهش دهند. با این حال، سوء استفاده کنندگان اغلب از کلمات عامیانه یا غلط املایی مختلف برای فریب سیستم استفاده می کنند. علاوه بر این، دستگیر کردن افرادی که نظرات نفرت‌انگیز را به زبان‌های غیر انگلیسی ارسال می‌کنند، سخت‌تر است.
این شرکت استریم در سه ماهه اخیر طیف گسترده ای از ابزارها را برای کاهش نظرات نفرت انگیز در این پلتفرم آزمایش کرده است. این آزمایش‌ها شامل پنهان کردن نظرات به‌طور پیش‌فرض و نمایش سابقه نظرات کاربر در کارت‌های نمایه‌شان بود.
ماه گذشته، یوتیوب قابلیتی را ارائه کرد که به سازندگان اجازه می داد پنهان کردن یک کاربر خاص از نظرات. این کنترل برای کل کانال اعمال می شود، بنابراین حتی اگر کاربر نظرات نفرت انگیزی را در ویدیوی دیگری ارسال کند، نمایش داده نمی شود.
پلتفرم‌های جهانی با موضوع محدود کردن انتشار نظرات نفرت‌آمیز دست و پنجه نرم می‌کنند.
اینستاگرام زمانی که فوتبالیست های انگلیسی بوکایو ساکا، مارکوس راشفورد و جیدون سانچو به دلیل از دست دادن ضربات پنالتی در فینال یورو سال گذشته مورد آزار و اذیت قرار گرفتند، بستر مناسبی برای آنها بود. گزارش جدیدی از GLAAD و Media Matters اشاره کرد که توهین‌های ضد دگرباشان جنسی پس از تسلط الون ماسک روی توییتر به شدت افزایش یافته است. در حالی که همه این پلتفرم‌ها ابزارهایی را برای بی‌صدا کردن یا پنهان کردن نظرات و محدود کردن نظرات به افراد خاص ارائه کرده‌اند، میزان نظرات نفرت‌انگیز و توهین‌آمیز همچنان یک مشکل بزرگ است.
اگر نظر آنها توسط ایوان مهتا توهین آمیز باشد که در ابتدا در TechCrunch منتشر شده بود، یوتیوب برای کاربران اعلان ارسال می کند.
