عضویت در سایت موبایلستان کلمه عبور خود را گم کرده اید ؟

 

 

ابزار جدید یاهو برای فیلتر کردن نظرات و متن‌های آزاردهنده در فضای مجازی
۱۱ مرداد ۱۳۹۵|
0 نظر
samancent

محققان بخش تحقیق و توسعه‌ی یاهو به‌تازگی از ابزار جدیدی پرده برداری کرده‌اند که می‌تواند برای فیلتر کردن نظرات و انواع متن‌های آزاردهنده‌ و غیر اخلاقی در فضای مجازی کاربرد داشته باشد و به‌طور هوشمند و خودکار، بتواند اینگونه نظرات را فیلتر کرده و کاری کند که آنها در زیر مقالات منتشر نشوند.
به گزارش خبرگزاری Technology Review این ابزار جدید از طریق جمع آوری اطلاعات نظرات و متن‌های آزاردهنده در زیر مقالات مختلف توسط ادیتورهای یاهو توسعه یافته است و الگوریتم‌های آن که برای اولین بار در تاریخ به این صورت توسعه یافته‌اند، این امکان را به وجود می‌آورند که این ابزار بتواند فیلتر کردن نظرات آزاردهنده را از محتواهای آنلاین به‌طور اتوماتیک انجام دهد و در واقع به بهترین ابزار فیلترینگ آنلاینی که تا به حال ساخته شده است، تبدیل شود.

اکثر ابزارهای فیلتر کردن نظرات و متون آزاردهنده و ابراز تنفری که در حال حاضر در جهان وجود دارند، از یک بانک اطلاعاتی حاوی لیست‌های سیاه کلمات، عبارات توهین آمیزی که در زبان روزمره رواج دارند و البته سرنخ‌هایی استفاده می‌کنند که ممکن است در رشته‌ای از کلمات حاوی اینگونه عبارات نامربوط وجود داشته باشد. اما یاهو این اقدام را به یک مرحله بالاتر ارتقا داده است و توانایی یادگیری ماشینی با استفاده از هوش مصنوعی را بر روی بانک اطلاعاتی گسترده‌ی خود که از تعداد بسیار زیادی از کامنت‌های نامربوط و حاوی عبارات آزاردهنده و توهین‌های مختلف تشکیل شده، اعمال کرده است.

این سیستم با بهره‌گیری از قابلیتی که با نام «احاطه کردن کلمات» از آن یاد می‌شود، قادر است کلمات را به صورت وکتور بررسی کند و نه این که تنها بخواهد تشخیص دهد که آنها کلمات مثبتی هستند و یا کلماتی منفی. همین قابلیت فیلتر کردن نظرات با در نظر گرفتن تمام کلمات یک عبارت هم باعث می‌شود که ابزار جدید یاهو بتواند به‌طور مثال یک نظر که حاوی چند کلمه‌ی معمولی است اما معنی توهین آمیزی دارد را مانند یک انسان هوشمند تشخیص دهد و آن کامنت نامربوط را فیلتر و حذف کند.

طبق نتایج تحقیقات تیم یاهو این سیستم می‌تواند در ۹۰ درصد مواقع عبارات و کامنت‌های توهین آمیز را تشخیص دهد و آنها را با موفقیت فیلتر کند؛ البته با توجه به این که ادبیات مردم و نحوه‌ی توهین در نظرات پیوسته در حال تغییر است و ریتم ثابتی ندارد، مطمئنا هیچ سیستمی چه به صورت انسانی و چه به صورت هوش مصنوعی نمی‌تواند در صد در صد مواقع آنها را کشف کند و به فیلتر کردن نظرات بپردازد.

آقای الکس کراسودومسکی جونز (Alex Krasodomski-Jones) که یک محقق در زمینه‌ی توهین و آزار در فضای مجازی آنلاین است و در مرکز آنالیز شبکه‌های اجتماعی در کشور انگلستان فعالیت می‌کند، در گفتگو با خبرگزاری Technology Review در رابطه با سختی کار محققان یاهو اینگونه توضیح داده است:

 

اگر از یک گروه انسانی بخواهید که از هر ده پیامی که در شبکه‌ی توییتر منتشر می‌شود، بگویند کدام‌ها حاوی محتوای توهین آمیز است، ممکن است که آنها با اختلاف نظر مواجه شوند. حالا خودتان تصور کنید که انجام چنین کاری برای یک کامپیوتر چه مقدار دشوارتر خواهد بود.

 


مطالب مشابه:

نظرتان را در مورد این مطلب بیان نمایید