أحدثت شركة "ياهو" طفرة تكنولوجية جديدة، بتطويرها لذكاء اصطناعي جديد، يمكنه الكشف بشكل صحيح عن التعليقات المسيئة على الإنترنت، مما يجعله يتفوق على الخوارزميات الأخرى التي تعتمد على الذكاء الاصطناعي.
ووفقا للموقع الأمريكي Mashable يستخدم ذكاء "ياهو" الاصطناعي مزيج من التعلم وتقنيات الكشف عن التعليقات المسيئة من خلال مسح التعليقات من أخبار ياهو، وهو ما يعد تقدما هائلا، إذ تعتمد معظم أنظمة الكشف عن اللغة المسيئة على الكلمات المفتاحية Keywords ، لذا فالمشكلة تحدث عند تجنب المتحرشين بعض الكلمات أو استخدام مصطلحات جديدة لا يمكن للنظام اكتشافها، بالإضافة إلى ذلك، فإن هذه النظم سيئة في قراءة الكلمات الخارجة عن السياق أو السخرية.
ومن ناحية أخرى قررت ياهو تتبع طول ردود التعليقات والكلمات، وعدد علامات ترقيم، وعناوين المواقع وحجم الحروف، جنبا إلى جنب تتبع استخدام كلمات مثل "يمكن"، "سوف" أو "يجب"، بالإضافة إلى القائمة السوداء لعبارات الإهانة والكراهية. وتفوقت ياهو بهذه الخوارزمية عن نظامها القديم بنحو 10 %، إذ تعلم النظام الذكي من موظفين ياهو المدربين تدريبا خاصا على رصد التعليقات وتقييمها.
