Ассоциация журналистов и СМИ Зарубежья
28 марта 2024

Искусственный интеллект может начать модерацию комментариев в Facebook

Искусственный интеллект может начать модерацию комментариев в Facebook
Фото: Рамиль Ситдиков / РИА Новости

Facebook начнет тестировать новую систему для снижения токсичности в комментариях сообществ, сообщается в блоге социальной сети.

Система, которая называется «Оповещение о конфликтах», будет использовать искусственный интеллект для анализа комментариев, которые пользователи оставляют в сообществах Facebook.

В случае обнаружения споров или потенциально конфликтных ситуаций в комментариях система будет их маркировать и отправлять администратору сообщества уведомление. Кроме того, сообщения с нецензурной лексикой или неприемлемыми высказываниями будут помечаться плашкой moderation alert. Информация о таких комментариях также будет уходить модераторам группы.

Предполагается, что новый способ маркировки и оповещения поможет администраторам своевременно принимать необходимые действия для деэскалации конфликтов, в числе которых временное ограничение количества комментариев для отдельных пользователей групп и др. Ограничения не могут применяться в том числе к спорам о политике, вакцинации, культурных различиях.

17 июня 2021 в 14:05