Facebook тестирует ИИ для маркировки оскорблений в соцсети

Соцсети >> 17.06.2021, 08:47

Компания Марка Цукерберга приступила к апробации искусственного интеллекта для предотвращения конфликтов среди пользователей. Conflict Alerts будет маркировать комментарии с оскорблениями в группах соцсети, сообщает CNN.

По данным источников телеканала, новый набор инструментов на основе машинного обучения облегчит жизнь админам групп. ИИ будет помечать спорные и потенциально конфликтные сообщения от подписчиков. Администраторы будут получать соответствующие оповещения. Посты с неприемлемой лексикой получат плашки moderation alert (оповещение модератора).

В Facebook рассчитывают, что маркировка и оповещения помогут администраторам вовремя предпринимать действия для предотвращения конфликтов. В частности, они смогут замедлять горячие дискуссии, ограничивать круг комментаторов, нежелательные рекламные акции и рассылку спама.

Новая домашняя страница для админов и функция Admin Assist призваны улучшить обзор сообщений и помочь их с автоматической модерацией. При этом новые ограничения невозможно будет применять к дискуссиям о вакцинации, политике, культурных различиях.