Компания опубликовала две разработки под названием PDQ и TMK + PDQF. Они маркируют фото- и видеоматериал с нежелательным контентом: сцены насилия, эксплуатация детского труда, пропаганда терроризма и др.
В Facebook сделан расчет на совместную работу. Благодаря тому, что технологии будут использовать многие разработчики и компании, увеличится эффективность борьбы с таким контентом.
PDF с техническими подробностями: https://github.com/facebook/ThreatExchange/blob/master/hashing/hashing.pdf
Сам профиль на Github: https://github.com/facebook/ThreatExchange/tree/master/hashing/tmk
Новость в блоге Facebook: https://newsroom.fb.com/news/2019/08/open-source-photo-video-matching/
Сейчас инструменты работают по следующему алгоритму:
- Находят публикацию, которая содержит нежелательные призывы и действия.
- Удаляют и тут же присваивают ей уникальный цифровой отпечаток (хэш).
- По хэшу находят похожие материалы без сохранения копии.
- Удаляют похожие публикации.
Так в компании увеличивает шансы найти нежелательный материал на площадке.
Теперь инструменты будут доступны некоммерческим организациям, независимым разработчикам и партнёрам ФБ. Компании, использующие аналогичные технологии для поиска и удаления контента, смогут улучшить собственные разработки.
Комментарии · 1
найс бро))