Приложение для знакомств Bumble с 2018 года работает над борьбой с киберфлешингом (отправка непристойных изображений незнакомым людям, в основном, женщинам). Чтобы лучше бороться с нежелательными изображениями, в 2019 году компания запустила в приложениях Bumble и Badoo функцию Private Detector. Инструмент работает на основе искусственного интеллекта.
Private Detector автоматически обрабатывает изображения в чатах, находит и размазывает потенциально обнажённые картинки. Дальше пользователи сами решают, просматривать или блокировать нежелательный контент.
Теперь команда Bumble по обработке и анализу данных написала технический документ, в котором объяснила технологию Private Detector. Также специалисты сделали версию с открытым исходным кодом и опубликовали на GitHub. Об этом компания сообщила в своём блоге.
Эту версию функции Private Detector можно использовать в том виде, в каком она опубликована на сайте. Также можно изменять настройки с дополнительными обучающими примерами.
Комментарии