«ВКонтакте» появилась нейросеть, способная выявлять суицидальный контент
Социальная сеть «ВКонтакте» разработала нейросеть, которая способна выявлять «опасные» изображения. Все изображения, которые согласно новой разработке будут попадать в категорию таковых, будут отправляться модераторам на проверку.
Известно, что данная программа способна распознавать объекты, запечатленные на фотографиях. После этого изображениям присваивается рейтинг, по которому нейросеть определяет, содержится ли что-либо запрещенное на фото. Если нейросеть признает картинку опасной, она идет на проверку к модераторам, а в ленте пользователей не отображается.
В частности, данная функция была введена для борьбы с «группами смерти», чтобы распознавать суицидальные фото. А также нейросеть поможет бороться запрещенными материалами и спамом.
Комментарии