Соцсеть «ВКонтакте» внедрила ИИ собственной разработки, способный выявлять опасные материалы. Нейросеть присваивает картинкам рейтинг, в результате чего противоправный и мошеннический контент, спам и порно не появляются в поисковой выдаче.

Социальная сеть «ВКонтакте начала использовать искусственный интеллект, выявляющий контент противоправного, порнографического и мошеннического содержания, детское порно, рекламу нелегальных услуг, спам и другие опасные материалы.

Умный поисковик присваивает картинкам определенный рейтинг, в результате чего подобные материалы на запрос не выводятся либо блокируются. ИИ также способен распознавать текстовые надписи к картинкам.

Алгоритм определяет не только предмет, но и выявляет более конкретное свойство, в частности, символику «групп суицида». Классификация включает несколько тысяч категорий, присваиваемых картинкам по нескольким характеристикам. Фото, определенное ИИ как опасное, передается на модерацию, приоритетность «умеренно опасного» контента снижается и он исчезает из поисковой выдачи.

Записи и фотографии, относящиеся к «группам смерти» убираются автоматически, страницы авторов блокируются. Вопрос с разблокированием страницы решается после ответа автора о причинах публикации, ему также предлагается помощь психолога организации «Твоя Территория» либо советы по безопасности страницы.