В социальной сети Instagram ежедневно взаимодействуют миллионы разных людей. Разработчики стараются заботиться о том, чтобы не были нарушены права каждого из них. С этой целью в 2019 году были созданы функции, которые помогут защититься от оскорблений.
Основа новой функции
Компания научила искусственный интеллект распознавать слова и фразы, которые могут стать обидными для пользователя, которому адресованы, или спровоцировать травлю. В первую очередь внимание направлено на комментарии. Система будет отслеживать содержимое текста ещё в процессе написания.
Искусственный интеллект уже знает наиболее популярные оскорбительные слова и фразы и продолжает обучаться. К концу 2019 года нововведение уже работает, но пока не каждый раз и не во всех аккаунтах.
Как работает система
Новая функция в первую очередь будет нацелена на предотвращение публикации в сеть обидных словосочетаний. Если при анализе написанного текста их обнаружит, пользователю высветится предупреждение. Будет написано, что высказывание может быть расценено как оскорбление. Затем Instagram предложит отредактировать комментарий перед публикацией.
При тестировании было замечено, что немало пользователей после уведомления с предложением откорректировать текст и сформулировать своё мнение более мягко изменяли слова. Таким образом система даёт возможность подумать и лишний раз напоминает о правилах приличия, не позволяет скоропалительно оскорбить. Если человек раньше не задумывался о последствиях, такое предупреждение поможет ему это сделать и не публиковать в сеть нецензурные слова.
В случае, если пользователя это не остановило, и он выбрал вариант «Отправить», а не «Изменить», получатель всё равно не останется без защиты. В аккаунтах появилась функция «Скрыть пользователя». Если её выбрать, комментарии обидчика не будет видеть никто кроме получателя и отправителя.
Тоже касается и сообщений. Они будут поступать в папку «Запросы» с предупреждением, от кого были получены. Если нет желания видеть, что внутри, такие сообщения и комментарии можно просто не открывать. Очень важно, что при этом отправитель не будет знать об этом.
Цели нововведения
Чем больше становится аудитория, тем чаще социальная сеть Instagram вводит изменения для регулировки общения.
Этим разработчики показывают свою позицию относительно правил общения людей:
- против любой агрессии и буллинга;
- за свободу для творчества и самовыражения;
- за безопасность;
- за активное создание интересного и полезного контента;
- против необдуманных и резких высказываний, которые могут ранить чувства.
С помощью таких нововведений Instagram пытается позиционировать себя платформой для позитивного общения, обмена творческим опытом и знакомства с интересными людьми.