Как автоматизировать модерацию комментариев?

Любые обсуждения, не нарушающие правил форума.

Модератор: Модераторы

Re: Как автоматизировать модерацию комментариев?

Сообщение olegy123 » 27.04.2017 08:34:03

olegy123 писал(а):Text::SpamAssassin

- это perl скрипт. Есть возможность добавлять критерии (например ip, dsl-xx-xx-xx-xx.yyyy.yyy)
по своему опыту скажу: был почтовый ресурс, почту до меня взламывали и от имени пользователей делали спам.. хост во всех спам-базах был, в секунду приходило до 70 писем..
Основной удар принимали публичные списки фильтр черных ip адресов.. они хорошо отсеивали.. от 80%.. остальную часть брал на себя SpamAssassin. Только после того как я ему показал какие правильные, а какие нет - обучился, то поток снизился до одного/два письма в день.

есть еще один Bogofilter
http://bogofilter.sourceforge.net/
Bogofilter is a Bayesian spam filter. Bayesian это- искусственная нейронная сеть.
https://habrahabr.ru/post/276355/

по Украине - можно слово "Украина" - ввести вес близкий к критическому.. много горячих слов в сообщении - в бан..
olegy123
энтузиаст
 
Сообщения: 995
Зарегистрирован: 25.02.2016 12:10:20

Re: Как автоматизировать модерацию комментариев?

Сообщение azsx » 27.04.2017 10:55:41

olegy123, спасибо.
Кстати точно, украина и война по 1, если больше 2 - так сразу отказ. Не подумал. Можно ещё абузы от юзеров принимать, если более 5 абуз в разное время с разных ip и хоть одно слово предупреждение, например, война -- удалять коммент.
оффтопик
то просто так " бан ip по абузе ли штраф с визитами в прокуратуру" не получить
если хостер не тормоз

Хостер чисто уведомляет перед баном, чтобы у него сервер не забрали. Так как закон (по моему мнению) преследует цель воспитывать послушных вебмастеров, то факта удаления в течении суток вполне хватает. Факт судебного производства это не отменяет, если показательное дело будет.
почему? ведь это ощутимо снизит поток спама

потому, что это прежде всего ощутимо снизит поток комментариев. Спам, как бы моя проблема, а не юзеров.

Добавлено спустя 5 часов 43 минуты 31 секунду:
---------------------
Кстати, доказательство, что не я один волноваюсь. В гугле также думают о подобном.
Google внес изменения в правила AdSense, указав, что монетизировать опасный и оскорбительный контент запрещено. А в скором времени сервис начнет блокировать показ рекламы только на тех страницах, где были замечены нарушения правил, а не на сайте в целом.

Теперь объявления AdSense нельзя размещать на страницах, содержащих следующий контент:

Угрозы причинения вреда себе или другим лицам.
Домогательство в отношении человека или группы лиц, призывы к преследованию.
Пропаганда вражды, а также дискриминация человека или группы лиц на основании расовой принадлежности, национальности, вероисповедания, пола, возраста, инвалидности, статуса участника боевых действий, сексуальной ориентации, гендерной самоидентификации или других признаков, по которым возможна дискриминация.

Нововведения позволят издателям получать доход, даже если на некоторых страницах сайтов были обнаружены нарушения.

https://www.seonews.ru/events/google-ad ... -v-tselom/
azsx
энтузиаст
 
Сообщения: 958
Зарегистрирован: 16.11.2015 06:38:32

Re: Как автоматизировать модерацию комментариев?

Сообщение Лекс Айрин » 27.04.2017 18:48:26

azsx писал(а): Спам, как бы моя проблема, а не юзеров.

Вообще-то не совсем. Есть такое понятие как карма... Если на нее забить, то получится так, что пользы от комментариев не будет совсем. В конце-концов это приводит к тому, что ресурс бросают.
Аватара пользователя
Лекс Айрин
долгожитель
 
Сообщения: 4200
Зарегистрирован: 19.02.2013 16:54:51

Re: Как автоматизировать модерацию комментариев?

Сообщение azsx » 27.04.2017 20:02:00

В конце-концов это приводит к тому, что ресурс бросают.

Что надо делать, чтобы ресурс не бросали?
azsx
энтузиаст
 
Сообщения: 958
Зарегистрирован: 16.11.2015 06:38:32

Re: Как автоматизировать модерацию комментариев?

Сообщение Лекс Айрин » 27.04.2017 20:14:32

azsx, следить, как минимум, чтобы не было спама и грубого троллинга. Ну и сама тема должна быть интересна. Ну и банхаммер приходится периодически расчехлять.

При этом, админ может открыто заявлять, что он неадекватен, что у него тройные, как минимум, стандарты... это как раз нормально.
Аватара пользователя
Лекс Айрин
долгожитель
 
Сообщения: 4200
Зарегистрирован: 19.02.2013 16:54:51

Re: Как автоматизировать модерацию комментариев?

Сообщение olegy123 » 27.04.2017 21:10:43

azsx писал(а):В гугле также думают о подобном.

Ютуб блогеры недавно возмущались, мол ютуб(а это гугл) решило плохой контент не монитизировать - мол рекламодатели жалуются что при позитивной рекламе может содержатся контент "сэкс, насилие и рок-н-рол"..

Добавлено спустя 4 минуты 12 секунд:
Лекс Айрин писал(а):Вообще-то не совсем. Есть такое понятие как карма... Если на нее забить, то получится так, что пользы от комментариев не будет совсем. В конце-концов это приводит к тому, что ресурс бросают.

Карма :lol: . Есть странички где плохая карма очень даже ничего..

Добавлено спустя 13 минут 44 секунды:
azsx писал(а):Что надо делать, чтобы ресурс не бросали?

Что делают вблогеры..

Ну, для начало например понять, что поведение толпы имеет
p.png

простое физическое объяснение.. Это импульс, волна.. даже в музыке это есть..

так вот - нужно поддерживать "интерес" ..

Добавлено спустя 25 минут 17 секунд:
Лекс Айрин писал(а):следить, как минимум, чтобы не было спама и грубого троллинга.

Сиживал на одном местном форуме, так там главным модератором был назначен знакомый держателя ресурса, видимо школьник и он по кумовству набрал таких же братьев по разуму .. В итоге они убили крупный ресурс за полгода..
Когда начинался по теме холивар - они щедро разваривали по банану.. срабатывал рефлекс - если не понимаю, значит запрещаю.
У вас нет необходимых прав для просмотра вложений в этом сообщении.
olegy123
энтузиаст
 
Сообщения: 995
Зарегистрирован: 25.02.2016 12:10:20

Re: Как автоматизировать модерацию комментариев?

Сообщение Лекс Айрин » 27.04.2017 22:06:15

olegy123 писал(а): В итоге они убили крупный ресурс за полгода..


Что-то долго... видимо, терпеливые пользователи были. В иных случаях и за месяц можно довести до краха. Кстати, данный пример показателен как вести себя админам НЕ надо. И вообще, если админ не чувствует настроение людей, то, имхо, ему не надо вообще заниматься этим делом. Массовая миграция на другую площадку или развал обеспечены.
Аватара пользователя
Лекс Айрин
долгожитель
 
Сообщения: 4200
Зарегистрирован: 19.02.2013 16:54:51

Re: Как автоматизировать модерацию комментариев?

Сообщение sts » 28.04.2017 00:15:07

запилите задачу на нейросетях, как раз подходит, потом продавать будете
sts
постоялец
 
Сообщения: 253
Зарегистрирован: 04.04.2008 12:15:44
Откуда: Тольятти

Re: Как автоматизировать модерацию комментариев?

Сообщение azsx » 28.04.2017 03:07:36

Насчет слежки за ресурсом, у меня бан не предусмотрен в принципе, мне надо блокировать любые спам и троллинговые комментарии. Я не формирую местечковое сообщество, которое поучает новичков, мне это не нужно. Мне надо как-то автоматизировать процесс блокировки всякого негатива и спама.
Насчёт нейросетей, нет, пилить нейросеть я не буду. По моему мнению задача совсем никак под нейросети не подходит.
azsx
энтузиаст
 
Сообщения: 958
Зарегистрирован: 16.11.2015 06:38:32

Re: Как автоматизировать модерацию комментариев?

Сообщение Лекс Айрин » 28.04.2017 09:29:33

azsx писал(а):Насчет слежки за ресурсом, у меня бан не предусмотрен в принципе, мне надо блокировать любые спам и троллинговые комментарии.

Тогда проблема просто не имеет решения. Точнее, приемлемого решения. Тролли будут извращаться, в том числе устраивая флешмобы, спам будет со временем умнеть и его будет сложнее обнаруживать... Возможно, ты будешь с удивлением понимать, что спаммеры и пр компания будут вышибать нормальных пользователей, а усилия на проверку комментариев будут расти.

azsx писал(а):Я не формирую местечковое сообщество, которое поучает новичков, мне это не нужно.


Насчет поучать это ты загнул... представляешь ситуацию, когда к тебе пришли гости и с ходу устраивают драку... сомневаюсь, что тебе это понравится. Почему же в интернете это не возмущает?

azsx писал(а): По моему мнению задача совсем никак под нейросети не подходит.


Имхо, как раз таки нейросети в этом плане больше всего подходят. Конечно, иногда придется подкручивать... да и порог внедрения побольше, но и отдача потом больше.
Аватара пользователя
Лекс Айрин
долгожитель
 
Сообщения: 4200
Зарегистрирован: 19.02.2013 16:54:51

Re: Как автоматизировать модерацию комментариев?

Сообщение DYUMON » 28.04.2017 09:51:21

Рекламу кидают в основном свежезареганные боты, а если сделать что каждый новый пользователь должен внести 5 комментариев в тему из раздела болталка допустим. сейчас редко кто руками спамит, в основном через хрумер или еще какую прогу.
Аватара пользователя
DYUMON
постоялец
 
Сообщения: 180
Зарегистрирован: 11.03.2009 13:32:54

Re: Как автоматизировать модерацию комментариев?

Сообщение olegy123 » 28.04.2017 10:12:15

Тут надо смотреть по другому: если у azsx проходит до 100 в день сообщений, то проще ручками фильтровать.. по времени задержку делать, так во многих СМИ ресурсах делают, типа модерируются перед публикованием.
если более 5000 в день читать там психика не выдержит, тут надо думать как "разделять и властвовать" автоматически..
Может просто активистов найти, которые смогут сами регулировать поток на своих вверенных территориях.

Добавлено спустя 2 минуты 45 секунд:
DYUMON писал(а):Рекламу кидают в основном свежезареганные боты, а если сделать что каждый новый пользователь должен внести 5 комментариев в тему из раздела болталка допустим. сейчас редко кто руками спамит, в основном через хрумер или еще какую прогу.

Могут накрутить..
От прог хорошо спасает капча...
В былые времена сам писал спам прогу и вебрассылки..
olegy123
энтузиаст
 
Сообщения: 995
Зарегистрирован: 25.02.2016 12:10:20

Re: Как автоматизировать модерацию комментариев?

Сообщение azsx » 28.04.2017 17:39:10

Рекламу кидают в основном свежезареганные боты

Так как регистрации нет, я не могу выделять свеже зареганных. у меня нет форума с курилкой, у меня страницы с комментариями. Сейчас речь, например, 100 комментариев в сутки.
От прог хорошо спасает капча.

Согласен на одну капчу, которая скрыта от отображения js и на всякий случай для умников без js там будет написано "не заполняйте это поле". Подумаю, может реализую.
Может просто активистов найти

Базу стоп слов сорма где нибудь спереть?
оффтопик
пришли гости и с ходу устраивают драку... сомневаюсь, что тебе это понравится. Почему же в интернете это не возмущает?

Потому, что они не устраивают драк, они просто на кнопки жмут. Просто сейчас охота на ведьм и кое какие слова нельзя вместе печатать.
как раз таки нейросети в этом плане больше всего подходят.

Конечно, я могу и ошибаться. Вы сделали хоть одну нейро сеть? Вы хоть образно можете представить какой там порог и сколько её подкручивать надо? Это просто реклама "сизифова труда". Людей много, надо всех чем то занимать.
azsx
энтузиаст
 
Сообщения: 958
Зарегистрирован: 16.11.2015 06:38:32

Re: Как автоматизировать модерацию комментариев?

Сообщение olegy123 » 28.04.2017 22:59:10

azsx писал(а):Базу стоп слов сорма где нибудь спереть?

Ха.. Не там боитесь, если честно то ваш паблик по чесноку никому не нужен.. Даже если вы что то нелегальное легально толкаете..
Максимум если прокурор зачешется, зайдет на сайт роскомнадзора, залогинится и внесет в реестр ваш домен.
Может и другой сценарий быть: люди в масках влетают в окошко, дверь выпиливают, всех кладут на пол лицом вниз, сидящий на тебе биток, заламывая руки и в лицо дыша недельным перегаром спрашивает - ты такой-такой?
Но опять же если зачесаться.. А для этого нужно очень сильно постараться.. подыскать те слова или картинки, которые взбодрят и заставят их выполнить свой супружеский долг перед страной..
olegy123
энтузиаст
 
Сообщения: 995
Зарегистрирован: 25.02.2016 12:10:20

Re: Как автоматизировать модерацию комментариев?

Сообщение Лекс Айрин » 29.04.2017 09:38:50

azsx писал(а):Вы сделали хоть одну нейро сеть?


Нет.

azsx писал(а):Вы хоть образно можете представить какой там порог и сколько её подкручивать надо?


Имею.

azsx писал(а):Это просто реклама "сизифова труда".


А то чем ты сейчас страдаешь не бесполезный труд? И подкручивать его придется еще больше. Кстати, сильно сомневаюсь, что под паскалем, будто специально созданном для нейросетей, нет более-менее полноценной реализации.

azsx писал(а):Потому, что они не устраивают драк, они просто на кнопки жмут.


Хорошо... толпа гостей жмет все кнопки, какие доступны, орет песни,.. в общем, оттягивается. Можешь почитать Дивова "другие действия" и посмотреть к чему приводит обычное кнопконабирательство.

azsx писал(а):Просто сейчас охота на ведьм и кое какие слова нельзя вместе печатать.


Кое-какие слова, вообще-то все могут знать, но в приличном обществе их не говорят... почему интернет должен быть неприличным?
Аватара пользователя
Лекс Айрин
долгожитель
 
Сообщения: 4200
Зарегистрирован: 19.02.2013 16:54:51

Пред.След.

Вернуться в Потрепаться

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 4

Рейтинг@Mail.ru