Почему новых так мало
ОтпечатокОстальные адреса уже были в парке или были отбракованы раньше. У отбракованного остаётся отпечаток: следующий сбор не добавит его снова и не потратит на него проверку.
Фиды прокси: от публичного списка к годному адресу
Хаб забирает публичные списки бесплатных прокси по расписанию, добавляет только новые адреса и проверяет каждый так же, как купленный.
Отбракованные он запоминает и больше не тратит на них проверки. Страница отвечает на один вопрос: стоит ли источник того, чтобы его держать.
01 / Воронка фидов
Публичные списки бесплатных прокси огромны, но почти целиком мертвы. Воронка фидов прокси показывает, на каком шаге отсеивается поток: от строки в списке до адреса, который годится для почты. По ней видно, сколько реальной пользы дают все источники за период.
На каждом шаге видно, сколько отсеялось: из сотен тысяч строк для почты годятся единицы
Остальные адреса уже были в парке или были отбракованы раньше. У отбракованного остаётся отпечаток: следующий сбор не добавит его снова и не потратит на него проверку.
Новый адрес проходит ту же приёмку, что и купленный: доступность, рукопожатие, внешний адрес, порт 25 — и только потом получает класс. В отправку собранное само не идёт.
02 / Риски бесплатных прокси
Через бесплатный прокси проходит письмо целиком: адреса получателей, текст, ссылки. Его владелец может прочитать и подменить содержимое — шифрование между почтовыми серверами он способен снять по пути. Об этом страница предупреждает первой строкой.
Бесплатные адреса ставят на очистку базы и проверки, а не на боевую рассылку с рабочих доменов.
Адрес класса D — с закрытым портом 25 — к почте не допускается вовсе, откуда бы он ни пришёл.
03 / Источники
У каждого фида прокси видно, сколько адресов он дал, сколько из них новых, сколько годных за всё время и сколько сейчас в работе. Полоса показывает долю годных, ждущих проверки и отбракованных.
Последний сбор — 2 306 строк, из них 10 новых. Годных за всё время 4 — меньше 0,1 %.
296 строк, 5 новых, годных за всё время 6 — 0,2 %. Адреса читаются из ссылок таблицы.
Сайт закрылся проверкой браузера. Строка подсказывает: скачать список вручную и загрузить файлом.
В последнем сборе — 1 075 строк и 7 новых, годных — ни одного.
Полосы источников почти целиком красные — так и выглядит правда о бесплатных списках. Уже убрано 13 747 мёртвых адресов.
04 / Разбор списков
Хаб читает текстовые файлы, таблицы со ссылками и страницы, где порт выводится скриптом. Способ выбирается при первом сборе и запоминается, а если перестал находить адреса — выбирается заново.
Всё, что похоже на адрес с портом, — в текстовом файле, таблице или тегах.
Часть сайтов держит адрес и порт в ссылке на карточку — оттуда же берётся протокол.
Порт печатается выражением на странице; считается без браузера, но ломается при правке сайта.
Сайты со списками закрываются от роботов, поэтому Хаб представляется браузером — иначе источник выглядит мёртвым, хотя работает. Поломки названы словами: проверка браузера, сайт не ответил, перестал отдавать адреса.
05 / Подробно об интерфейсе
Все экраны раздела о фидах прокси: предупреждение, воронка, список источников, добавление, способы разбора и история сборов. Над каждым снимком — зачем нужен экран, под ним — что на нём есть.
Страница начинается с предупреждения: бесплатный прокси — чужая машина, и через неё проходит письмо целиком. Ниже — воронка за выбранный период: сколько адресов нашли все источники, сколько из них новых, проверенных, отбракованных и годных. Это главный ответ на вопрос, есть ли смысл в бесплатных списках.
Верх страницы фидов прокси: вкладки модуля и период — сутки, 7 или 30 дней; от периода зависит воронка ниже. Под ними — главное предупреждение страницы, которое стоит прочитать до любой настройки. Через бесплатный прокси проходит письмо целиком — адреса получателей, текст, ссылки, — и его владелец может прочитать и подменить содержимое. Вывод простой: бесплатные адреса годятся для очистки базы и проверок, но не для боевой рассылки с рабочих доменов. Адрес класса D с закрытым портом 25 к почте не допускается вовсе, откуда бы он ни пришёл. Ниже — воронка за выбранный период.
УвеличитьАдрес класса D с закрытым портом 25 к почте не допускается вовсе.
Воронка фидов прокси за 7 дней — пять чисел от строки в списке до годного адреса. Справа у каждого шага — доля от предыдущего, поэтому видно, где отсеивается поток. Из 416 272 найденных адресов новых только 2 372, почти все они не прошли проверку, и годных осталось 10. Экран честно показывает цену бесплатных списков: много строк, единицы пригодных адресов, и даже они сами в отправку не идут. Если источник неделями не даёт годных адресов, его можно выключить. Отбракованные адреса запоминаются по отпечатку, поэтому следующий сбор не добавит их снова и не потратит на них проверки.
УвеличитьГодный адрес из списка ещё не в отправке: собранное само в рассылку не идёт.
Дальше — сами фиды прокси: у каждого состояние, способ разбора, расписание и улов последнего сбора и всего времени. По полосе годных видно, какой источник стоит держать, а какой можно выключить. Здесь же форма, чтобы добавить новый источник по ссылке.
Список подключённых фидов прокси — здесь решают, какой источник держать. Их четыре, и у каждого видно состояние, протокол, способ разбора, расписание, ссылку и улов последнего сбора. Цветная полоса показывает долю годных, ждущих проверки и отбракованных адресов, и у бесплатных списков она почти целиком красная. Справа — кнопки «Собрать», «Выключить» и «Убрать», вверху — «Собрать со всех включённых»; если сбор сломался, строка подсказывает, что делать. Собранные адреса сами в отправку не идут, а отбракованные бесплатные убираются сразу после проверки; уже убрано 13 747.
УвеличитьСобранное не идёт в отправку само. Отбракованные бесплатные адреса убираются сразу после проверки, остатки — ночной уборкой; уже убрано 13 747.
Форма, через которую добавляют новый фид прокси. Нужны четыре поля: ссылка на страницу или файл списка, название, протокол и расписание сбора — раз в час, раз в сутки или вручную. Кнопка «Проверить и добавить» сразу скачивает страницу и не сохранит источник, если адресов на ней нет, так что пустая ссылка в список не попадёт, а протокол можно определить по странице или задать вручную. Ссылку на страницу GitHub Хаб сам переделывает в ссылку на «сырой» файл. Как читать страницу, Хаб выберет сам при первом сборе — об этом следующий экран.
УвеличитьСсылку на страницу GitHub Хаб сам переделывает в ссылку на «сырой» файл — иначе он нашёл бы там ноль адресов.
Внизу — как Хаб читает страницы со списками и что происходило при последних сборах. Способ разбора Хаб выбирает сам, так что подходит почти любой список. Если сбор сломался, строка истории называет причину словами.
Справочный блок о том, как Хаб читает страницы со списками прокси, — пригодится, если источник вдруг перестал давать адреса. Способов три: адреса в тексте страницы, адрес и порт в ссылках таблицы и порт, который выводит скрипт. Способ выбирается сам при первом сборе и запоминается, а если перестал находить адреса — выбирается заново. Внизу объяснено, почему Хаб представляется браузером: часть сайтов отвечает роботам отказом. Поломки названы словами: проверка браузера, сайт не ответил, перестал отдавать адреса. Такие строки видны в истории сборов ниже.
УвеличитьОдин из проверенных сайтов отвечает 406 на запрос без заголовков браузера — без маскировки источник выглядел бы мёртвым.
История фидов прокси: последние двенадцать сборов, каждый отдельной строкой — когда, какой источник, чем закончился, сколько строк дал и сколько из них новых. Цвет полосы слева — итог сбора, поэтому сломанный источник видно сразу. Например, «Таблица с карточками» в 16:20 дала 296 строк, но новых из них только 5, а «Порты в скрипте» в 13:50 упёрлись в проверку браузера. Внизу объяснено, почему отбракованный адрес не вернётся со следующим сбором. Если источник раз за разом упирается в проверку браузера, список скачивают вручную и загружают файлом на экране импорта.
УвеличитьОтбракованный адрес запоминается: следующий сбор того же списка не заведёт его снова, иначе один и тот же мусор ходил бы по кругу каждый час.
06 / Вопросы об источниках
Коротко о том, зачем нужны бесплатные прокси, почему годных так мало и что делать, если источник сломался.
УвеличитьСостояние, способ разбора и расписание каждого источника, его улов и подсказка, если сбор сломался.
Не стоит. Через бесплатный прокси проходит письмо целиком, и его владелец может его прочитать и подменить. Такие адреса ставят на очистку базы и проверки.
Большинство строк — адреса, которые уже есть в парке или были отбракованы раньше. Хаб добавляет только новые.
Нет. У него остаётся отпечаток, и сбор из источников его больше не добавит. Ручной импорт добавит такой адрес и проверит снова.
Нет. Новый адрес проходит ту же приёмку, что и купленный, получает класс, а в набор его добавляют отдельно — кнопкой «Добавить прокси» у набора.
Скачать список вручную и загрузить файлом на экране импорта — строка источника подсказывает это сама.
Раз в час, раз в сутки или вручную — это задаётся у каждого источника.
Да. Хаб сам переделывает ссылку на страницу в ссылку на «сырой» файл со списком.
По воронке и числу годных за всё время. Если источник неделями не даёт годных адресов, его можно выключить кнопкой «Выключить» в строке источника.
07 / Следующий шаг
Сборы, проверки, срабатывания правил и действия людей — всё, что происходило с прокси, записано в журнале модуля.
Как проверяется каждый собранный адрес, показано на странице «Проверки», а весь маршрут — от MTA через гейт до получателя — в обзоре модуля.
Маршрут соединения, настройка и результаты отправки.
ДалееЧто происходило с прокси и кто это сделал.
Как проверяются адресаПять шагов приёмки без пробных писем.
Прокси-гейт, DNS, установка MTA и экспорт SMTP работают в одном кабинете MTA-Hub.
Все модули Хаба