Обзор MTA-Hub

Источники бесплатных прокси

Фиды прокси: от публичного списка к годному адресу

Фиды прокси.
Сбор бесплатных
прокси из списков.

Хаб забирает публичные списки бесплатных прокси по расписанию, добавляет только новые адреса и проверяет каждый так же, как купленный.

Отбракованные он запоминает и больше не тратит на них проверки. Страница отвечает на один вопрос: стоит ли источник того, чтобы его держать.

Воронка источников
Раз в час или в суткиВоронка за периодОтпечаток брака
Прокси-гейт · источникиИнтерфейс MTA-Hub
ВоронкаИсточникиСборы
Оригинальные экраны модуляОткрыть в полном размере ↗
01СборПо расписанию
02РазборТекст, таблица, страница
03ПриёмкаКак у купленного
04ОтпечатокБрак не возвращается

01 / Воронка фидов

Сколько годных прокси дают публичные списки.

Публичные списки бесплатных прокси огромны, но почти целиком мертвы. Воронка фидов прокси показывает, на каком шаге отсеивается поток: от строки в списке до адреса, который годится для почты. По ней видно, сколько реальной пользы дают все источники за период.

Почему новых так мало

Отпечаток

Остальные адреса уже были в парке или были отбракованы раньше. У отбракованного остаётся отпечаток: следующий сбор не добавит его снова и не потратит на него проверку.

Приёмка как у купленного

Без поблажек

Новый адрес проходит ту же приёмку, что и купленный: доступность, рукопожатие, внешний адрес, порт 25 — и только потом получает класс. В отправку собранное само не идёт.

02 / Риски бесплатных прокси

Бесплатный прокси — для очистки базы, не для рассылки.

Через бесплатный прокси проходит письмо целиком: адреса получателей, текст, ссылки. Его владелец может прочитать и подменить содержимое — шифрование между почтовыми серверами он способен снять по пути. Об этом страница предупреждает первой строкой.

Куда ставить

Очистка и проверки

Бесплатные адреса ставят на очистку базы и проверки, а не на боевую рассылку с рабочих доменов.

Класс D

К почте не допускается

Адрес класса D — с закрытым портом 25 — к почте не допускается вовсе, откуда бы он ни пришёл.

03 / Источники

Сколько рабочих прокси даёт каждый источник.

У каждого фида прокси видно, сколько адресов он дал, сколько из них новых, сколько годных за всё время и сколько сейчас в работе. Полоса показывает долю годных, ждущих проверки и отбракованных.

Работает · раз в час

SOCKS5 · текстовый список

Последний сбор — 2 306 строк, из них 10 новых. Годных за всё время 4 — меньше 0,1 %.

Работает · раз в час

Таблица с карточками

296 строк, 5 новых, годных за всё время 6 — 0,2 %. Адреса читаются из ссылок таблицы.

Нужен браузер · раз в сутки

Порты в скрипте

Сайт закрылся проверкой браузера. Строка подсказывает: скачать список вручную и загрузить файлом.

Выключен 12 октября

HTTP · зеркало списка

В последнем сборе — 1 075 строк и 7 новых, годных — ни одного.

Полосы источников почти целиком красные — так и выглядит правда о бесплатных списках. Уже убрано 13 747 мёртвых адресов.

04 / Разбор списков

Как Хаб читает страницы со списками прокси.

Хаб читает текстовые файлы, таблицы со ссылками и страницы, где порт выводится скриптом. Способ выбирается при первом сборе и запоминается, а если перестал находить адреса — выбирается заново.

Способ 1

Текст страницы

Всё, что похоже на адрес с портом, — в текстовом файле, таблице или тегах.

Способ 2

Ссылки таблицы

Часть сайтов держит адрес и порт в ссылке на карточку — оттуда же берётся протокол.

Способ 3

Порты в скрипте

Порт печатается выражением на странице; считается без браузера, но ломается при правке сайта.

Сайты со списками закрываются от роботов, поэтому Хаб представляется браузером — иначе источник выглядит мёртвым, хотя работает. Поломки названы словами: проверка браузера, сайт не ответил, перестал отдавать адреса.

05 / Подробно об интерфейсе

Интерфейс раздела «Источники» — 6 экранов.

Все экраны раздела о фидах прокси: предупреждение, воронка, список источников, добавление, способы разбора и история сборов. Над каждым снимком — зачем нужен экран, под ним — что на нём есть.

Предупреждение и воронка

2 экрана

Страница начинается с предупреждения: бесплатный прокси — чужая машина, и через неё проходит письмо целиком. Ниже — воронка за выбранный период: сколько адресов нашли все источники, сколько из них новых, проверенных, отбракованных и годных. Это главный ответ на вопрос, есть ли смысл в бесплатных списках.

01

Бесплатный прокси — чужая машина

Главное предупреждение страницы

Верх страницы фидов прокси: вкладки модуля и период — сутки, 7 или 30 дней; от периода зависит воронка ниже. Под ними — главное предупреждение страницы, которое стоит прочитать до любой настройки. Через бесплатный прокси проходит письмо целиком — адреса получателей, текст, ссылки, — и его владелец может прочитать и подменить содержимое. Вывод простой: бесплатные адреса годятся для очистки базы и проверок, но не для боевой рассылки с рабочих доменов. Адрес класса D с закрытым портом 25 к почте не допускается вовсе, откуда бы он ни пришёл. Ниже — воронка за выбранный период.

MTA-Hub: Бесплатный прокси — чужая машина — Главное предупреждение страницыУвеличить
Экран 01 · Бесплатный прокси — чужая машина. Пример из интерфейса MTA-Hub.
  • Вкладка и период — эта страница — «Источники»; период меняет воронку.
  • Красная строка — бесплатный прокси — чужая машина: адреса получателей, текст и ссылки идут через неё.
  • Вторая строка — бесплатные адреса — для очистки базы и проверок, а не для боевой рассылки с рабочих доменов.

Адрес класса D с закрытым портом 25 к почте не допускается вовсе.

02

Воронка

От строки в списке до годного адреса

Воронка фидов прокси за 7 дней — пять чисел от строки в списке до годного адреса. Справа у каждого шага — доля от предыдущего, поэтому видно, где отсеивается поток. Из 416 272 найденных адресов новых только 2 372, почти все они не прошли проверку, и годных осталось 10. Экран честно показывает цену бесплатных списков: много строк, единицы пригодных адресов, и даже они сами в отправку не идут. Если источник неделями не даёт годных адресов, его можно выключить. Отбракованные адреса запоминаются по отпечатку, поэтому следующий сбор не добавит их снова и не потратит на них проверки.

MTA-Hub: Воронка — От строки в списке до годного адресаУвеличить
Экран 02 · Воронка. Пример из интерфейса MTA-Hub.
  • Найдено адресов — 416 272 за период, все источники.
  • Новых — 2 372 (0,6 %) — остальные уже были в парке или отбракованы раньше.
  • Проверено — 2 357 (99,4 %) — очередь идёт порциями по 60.
  • Отбраковано — 2 347 (99,5 %) — не ответили или с закрытым портом 25.
  • Годных — 10 (0,4 %), в работе 0.

Годный адрес из списка ещё не в отправке: собранное само в рассылку не идёт.

Источники

2 экрана

Дальше — сами фиды прокси: у каждого состояние, способ разбора, расписание и улов последнего сбора и всего времени. По полосе годных видно, какой источник стоит держать, а какой можно выключить. Здесь же форма, чтобы добавить новый источник по ссылке.

03

Источники

Улов каждого источника

Список подключённых фидов прокси — здесь решают, какой источник держать. Их четыре, и у каждого видно состояние, протокол, способ разбора, расписание, ссылку и улов последнего сбора. Цветная полоса показывает долю годных, ждущих проверки и отбракованных адресов, и у бесплатных списков она почти целиком красная. Справа — кнопки «Собрать», «Выключить» и «Убрать», вверху — «Собрать со всех включённых»; если сбор сломался, строка подсказывает, что делать. Собранные адреса сами в отправку не идут, а отбракованные бесплатные убираются сразу после проверки; уже убрано 13 747.

MTA-Hub: Источники — Улов каждого источникаУвеличить
Экран 03 · Источники. Пример из интерфейса MTA-Hub.
  • SOCKS5 · текстовый список — работает раз в час: дал 2 306, новых 10, годных всего 4 — меньше 0,1 %, 10 ждут проверки.
  • Таблица с карточками — читается по ссылкам таблицы: 296, новых 5, годных всего 6 — 0,2 %.
  • Порты в скрипте — нужен браузер: сайт закрыт защитой Cloudflare; строка подсказывает скачать список вручную и загрузить файлом.
  • HTTP · зеркало списка — выключено, последний сбор 12.10.
  • Полоса — зелёное — годные, жёлтое — ждут проверки, красное — отбракованы, вместе с убранными.

Собранное не идёт в отправку само. Отбракованные бесплатные адреса убираются сразу после проверки, остатки — ночной уборкой; уже убрано 13 747.

04

Добавить источник

Ссылка, название, протокол, расписание

Форма, через которую добавляют новый фид прокси. Нужны четыре поля: ссылка на страницу или файл списка, название, протокол и расписание сбора — раз в час, раз в сутки или вручную. Кнопка «Проверить и добавить» сразу скачивает страницу и не сохранит источник, если адресов на ней нет, так что пустая ссылка в список не попадёт, а протокол можно определить по странице или задать вручную. Ссылку на страницу GitHub Хаб сам переделывает в ссылку на «сырой» файл. Как читать страницу, Хаб выберет сам при первом сборе — об этом следующий экран.

MTA-Hub: Добавить источник — Ссылка, название, протокол, расписаниеУвеличить
Экран 04 · Добавить источник. Пример из интерфейса MTA-Hub.
  • Ссылка — на страницу или файл списка.
  • Название — как показывать источник в списке.
  • Протокол — определить по странице или задать вручную.
  • Сбор — раз в час, раз в сутки или вручную.

Ссылку на страницу GitHub Хаб сам переделывает в ссылку на «сырой» файл — иначе он нашёл бы там ноль адресов.

Разбор и история сборов

2 экрана

Внизу — как Хаб читает страницы со списками и что происходило при последних сборах. Способ разбора Хаб выбирает сам, так что подходит почти любой список. Если сбор сломался, строка истории называет причину словами.

05

Как Хаб читает страницу

Три способа разбора

Справочный блок о том, как Хаб читает страницы со списками прокси, — пригодится, если источник вдруг перестал давать адреса. Способов три: адреса в тексте страницы, адрес и порт в ссылках таблицы и порт, который выводит скрипт. Способ выбирается сам при первом сборе и запоминается, а если перестал находить адреса — выбирается заново. Внизу объяснено, почему Хаб представляется браузером: часть сайтов отвечает роботам отказом. Поломки названы словами: проверка браузера, сайт не ответил, перестал отдавать адреса. Такие строки видны в истории сборов ниже.

MTA-Hub: Как Хаб читает страницу — Три способа разбораУвеличить
Экран 05 · Как Хаб читает страницу. Пример из интерфейса MTA-Hub.
  • Текст страницы — всё, что похоже на адрес с портом, где бы оно ни лежало.
  • Ссылки таблицы — адрес и порт из ссылки на карточку; оттуда же протокол.
  • Порты в скрипте — порт печатается выражением; считается без браузера, но ломается при правке сайта.

Один из проверенных сайтов отвечает 406 на запрос без заголовков браузера — без маскировки источник выглядел бы мёртвым.

06

Что происходило

Последние сборы

История фидов прокси: последние двенадцать сборов, каждый отдельной строкой — когда, какой источник, чем закончился, сколько строк дал и сколько из них новых. Цвет полосы слева — итог сбора, поэтому сломанный источник видно сразу. Например, «Таблица с карточками» в 16:20 дала 296 строк, но новых из них только 5, а «Порты в скрипте» в 13:50 упёрлись в проверку браузера. Внизу объяснено, почему отбракованный адрес не вернётся со следующим сбором. Если источник раз за разом упирается в проверку браузера, список скачивают вручную и загружают файлом на экране импорта.

MTA-Hub: Что происходило — Последние сборыУвеличить
Экран 06 · Что происходило. Пример из интерфейса MTA-Hub.
  • Таблица с карточками в 16:20 — 296 строк → 5 новых; уже было 16, отбраковано ранее 275.
  • SOCKS5 · текстовый список в 16:20 — 2 306 строк → 10 новых.
  • Порты в скрипте в 13:50 — закрыт проверкой браузера — 0 → 0 новых и подсказка, что делать.

Отбракованный адрес запоминается: следующий сбор того же списка не заведёт его снова, иначе один и тот же мусор ходил бы по кругу каждый час.

06 / Вопросы об источниках

Частые вопросы о фидах прокси.

Коротко о том, зачем нужны бесплатные прокси, почему годных так мало и что делать, если источник сломался.

Источники
MTA-Hub: Источники — улов каждого источника и причина поломкиУвеличить

Состояние, способ разбора и расписание каждого источника, его улов и подсказка, если сбор сломался.

Можно ли слать рассылку через бесплатные прокси?

Не стоит. Через бесплатный прокси проходит письмо целиком, и его владелец может его прочитать и подменить. Такие адреса ставят на очистку базы и проверки.

Почему новых адресов так мало?

Большинство строк — адреса, которые уже есть в парке или были отбракованы раньше. Хаб добавляет только новые.

Вернётся ли отбракованный адрес со следующим сбором?

Нет. У него остаётся отпечаток, и сбор из источников его больше не добавит. Ручной импорт добавит такой адрес и проверит снова.

Идут ли собранные адреса в отправку сами?

Нет. Новый адрес проходит ту же приёмку, что и купленный, получает класс, а в набор его добавляют отдельно — кнопкой «Добавить прокси» у набора.

Что делать, если сайт требует проверку браузера?

Скачать список вручную и загрузить файлом на экране импорта — строка источника подсказывает это сама.

Как часто собирать список?

Раз в час, раз в сутки или вручную — это задаётся у каждого источника.

Можно ли добавить ссылку на GitHub?

Да. Хаб сам переделывает ссылку на страницу в ссылку на «сырой» файл со списком.

Как понять, стоит ли держать источник?

По воронке и числу годных за всё время. Если источник неделями не даёт годных адресов, его можно выключить кнопкой «Выключить» в строке источника.

07 / Следующий шаг

Загляните в журнал прокси.

Сборы, проверки, срабатывания правил и действия людей — всё, что происходило с прокси, записано в журнале модуля.

Как проверяется каждый собранный адрес, показано на странице «Проверки», а весь маршрут — от MTA через гейт до получателя — в обзоре модуля.

Интерфейс модуля