Прокси Бангладеш
Бангладеш ломает два привычных допущения. Первое: что цифры на странице это те цифры, которые ищет ваше регулярное выражение. Здесь они бенгальские, и поиск по арабским цифрам не находит ни цены, ни даты. Второе: что счёт за резидентку зависит от числа страниц. Здесь он зависит от их веса, и разница между аккуратным и небрежным сборщиком выходит в разы.
Что у нас есть в Бангладеш
Цены такие же, как в любой другой стране покрытия.
Зачем здесь берут бангладешские адреса
Мониторинг цен на маркетплейсах
Daraz BD, Pickaboo, Chaldal, Rokomari: бангладешские витрины и цены видны только изнутри страны.
Объявления и вторичный рынок
Bikroy.com держит основную часть частных объявлений: вещи, машины, работа.
Недвижимость
Bproperty: аренда и продажа в Дакке, рынок обновляется быстро.
Локальная выдача и проверка рекламы
google.com.bd, Prothom Alo, The Daily Star, Bdnews24: кампании закупаются на местную аудиторию.
Что снаружи Бангладеш выглядит иначе
Эти сервисы показывают бангладешскому посетителю не то же, что иностранному, из-за прав на вещание и локальных каталогов. Мы продаём адреса, а не обход защит.
Какой тип брать под бангладешскую задачу
Адреса домашних подключений, оплата по гигабайтам, ротация по умолчанию. Липкая сессия держит один адрес до пятидесяти минут.
Маркетплейсы, объявления, выдача, проверка рекламы
Адреса в бангладешских датацентрах, трафик не тарифицируется.
Объёмный сбор там, где цель не смотрит на класс адреса
Города, которые здесь запрашивают
Города задаются суффиксом _city_. Дакка перевешивает всё, Читтагонг даёт заметную добавку, дальше пул тонкий.
Связки, которые здесь берут чаще всего
- 01Резидентка с отключёнными картинкамиОсновной вариант, и блокировка медиа здесь не оптимизация, а необходимость.
- 02Датацентр под объёмТам, где цель нейтральна: трафик не тарифицируется, и вес страниц перестаёт иметь значение.
- 03Липкая сессия на пятьдесят минутКогда работа должна пройти на одном адресе от начала до конца.
- 04Нормализация цифр при приёмеБенгальские цифры приводятся к арабским до разбора, а не после.
Строки подключения для Бангладеш
Код страны BD, заглавными. Город добавляется через _city_, пробелы заменяются дефисами, порядок: страна, город, сессия, время жизни.
Бангладешские статические адреса суффиксов не принимают: хостом выступает IP из панели, порт 50100, SOCKS5 на 50101.
Бангладешские выходы, четыре способа
curl -x login_c_BD:password@proxy.sotaproxy.com:10000 https://api.ipify.org
# held for fifty minutes, for a job that must not change address
curl -x login_c_BD_s_42_ttl_50m:password@proxy.sotaproxy.com:10000 https://api.ipify.org
# Chattogram explicitly, when regions are compared
curl -x login_c_BD_city_Chattogram_s_43_ttl_15m:password@proxy.sotaproxy.com:10000 https://api.ipify.org
# a Bangladeshi static address: no suffixes
curl -x login:password@YOUR-BD-IP:50100 https://api.ipify.orgСнятое не совпадает с увиденным
Первая особенность, и она про то, что ваш парсер видит не то, что видит человек в браузере.
Бенгальская письменность использует собственные цифры. Цена, дата, номер телефона на странице могут быть записаны ими, и регулярное выражение по арабским цифрам не найдёт ничего, хотя на экране число есть. Хуже того, на одной странице обычно встречаются оба набора: заголовок бенгальскими, техническое поле арабскими.
Лечится это нормализацией при приёме. Приводите цифры к одному виду до разбора, а не после, и используйте классы символов, понимающие Unicode, вместо явного перечисления от нуля до девяти.
Вторая часть проблемы старше и злее. Часть сайтов и особенно документов до сих пор используют дословные шрифтовые кодировки, придуманные до распространения Unicode: байты в них латинские, а выглядит текст бенгальским благодаря шрифту. Ваш скрапер снимет набор латинских символов, который в браузере читался как нормальный бенгальский текст. Внешне это похоже на порчу кодировки, но причина другая, и обычная перекодировка не помогает.
Практический вывод: проверяйте снятое, а не отрендеренное. Если в теле страницы встречаются осмысленные бенгальские слова, вы работаете с Unicode. Если там латинская каша при бенгальском виде в браузере, отметьте такой источник отдельно и решайте по нему отдельно, а не пытайтесь чинить его общим правилом.
Отдельно про даты: рядом с григорианским календарём на части ресурсов стоит бенгальский год. Берите дату из машиночитаемого атрибута, а видимую сверяйте на диапазон.
Вес страниц определяет ваш счёт
Вторая особенность, и она прямо про деньги.
Резидентка тарифицируется гигабайтами, а не запросами. В странах с лёгкими страницами разница между аккуратным и небрежным сборщиком составляет проценты. Здесь страницы часто тяжёлые: крупные несжатые изображения, встроенные шрифты для бенгальского текста, много сторонних скриптов. Разница выходит в разы.
Считается это просто. Страница с картинками на полтора мегабайта против той же страницы без медиа на сто килобайт: пятнадцатикратная разница в счёте при одинаковом наборе данных. На двадцати тысячах карточек в сутки это тридцать гигабайтов против двух.
Поэтому здесь блокировка изображений, шрифтов, видео и рекламных скриптов не оптимизация на потом, а часть первоначальной настройки. Если вы работаете через безголовый браузер, отключайте загрузку медиа на уровне перехвата запросов, а не надеждой на кеш.
И проверка перед масштабированием: снимите двадцать страниц, посмотрите фактический объём и умножьте. Смета, посчитанная по числу страниц без замера веса, в этой стране ошибается сильнее всего.
Если цель не смотрит на класс адреса, датацентровый вариант снимает вопрос целиком: там трафик не тарифицируется, и вес страниц перестаёт влиять на счёт.
Что вас здесь на самом деле блокирует
Деление привычное для Южной Азии.
Маркетплейсы и Bikroy фильтруют хостинговые диапазоны: с датацентра ждите 403 и закладывайте резидентку.
Издания и государственные ресурсы обслуживают датацентровые адреса как обычно.
Выдача доступна, но ограничивает частоту на адрес: нужно больше адресов, а не другой тип.
Часть площадок отдаёт карточки только после выполнения скриптов, и это ещё один повод следить за объёмом: рендеринг тянет за собой всё, что вы не заблокировали.
Какие выходы здесь достаются и насколько они устойчивы
Бангладешский пул на практике.
Пул приличный по размеру за счёт населения, но географически узкий: подавляющая часть в Дакке и Читтагонге.
Качество линий разнородное, и время ответа скачет заметнее, чем в соседних странах. Тридцатисекундный таймаут здесь минимум, а ретраи стоит закладывать в архитектуру.
Время ответа из Европы длинное: страна далеко, и трафик идёт транзитом.
Липкие сессии держат адрес до пятидесяти минут, ротация по умолчанию меняет его на каждый запрос.
Как выбрать тип под бангладешскую цель
Порядок обычный, но с денежной развилкой.
- Начните с бангладешского датацентрового адреса: $1.15 за адрес в месяц. На изданиях и справочных ресурсах этого достаточно, и вес страниц там не важен.
- 403 на первом запросе означает фильтрацию хостинговых диапазонов. Переходите на резидентку уровня страны.
- На резидентке сразу настройте блокировку медиа: это здесь главный рычаг на счёт.
- Если работа должна пройти на одном адресе, добавляйте липкую сессию с временем жизни.
- Замерьте вес двадцати страниц до того, как масштабировать: смета по числу страниц здесь врёт сильнее всего.
Что бангладешские сайты проверяют помимо адреса
Бангладешский адрес открывает первые ворота, дальше решают язык, цифры и время.
Отправляйте bn-BD. Английские версии здесь распространены, особенно в деловых разделах, поэтому без явного заголовка вы соберёте не тот вариант.
Валюта така, обозначается ৳, и сумма рядом с ней может быть записана бенгальскими цифрами.
Часовой пояс UTC+6 без перевода на летнее время, один на всю страну.
Выходные здесь пятница и суббота, а воскресенье рабочий день: расписание обхода и недельные срезы считайте по местной неделе, иначе выводы о деловой активности сдвинутся.
Сколько стоит месяц работы по Бангладеш
Три сценария по нашим ценам, и здесь они особенно наглядны.
- Мониторинг цен, 20 000 карточек в сутки с отключёнными картинками, около 100 КБ на страницу. Это примерно 2 ГБ в сутки и около 60 ГБ в месяц: $60 на резидентке.
- Те же 20 000 карточек без блокировки медиа, около 1,5 МБ на страницу: примерно 30 ГБ в сутки и 900 ГБ в месяц, то есть $900. Данные вы получите те же самые.
- Если цели нейтральны, тот же сбор на десяти датацентровых адресах стоит $13,50 в месяц независимо от веса страниц.
Юридическая часть, прямым текстом
Бангладеш не входит в Евросоюз, и GDPR здесь напрямую не действует. Сбор сведений, позволяющих опознать людей в стране, регулируется местным правом независимо от того, где находится ваша компания.
Это общая информация, а не юридическая консультация. Наши условия требуют законного использования, и на жалобы мы реагируем. Там, где от ответа зависит коммерческий риск, спрашивайте юриста.
Как проверить бангладешский выход
Меньше минуты. Вторая команда здесь важнее прочих: она показывает фактический вес страницы, от которого зависит ваш счёт.
Три проверки
# 1. is the exit Bangladeshi, and where
curl -s -x login_c_BD:password@proxy.sotaproxy.com:10000 https://ipinfo.io/json
# 2. what one page actually weighs through this exit
curl -o /dev/null -s -w "bytes: %{size_download}\n" -x login_c_BD:password@proxy.sotaproxy.com:10000 https://your-target.com.bd/product
# 3. does the fifty minute session hold
for i in 1 2 3; do
curl -s -x login_c_BD_s_42_ttl_50m:password@proxy.sotaproxy.com:10000 https://api.ipify.org; echo
doneЧто спрашивают перед покупкой бангладешских адресов
Почему регулярка не находит цену?
Скорее всего цена записана бенгальскими цифрами. Нормализуйте цифры при приёме и используйте классы символов, понимающие Unicode.
Почему текст выглядит латинской кашей?
Часть источников использует дошрифтовые кодировки: байты латинские, а бенгальский вид даёт шрифт. Обычная перекодировка не поможет, такие источники надо помечать отдельно.
Почему счёт больше ожидаемого?
Здесь платят за гигабайты, а страницы тяжёлые. Без блокировки медиа тот же набор данных обходится в разы дороже.
Как оценить бюджет до старта?
Снимите двадцать страниц, замерьте фактический объём и умножьте. Смета по числу страниц в этой стране врёт сильнее всего.
Как настраивать расписание?
Под местную неделю: выходные пятница и суббота, воскресенье рабочий день.
Бангладешские адреса дороже?
Нет. Цены одинаковые везде: резидентка от $1.00 за ГБ, датацентр от $1.15 за адрес в месяц.