Приведи друга: тебе 15% с каждого заказа, ему скидка 10%

Прокси Бангладеш

Бангладеш ломает два привычных допущения. Первое: что цифры на странице это те цифры, которые ищет ваше регулярное выражение. Здесь они бенгальские, и поиск по арабским цифрам не находит ни цены, ни даты. Второе: что счёт за резидентку зависит от числа страниц. Здесь он зависит от их веса, и разница между аккуратным и небрежным сборщиком выходит в разы.

Что у нас есть в Бангладеш

Цены такие же, как в любой другой стране покрытия.

Зачем здесь берут бангладешские адреса

Мониторинг цен на маркетплейсах

Daraz BD, Pickaboo, Chaldal, Rokomari: бангладешские витрины и цены видны только изнутри страны.

Объявления и вторичный рынок

Bikroy.com держит основную часть частных объявлений: вещи, машины, работа.

Недвижимость

Bproperty: аренда и продажа в Дакке, рынок обновляется быстро.

Локальная выдача и проверка рекламы

google.com.bd, Prothom Alo, The Daily Star, Bdnews24: кампании закупаются на местную аудиторию.

Что снаружи Бангладеш выглядит иначе

Эти сервисы показывают бангладешскому посетителю не то же, что иностранному, из-за прав на вещание и локальных каталогов. Мы продаём адреса, а не обход защит.

ChorkiстримингBongoстримингToffeeТВDaraz BDмаркетплейсChaldalпродуктыPickabooрозницаRokomariкнигиBikroy.comобъявленияBpropertyнедвижимостьProthom Aloновостиgoogle.com.bdвыдачаPathaoдоставка

Какой тип брать под бангладешскую задачу

Города, которые здесь запрашивают

Города задаются суффиксом _city_. Дакка перевешивает всё, Читтагонг даёт заметную добавку, дальше пул тонкий.

DhakaСтолица, крупнейший пул и основная связность
ChattogramПортовый город, второй пул
KhulnaЮго-запад, небольшой пул
SylhetСеверо-восток, компактный пул
RajshahiЗапад, тонкий пул

Связки, которые здесь берут чаще всего

  1. 01Резидентка с отключёнными картинкамиОсновной вариант, и блокировка медиа здесь не оптимизация, а необходимость.
  2. 02Датацентр под объёмТам, где цель нейтральна: трафик не тарифицируется, и вес страниц перестаёт иметь значение.
  3. 03Липкая сессия на пятьдесят минутКогда работа должна пройти на одном адресе от начала до конца.
  4. 04Нормализация цифр при приёмеБенгальские цифры приводятся к арабским до разбора, а не после.

Строки подключения для Бангладеш

Код страны BD, заглавными. Город добавляется через _city_, пробелы заменяются дефисами, порядок: страна, город, сессия, время жизни.

Бангладешские статические адреса суффиксов не принимают: хостом выступает IP из панели, порт 50100, SOCKS5 на 50101.

Бангладешские выходы, четыре способа

curl -x login_c_BD:password@proxy.sotaproxy.com:10000 https://api.ipify.org

# held for fifty minutes, for a job that must not change address
curl -x login_c_BD_s_42_ttl_50m:password@proxy.sotaproxy.com:10000 https://api.ipify.org

# Chattogram explicitly, when regions are compared
curl -x login_c_BD_city_Chattogram_s_43_ttl_15m:password@proxy.sotaproxy.com:10000 https://api.ipify.org

# a Bangladeshi static address: no suffixes
curl -x login:password@YOUR-BD-IP:50100 https://api.ipify.org

Снятое не совпадает с увиденным

Первая особенность, и она про то, что ваш парсер видит не то, что видит человек в браузере.

Бенгальская письменность использует собственные цифры. Цена, дата, номер телефона на странице могут быть записаны ими, и регулярное выражение по арабским цифрам не найдёт ничего, хотя на экране число есть. Хуже того, на одной странице обычно встречаются оба набора: заголовок бенгальскими, техническое поле арабскими.

Лечится это нормализацией при приёме. Приводите цифры к одному виду до разбора, а не после, и используйте классы символов, понимающие Unicode, вместо явного перечисления от нуля до девяти.

Вторая часть проблемы старше и злее. Часть сайтов и особенно документов до сих пор используют дословные шрифтовые кодировки, придуманные до распространения Unicode: байты в них латинские, а выглядит текст бенгальским благодаря шрифту. Ваш скрапер снимет набор латинских символов, который в браузере читался как нормальный бенгальский текст. Внешне это похоже на порчу кодировки, но причина другая, и обычная перекодировка не помогает.

Практический вывод: проверяйте снятое, а не отрендеренное. Если в теле страницы встречаются осмысленные бенгальские слова, вы работаете с Unicode. Если там латинская каша при бенгальском виде в браузере, отметьте такой источник отдельно и решайте по нему отдельно, а не пытайтесь чинить его общим правилом.

Отдельно про даты: рядом с григорианским календарём на части ресурсов стоит бенгальский год. Берите дату из машиночитаемого атрибута, а видимую сверяйте на диапазон.

Вес страниц определяет ваш счёт

Вторая особенность, и она прямо про деньги.

Резидентка тарифицируется гигабайтами, а не запросами. В странах с лёгкими страницами разница между аккуратным и небрежным сборщиком составляет проценты. Здесь страницы часто тяжёлые: крупные несжатые изображения, встроенные шрифты для бенгальского текста, много сторонних скриптов. Разница выходит в разы.

Считается это просто. Страница с картинками на полтора мегабайта против той же страницы без медиа на сто килобайт: пятнадцатикратная разница в счёте при одинаковом наборе данных. На двадцати тысячах карточек в сутки это тридцать гигабайтов против двух.

Поэтому здесь блокировка изображений, шрифтов, видео и рекламных скриптов не оптимизация на потом, а часть первоначальной настройки. Если вы работаете через безголовый браузер, отключайте загрузку медиа на уровне перехвата запросов, а не надеждой на кеш.

И проверка перед масштабированием: снимите двадцать страниц, посмотрите фактический объём и умножьте. Смета, посчитанная по числу страниц без замера веса, в этой стране ошибается сильнее всего.

Если цель не смотрит на класс адреса, датацентровый вариант снимает вопрос целиком: там трафик не тарифицируется, и вес страниц перестаёт влиять на счёт.

Что вас здесь на самом деле блокирует

Деление привычное для Южной Азии.

Маркетплейсы и Bikroy фильтруют хостинговые диапазоны: с датацентра ждите 403 и закладывайте резидентку.

Издания и государственные ресурсы обслуживают датацентровые адреса как обычно.

Выдача доступна, но ограничивает частоту на адрес: нужно больше адресов, а не другой тип.

Часть площадок отдаёт карточки только после выполнения скриптов, и это ещё один повод следить за объёмом: рендеринг тянет за собой всё, что вы не заблокировали.

Какие выходы здесь достаются и насколько они устойчивы

Бангладешский пул на практике.

Пул приличный по размеру за счёт населения, но географически узкий: подавляющая часть в Дакке и Читтагонге.

Качество линий разнородное, и время ответа скачет заметнее, чем в соседних странах. Тридцатисекундный таймаут здесь минимум, а ретраи стоит закладывать в архитектуру.

Время ответа из Европы длинное: страна далеко, и трафик идёт транзитом.

Липкие сессии держат адрес до пятидесяти минут, ротация по умолчанию меняет его на каждый запрос.

Как выбрать тип под бангладешскую цель

Порядок обычный, но с денежной развилкой.

  • Начните с бангладешского датацентрового адреса: $1.15 за адрес в месяц. На изданиях и справочных ресурсах этого достаточно, и вес страниц там не важен.
  • 403 на первом запросе означает фильтрацию хостинговых диапазонов. Переходите на резидентку уровня страны.
  • На резидентке сразу настройте блокировку медиа: это здесь главный рычаг на счёт.
  • Если работа должна пройти на одном адресе, добавляйте липкую сессию с временем жизни.
  • Замерьте вес двадцати страниц до того, как масштабировать: смета по числу страниц здесь врёт сильнее всего.

Что бангладешские сайты проверяют помимо адреса

Бангладешский адрес открывает первые ворота, дальше решают язык, цифры и время.

Отправляйте bn-BD. Английские версии здесь распространены, особенно в деловых разделах, поэтому без явного заголовка вы соберёте не тот вариант.

Валюта така, обозначается ৳, и сумма рядом с ней может быть записана бенгальскими цифрами.

Часовой пояс UTC+6 без перевода на летнее время, один на всю страну.

Выходные здесь пятница и суббота, а воскресенье рабочий день: расписание обхода и недельные срезы считайте по местной неделе, иначе выводы о деловой активности сдвинутся.

Сколько стоит месяц работы по Бангладеш

Три сценария по нашим ценам, и здесь они особенно наглядны.

  • Мониторинг цен, 20 000 карточек в сутки с отключёнными картинками, около 100 КБ на страницу. Это примерно 2 ГБ в сутки и около 60 ГБ в месяц: $60 на резидентке.
  • Те же 20 000 карточек без блокировки медиа, около 1,5 МБ на страницу: примерно 30 ГБ в сутки и 900 ГБ в месяц, то есть $900. Данные вы получите те же самые.
  • Если цели нейтральны, тот же сбор на десяти датацентровых адресах стоит $13,50 в месяц независимо от веса страниц.

Юридическая часть, прямым текстом

Бангладеш не входит в Евросоюз, и GDPR здесь напрямую не действует. Сбор сведений, позволяющих опознать людей в стране, регулируется местным правом независимо от того, где находится ваша компания.

Это общая информация, а не юридическая консультация. Наши условия требуют законного использования, и на жалобы мы реагируем. Там, где от ответа зависит коммерческий риск, спрашивайте юриста.

Как проверить бангладешский выход

Меньше минуты. Вторая команда здесь важнее прочих: она показывает фактический вес страницы, от которого зависит ваш счёт.

Три проверки

# 1. is the exit Bangladeshi, and where
curl -s -x login_c_BD:password@proxy.sotaproxy.com:10000 https://ipinfo.io/json

# 2. what one page actually weighs through this exit
curl -o /dev/null -s -w "bytes: %{size_download}\n" -x login_c_BD:password@proxy.sotaproxy.com:10000 https://your-target.com.bd/product

# 3. does the fifty minute session hold
for i in 1 2 3; do
  curl -s -x login_c_BD_s_42_ttl_50m:password@proxy.sotaproxy.com:10000 https://api.ipify.org; echo
done

Что спрашивают перед покупкой бангладешских адресов

Почему регулярка не находит цену?

Скорее всего цена записана бенгальскими цифрами. Нормализуйте цифры при приёме и используйте классы символов, понимающие Unicode.

Почему текст выглядит латинской кашей?

Часть источников использует дошрифтовые кодировки: байты латинские, а бенгальский вид даёт шрифт. Обычная перекодировка не поможет, такие источники надо помечать отдельно.

Почему счёт больше ожидаемого?

Здесь платят за гигабайты, а страницы тяжёлые. Без блокировки медиа тот же набор данных обходится в разы дороже.

Как оценить бюджет до старта?

Снимите двадцать страниц, замерьте фактический объём и умножьте. Смета по числу страниц в этой стране врёт сильнее всего.

Как настраивать расписание?

Под местную неделю: выходные пятница и суббота, воскресенье рабочий день.

Бангладешские адреса дороже?

Нет. Цены одинаковые везде: резидентка от $1.00 за ГБ, датацентр от $1.15 за адрес в месяц.

Термины, которые стоит понимать до покупки

Локации прокси

Смежное