jsn: (Default)
[personal profile] jsn
(утирает пот с закопчёного лба рукавом дымящейся спецовки) я тебе так скажу, сынок: удобно, когда у тебя мало процессоров на маленьком канале, потому что канал ложится раньше, чем кончаются процессоры. а вы говорите -- крэй на сериальном порту.

Date: 2010-03-29 08:57 am (UTC)
From: [identity profile] kika.livejournal.com
Я вот чего понять не могу - а что, все всё динамикой отдают? А зачем? Каждый раз как что-то случилось, так хрен прочитаешь, все в лежку лежат.

Date: 2010-03-29 09:00 am (UTC)
From: [identity profile] jsn.livejournal.com
ну в той степени, в которой эхо лежит -- оно в канал упирается.
потом, там *всё* статикой не отдашь, на таких хитрейтах уже залогиненность показать -- заметная нагрузка. ну я всё остальное из кэшей отдаю, а толку-то :)
лента, насколько я помню, упирается в отдачу статики, io ops-ов не хватает, что ли :)

Date: 2010-03-29 09:04 am (UTC)
From: [identity profile] kika.livejournal.com
Ну лента-то достаточно имхо зарабатывает чтобы уже давно отказаться от вращающихся пластин.
Упираться в канал это нищебродство какое-то, гигабитный порт стоит, сколько там, 5 штук в месяц на полной нагрузке? Вряд ли эху прям уж гигабит нужен.

Date: 2010-03-29 09:11 am (UTC)
From: [identity profile] jsn.livejournal.com
да, там обычно проблема не с деньгами, у ленты.
эху в такую погоду, как сейчас, нужно примерно треть гигабита чисто на отдачу текста с картинками. вечером, я думаю, будет нужно заметно больше, когда все захотят звук послушать.
ну и надо понимать, что купи эхо полгигабита полгода назад -- всё это время он стоял бы под 25% пиковой максимум два вечера в неделю.

Date: 2010-03-29 09:18 am (UTC)
From: [identity profile] kika.livejournal.com
А чего, у наших коло нету как на загнивающем - когда тебе дают, скажем 100М под 95 перцентиль, но сверху не капят хардверно, а берут денег pay as you go. А хардверный кап стоит чисто по железу, типа гигабит например. И всем счастье - тебе не надо подписываться под многобабок, а они имеют свой стольник если к тебе вдруг набежали.

Date: 2010-03-29 09:35 am (UTC)
From: [identity profile] jsn.livejournal.com
да не, как раз абстрактно проблема с гигабитом в москве вполне себе решаема. там дело очень редко в деньгах или ещё чем-то таком.

там, на самом деле, песня о том, почему всё так у всех всегда происходит (а это всегда и всех происходит, заметим) -- она длинная, системная и она заметно сложнее, чем "недокупили процессоров" или "мало канала" или "диски медленные". ключевые слова там "organic growth", "administrative friction" и всякие ещё. годовые графики посещаемости дают некоторый инсайт -- у тебя типа как правило восемь процентов прироста в месяц на протяжении 20 месяцев, потом удвоение-утроение за три часа, потом коррекция на 30% вниз, и снова всё так же.

Date: 2010-03-29 09:38 am (UTC)
From: [identity profile] kika.livejournal.com
Угу. Зима наступила неожиданно - это типичная административная фрикция.

Date: 2010-03-29 09:40 am (UTC)
From: [identity profile] jsn.livejournal.com
ну-ну :)

ну, то есть, я-то привычный, я по опыту знаю, любой таксист в этом городе готов тебе рассказать, как правильно отражать ddos :)

Date: 2010-03-29 10:11 am (UTC)
From: [identity profile] kika.livejournal.com
По-моему в отличие от DDoS, у органического трафика есть некие параметры, которые можно оценить. DDoS съест столько, сколько положат в тарелку, а офисные хомячки, к счастью, с такой скоростью пока не размножаются (особенно прямо в офисах). Если строить под этот трафик невыгодно, то мне и интересно почему.

Date: 2010-03-29 10:38 am (UTC)
From: [identity profile] jsn.livejournal.com
Тю. У ddos-а есть как раз, как правило, характерный и очень тупой профиль, что заметно упрощает его отражение (но не всегда делает его тривиальным, и иногда это всё равно довольно ресурсоёмкое занятие). Органический трафик на новостных сайтах размножается значительно быстрее и неравномернее, чем любые хомячки, и это не решается, в отличие от ddos-а, на уровне IP фильтров.

Мне непонятно, что тебе непонятно. В левой графе у обобщённой ленты -- 30%-ный шанс потерять 30% хитов за три первых часа следющей грузинской войны. В правой графе -- необходимость постоянной поддержки минимум трёхкратного резервирования по железу, канальным ёмкостям, плюс все затраты, связанные с превентивным скалированием двигла в условиях, когда ботлнеков пока не видно, и их надо угадывать (ты ведь знаешь, что будущие ботлнеки не всегда очевидны в случае порядкового органического роста трафика?). И чего, ты легко выберешь правую графу?

Date: 2010-03-29 10:54 am (UTC)
From: [identity profile] kika.livejournal.com
Ну я еще раз напишу, преподавательский опыт учит терпению к ближнему своему: "Если строить под этот трафик невыгодно, то мне и интересно почему." Потому что сначала были iopsы на статике и канал наружу, потом вдруг набежал ддос, а кончилось все масштабированием движка и пр. Это все вещи совершенно разной природы, от глупости и нищебродства до архитектурных flaws разной степени flawlessности. Иопсы на статике и каналы забрасываются небольшим количеством бабла, ддосы - это явления природы, а масштабирование софта это интересно.

Date: 2010-03-29 11:13 am (UTC)
From: [identity profile] jsn.livejournal.com
Терпение рулит, но для разумного обсуждеия нужны ещё некоторые качества (к сожалению, преподавательский опыт, похоже, ещё и назидательности нехуево учит). Ddos был приведён исключительно в качестве примера того, что научило лично меня терпению и кротости в общении с людьми, которые любят простые и логичные советы давать. Каковые качества теперь здорово помогают мне прямо сейчас :)

Насчёт "началось" и "кончилось" -- это всё твои проекции. На самом деле конкретное техническое проявление ботлнеков каждый раз разное и в разных сочетаниях. Чтобы не ложиться при следующем утроении пика, надо постоянно вкладываться в провиженинг всего перечисленного, and then some.

Тебе что непонятно-то? Я тебе описал левую графу и правую графу. Левая графа -- это "не строить под этот трафик", правая -- это "строить под этот трафик". Если тебе уже очевидно, почему левая графа может быть выгодна, то непонятно, о чём ты меня спрашиваешь. Если ещё неочевидно, то ты как-то поконкретнее, что именно неочевидно.

Date: 2010-03-29 11:55 am (UTC)
From: [identity profile] kika.livejournal.com
А тебя не затруднит мне указать предметно на "советы"? Там были вопросы, а не советы.
Просто ты как-то это все рассказываешь как будто есть какая-то секретная магия, которая не дает расти без того чтобы все раком вставало. Я пытаюсь понять происхождение этой магии, чтобы либо на нее рукой махнуть либо сделать какие-нибудь полезные выводы.

По очевидности неочевидности. Насчет 30% вероятности потерять 30% хитов - выглядит снаружи это как 100% вероятность потерять почти 100% хитов. Если лента лежит, то прорваться на нее невозможно или почти невозможно. При 30% вероятности потери 30% хитов это называется "время от времени CSS не загрузился или одна картинка битая". Я не могу понять насколько это ценно для ленты, потому что не знаю сколько бабок она теряет в минуту.

Резервирование по железу в моем мире очень дешевое (например у меня просто есть логин на холостую машину, за которую я не плачу пока не использую. Если чо - я мигрирую туда xen-овские образы и поднимаю за полчаса все что надо, денег потом отдам). Резервирование каналов - тоже, по-моему они будут только рады налить мне туда хоть 10гбит, лишь бы я хоть раз обосрался и съел бы сколько-нибудь сверх своих ста мегабит или сколько там набегает. Это ж реально почти ничего не стоит.

По-моему лента настолько ценный генератор трафика, что ей навстречу пойдут почти до куда угодно.

Ну и с движком тоже непонятно. У меня-то web 1.0, никаких тебе логинов и персонализированного контента, реальной динамики - только поисковые запросы (зато те по полной программе жрут). Поэтому мне и интересно как ваш вебдваноль выживает в реальной мясорубке.

Date: 2010-03-29 12:22 pm (UTC)
From: [identity profile] jsn.livejournal.com
Советы типа выбросить блины и резевировать канальные, нет? Я ни разу не рассказываю про секретную магию, я лишь пытаюсь объяснить тебе, что 1) если хозяева пруда не считают резервирование под такие штуки первым приоритетом -- во время таких штук всегда будут вылезать какие-нибудь ботлнеки, и 2) позиция "это не первый приоритет" не то чтобы совсем нерезонна.

Если реально посмотреть по открытой статистике, то такие события, как сегодня, дают примерно три-пять раз вверх по посещаемости (например, грузинская война, которую эхо пережило без заметных проблем). Сегодня на эхе примерно 2-2.5 вверх, с учётом проблем с каналом. Примерно из такого и складываются мои оценки вероятностей и потерь. Лента тоже не то чтобы на каждый такой случай уходит в даунтайм (и сегодня в том числе, не сказать, чтобы существенное время существенно лежала). Просто случаи, когда лента не ложится при скачке, ты, наверное, не замечаешь? У меня нет другого объяснения твоим первым 100%. Сегодня лежка ленты, когда таки наблюдалась, выглядела как длинная задержка на css-е и незагрузка картинок. Ты видел что-то другое? Это, наверное, объясняет твои вторые 100%.

Ну и я не знаю, сколько бабок лента упускает за такой день, как сегодня, с такими перебоями, как сегодня; но я думаю, что меньше $2k. Это происходит типа раз в года полтора, наверное. При этом, очевидно же, что день в целом в прибылях -- это всё упущенная прибыль, а не убытки :)

Отказ от шпинделей, скажем, не сводится к пятку xen-ов. Вообще, если упираешься в io ops, то, насколько я понимаю, в москве не очень тривиально купить бесхлопотных vps-ов, где с io всё офигительно. В ленте, насколько я знаю, деплоймент нового бокса даже под фронтенд -- это некое событие. В смысле, их всего там два или четыре, я думаю. У них нет автоматизированной процедуры для этого, и при таких объёмах не факт, что она экономически оправдана. Никто не мейтейнит образы, и т.д. Ну, насколько я знаю.

С каналами проблема конкретно у эха -- они имеют свою текущую площадку в результате сложных многолетних бартерных отношений, там канальные ёмкости исчерпаны, переезд связан с изменением формата отношений и проч. и проч. В абсолютных цифрах цена канала невелика; в относительных -- его стоимость становится ненулевой из нулевой. Я всё равно продавлю, конечно, но после сегодняшнего это сильно проще, чем до. Надеюсь, это сколько-то отвечает на незаданный вопрос про administrative friction и organic growth.

Ну а про вебдваноль -- чего там, всё то же самое, добросить ресурсов, где жмёт, смазать, где лочится, всё как обычно. После скрюапа опять же сильно проще, чем до :)

Date: 2010-03-29 12:46 pm (UTC)
From: [identity profile] kika.livejournal.com
Это не совет выбросить блины, а вопрос почему лента это не делает. Может там конечно как в ибеем, 6 уровней вложенности, и потом еще 4 международных уровня (вот это да, вот это фрикция), так что SSD приедут ровняк к тому моменту когда весь мир перейдет на голографические накопители. Но как-то вряд ли.

Для меня сегодня в 9 утра лента лежала ничком. То есть у меня что со стрима, что с езернета не грузилось ничего. Waiting for lenta.ru и усё. У Газеты открывалась морда, но не открывалась новость про теракты. Что говорит видимо о том, что у них там похитрее раскидано.

$2K упущенных прибылей закрывают вопрос, конечно. Ради этого дергаться не имеет никакого практического смысла. Я как-то себе представлял цифры скорее на порядок большие.

Date: 2010-03-29 12:58 pm (UTC)
From: [identity profile] jsn.livejournal.com
я не знаю, почему лента этого не делает (и не делает ли, да и не знаю, собственно, в чём их проблемы были сегодня, и связаны ли они с io -- я общался тамошними техами год назад на эти темы последний раз).

а ленту я сегодня в районе 9-10 смотрел многократно, и глухо она лежала раза два из десяти, наверное. да возьми любой график по ленте, хоть top100-шный, там типа видно, что дура не дура, а свой миллион страниц в час отдаёт.

Date: 2010-03-29 01:04 pm (UTC)
From: [identity profile] jsn.livejournal.com
ну то есть моя арифметика проста: они отдают 1e6 в час, начиная с 9-ти. если бы не лежали, то ну отдавали бы первые два часа не 1e6, а 1.5e6. итого за день отдали бы не 1.2e7, а 1.3e7. если считать, что лента приносит в день $20k ревеня чисто на откруточной рекламе (т.е. не считая покупок места на сутки, рекламных материалов и прочего), то вот они примерно $2k потеряли. и знаешь, я буду сильно удивлён, если они столько зарабатывают -- я думаю, в разы меньше.
(deleted comment)

Date: 2010-03-29 11:58 am (UTC)
From: [identity profile] kika.livejournal.com
Ну наверное триста тыщ это совсем мало. Лента это сколько? У меня-то, нищеброда, и то 180-200, и миллион с хреном поисковых запросов (каждый из которых блокирует апач черт знает на сколько, фронтенд в штатах, а бекенд в англии, архитектура что надо).
(deleted comment)

Date: 2010-03-29 12:37 pm (UTC)
From: [identity profile] kika.livejournal.com
А, я втупил, триста тыщ юзеров, я это с собой вообще прокоррелировать не могу. То есть я могу у себя юзеров посчитать, но что толку они у меня другие совсем.

Date: 2010-03-29 12:38 pm (UTC)
From: [identity profile] jsn.livejournal.com
300 тысяч разных ip, плюс-минус. ну хиты-то интереснее, да.

Profile

jsn: (Default)
jsn

July 2020

S M T W T F S
   1234
56789 1011
12131415161718
19202122232425
262728293031 

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jan. 1st, 2026 12:18 am
Powered by Dreamwidth Studios