autoua
×
Autoua.netФорумІнформатика та побутова електроніка

Линукс, можно ли разделить ядра процессора? (2/2)

ssb
Достоевский **
35 лет (16 лет за рулем), Киев
Сообщения: 6723
С нами с 25.01.2008

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      5 марта 2019 в 23:35 Гілками

Tibor 05.03.2019 16:13 пишет:

Полезно делать show full processlist рекурсивно


Полезно для начала приложение профилировать, может там база вообще не при делах

Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: ssb]
      5 марта 2019 в 23:56 Гілками

ssb 05.03.2019 23:33 пишет:

Базу пихать в докер? Такое себе решение. Контейнеры всё ж больше подходят для stateless штук



+1
Оно-то пихнеся в докер. Но ведь задача докеризованого мускула предоставить легко перемещаемый софт и конфигурацию для масштабирования. Что в нашем случае совершенно беспредметно. Железо на ладан дышит по неизвестной причине.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
ssb
Достоевский **
35 лет (16 лет за рулем), Киев
Сообщения: 6723
С нами с 25.01.2008

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      6 марта 2019 в 00:13 Гілками

Tibor 06.03.2019 00:03 пишет:

аномалии типа нормальный цпу-высокий лоад


А что в этом аномального если, например, там hdd тормозит? Или может там диалап-модем
Tibor 06.03.2019 00:03 пишет:

или вообще перевести его на сокет


Когда приложение и база живут на одной железке, то вообще не вижу ни одной причины не использовать сокеты. А выносить базу на отдельную железку - так добавится ещё сеть ко всему. Если уж базу выносить, тогда в приложении кешировать всё то, что ты называешь микрозапросами, или в редисе на хосте с приложением

Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      6 марта 2019 в 00:16 Гілками

Пардон, грохнул пост. Изучил скрины. Вангую на базу и нужно софт смотреть. Что-то там не в порядке, с железом там все норм.
В ответ на:

Когда приложение и база живут на одной железке, то вообще не вижу ни одной причины не использовать сокеты.



вот это мы как раз не знаем, что там не сокет, конфиг надо смотреть.
В ответ на:

А выносить базу на отдельную железку - так добавится ещё сеть ко всему.



Согласен, в данном случае не имеет смысла, железо справляется.

Змінено Tibor (00:22 06/03/2019)


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      6 марта 2019 в 00:28 Гілками

В ответ на:

А что в этом аномального если, например, там hdd тормозит?



Типичный кейс. Файловые сессии. Если они не нужны - отключить. Если нужны - использовать мускул или редис.

Я как-то сервер ддосил банальной сессией. несколько тыс открытых файлов - и load avg начинает пиково расти, при этом цпу остается на минимуме

Змінено Tibor (00:46 06/03/2019)


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
ssb
Достоевский **
35 лет (16 лет за рулем), Киев
Сообщения: 6723
С нами с 25.01.2008

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      6 марта 2019 в 00:31 Гілками

Tibor 06.03.2019 00:28 пишет:

Я как-то сервер ддосил банальной сессией. несколько тыс открытых файлов - и load avg начинает пиково расти до нескольких сотен, при этом цпу остается на минимуме.


Так вот именно, это не аномалия, это вполне себе норма, просто в диск упёрлись

Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: ssb]
      6 марта 2019 в 00:36 Гілками

ssb 06.03.2019 00:31 пишет:

Так вот именно, это не аномалия, это вполне себе норма, просто в диск упёрлись



У мускула тоже есть кеш. Если присутствуют микро запросы - вынудить использовать, памяти хватает. До 1000 в секунду должен пережить.

Но от мусора надо избавляться на уровне приложения.

Гадаем на кофейной гуще...


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
V.I.P **
8 лет (20 лет за рулем), (Страна, Регион, Город)
Сообщения: 10719
С нами с 01.12.2006

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      6 марта 2019 в 10:46 Гілками

Некоторые тормоза исправились использованием NVME SAMSUNG EVO потому что обычные SSD INTEL не справлялись.

БАза данных в мускле 50гиг и вторая 40гиг.
Вот тормозит из-за одной таблицы в меньшей базе.
Админ начал изучать запросы и выяснил, что добавлением индексов можно исправить ситуацию на некоторых страницах сайта, которые я нашел что тупят. Но вот самое непонятное, когда ничего не делаешь, не подкачиваешь никакой инфы, а оно начинает очень тупить. Железо справляется в том числе и накопители. Я думаю что вся проблема с запросами которые кривые, как тут уже сказали. Вот сделать бы какуюто консоль, которая покажет количество времени потраченого на разные запросы...


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      6 марта 2019 в 11:08 Гілками

SPIRT 06.03.2019 10:46 пишет:

Некоторые тормоза исправились использованием NVME SAMSUNG EVO потому что обычные SSD INTEL не справлялись.

БАза данных в мускле 50гиг и вторая 40гиг.
Вот тормозит из-за одной таблицы в меньшей базе.
Админ начал изучать запросы и выяснил, что добавлением индексов можно исправить ситуацию на некоторых страницах сайта, которые я нашел что тупят. Но вот самое непонятное, когда ничего не делаешь, не подкачиваешь никакой инфы, а оно начинает очень тупить. Железо справляется в том числе и накопители. Я думаю что вся проблема с запросами которые кривые, как тут уже сказали. Вот сделать бы какуюто консоль, которая покажет количество времени потраченого на разные запросы...



Говорю же. Без профилирования кода самый простой способ - рекурсивный "show full processlist", собрать статистику и глазами просмотреть. Смотреть в основном на время, которое не соответствует запросу. Имея в наличии сам запрос сможешь сделать ему EXPLAIN и увидишь лажи.

Типовое - на сложных ключах не хватает первого поля. Например ключ по a,b,c а выборка where b,c тогда ключ не используется. И т.п.

Это если преобладают в основном выборки.

Если есть микроапдейты в циклах по полю, на котором есть ключ, однозначно переписать на пакетные апдейты. Фактически даже сотня запросов, переписанная в один, будет выполняться по времени приблизительно столько же, сколько один запрос.

Обычно такие танцы с бубном займут максимум пру часов, ускорение может быть в разы, если не в десятки раз.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский *
Киев
Сообщения: 6666
С нами с 28.09.2003

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      6 марта 2019 в 11:25 Гілками

Все просто, уже ответили.
Кривые руки программистов. Работать с базой не умеют или не хотят. Им тюнинг только подавай
Отключи все апдейты если таковы имеются и проверить как работает.
Тут нужно кож твоего магазина смотреть и логику работы рисовать что бы понять чем он вообще занимаеться, по другому никак.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
опытный писатель *
Сообщения: 1279
С нами с 04.06.2006

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      6 марта 2019 в 13:02 Гілками

SPIRT 06.03.2019 10:46 пишет:

Некоторые тормоза исправились использованием NVME SAMSUNG EVO потому что обычные SSD INTEL не справлялись.

БАза данных в мускле 50гиг и вторая 40гиг.
Вот тормозит из-за одной таблицы в меньшей базе.
Админ начал изучать запросы и выяснил, что добавлением индексов можно исправить ситуацию на некоторых страницах сайта, которые я нашел что тупят. Но вот самое непонятное, когда ничего не делаешь, не подкачиваешь никакой инфы, а оно начинает очень тупить. Железо справляется в том числе и накопители. Я думаю что вся проблема с запросами которые кривые, как тут уже сказали. Вот сделать бы какуюто консоль, которая покажет количество времени потраченого на разные запросы...



попробуйте подключить триал https://newrelic.com/php
За время триала успеете пофиксить все проблемы. Там и дешборды будут и анализ запросов..


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
V.I.P **
8 лет (20 лет за рулем), (Страна, Регион, Город)
Сообщения: 10719
С нами с 01.12.2006

Re: Линукс, можно ли разделить ядра процессора? [Re: Floyd_sp]
      12 марта 2019 в 09:21 Гілками

Выяснилось, что сайт периодически вешается от вот этих дядек
http://137.226.113.10/


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
V.I.P **
8 лет (20 лет за рулем), (Страна, Регион, Город)
Сообщения: 10719
С нами с 01.12.2006

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      12 марта 2019 в 09:32 Гілками

как забанить 137.226.113.0/26

Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      12 марта 2019 в 09:51 Гілками

Там похоже какой-то кампус надо /16 блочить

Не хочешь им просто написать? Имейл внизу. Но тот факт, что сайт падает от обычного трафика, настораживает.

Змінено Tibor (09:54 12/03/2019)


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
V.I.P **
8 лет (20 лет за рулем), (Страна, Регион, Город)
Сообщения: 10719
С нами с 01.12.2006

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      12 марта 2019 в 10:01 Гілками

Tibor 12.03.2019 09:51 пишет:

Там похоже какой-то кампус надо /16 блочить

Не хочешь им просто написать? Имейл внизу. Но тот факт, что сайт падает от обычного трафика, настораживает.



да, странно ведет себя.
там написано, что они отправляют какието пакеты на какието порты.
Выходит что любой может отправить такие же пакеты на сайт и он зависнет....


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      12 марта 2019 в 13:41 Гілками

SPIRT 12.03.2019 10:01 пишет:

[
да, странно ведет себя.
там написано, что они отправляют какието пакеты на какието порты.
Выходит что любой может отправить такие же пакеты на сайт и он зависнет....



Они ясно пишут - собирается статистика о ресурсах инета, анализируются открытые порты. Я так понял в разумных пределах, с их собвственной модерацией.
А если отфильтровать лог веб запросов по их подсети, видно что именно делают и как часто? Сложно представить, что вполне публичный ресурс ддосит. Может там вообще ерунда тех запросов, типа пары сотен.

Это значит что сам сайт просто не готов к какому-либо разумному траффику, и лучше сфокусироваться таки на том, где подтормаживает.

Что показывает full processlist на базе?

Змінено Tibor (13:44 12/03/2019)


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
ExГазировщик **
61 год (22 года за рулем), Киев
Сообщения: 26164
С нами с 14.07.2003

Re: Линукс, можно ли разделить ядра процессора? [Re: SPIRT]
      12 марта 2019 в 19:17 Гілками

SPIRT 12.03.2019 09:21 пишет:

Выяснилось, что сайт периодически вешается от вот этих дядек
http://137.226.113.10/



А покажи ответ на
iptables -L -n
, а за одно и
netstat -nltp
netstat -nlup


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский *
Киев
Сообщения: 6666
С нами с 28.09.2003

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      13 марта 2019 в 10:19 Гілками

Tibor 12.03.2019 13:41 пишет:

SPIRT 12.03.2019 10:01 пишет:

[
да, странно ведет себя.
там написано, что они отправляют какието пакеты на какието порты.
Выходит что любой может отправить такие же пакеты на сайт и он зависнет....



Они ясно пишут - собирается статистика о ресурсах инета, анализируются открытые порты. Я так понял в разумных пределах, с их собвственной модерацией.
А если отфильтровать лог веб запросов по их подсети, видно что именно делают и как часто? Сложно представить, что вполне публичный ресурс ддосит. Может там вообще ерунда тех запросов, типа пары сотен.

Это значит что сам сайт просто не готов к какому-либо разумному траффику, и лучше сфокусироваться таки на том, где подтормаживает.

Что показывает full processlist на базе?



Ну тут двоякое мнение.
С одной стороны да , оптимизация наше всё. Но если брать то что есть по факту с говнокодом который никто не возьмется переделывать , а если и возьмется то прайс будет не гуманный, то тут вытекает второе мнение.
Закрыть все возвожные дыры Fail2Ban + анализ статистики запросов IP.
Уже не в первый раз приходится идти по второму варианту.
Пока все работает.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский **
101 год за рулем, Munchen, DE
Сообщения: 8144
С нами с 16.06.2005

Re: Линукс, можно ли разделить ядра процессора? [Re: F@Z@]
      13 марта 2019 в 12:06 Гілками

F@Z@ 13.03.2019 10:19 пишет:


Ну тут двоякое мнение.
С одной стороны да , оптимизация наше всё. Но если брать то что есть по факту с говнокодом который никто не возьмется переделывать , а если и возьмется то прайс будет не гуманный



Это не мертвый проект с артефактами как я понял. Вроде ж есть активные девы, просто уровнем не вышли. Если найти узкие места, для них же будет левел ап, и остальные дыры закроются достаточно быстро ими же.

Если проект мертвый - то бить точечно, на проблемные участки, выжать максимум из того, что есть. А потом уже бороться "с симптомами" - железо, кеширование, фаервол.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Достоевский *
Киев
Сообщения: 6666
С нами с 28.09.2003

Re: Линукс, можно ли разделить ядра процессора? [Re: Tibor]
      14 марта 2019 в 10:33 Гілками

У Пети все работает на сколько мне известно, есть проблемы которые он хочет решить путем железа. Но проблема видать не в железе.
Читать код и ловить проблему, тот еще геморой. Но однозначно делать это нужно.


Роздрукувати   Нагадати!   Сповістити модератора   Відправити по E-mail
Autoua.netФорумІнформатика та побутова електроніка
Додаткова інформація
7 користувачів і 7 що побажали залишитися невідомими читають цей форум.

Модератор:  AlMat, Yorc, moderator 

Роздрукувати всю тему

Права
      Ви не можете створювати нові теми
      Ви не можете відповідати на повідомлення
      HTML дозволений
      UBBCode дозволений

Рейтинг:
Переглядів теми: 1934

Оціните цю тему

Перейти в

Правила конференції | Календар | FAQ | Карта розділу | Мобільна версія