TwojePC.pl © 2001 - 2024
|
|
A R C H I W A L N A W I A D O M O Ś Ć |
|
|
|
Wolny import dump'a Oracle na Samsung Evo 840 120G , Master/Pentium 15/01/14 18:03 Serwer awaryjny, Q6600@3 Ghz, 8 GB RAM, SLES 11 SP3, Oracle 11gR2 bez ASM.
Partycja dla danych bazy na SSD, system plików reiserfs.
Import poprzez impdp powolny, według "iostat -d 2 -m -x" IOPS SSD na poziomie 400-500, transfer ok 6MB/sek. Wiem, że to TLC ale mimo wszystko IMHO powinno być szybciej. Export tej samej bazy bardzo szybki czyli problem leży ewidentnie w zapisie.
Ma ktoś pomysł co jest źle?Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - ale dlaczego resierfs na ssd? , daver 15/01/14 18:46
Toz to nawet trima nie obsluguje, wiec prawdopodobnie masz przyczyne.I use arch btw - zwykle używam ASM , Master/Pentium 15/01/14 18:55
ale miałem tylko kilka godzin na przygotowanie maszyny więc użyłem filesystemu.
Trim przy Oracle jest w zasadzie zbędny ponieważ baza modyfikuje ciągle ten sam zestaw plików. Nie kasuje ich więc system plików nie może zwolnić zawartości sektorów zawierających właśnie usuwane rekordy bo z punktu widzenia filesystemu pliki ciągle tam są i zazwyczaj w tym samym rozmiarze.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - tia , elliot_pl 15/01/14 19:23
ale kazdy zapis jest pisany w innej przestrzeni - nie jest wazne gdzie lezy dany plik. Masz modyfikacje pliku to masz zapisany nowy sektor, a stary oznaczany jako nieuzywany. Co robi trim - to co jakis czas te nieuzywane usuwa - przygotowujac do zapisu. W momencie kiedy nadal jest tylko nieuzywany a cos probuje do niego pisac to najpierw jest kasowany a dopiero potem nastepuje zapis.
No wiec jak jest zbedny jak nie jest? :)momtoronomyotypaldollyochagi... - nie rozumiesz , Master/Pentium 15/01/14 19:47
Oracle nie kasuje niczego na dysku, zmienia się jedynie zawartość pliku z tablespace (tj. datafile) informując że dany segment jest wolny. Jak system plików ma wiedzieć, że dany segment jest pusty skoro on NIE JEST pusty z punktu widzenia systemu plików. Trim jest wyzwalany z systemu plików. Tutaj zaś liczy się garbage collector, trim przy bazach danych jest fikcją.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - spox , elliot_pl 15/01/14 20:43
teraz lepiej :)momtoronomyotypaldollyochagi...
- Moment. Ale import to tylko przegranie pliku czy też mozolne tworzenie tabelek? , ptoki 15/01/14 18:55
Jaką metodą robiony jest ten import?
Bo węszę problem nie na warstwie sprzetu.
Ile wątków robi ten import?
Na ilu procesach/rdzeniach całość idzie?
czy jak spróbujesz zrobić import do pliku na /dev/shm (zakladam ze to linux i baza sie zmiesci) to też idzie tak wolno?- dump jest interpretowany przez interfejs DataPump czy jak to się tam zwie , Master/Pentium 15/01/14 18:58
w tym wypadku według top i iostat ewidentnie występowało nasycenie I/O.
Baza nie zmieściłaby się na tmpfs - pliki bazy zajmują jakieś 60-80 GB po zakończeniu importu. Dump ma ponad 30 GB.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - DP jest relatywnie szybkie więc to raczej nie ten trop. , ptoki 15/01/14 19:44
Zobacz sobie hdparm-em czy masz dobrze ustawione tryby.
No i dd prawde pokaże tak jak rulezDC sugeruje.
Masz tam po drodze jakiś raid? Jesli to serwer to zobacz jaki tam w kontrolerze jest ustawiony tryb zapisu przez cache.- serwer to za dużo powiedziane , Master/Pentium 15/01/14 19:50
to mocna stacja robocza na G35 lub pokrewnym (podstawka 775, DDR2). Według hdparm wszystko jest OK, NCQ aktywne, SATA2 aktywne, cache dysku aktywny. Quere ustawione na 31.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- jaki masz ustawiony scheduler dla dysku .. , rulezDC 15/01/14 19:23
cfq czy deadline lub noop
co mowi iotop, sar -d
sprawdzales dd jakie masz czasykoniec koniec koniec - w trakcie importu było niestety CFQ , Master/Pentium 15/01/14 19:52
zmieniłem na NOOP pod sam koniec więc nie wiem czy to coś zmienia. Ale jakoś nie wierzę, że dałoby to aż tak kolosalna różnice. sar -d nie użyłem bo nie uaktywniłem zbierania danych wcześniej, według iotop miałem w zasadzie ciągły zapis ok 6MB/sek.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - a dd jakie pokazuje wartosci , rulezDC 15/01/14 20:16
123koniec koniec koniec - dd if=/dev/zero of=/u02/test.img , Master/Pentium 15/01/14 20:41
3582871040 bytes (3.6 GB) copied, 25.6226 s, 140 MB/s Krótkie zapisy dążą to ok 170 MB/sek czyli trochę za mało.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - no ale to i tak lepiej niz twoje 6 MB :) , rulezDC 15/01/14 20:59
a probowales inny filesystem : ext4, btrfs
to jest lvm czy surowa partycjakoniec koniec koniec - to jest zwykła partycja , Master/Pentium 16/01/14 08:15
inne filesystemy wypróbuję jak sprzęt wróci od klienta (to maszyna rezerwowa). W SLES 11 do wyboru mam jeszcze ext3. Ext4 i btrfs nie zauważyłem. Tego ostatniego zaczynam używać testowo przy OpenSuse 13.x - na razie jest OK.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- ale zrob sobie dd i patrz iostatem ile leci. , ptoki 15/01/14 21:04
Bo dd wesoło sie pochwali ze skonczylo wrzucac te 3,6GB zer do buforów :)
Ale tak czy siak to raczej nie problem sprzetu. Musisz zerknąć na konfiguracje DP. Bo jesli tam jest jakieś komitowanie i flush po małych dawkach danych to może troche przytykać. Z jednej strony 6MB/sek nie jest dużo ale też nie jest mało.
Jak przez mgle pamietam ze kiedys mialem podobne wydajnosci na serwerze sprzed 2-3 lat.
Pewnie bwana cos wiecej by pomógł bo oraklowiec jest. Aczkolwiek jakiś krzywy oraklowiec bo komunikatywny, wszyscy inni oraklowcy jakich znam są niekomunikatywni :)- sprawdzenia iostatem wykonam po pracy klienta , Master/Pentium 16/01/14 08:19
teraz już pracują :)
6MB/sek to na pewno więcej niż wycisnąłbym z HDD ale dość mało jak SSD.
Co do komunikatywności fachowców z branży IT to temat rzeka ale faktycznie komunikatywność i towarzyskość nie jest zazwyczaj ich najmocniejszą stroną. W końcu wybrali zawód raczej nie dla dużej ilości kontaktów z ludźmi ;)Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - hehe, oraklowiec, ale z przypadku, niestety to wykracza poza moje doświadczenia , bwana 16/01/14 16:30
z braku dobrych programistów/ projektantów baz Oracle ja się tym zajmuję z doskoku, w pełnym wymiarze będąc analitykiem procesów biznesowych. Tak więc jeśli chodzi o PLSQL/SQL na oraczu, to jak najbardziej mógłbym pomóc. Administracja i narzędzia - na szczęście na tym się nie znam, bo lubię rozmawiać z ludźmi;-)"you don't need your smile when I cut
your throat" - wykonane , Master/Pentium 16/01/14 19:25
transfer w okolicach 50-150 MB/sek (średni na 13 G wyszedł 110), w/s w okolicach 400, atime w okolicach 600 msek.
Ewidentnie coś jest źle. Może reiserfs wewnętrznie skopał align. Ale bloki ma 4k i start partycji na 2048 sektorze więc powinno być OK.
Jutro chyba jednak powalczę ze zmianą filesystemu.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - dla bazy ustaw jeszcze elevator=deadline , rulezDC 16/01/14 19:27
zalecany dla baz danychkoniec koniec koniec - jeszcze jak puszczasz tego dd... , rulezDC 16/01/14 19:31
pusc sar -pd co 10 sekund czy jak tam chcesz i zobacz jaie sa awaity , bo 600 ms to jest masakra, moje virtualki na kvm-ie maja lepszekoniec koniec koniec - dlatego jutro po południu pogonie klienta do ciut szybszego zakończenia pracy ;) , Master/Pentium 16/01/14 19:33
i zmienię reiserfs na btrfs. Może pomoże.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - btfrs chyba jeszcze jako eksperimental ... , rulezDC 16/01/14 20:15
wez zobacz ext3 i ext4 nie wierze ze nie ma w slesiekoniec koniec koniec - ext4 oficjalnie nie , Master/Pentium 16/01/14 22:38
domyślnie jest read only. Btrfs od SP2 jest - faktycznie jestem ciekaw jak wygląda jego stabilność, w końcu chyba bety nie wsadzili do serwerowego systemu.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- chyba troche malo , daver 16/01/14 13:17
kiedys z ciekawosci porownalem u siebie na ext4 z discardem (tez 120GB EVO) z tymi wynikami https://wiki.archlinux.org/...enchmarking#Using_dd i mialem odczyt i zapis nieco powyzej 500MB/s. Btrfs z lzo pewnie pewnie by tu zaszalal;)I use arch btw - też mi się wydaje mało , Master/Pentium 16/01/14 14:34
ale na zabawy z filesystemem poczekam do powrotu maszyny, szkoda by było coś napsuć klientowi w tym momencie. Choć jeśli będzie wolno to będę musiał :)Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - a powiedz mi jeszcze jedno ... , rulezDC 16/01/14 17:49
jak robiłeś tą partycję :
fdiskiem ? czy innym programem
bo jak fdiskiem to mam nadzieje ze pamietales o opcji -u i -c.
Może masz złe granice sektoró ustawione i dlatego taka mała wydajność.
Co do dysku można jeszcze ustawić read_ahead_kb dla dyskukoniec koniec koniec - partycja zaczyna się na 2048 sektorze , Master/Pentium 16/01/14 18:16
więc powinna być dobrze założona. To samo twierdzi narzędzie od sprawdzania "alignu".Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- do porównania import na SSD Intel 320 250GB , Master/Pentium 16/01/14 08:38
średnio jakieś 20-30 MB/sek, użycie IO to jakieś 25%.
OpenSuse13.1 + Oracle 12c + ASM.
Zaczynam podejrzewać albo skopana obsługę przez jądro albo reiserfs wybitnie nie nadaje się na SSD. Ewentualnie ten dysk jest aż tak słaby w zapisie ale testy pod Windows tego nie pokazały.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - Ciekawe. Daj znać do czego sie dokopałeś. Bo temat ciekawy. , ptoki 16/01/14 09:28
No i wybór killerfs-a też dosyć ciekawy.
Ja u siebie nigdy nie cudowałem i używam extw kolejnych wersjach albo ewentualnie jakiś dedykowany fs w rodzaju squashfs czy inny taki wynalazek jesli mam fikusny sprzęt albo dziwne zastosowanie.
Ale temat ciekawy.
Daj znać czy to zasługa asm-a czy dysku ssd. - róznica pomiędzy CFQ i NOOP to jakieś 10% przy imporcie na tym serwerze , Master/Pentium 16/01/14 12:16
z jednej strony 10% się przyda z drugiej strony to może być błąd pomiarowy - nie powtórzyłem pomiarów po 10 razy aby być pewnym a nie tylko ja na nim pracuje.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- to chyba jednak jest SSD , Master/Pentium 17/01/14 08:49
odpaliłem szybki test na surowej partycji w komputerze biurowym.
Ze względu na overprovisioninig mam tam 11 GB niespartycjonowane.
Zapis przy użyciu dd =if/dev/zero of=/dev/sda3 daje jakieś 81 MB/sek, zmiana schedulera na noop daje 84 MB/sek. Testy powtarzane po 3 razy.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - khem , daver 25/01/14 13:20
http://www.phoronix.com/...ng_840evo_ssd&num=1
Qzwa, a ja myslalem, ze ten ich Rapid to PR bullshit pod popularne benchmarki. Ho Lee Fuk, to nawet nie jest smieszne. Prawdopodobnie nie sfrajerowalem sie tak z zakupem od 1995r i CPU Cyrixa.I use arch btw - dysk pod Windows ma szybki zapis , Master/Pentium 26/01/14 16:09
oczywiście do czasu (Turbo Cache nie jest z gumy). A pod Linuksem niekoniecznie - bywa wolno od samego początku. Być może nowe firmware to poprawi bo wygląda na to, iż coś w sposobie pracy linuksa temu dyskowi "nie leży". Pozatym nie wszyscy użytkownicy linuksa to zgłaszają.
Tak więc:
- jako dysk systemowy dla Windows - rewelacja za tą cenę
- jako dysk systemowy dla linuksa - niekoniecznie
- jako dysk do serwera - z definicji nie
W moim wypadku dysk znalazł się w serwerze niejako z przypadku a nie będzie tam długo.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)
- testuję btrfs - dam znać za kilka dni z jakim wynikiem. , Master/Pentium 26/01/14 16:10
na razie wstępne odczucia sugerują delikatną poprawę.Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - Jak od dawna patrzylem na porównania fs-ów to różnice były , ptoki 26/01/14 21:44
bardzo niewielkie. Dla zwyklych zastosowań (jakiś serwer aplikacyjny czy byle baza danych) różnice są nie warte zachodu. Czy reiserfs czy ext3/4 - jeden kit.
Róznice przy bazach dużych, obciążonych na poziomie 10% - IMHO nie warte zachodu jeśli się nie robi jakichś częstych przerzutów baz czy innych dziwacznych kopii.
Na moje oko to albo problematyczny dysk albo coś w systemie takie cyrki czyni.
Ale pobadaj sprawe, obaczymy co wyjdzie... - brak istotnej róznicy , Master/Pentium 6/02/14 09:38
tzn. wydaje mi się, że jest ciut lepiej ale te testy z natury nie są dobrze powtarzalneNie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-) - Dzieki za info. , ptoki 6/02/14 09:55
testy z natury nie powtarzalne ale całkiem dobrze ozwierciedlają rzeczywistość. Czyli czy dobrze działa czy nie :)
|
|
|
|
|
All rights reserved ® Copyright and Design 2001-2024, TwojePC.PL |
|
|
|
|