Twoje PC  
Zarejestruj się na Twoje PC
TwojePC.pl | PC | Komputery, nowe technologie, recenzje, testy
B O A R D
   » Board
 » Zadaj pytanie
 » Archiwum
 » Szukaj
 » Stylizacja

 
M E N U
  0
 » Nowości
0
 » Archiwum
0
 » Recenzje / Testy
0
 » Board
0
 » Rejestracja
0
0
 
Szukaj @ TwojePC
 

w Newsach i na Boardzie
 
OBECNI NA TPC
 
 » Pawelec 21:31
 » 5eba 21:31
 » marek_m 21:25
 » Fasola 21:17
 » Wedrowiec 21:15
 » Zbyszek.J 21:11
 » rainy 21:03
 » kyusi 20:59
 » Ament 20:53
 » DYD 20:52
 » PeKa 20:51
 » [yureq] 20:51
 » warcab123 20:46
 » NimnuL 20:45
 » ligand17 20:39
 » MARtiuS 20:39
 » @GUTEK@ 20:38
 » Hitman 20:37
 » DJopek 20:33
 » past 20:16

 Dzisiaj przeczytano
 41108 postów,
 wczoraj 25974

 Szybkie ładowanie
 jest:
włączone.

 
ccc
TwojePC.pl © 2001 - 2024
A R C H I W A L N A   W I A D O M O Ś Ć
    

Wolny import dump'a Oracle na Samsung Evo 840 120G , Master/Pentium 15/01/14 18:03
Serwer awaryjny, Q6600@3 Ghz, 8 GB RAM, SLES 11 SP3, Oracle 11gR2 bez ASM.
Partycja dla danych bazy na SSD, system plików reiserfs.
Import poprzez impdp powolny, według "iostat -d 2 -m -x" IOPS SSD na poziomie 400-500, transfer ok 6MB/sek. Wiem, że to TLC ale mimo wszystko IMHO powinno być szybciej. Export tej samej bazy bardzo szybki czyli problem leży ewidentnie w zapisie.
Ma ktoś pomysł co jest źle?

Nie ma tego złego , co by się w gorsze
obrócić nie mogło - jak nie wierzysz
włącz komputer :-)

  1. ale dlaczego resierfs na ssd? , daver 15/01/14 18:46
    Toz to nawet trima nie obsluguje, wiec prawdopodobnie masz przyczyne.

    I use arch btw

    1. zwykle używam ASM , Master/Pentium 15/01/14 18:55
      ale miałem tylko kilka godzin na przygotowanie maszyny więc użyłem filesystemu.
      Trim przy Oracle jest w zasadzie zbędny ponieważ baza modyfikuje ciągle ten sam zestaw plików. Nie kasuje ich więc system plików nie może zwolnić zawartości sektorów zawierających właśnie usuwane rekordy bo z punktu widzenia filesystemu pliki ciągle tam są i zazwyczaj w tym samym rozmiarze.

      Nie ma tego złego , co by się w gorsze
      obrócić nie mogło - jak nie wierzysz
      włącz komputer :-)

      1. tia , elliot_pl 15/01/14 19:23
        ale kazdy zapis jest pisany w innej przestrzeni - nie jest wazne gdzie lezy dany plik. Masz modyfikacje pliku to masz zapisany nowy sektor, a stary oznaczany jako nieuzywany. Co robi trim - to co jakis czas te nieuzywane usuwa - przygotowujac do zapisu. W momencie kiedy nadal jest tylko nieuzywany a cos probuje do niego pisac to najpierw jest kasowany a dopiero potem nastepuje zapis.

        No wiec jak jest zbedny jak nie jest? :)

        momtoronomyotypaldollyochagi...

        1. nie rozumiesz , Master/Pentium 15/01/14 19:47
          Oracle nie kasuje niczego na dysku, zmienia się jedynie zawartość pliku z tablespace (tj. datafile) informując że dany segment jest wolny. Jak system plików ma wiedzieć, że dany segment jest pusty skoro on NIE JEST pusty z punktu widzenia systemu plików. Trim jest wyzwalany z systemu plików. Tutaj zaś liczy się garbage collector, trim przy bazach danych jest fikcją.

          Nie ma tego złego , co by się w gorsze
          obrócić nie mogło - jak nie wierzysz
          włącz komputer :-)

          1. spox , elliot_pl 15/01/14 20:43
            teraz lepiej :)

            momtoronomyotypaldollyochagi...

  2. Moment. Ale import to tylko przegranie pliku czy też mozolne tworzenie tabelek? , ptoki 15/01/14 18:55
    Jaką metodą robiony jest ten import?

    Bo węszę problem nie na warstwie sprzetu.
    Ile wątków robi ten import?
    Na ilu procesach/rdzeniach całość idzie?

    czy jak spróbujesz zrobić import do pliku na /dev/shm (zakladam ze to linux i baza sie zmiesci) to też idzie tak wolno?

    1. dump jest interpretowany przez interfejs DataPump czy jak to się tam zwie , Master/Pentium 15/01/14 18:58
      w tym wypadku według top i iostat ewidentnie występowało nasycenie I/O.
      Baza nie zmieściłaby się na tmpfs - pliki bazy zajmują jakieś 60-80 GB po zakończeniu importu. Dump ma ponad 30 GB.

      Nie ma tego złego , co by się w gorsze
      obrócić nie mogło - jak nie wierzysz
      włącz komputer :-)

      1. DP jest relatywnie szybkie więc to raczej nie ten trop. , ptoki 15/01/14 19:44
        Zobacz sobie hdparm-em czy masz dobrze ustawione tryby.
        No i dd prawde pokaże tak jak rulezDC sugeruje.

        Masz tam po drodze jakiś raid? Jesli to serwer to zobacz jaki tam w kontrolerze jest ustawiony tryb zapisu przez cache.

        1. serwer to za dużo powiedziane , Master/Pentium 15/01/14 19:50
          to mocna stacja robocza na G35 lub pokrewnym (podstawka 775, DDR2). Według hdparm wszystko jest OK, NCQ aktywne, SATA2 aktywne, cache dysku aktywny. Quere ustawione na 31.

          Nie ma tego złego , co by się w gorsze
          obrócić nie mogło - jak nie wierzysz
          włącz komputer :-)

  3. jaki masz ustawiony scheduler dla dysku .. , rulezDC 15/01/14 19:23
    cfq czy deadline lub noop
    co mowi iotop, sar -d
    sprawdzales dd jakie masz czasy

    koniec koniec koniec

    1. w trakcie importu było niestety CFQ , Master/Pentium 15/01/14 19:52
      zmieniłem na NOOP pod sam koniec więc nie wiem czy to coś zmienia. Ale jakoś nie wierzę, że dałoby to aż tak kolosalna różnice. sar -d nie użyłem bo nie uaktywniłem zbierania danych wcześniej, według iotop miałem w zasadzie ciągły zapis ok 6MB/sek.

      Nie ma tego złego , co by się w gorsze
      obrócić nie mogło - jak nie wierzysz
      włącz komputer :-)

      1. a dd jakie pokazuje wartosci , rulezDC 15/01/14 20:16
        123

        koniec koniec koniec

        1. dd if=/dev/zero of=/u02/test.img , Master/Pentium 15/01/14 20:41
          3582871040 bytes (3.6 GB) copied, 25.6226 s, 140 MB/s Krótkie zapisy dążą to ok 170 MB/sek czyli trochę za mało.

          Nie ma tego złego , co by się w gorsze
          obrócić nie mogło - jak nie wierzysz
          włącz komputer :-)

          1. no ale to i tak lepiej niz twoje 6 MB :) , rulezDC 15/01/14 20:59
            a probowales inny filesystem : ext4, btrfs
            to jest lvm czy surowa partycja

            koniec koniec koniec

            1. to jest zwykła partycja , Master/Pentium 16/01/14 08:15
              inne filesystemy wypróbuję jak sprzęt wróci od klienta (to maszyna rezerwowa). W SLES 11 do wyboru mam jeszcze ext3. Ext4 i btrfs nie zauważyłem. Tego ostatniego zaczynam używać testowo przy OpenSuse 13.x - na razie jest OK.

              Nie ma tego złego , co by się w gorsze
              obrócić nie mogło - jak nie wierzysz
              włącz komputer :-)

          2. ale zrob sobie dd i patrz iostatem ile leci. , ptoki 15/01/14 21:04
            Bo dd wesoło sie pochwali ze skonczylo wrzucac te 3,6GB zer do buforów :)


            Ale tak czy siak to raczej nie problem sprzetu. Musisz zerknąć na konfiguracje DP. Bo jesli tam jest jakieś komitowanie i flush po małych dawkach danych to może troche przytykać. Z jednej strony 6MB/sek nie jest dużo ale też nie jest mało.

            Jak przez mgle pamietam ze kiedys mialem podobne wydajnosci na serwerze sprzed 2-3 lat.

            Pewnie bwana cos wiecej by pomógł bo oraklowiec jest. Aczkolwiek jakiś krzywy oraklowiec bo komunikatywny, wszyscy inni oraklowcy jakich znam są niekomunikatywni :)

            1. sprawdzenia iostatem wykonam po pracy klienta , Master/Pentium 16/01/14 08:19
              teraz już pracują :)
              6MB/sek to na pewno więcej niż wycisnąłbym z HDD ale dość mało jak SSD.
              Co do komunikatywności fachowców z branży IT to temat rzeka ale faktycznie komunikatywność i towarzyskość nie jest zazwyczaj ich najmocniejszą stroną. W końcu wybrali zawód raczej nie dla dużej ilości kontaktów z ludźmi ;)

              Nie ma tego złego , co by się w gorsze
              obrócić nie mogło - jak nie wierzysz
              włącz komputer :-)

            2. hehe, oraklowiec, ale z przypadku, niestety to wykracza poza moje doświadczenia , bwana 16/01/14 16:30
              z braku dobrych programistów/ projektantów baz Oracle ja się tym zajmuję z doskoku, w pełnym wymiarze będąc analitykiem procesów biznesowych. Tak więc jeśli chodzi o PLSQL/SQL na oraczu, to jak najbardziej mógłbym pomóc. Administracja i narzędzia - na szczęście na tym się nie znam, bo lubię rozmawiać z ludźmi;-)

              "you don't need your smile when I cut
              your throat"

            3. wykonane , Master/Pentium 16/01/14 19:25
              transfer w okolicach 50-150 MB/sek (średni na 13 G wyszedł 110), w/s w okolicach 400, atime w okolicach 600 msek.
              Ewidentnie coś jest źle. Może reiserfs wewnętrznie skopał align. Ale bloki ma 4k i start partycji na 2048 sektorze więc powinno być OK.
              Jutro chyba jednak powalczę ze zmianą filesystemu.

              Nie ma tego złego , co by się w gorsze
              obrócić nie mogło - jak nie wierzysz
              włącz komputer :-)

              1. dla bazy ustaw jeszcze elevator=deadline , rulezDC 16/01/14 19:27
                zalecany dla baz danych

                koniec koniec koniec

              2. jeszcze jak puszczasz tego dd... , rulezDC 16/01/14 19:31
                pusc sar -pd co 10 sekund czy jak tam chcesz i zobacz jaie sa awaity , bo 600 ms to jest masakra, moje virtualki na kvm-ie maja lepsze

                koniec koniec koniec

                1. dlatego jutro po południu pogonie klienta do ciut szybszego zakończenia pracy ;) , Master/Pentium 16/01/14 19:33
                  i zmienię reiserfs na btrfs. Może pomoże.

                  Nie ma tego złego , co by się w gorsze
                  obrócić nie mogło - jak nie wierzysz
                  włącz komputer :-)

                  1. btfrs chyba jeszcze jako eksperimental ... , rulezDC 16/01/14 20:15
                    wez zobacz ext3 i ext4 nie wierze ze nie ma w slesie

                    koniec koniec koniec

                    1. ext4 oficjalnie nie , Master/Pentium 16/01/14 22:38
                      domyślnie jest read only. Btrfs od SP2 jest - faktycznie jestem ciekaw jak wygląda jego stabilność, w końcu chyba bety nie wsadzili do serwerowego systemu.

                      Nie ma tego złego , co by się w gorsze
                      obrócić nie mogło - jak nie wierzysz
                      włącz komputer :-)

          3. chyba troche malo , daver 16/01/14 13:17
            kiedys z ciekawosci porownalem u siebie na ext4 z discardem (tez 120GB EVO) z tymi wynikami https://wiki.archlinux.org/...enchmarking#Using_dd i mialem odczyt i zapis nieco powyzej 500MB/s. Btrfs z lzo pewnie pewnie by tu zaszalal;)

            I use arch btw

            1. też mi się wydaje mało , Master/Pentium 16/01/14 14:34
              ale na zabawy z filesystemem poczekam do powrotu maszyny, szkoda by było coś napsuć klientowi w tym momencie. Choć jeśli będzie wolno to będę musiał :)

              Nie ma tego złego , co by się w gorsze
              obrócić nie mogło - jak nie wierzysz
              włącz komputer :-)

              1. a powiedz mi jeszcze jedno ... , rulezDC 16/01/14 17:49
                jak robiłeś tą partycję :
                fdiskiem ? czy innym programem
                bo jak fdiskiem to mam nadzieje ze pamietales o opcji -u i -c.
                Może masz złe granice sektoró ustawione i dlatego taka mała wydajność.

                Co do dysku można jeszcze ustawić read_ahead_kb dla dysku

                koniec koniec koniec

                1. partycja zaczyna się na 2048 sektorze , Master/Pentium 16/01/14 18:16
                  więc powinna być dobrze założona. To samo twierdzi narzędzie od sprawdzania "alignu".

                  Nie ma tego złego , co by się w gorsze
                  obrócić nie mogło - jak nie wierzysz
                  włącz komputer :-)

  4. do porównania import na SSD Intel 320 250GB , Master/Pentium 16/01/14 08:38
    średnio jakieś 20-30 MB/sek, użycie IO to jakieś 25%.
    OpenSuse13.1 + Oracle 12c + ASM.
    Zaczynam podejrzewać albo skopana obsługę przez jądro albo reiserfs wybitnie nie nadaje się na SSD. Ewentualnie ten dysk jest aż tak słaby w zapisie ale testy pod Windows tego nie pokazały.

    Nie ma tego złego , co by się w gorsze
    obrócić nie mogło - jak nie wierzysz
    włącz komputer :-)

    1. Ciekawe. Daj znać do czego sie dokopałeś. Bo temat ciekawy. , ptoki 16/01/14 09:28
      No i wybór killerfs-a też dosyć ciekawy.
      Ja u siebie nigdy nie cudowałem i używam extw kolejnych wersjach albo ewentualnie jakiś dedykowany fs w rodzaju squashfs czy inny taki wynalazek jesli mam fikusny sprzęt albo dziwne zastosowanie.

      Ale temat ciekawy.
      Daj znać czy to zasługa asm-a czy dysku ssd.

    2. róznica pomiędzy CFQ i NOOP to jakieś 10% przy imporcie na tym serwerze , Master/Pentium 16/01/14 12:16
      z jednej strony 10% się przyda z drugiej strony to może być błąd pomiarowy - nie powtórzyłem pomiarów po 10 razy aby być pewnym a nie tylko ja na nim pracuje.

      Nie ma tego złego , co by się w gorsze
      obrócić nie mogło - jak nie wierzysz
      włącz komputer :-)

  5. to chyba jednak jest SSD , Master/Pentium 17/01/14 08:49
    odpaliłem szybki test na surowej partycji w komputerze biurowym.
    Ze względu na overprovisioninig mam tam 11 GB niespartycjonowane.
    Zapis przy użyciu dd =if/dev/zero of=/dev/sda3 daje jakieś 81 MB/sek, zmiana schedulera na noop daje 84 MB/sek. Testy powtarzane po 3 razy.

    Nie ma tego złego , co by się w gorsze
    obrócić nie mogło - jak nie wierzysz
    włącz komputer :-)

    1. khem , daver 25/01/14 13:20
      http://www.phoronix.com/...ng_840evo_ssd&num=1

      Qzwa, a ja myslalem, ze ten ich Rapid to PR bullshit pod popularne benchmarki. Ho Lee Fuk, to nawet nie jest smieszne. Prawdopodobnie nie sfrajerowalem sie tak z zakupem od 1995r i CPU Cyrixa.

      I use arch btw

      1. dysk pod Windows ma szybki zapis , Master/Pentium 26/01/14 16:09
        oczywiście do czasu (Turbo Cache nie jest z gumy). A pod Linuksem niekoniecznie - bywa wolno od samego początku. Być może nowe firmware to poprawi bo wygląda na to, iż coś w sposobie pracy linuksa temu dyskowi "nie leży". Pozatym nie wszyscy użytkownicy linuksa to zgłaszają.
        Tak więc:
        - jako dysk systemowy dla Windows - rewelacja za tą cenę
        - jako dysk systemowy dla linuksa - niekoniecznie
        - jako dysk do serwera - z definicji nie
        W moim wypadku dysk znalazł się w serwerze niejako z przypadku a nie będzie tam długo.

        Nie ma tego złego , co by się w gorsze
        obrócić nie mogło - jak nie wierzysz
        włącz komputer :-)

  6. testuję btrfs - dam znać za kilka dni z jakim wynikiem. , Master/Pentium 26/01/14 16:10
    na razie wstępne odczucia sugerują delikatną poprawę.

    Nie ma tego złego , co by się w gorsze
    obrócić nie mogło - jak nie wierzysz
    włącz komputer :-)

    1. Jak od dawna patrzylem na porównania fs-ów to różnice były , ptoki 26/01/14 21:44
      bardzo niewielkie. Dla zwyklych zastosowań (jakiś serwer aplikacyjny czy byle baza danych) różnice są nie warte zachodu. Czy reiserfs czy ext3/4 - jeden kit.

      Róznice przy bazach dużych, obciążonych na poziomie 10% - IMHO nie warte zachodu jeśli się nie robi jakichś częstych przerzutów baz czy innych dziwacznych kopii.

      Na moje oko to albo problematyczny dysk albo coś w systemie takie cyrki czyni.
      Ale pobadaj sprawe, obaczymy co wyjdzie...

    2. brak istotnej róznicy , Master/Pentium 6/02/14 09:38
      tzn. wydaje mi się, że jest ciut lepiej ale te testy z natury nie są dobrze powtarzalne

      Nie ma tego złego , co by się w gorsze
      obrócić nie mogło - jak nie wierzysz
      włącz komputer :-)

      1. Dzieki za info. , ptoki 6/02/14 09:55
        testy z natury nie powtarzalne ale całkiem dobrze ozwierciedlają rzeczywistość. Czyli czy dobrze działa czy nie :)

    
All rights reserved ® Copyright and Design 2001-2024, TwojePC.PL