Netgate Discussion Forum
    • Categories
    • Recent
    • Tags
    • Popular
    • Users
    • Search
    • Register
    • Login

    No buffer space available

    Scheduled Pinned Locked Moved Russian
    24 Posts 4 Posters 19.0k Views
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • G
      goliy
      last edited by

      есть еще у кого варианты? идея с увеличенным значение полосы пропускания на материнской трубке отпадает. снизил уже до немогу. До сих пор имеем потери и пинги за 20000 в некоторые странные точечные периоды. Вывожу статистику:
      netstat -s -p tcp
      tcp:
      209778697 packets sent
      97517566 data packets (4256116843 bytes)
      324488 data packets (371366906 bytes) retransmitted
      22175 data packets unnecessarily retransmitted
      0 resends initiated by MTU discovery
      100282788 ack-only packets (0 delayed)
      0 URG only packets
      279 window probe packets
      8583013 window update packets
      3409654 control packets
      149312851 packets received
      50143841 acks (for 4163762671 bytes)
      2405915 duplicate acks
      13469 acks for unsent data
      85283125 packets (433147740 bytes) received in-sequence
      457917 completely duplicate packets (289136740 bytes)
      322 old duplicate packets
      1677 packets with some dup. data (1213387 bytes duped)
      11088092 out-of-order packets (3040949322 bytes)
      120 packets (60 bytes) of data after window
      60 window probes
      764961 window update packets
      7299 packets received after close
      2927 discarded for bad checksums
      0 discarded for bad header offset fields
      0 discarded because packet too short
      793763 discarded due to memory problems
      1188550 connection requests
      1188335 connection accepts
      0 bad connection attempts
      0 listen queue overflows
      52487 ignored RSTs in the windows
      2344477 connections established (including accepts)
      2376209 connections closed (including 93302 drops)
      691567 connections updated cached RTT on close
      692651 connections updated cached RTT variance on close
      534912 connections updated cached ssthresh on close
      1554 embryonic connections dropped
      30514800 segments updated rtt (of 26003440 attempts)
      402532 retransmit timeouts
      5552 connections dropped by rexmit timeout
      1010 persist timeouts
      2 connections dropped by persist timeout
      0 Connections (fin_wait_2) dropped because of timeout
      0 keepalive timeouts
      0 keepalive probes sent
      0 connections dropped by keepalive
      7074305 correct ACK header predictions
      82392641 correct data packet header predictions
      1188908 syncache entries added
      3218 retransmitted
      3101 dupsyn
      2822 dropped
      1188335 completed
      0 bucket overflow
      0 cache overflow
      300 reset
      277 stale
      0 aborted
      0 badack
      0 unreach
      0 zone failures
      1191730 cookies sent
      4 cookies received
      46850 SACK recovery episodes
      68735 segment rexmits in SACK recovery episodes
      96526480 byte rexmits in SACK recovery episodes
      417122 SACK options (SACK blocks) received
      11346326 SACK options (SACK blocks) sent
      0 SACK scoreboard overflow

      vmstat -z
      ITEM                    SIZE    LIMIT      USED      FREE  REQUESTS  FAILURES

      UMA Kegs:                128,        0,      104,      16,      104,        0
      UMA Zones:                480,        0,      104,        0,      104,        0
      UMA Slabs:                64,        0,      869,      16,    2057,        0
      UMA RCntSlabs:            104,        0,    2501,      15,    2501,        0
      UMA Hash:                128,        0,        5,      25,        9,        0
      16 Bucket:                76,        0,      66,      34,      85,        0
      32 Bucket:                140,        0,      98,      14,      119,        0
      64 Bucket:                268,        0,      141,      13,      191,        7
      128 Bucket:              524,        0,      831,        2,    1934,      275
      VM OBJECT:                128,        0,    30765,      465, 19971621,        0
      MAP:                      140,        0,        7,      21,        7,        0
      KMAP ENTRY:                68,    57456,      23,      369,    21233,        0
      MAP ENTRY:                68,        0,    1581,      995, 43122275,        0
      DP fakepg:                72,        0,        0,        0,        0,        0
      mt_zone:                1032,        0,      293,      127,      293,        0
      16:                        16,        0,    4281,    5260, 17668570,        0
      32:                        32,        0,    2430,      395,  9284507,        0
      64:                        64,        0,    5528,    3086, 1001506570,        0
      128:                      128,        0,    1014,      426,  428472,        0
      256:                      256,        0,    2975,    6145, 22098324,        0
      512:                      512,        0,      216,      64,    54641,        0
      1024:                    1024,        0,      52,      144, 13993528,        0
      2048:                    2048,        0,      361,      357,  190179,        0
      4096:                    4096,        0,      129,      80,  1403807,        0
      Files:                    76,        0,      789,    2311, 40924628,        0
      TURNSTILE:                76,        0,      211,      77,      211,        0
      umtx pi:                  52,        0,        0,        0,        0,        0
      PROC:                    696,        0,      82,      58,  992445,        0
      THREAD:                  560,        0,      146,      64,      325,        0
      UPCALL:                    44,        0,        0,        0,        0,        0
      SLEEPQUEUE:                32,        0,      211,      241,      211,        0
      VMSPACE:                  236,        0,      41,      87,  991946,        0
      cpuset:                    40,        0,        2,      182,        2,        0
      audit_record:            856,        0,        0,        0,        0,        0
      mbuf_packet:              256,        0,      732,    3108, 598589137,        0
      mbuf:                    256,        0,        3,    1287, 1151674234,        0
      mbuf_cluster:            2048,    32768,    3842,      314, 242491157,        0
      mbuf_jumbo_pagesize:    4096,    12800,        0,      423, 21203205,        0
      mbuf_jumbo_9k:          9216,    6400,        0,        0,        0,        0
      mbuf_jumbo_16k:        16384,    3200,        0,        0,        0,        0
      mbuf_ext_refcnt:            4,        0,        0,        0,        0,        0
      ACL UMA zone:            388,        0,        0,        0,        0,        0
      NetGraph items:            36,    4134,        0,        0,        0,        0
      NetGraph data items:      36,      546,        0,        0,        0,        0
      g_bio:                    132,        0,        0,    3770, 10725147,        0
      ata_request:              192,        0,        0,      980,  2561857,        0
      ata_composite:            184,        0,        0,        0,        0,        0
      cryptop:                  60,        0,        0,        0,        0,        0
      cryptodesc:                56,        0,        0,        0,        0,        0
      VNODE:                    276,        0,    31487,      335,  597279,        0
      VNODEPOLL:                64,        0,        0,        0,        0,        0
      NAMEI:                  1024,        0,        0,      48, 125831377,        0
      S VFS Cache:              68,        0,    13437,      955,  367847,        0
      L VFS Cache:              291,        0,      23,      29,      133,        0
      DIRHASH:                1024,        0,      463,      53,      547,        0
      NFSMOUNT:                560,        0,        0,        0,        0,        0
      NFSNODE:                  452,        0,        0,        0,        0,        0
      pipe:                    396,        0,        6,      44,  541296,        0
      ksiginfo:                  80,        0,      106,      950,      108,        0
      itimer:                  220,        0,        0,      36,        1,        0
      KNOTE:                    68,        0,      611,    2301, 178998840,        0
      bridge_rtnode:            36,        0,        0,        0,        0,        0
      socket:                  416,  204804,      735,    2739,  3676524,        0
      ipq:                      32,    1130,        0,        0,        0,        0
      udpcb:                    180,  204820,      15,      95,  936745,        0
      inpcb:                    180,  204820,      954,    3182,  2378055,        0
      tcpcb:                    464,  204800,      691,    2581,  2378055,        0
      tcptw:                    52,    32256,      263,    1609,  1173516,        0
      syncache:                104,    51208,        0,      185,  1192168,        0
      hostcache:                76,    15400,    1876,    1824,    21483,        0
      tcpreass:                  20,    2197,        0,      676, 11118468,        0
      sackhole:                  20,        0,        0,      507,    65423,        0
      sctp_ep:                  816,    32770,        0,        0,        0,        0
      sctp_asoc:              1436,    40000,        0,        0,        0,        0
      sctp_laddr:                24,    80040,        0,      290,        7,        0
      sctp_raddr:              400,    80000,        0,        0,        0,        0
      sctp_chunk:                96,  400000,        0,        0,        0,        0
      sctp_readq:                76,  400000,        0,        0,        0,        0
      sctp_stream_msg_out:      64,  400020,        0,        0,        0,        0
      sctp_asconf:              24,  400055,        0,        0,        0,        0
      sctp_asconf_ack:          24,  400055,        0,        0,        0,        0
      ripcb:                    180,  204820,        1,      87,    36036,        0
      unpcb:                    168,  204815,      27,      88,  325405,        0
      rtentry:                  124,        0,      68,      149,    1888,        0
      pfsrctrpl:                124,    10013,        0,        0,        0,        0
      pfrulepl:                844,        0,    3137,    3343,    97083,        0
      pfstatepl:                284,  180012,    23740,    17280, 21127153,        0
      pfaltqpl:                224,        0,      16,      86,      720,        0
      pfpooladdrpl:              68,        0,      39,      185,      516,        0
      pfrktable:              1240,    1002,      307,      80,    1388,        0
      pfrkentry:                156,  200000,      129,      271,    4632,        0
      pfrkentry2:              156,        0,        0,        0,        0,        0
      pffrent:                  16,    5075,      140,    2499, 27808559,        0
      pffrag:                    48,        0,      140,    2512, 14106469,        0
      pffrcache:                48,    10062,        0,        0,        0,        0
      pffrcent:                  12,    50141,        0,        0,        0,        0
      pfstatescrub:              28,        0,        0,        0,        0,        0
      pfiaddrpl:                100,        0,      34,      83,      179,        0
      pfospfen:                108,        0,      696,      132,    26448,        0
      pfosfp:                    28,        0,      407,      482,    15466,        0
      SWAPMETA:                276,  121576,        0,        0,        0,        0
      Mountpoints:              720,        0,        4,        6,        4,        0
      FFS inode:                124,        0,    31360,      322,  597148,        0
      FFS1 dinode:              128,        0,        0,        0,        0,        0
      FFS2 dinode:              256,        0,    31360,      320,  597148,        0
      md0:                      512,        0,      298,      46,      298,        0

      Есть идеи что переполняется и как этого избежать? логи полностью молчат. как вызвать этот перегруз и посомтреть статистику именно во время него пока не могу, ибо непонятно что является его катализатором. Overflow пустые, ерроров нет. Я Ломаю голову, что же не так \\ пока добавил upperlimit торрентам на Up и еще понизил значение wanRoot. Таки графики намекают, что скорее всего, фэйлы во время активного аплоада.

      ping.png
      ping.png_thumb
      sys.png
      sys.png_thumb
      traff.png
      traff.png_thumb
      packets.png
      packets.png_thumb

      2.0.2-RELEASE (i386)
      Intel(R) Atom(TM) CPU 330 @ 1.60GHz
      eth: Intel 82574L
      DOM sata, 1Gb
      over 150 users

      1 Reply Last reply Reply Quote 0
      • G
        goliy
        last edited by

        вообщем, проблема так и не решена, но запилена до минимума(выставлением upperlimit'a торрентам в 90%). уже рекордное время нет взлетов пингов (хотя они просто сильно уменьшились) Например, четко отслеживается, что проблема в отсылке пакетов От сервера. чето переполняется, но хер пойми что. В последний раз было четко заметно, как при запуске ntop'a, syslogd посылал инфу на локальный сервер, а инфа, видимо, шла сразу лихой пачкой, т.к. ntop , запускаясь ну прямо Всё про себя рассказывает, syslog послал в лог предупреждение о переполнении буффера. но пинги теперь взлетают только до 30мс, так что жить как-то можно. хотя, конечно, очень не приятно. еще и потери какието, уверен, в этом же ключе\\

        traffic.png
        traffic.png_thumb
        quality.png
        quality.png_thumb

        2.0.2-RELEASE (i386)
        Intel(R) Atom(TM) CPU 330 @ 1.60GHz
        eth: Intel 82574L
        DOM sata, 1Gb
        over 150 users

        1 Reply Last reply Reply Quote 0
        • werterW
          werter
          last edited by

          Выражаю огромную благодарность ув. goliy за помощь! Немного разобрался с шейпером.
          Теперь очередь с торрентами корректно и довольно быстро уступает очередям с более высоким приоритетом. Только вот пинг скачет все равно  :'( Меньше уже, но скачет. Буду разбираться чуть попозже.

          P.s. У ТС ,я так понял, стоит pf 1.2.3 Может стоит перейти на 2.0 и проблема с переполнением решится ?

          P.s.s. Мои /tmp/debur/rules теперь:

          altq on  pppoe1 hfsc bandwidth 512Kb queue {  qACK,  qDefault,  qP2P,  qOthersHigh,  qOthersLow  }
          queue qACK on pppoe1 qlimit 500 hfsc (  ecn  , linkshare 19.6%  ) 
          queue qDefault on pppoe1 qlimit 500 hfsc (  ecn  , default  , linkshare 9.8%  ) 
          queue qP2P on pppoe1 qlimit 2000 hfsc (  red  , ecn  , linkshare 1Kb  ) 
          queue qOthersHigh on pppoe1 qlimit 500 hfsc (  ecn  , linkshare 9.8%  ) 
          queue qOthersLow on pppoe1 qlimit 2000 hfsc (  red  , ecn  , linkshare 1Kb  )

          altq on  em0 hfsc queue {  qLink,  qInternet  }
          queue qLink on em0 qlimit 500 hfsc (  ecn  , default  , linkshare 20%  ) 
          queue qInternet on em0 bandwidth 15728.64Kb hfsc (  ecn  , linkshare 15728.64Kb  , upperlimit 15728.64Kb  )  {  qACK,  qP2P,  qOthersHigh,  qOthersLow  }
          queue qACK on em0 qlimit 500 hfsc (  ecn  , linkshare 19.6%  ) 
          queue qP2P on em0 qlimit 2000 hfsc (  red  , ecn  , linkshare 1Kb  ) 
          queue qOthersHigh on em0 qlimit 500 hfsc (  ecn  , linkshare 9.8%  ) 
          queue qOthersLow on em0 qlimit 2000 hfsc (  red  , ecn  , linkshare 1Kb  )

          1 Reply Last reply Reply Quote 0
          • G
            goliy
            last edited by

            это уже вопрос, стоит ли мучатся и получить новые проблемы с переписыванием всех правил, таблицы маков (на целый диапазон сети) и много другого, если всего и так полностью хватает.. Думаю, заняться этим, когда прижмет необходимость расширять канал за счет 2го Ван, а пока еще тут покавыряюсь. Дабы даже скрипт уже пашет для qlimit'ов =)
            Буду пока криво смотреть в сторону сетевух за 300руб. А там и серв заменим и на 2.0 переедем)

            ты на чистом канале проверил пинг? чем? и до куда. какой он? насколько отличается от пфэшного? как ведет себя в моменты перегрузки и во время слабой загруженности? Проанализируй все этого, может решение найдется.

            2.0.2-RELEASE (i386)
            Intel(R) Atom(TM) CPU 330 @ 1.60GHz
            eth: Intel 82574L
            DOM sata, 1Gb
            over 150 users

            1 Reply Last reply Reply Quote 0
            • werterW
              werter
              last edited by

              Еще, на русском - http://dreamcatcher.ru/2009/11/30/Использование-hierarchical-fair-service-curve-hfsc-в-openbsd/ . Может кому и пригодится.

              1 Reply Last reply Reply Quote 0
              • T
                Tamriel
                last edited by

                такой вопрос
                правка loader.conf  и /etc/sysctl.conf (согласно 1-му посту автора топа)
                возможна в nanobsd ?
                спс

                AMD Athlon™ XP 1700+
                384MB Ram
                NanoBSD Boot Slice pfsense0 / da0s1
                Platform nanobsd (512mb)
                Version 2.0-RELEASE (i386)
                built on Wed Sep 14 09:08:10 EDT 2011

                1 Reply Last reply Reply Quote 0
                • G
                  goliy
                  last edited by

                  @Tamriel:

                  такой вопрос
                  правка loader.conf  и /etc/sysctl.conf (согласно 1-му посту автора топа)
                  возможна в nanobsd ?
                  спс

                  Можно в nanobsd, в ee, в https://pfsense/edit.php из веб-интерфейса, и даже в православном vi! это же обычный текстовый файл =)

                  2.0.2-RELEASE (i386)
                  Intel(R) Atom(TM) CPU 330 @ 1.60GHz
                  eth: Intel 82574L
                  DOM sata, 1Gb
                  over 150 users

                  1 Reply Last reply Reply Quote 0
                  • T
                    Tamriel
                    last edited by

                    @goliy:

                    @Tamriel:

                    такой вопрос
                    правка loader.conf  и /etc/sysctl.conf (согласно 1-му посту автора топа)
                    возможна в nanobsd ?
                    спс

                    Можно в nanobsd, в ee, в https://pfsense/edit.php из веб-интерфейса, и даже в православном vi! это же обычный текстовый файл =)

                    сделал спс
                    использую ee  или mcedit

                    AMD Athlon™ XP 1700+
                    384MB Ram
                    NanoBSD Boot Slice pfsense0 / da0s1
                    Platform nanobsd (512mb)
                    Version 2.0-RELEASE (i386)
                    built on Wed Sep 14 09:08:10 EDT 2011

                    1 Reply Last reply Reply Quote 0
                    • werterW
                      werter
                      last edited by

                      И все же , ув. гуру, как ПРАВИЛЬНО определить размер linkshare и realtime ? По ссылкам доки прочел.
                      Визард же по шейперу их как-то высчитывает. Каков алгоритм , хоть примерно ? Ткните носом. Спс.

                      1 Reply Last reply Reply Quote 0
                      • G
                        goliy
                        last edited by

                        @werter:

                        И все же , ув. гуру, как ПРАВИЛЬНО определить размер linkshare и realtime ? По ссылкам доки прочел.

                        НЕ ВЕРЮ

                        2.0.2-RELEASE (i386)
                        Intel(R) Atom(TM) CPU 330 @ 1.60GHz
                        eth: Intel 82574L
                        DOM sata, 1Gb
                        over 150 users

                        1 Reply Last reply Reply Quote 0
                        • First post
                          Last post
                        Copyright 2025 Rubicon Communications LLC (Netgate). All rights reserved.