Packet Loss Problem - OpenVPN Under "minor" Load



  • Hi all,

    I'm having problems with the pfsense v2.3.x, when OpenVPN is under minor load, the LAN side interfaces start to drop packets. dPinger starts to report high packet loss - up to 10 - 15%.

    If I ping sites on the LAN side, I see the packet loss.

    However, if I ping directly on the pfSense box itself, I'm getting zero packet loss.

    Once I stop the OpenVPN connections, my packet loss stop on the LAN side.

    Load on the box is low:

    
    last pid: 34625;  load averages:  0.88,  0.83,  0.74   up 10+17:48:00  11:29:47
    58 processes:  2 running, 56 sleeping
    CPU:  7.3% user,  0.0% nice,  4.6% system,  4.4% interrupt, 83.7% idle
    Mem: 29M Active, 154M Inact, 404M Wired, 301M Buf, 7335M Free
    Swap: 16G Total, 16G Free
    
      PID USERNAME       THR PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAN
    30969 root             1  42    0 21624K  5732K select  1 165:17  30.27% openvp
    22846 root             1  30    0   262M 36448K CPU0    0   0:01   5.86% php-fp
    17931 nobody           1  20    0 16836K  4812K select  2  54:31   0.20% darkst
    80610 root             1  20    0 14512K  2296K select  3   4:19   0.10% syslog
    15760 root             2 -31  r21 31496K  9592K select  1  27:43   0.00% siprox
    46555 unbound          4  20    0 92648K 60600K kqread  3   9:59   0.00% unboun
    99364 root             1  52   20 17000K  2588K wait    1   7:40   0.00% sh
    31241 root             1  20    0 16676K  2436K bpf     3   6:49   0.00% filter
    45642 avahi            1  20    0 27616K  3740K select  3   6:21   0.00% avahi-
    71924 root             5  20    0 19108K  2376K accept  3   3:44   0.00% dpinge
    53392 dhcpd            1  20    0 24816K 13656K select  3   3:38   0.00% dhcpd
    71597 root             5  20    0 19108K  2376K accept  0   3:28   0.00% dpinge
    98472 root           283  20    0   110M 26864K uwait   3   1:45   0.00% filter
    68011 root             1  20    0 39136K  6920K kqread  1   1:10   0.00% nginx
    67956 root             1  20    0 39136K  6920K kqread  1   1:09   0.00% nginx
    67748 root             1  20    0 39136K  6920K kqread  3   1:09   0.00% nginx
    67949 root             1  20    0 39136K  6920K kqread  3   1:08   0.00% nginx
    
    

    Any ideas why the system is dropping packets?

    Thanks.



  • So I thought perhaps it was a CPU issue with OpenVPN, I disabled encryption and I'm still having dropped packets.

    The machine is pretty low-end (Atom D525) but processors are pretty free?

    
    last pid: 54088;  load averages:  0.76,  0.59,  0.61                                           up 10+19:46:55  13:28:42
    482 processes: 5 running, 450 sleeping, 27 waiting
    CPU 0:  7.4% user,  0.0% nice,  3.5% system,  3.1% interrupt, 85.9% idle
    CPU 1: 11.3% user,  0.0% nice,  3.5% system,  2.0% interrupt, 83.2% idle
    CPU 2: 12.9% user,  0.0% nice,  2.7% system,  5.1% interrupt, 79.3% idle
    CPU 3:  4.7% user,  0.0% nice,  4.7% system,  6.3% interrupt, 84.4% idle
    Mem: 29M Active, 148M Inact, 427M Wired, 531M Buf, 7317M Free
    Swap: 16G Total, 16G Free
    
      PID USERNAME      PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
       11 root          155 ki31     0K    64K CPU0    0 245.8H  86.47% idle{idle: cpu0}
       11 root          155 ki31     0K    64K CPU3    3 253.4H  84.96% idle{idle: cpu3}
       11 root          155 ki31     0K    64K RUN     2 246.6H  76.37% idle{idle: cpu2}
       11 root          155 ki31     0K    64K CPU1    1 251.4H  75.20% idle{idle: cpu1}
    23044 root           30    0 21624K  5684K select  2   8:53  18.36% openvpn
    21063 root           52    0   262M 36096K accept  1   0:02  10.16% php-fpm
    54088 root           40    0   262M 36124K accept  2   0:01   7.57% php-fpm
       12 root          -92    -     0K   432K WAIT    0 596:01   4.88% intr{irq258: em2:rx0}
       12 root          -72    -     0K   432K WAIT    3  22:44   4.79% intr{swi1: netisr 3}
       12 root          -92    -     0K   432K WAIT    2 534:21   2.88% intr{irq261: em3:rx0}
    72603 root           20    0 21856K  3928K CPU1    1   0:00   0.39% top
       12 root          -92    -     0K   432K WAIT    1  60:03   0.20% intr{irq259: em2:tx0}
     2475 nobody         20    0 16836K  4100K select  2   0:24   0.20% darkstat
        0 root          -92    -     0K   304K -       0  75:03   0.00% kernel{dummynet}
       12 root          -92    -     0K   432K WAIT    3  71:32   0.00% intr{irq262: em3:tx0}
       12 root          -60    -     0K   432K WAIT    2  16:23   0.00% intr{swi4: clock}
        0 root          -92    -     0K   304K -       3  14:40   0.00% kernel{em3 rxq (cpuid 2}
        5 root          -16    -     0K    16K pftm    0   7:41   0.00% pf purge
    31241 root           20    0 16676K  2560K bpf     1   6:58   0.00% filterlog
       15 root          -16    -     0K    16K -       0   4:58   0.00% rand_harvestq
        0 root          -92    -     0K   304K -       2   4:32   0.00% kernel{em1 que}