Поищите посты от пол-ля с ником goliy. У него неплохие объяснения были по шейперу. Например, http://forum.pfsense.org/index.php/topic,26220.0.html, http://forum.pfsense.org/index.php/topic,41947.0.html.
P.s. Для очереди с мусорным трафиком (в т.ч. и торренты) Queue limit выставите большим числом (например, 2000). И не забывайте после изменения правил шейпера ВСЕГДА делать Reset States!
P.s.s. Почитайте статьи по алгоритму HFSC для понимания , как оно все работает - http://www.probsd.net/pf/index.php/Hednod's_HFSC_explained, https://calomel.org/pf_hfsc.html, http://dreamcatcher.ru/2009/11/30/Использование-hierarchical-fair-service-curve-hfsc-в-openbsd/