Netgate Discussion Forum
    • Categories
    • Recent
    • Tags
    • Popular
    • Users
    • Search
    • Register
    • Login

    INSTALANDO LUSCA EN PFSENSE (Caché youtube y contenidos dinámicos)

    Scheduled Pinned Locked Moved Español
    50 Posts 13 Posters 44.6k Views
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • pttP
      ptt Rebel Alliance
      last edited by

      primero no hay preguntas en concreto sobre problemas con el uso de lusca en pfsense por tal motivo no ves una respuesta de mi parte concreta

      No, no hay una pregunta en concreto, pero dices, y cito:

      Razon por la cual me toco investigar algo para encontrar un desarrollo mas actualizado del estoreurl.pl y que realmente funcione ya lo he puesto en marcha 2 dias funcionando y haciendo full cache.

      Entonces, pregunto, no sería mas fácil compartir aquí en el foro lo que encontraste y tienes funcionando  ???

      deje mi email solo para tener un aviso en mi cuenta de algun comentario del hilo para ayudar, ya que muy poco me la paso conectado aca y reviso mis email en el movil

      No es necesario esto, ya que , simplemente configuras en tu perfil que el "Foro" te notifique via mail cuando haya novedades en el hilo.

      O si alguien te envia un "Privado" tambien recibes la notificación via Mail….

      No es porque "alguien" se pueda ofender, ni por las politicas del foro, es una sugerencia (que comparto con el Sr. Bellera) que evitará que recibas Spam en tu cuenta de correo

      http://forum.pfsense.org/index.php/topic,61070.0.html

      1 Reply Last reply Reply Quote 0
      • A
        amnarl
        last edited by

        Ok muchas gracias por su sugerencia !!! Creo que estamos acá para aprende todos juntos con humildad. No entiendo cual es el problema que tienes con mi publicación si de veras te molesta y a los usuarios, la quito si te das cuenta a pesar de que no existe una pregunta en concreto estoy comentando de buena fe mi experiencia abriendo el espacio a todo aquel que desee preguntar….. Te pregunto has realizado alguna pregunta en concreto??? Has probado el paquete en pfsense?? tienes duda ?? Creo que este forum no es para perder el tiempo en discusiones sino son sobre Pfsense .

        Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
        http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

        1 Reply Last reply Reply Quote 0
        • A
          amnarl
          last edited by

          Buenas amigos!! Saludos desde venezuela barquisimeto, estuve revisando este hilo y me parecio interesante ya que desarrollo varias redes de un pequeño WISP en produccion con algunos clientes conectado y como todos saben en venezuela el ahorro de ancho de banda es necesario. Note que al hacer lo que cesar y kalelsito estaban explicando de sus avances en el uso de lusca-cache en pfsense version 2.01 y 2.02 el service squid se detiene al usar ese archivo storeurl.pl que indican en el link probado en la version 2.01. Razon por la cual me toco investigar algo para encontrar un desarrollo mas actualizado del estoreurl.pl y que realmente funcione ya lo he puesto en marcha 2 dias funcionando y haciendo full cache. Si alguien necesita algo sobre este tema estoy totalmente a la orden.
          Agradecido a los autores principales de este Hilo (Cesar y kalelsito)

          Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
          http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

          1 Reply Last reply Reply Quote 0
          • pttP
            ptt Rebel Alliance
            last edited by

            @amnarl:

            Ok muchas gracias por su sugerencia !!! Creo que estamos acá para aprende todos juntos con humildad. No entiendo cual es el problema que tienes con mi publicación si de veras te molesta y a los usuarios, la quito si te das cuenta a pesar de que no existe una pregunta en concreto estoy comentando de buena fe mi experiencia abriendo el espacio a todo aquel que desee preguntar….. Te pregunto has realizado alguna pregunta en concreto??? Has probado el paquete en pfsense?? tienes duda ?? Creo que este forum no es para perder el tiempo en discusiones sino son sobre Pfsense .

            No es "problema" con tu publicacion, ni que me molestó….

            Simplemente realicé un par de observaciones / sugerencias respecto a tu post, Nada mas.

            Lo que SI me resulta molesto es que Borres lo primero que publicaste, lo modifiques y lo vuelvas a publicar.

            Con respecto a las otras preguntas, utilizo pfSense desde hace varios años, pero No utilizo LUSCA , supongo que si en algun momento decido utilizarlo y de tener alguna, la plantearé aquí en el foro....

            1 Reply Last reply Reply Quote 0
            • E
              enic68
              last edited by

              Estimado amnarl  como va, saludos desde Chile como va cual es tu storeurl.pl ?

              ..  efectivamente por estos días aprox una semana  youtube hizo cambios a la forma interna  de sus videos
              que modificaciones le hiciste??

              me quedo atento a tus comentarios

              1 Reply Last reply Reply Quote 0
              • A
                amnarl
                last edited by

                Saludos cesar, te dejo link para descargar el archivo storeurl.pl modificado funcionando y hasta ahora haciendo cache y sin errores en squid. http://redsoporte.dyndns.org/lusca/storeurl.pl cualquier informacion espero estemos en contacto estoy trabajando duro con esto ya que lo necesito funcionando al 100% en una pequeña WISP con cliente conectados!!! Gracias Saludos desde Barquisimeto Venezuela

                Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
                http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

                1 Reply Last reply Reply Quote 0
                • A
                  amnarl
                  last edited by

                  Buenas nuevamente posteando por aca ya casi va a llegar a la semana de uso el server que les explique aca voy a dejar colgada una imagen tomada hoy en ese equipo de lo que se muestra en el comado tail -f access.log | grep TCP_HIT en el directorio /va/squid/logs. Unos cuantos pequeños y hermosos Hit tanto de youtube como de facebook tan esperado en nuestras redes WISP . http://redsoporte.dyndns.org/lusca/hit Disfrutenlo como dije anteriormente completamente a la orden de veras aca en este forum he aprendido mucho de ustedes, tutoriales como el de bellera y otros en mis inicios fueron de gran ayuda.

                  Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
                  http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

                  1 Reply Last reply Reply Quote 0
                  • E
                    enic68
                    last edited by

                    Estimado muy buena la imagen, podrías contarnos mas del procedimiento de instalación que usaste para obtener este resultado?

                    Instalé una máquina nueva con pfsense 2.0.2 , agregué el paquete lusca y  luego el storeurl.pl que compartes, pero el servicio de lusca deja de funcionar..

                    *- Como instalaste Lusca?  lo adicionaste luego de instalar squid? o solo Lusca?
                    *- Usaste pfsense 2.0.2 o lo actualizate a  2.0.3?
                    *- Algún otro archivo que tocar o solo  storeurl.pl?

                    Saludos desde Chile
                    César.-

                    1 Reply Last reply Reply Quote 0
                    • A
                      amnarl
                      last edited by

                      Saludos!! Cesar recuerda como ya se ha dicho Lusca es un squid como tal no debemos instalar el paquete squid en pfsense solo lusca y seguir los paso posteados aca, solo en el paso del archivo storeurl.pl usar el que publique. En ese pfsense de la imagen que muestro solo tengo instalado los paquetes: Lusca y Lightsquid  para verificar sitios navegados por los usuarios conectados. Dejo una imagen de la pantalla de paquetes http://redsoporte.dyndns.org/lusca/paquetes. Ah se me olvidaba al version utilizada es 2.01 no he probado en 2.02
                      Espero ser de ayuda para todos !!! Saludos desde venezuela barquisimeto

                      Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
                      http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

                      1 Reply Last reply Reply Quote 0
                      • E
                        enic68
                        last edited by

                        ;D jajajaja,  vale gracias, si yo mismo lo he dicho al iniciar este hilo  (Lusca es Squid en si mismo, por tanto si instalamos squid y lusca tendremos rutas y archivos de configuración contradictorios).  que cosas no..!

                        1 Reply Last reply Reply Quote 0
                        • S
                          system_urrutia
                          last edited by

                          Saludos amigos del foro llevo probando lusca cerca de 15 días basado en la guía y orientaciones del compa Cesar-V y pues no logro hacer Hit o TCP_HIT de los videos de youtube ni de ninguna otra pagina al parecer lo único que almacena en cache son solo imágenes estáticas y animadas pero nada de vídeos, haciendo un analisis del script del compa de barquisimeto amnarl considero que debe haber algún error en las lineas que describo a continuación;

                          youtube All itag (semua resolusi)

                          } elsif (m/^http://([0-9.]{4}|..youtube.com|..googlevideo.com|..video.google.com).?(itag=[0-9]).?&(id=[a-zA-Z0-9])./) {
                          print $x . "http://video-srv.youtube.com.SQUIDINTERNAL/" . $2 . "&" . $3 . "\n";

                          youtube All itag (semua resolusi) posisi kebalikan

                          } elsif (m/^http://([0-9.]{4}|..youtube.com|..googlevideo.com|..video.google.com).?(id=[a-zA-Z0-9]).?&(itag=[0-9])./) {
                          print $x . "http://video-srv.youtube.com.SQUIDINTERNAL/" . $3 . "&" . $2 . "\n";

                          ya que se queda pegado el lusca o mejor dicho se cae el servicio, he anexado algunas de las modificaciones del compa de barquisimeto al script del compa Cesar-V y aparentemente funcionan bien me imagino que el error es debido a que se utiliza prácticamente una sola linea para hacer el caheo tomando cualquiera de los 6 formatos de reproducción de youtube, 144,240,360,480,720 y 1080 haciendo un análisis de esto veo que el compa cesar-v tampoco los incluye todos en su script.
                          se me olvidaba estoy usando la version 2.1-BETA1 (i386) built on Fri Apr 5 00:57:29 EDT 2013  FreeBSD 8.3-RELEASE-p7 de pfsense en una red con 16 clientes

                          1 Reply Last reply Reply Quote 0
                          • E
                            enic68
                            last edited by

                            Estimados logré reactivar el caché de Videos de Youtube.

                            Lo que se debe hacer es  modificar el "storeurl.pl" existente y no sobre-escribir directamente el archivo en el directorio de pfsense…  me explico:

                            -*- Cuando se carga un nuevo archivo storeurl.pl, directamente, el propietario del archivo no corresponde al que tiene el original de pfsense.

                            Si siguen el procedimiento de la primera página (punto 5), al ingresar por FTP ,   descarguen desde la ruta  ("/usr/local/etc/squid/") el archivo  (storeurl.pl).
                            Luego  editen  el archivo con un block de notas por ejemplo y reemplacen editando todo el código nuevo, propuesto por el amigo amnarl en su archivo storeurl.pl ,  luego que graben podrán cargar el archivo al directorio nuevamente.

                            Es por esta razón que el servicio lusca-cache  se detenía,

                            Otras maneras

                            Editar  el archivo desde la opción (Edit file) del administrador Web de pfsense, (pero antes deben cambiar los permisos de escritura del archivo storeurl.pl)

                            Me parece muy interesante lo que indica el amigo system_urrutia  en cuanto a seguir modificando para optimizar el caché de videos  ojalá se anime a publicar su storeurl.pl

                            Saludos desde Chile,
                            César.-

                            1 Reply Last reply Reply Quote 0
                            • S
                              system_urrutia
                              last edited by

                              Saludos amigo Cesar-V, de hecho es lo que he echo con el archivo storeurl.pl, que tu y el amigo amnarl han posteado utilizo la opción EditFile del PfSense, con el tuyo no he tenido problemas pero con el del amigo amnarl al hacerlo de la misma forma se detiene el lusca o sucede un error con los vídeos empieza a reproducir en youtube y pasado 20 segundos se detiene y no carga mas al hacer un refresh de youtube el video al parecer empieza a cargar del cache pero se ve en negro y al llegar hasta la parte en que se detuvo, no carga mas pasa la linea gris y la linea roja de forma rapida, esto es lo que me sucede a mi no se si el amigo cesar-v ha tenido al gun problema con el storeurl.pl del amigo amnarl.

                              me gustaría poder colaborar creando un storeurl, pero desconozco la programación

                              1 Reply Last reply Reply Quote 0
                              • A
                                amnarl
                                last edited by

                                Saludos mis estimados que bueno saber que estan trabajando y haciendo pruebas para dejar este tema al 100 % realmente en mi experiencia he editado el archivo storeurl.pl directamente en el administrador web de pfsense deteniendo el servicio de lusca y reactivandolo al modificar y no he tenido problema. Les cuento que el server sigue haciendo cache de videos sin problemas aun reportados por los clientes ni visto por mi persona. Estoy trabajando en incluir en ese storeurl cacheo de actualizaciones de NOD32 ya que visualizo que muchos usuario hacen uso de ese antivirus. Sigo atento a nuevas noticias

                                Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
                                http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

                                1 Reply Last reply Reply Quote 0
                                • E
                                  enic68
                                  last edited by

                                  :-\  Al estar haciendo pruebas con virtualización,  (virtualBOX)  la velocidad de transferencia de datos (desde el servidor de caché hacia la red que sirve) , está limitada por el controlador de disco?  en este caso IDE?
                                  *- La velocidad a la que entrega datos del caché sería muy superior usando un disco SATA.

                                  BUG???….....  haciendo pruebas en realidad navegando varios videos de youtube   los videos se confunden

                                  me ha pasado varias veces que  al pinchar sobre un video en youtube ,  el despliegue es el de otro que ya visualicé hace tiempo... raro..!???   sigo probando!

                                  Saludos
                                  César.

                                  1 Reply Last reply Reply Quote 0
                                  • S
                                    system_urrutia
                                    last edited by

                                    muchachos en contre este escript según el creador funciona muy bien y cachea todo, seria cuestión de adaptarlo para que corra en pfsense, hay les dejo ya que el codigo y yo no somos muy amigos.
                                    #      WELCOME TO SQUID LUSCA_HEAD-r14809
                                    #      –--------------------------
                                    #      Provided by meTRohaus.info and recompile by ouziel-cyber-tech
                                    #      last revision February/1/2012
                                    #      start of config

                                    http_port 10.10.1.1:3128 transparent
                                    http_port 127.0.0.1:3128
                                    icp_port 3130
                                    server_http11 on

                                    cache_effective_user proxy
                                    cache_effective_group proxy

                                    error_directory /usr/share/squid/errors/English
                                    icon_directory /usr/share/squid/icons
                                    visible_hostname infomypc.blogspot.com
                                    cache_mgr ouziel-cyber-tech
                                    access_log /var/log/squid/access.log
                                    cache_log /var/log/squid/cache.log
                                    cache_store_log none
                                    log_http_violations off
                                    logfile_rotate 1
                                    shutdown_lifetime 10 seconds
                                    forwarded_for off

                                    acl localnet src 192.168.2.0/24

                                    uri_whitespace strip
                                    dns_nameservers 192.168.20.1
                                    dns_testnames 127.0.0.1
                                    cache_mem 32 MB
                                    maximum_object_size_in_memory 64 KB
                                    memory_replacement_policy heap GDSF
                                    cache_replacement_policy heap LFUDA

                                    cache_dir aufs /cache 7000 16 256

                                    minimum_object_size 0 bytes
                                    maximum_object_size 256000 KB
                                    offline_mode off
                                    cache_swap_low 98%
                                    cache_swap_high 99%

                                    redirector configured

                                    storeurl_rewrite_program /etc/squid/storeurl.pl
                                    storeurl_rewrite_children 1
                                    storeurl_rewrite_concurrency 100
                                    storeurl_bypass on

                                    Setup some default acls

                                    acl all src 0.0.0.0/0
                                    acl localhost src 127.0.0.1/255.255.255.255
                                    acl safeports port 21 70 80 210 280 443 488 563 591 631 667 777 901 81 3128 1025-65535
                                    acl sslports port 443 563 81
                                    acl manager proto cache_object
                                    acl purge method PURGE
                                    acl connect method CONNECT
                                    acl dynamic urlpath_regex cgi-bin ?
                                    acl porn url_regex "/etc/squid/porno.txt

                                    http_access deny porn
                                    http_access allow manager localhost
                                    http_access deny manager
                                    http_access allow purge localhost
                                    http_access deny purge
                                    http_access deny !safeports
                                    http_access deny CONNECT !sslports

                                    Always allow localhost connections

                                    http_access allow localhost

                                    Allow local network(s) on interface(s)

                                    http_access allow localnet

                                    Default block all to be sure

                                    http_access deny all

                                    acl store_rewrite_list urlpath_regex /(get_video|videoplayback?id|videoplayback.id) .(jp(e?g|e|2)|gif|png|tiff?|bmp|ico|flv|wmv|3gp|mp(4|3)|exe|msi|zip|on2|mar|swf)?
                                    acl store_rewrite_list urlpath_regex -i .youtube.com/get_video?
                                    acl store_rewrite_list urlpath_regex -i .youtube.com/videoplayback .youtube.com/videoplay .youtube.com/get_video?
                                    acl store_rewrite_list urlpath_regex -i .youtube.[a-z][a-z]/videoplayback .youtube.[a-z][a-z]/videoplay .youtube.[a-z][a-z]/get_video?
                                    acl store_rewrite_list urlpath_regex -i .googlevideo.com/videoplayback .googlevideo.com/videoplay .googlevideo.com/get_video?
                                    acl store_rewrite_list urlpath_regex -i .google.com/videoplayback .google.com/videoplay .google.com/get_video?
                                    acl store_rewrite_list_domain url_regex ^http://([a-zA-Z-]+[0-9-]+).[A-Za-z]
                                    .[A-Za-z]*
                                    acl store_rewrite_list_domain url_regex (([a-z]{1,2}[0-9]{1,3})|([0-9]{1,3}[a-z]{1,2})).[a-z][0-9]?.[a-z]{3}
                                    acl store_rewrite_list_path urlpath_regex .(jp(e?g|e|2)|gif|png|tiff?|bmp|ico|flv|avc|zip|mp3|3gp|rar|on2|mar|exe)$
                                    acl store_rewrite_list_domain_CDN url_regex .rapidshare.com.
                                    /[0-9]/./[^/]* ^http://(www.ziddu.com..[^/]{3,4})/(.) .doubleclick.net.* ^http://[.a-z0-9].photobucket.com..[a-z]{3}$ quantserve.com

                                    acl dontrewrite url_regex redbot.org .php (get_video|videoplayback?id|videoplayback.*id).*begin=
                                    acl getmethod method GET

                                    acl apache rep_header Server ^Apache
                                    broken_vary_encoding allow apache

                                    storeurl_access deny dontrewrite
                                    storeurl_access deny !getmethod
                                    storeurl_access allow store_rewrite_list_domain_CDN
                                    storeurl_access allow store_rewrite_list
                                    storeurl_access allow store_rewrite_list_domain
                                    storeurl_access allow store_rewrite_list_path
                                    storeurl_access deny all

                                    include /usr/local/etc/squid/refresh.conf

                                    acl snmp_host src 127.0.0.1
                                    snmp_port 3401
                                    acl snmppublic snmp_community public
                                    snmp_access allow snmppublic snmp_host

                                    string pendukung squidstats

                                    snmp_access allow snmppublic all
                                    snmp_access deny all

                                    1 year = 525600 mins, 1 month = 43800 mins

                                    refresh_pattern imeem.*.flv            0 0% 0  override-lastmod override-expire
                                    refresh_pattern ^ftp:  40320  20%    40320  override-expire reload-into-ims store-stale
                                    refresh_pattern ^gopher: 1440  0%      1440

                                    #ads
                                    refresh_pattern ^.(utm.gif|ads?|rmxads.com|ad.z5x.net|bh.contextweb.com|bstats.adbrite.com|a1.interclick.com|ad.trafficmp.com|ads.cubics.com|ad.xtendmedia.com|.googlesyndication.com|advertising.com|yieldmanager|game-advertising.com|pixel.quantserve.com|adperium.com|doubleclick.net|adserving.cpxinteractive.com|syndication.com|media.fastclick.net). 129600 20% 129600 ignore-no-cache ignore-no-store ignore-private override-expire ignore-reload ignore-auth ignore-must-revalidate store-stale negative-ttl=40320 max-stale=1440
                                    refresh_pattern ^.*safebrowsing.*google  131400 999999% 525600 override-expire ignore-reload ignore-no-cache ignore-no-store ignore-private ignore-auth ignore-must-revalidate negative-ttl=10080 store-stale

                                    #specific sites
                                    refresh_pattern .rapidshare./[0-9]/./[^/] 161280      90%    161280 ignore-reload store-stale
                                    refresh_pattern (get_video?|videoplayback?|videodownload?|.flv?)    129600 99999999% 129600 override-expire ignore-reload store-stale
                                    refresh_pattern .(ico|video-stats) 129600 999999% 129600      override-expire ignore-reload ignore-no-cache ignore-no-store ignore-private ignore-auth override-lastmod ignore-must-revalidate negative-ttl=10080 store-stale
                                    refresh_pattern .etology?                    129600 999999% 129600  override-expire ignore-reload ignore-no-cache store-stale
                                    refresh_pattern galleries.video(?|sz)                129600 999999% 129600  override-expire ignore-reload ignore-no-cache store-stale
                                    refresh_pattern brazzers?                      129600 999999% 129600  override-expire ignore-reload ignore-no-cache store-stale
                                    refresh_pattern .adtology?            129600 999999% 129600  override-expire ignore-reload ignore-no-cache store-stale
                                    refresh_pattern ^.safebrowsing.google                129600 999999% 129600  override-expire ignore-reload ignore-no-cache ignore-no-store ignore-private ignore-auth ignore-must-revalidate negative-ttl=10080 store-stale
                                    refresh_pattern ^http://((cbk|mt|khm|mlt)[0-9]?).google.co(m|.uk)    129600 999999% 129600  override-expire ignore-reload store-stale ignore-private negative-ttl=10080
                                    refresh_pattern ytimg.com.
                                    .(jpg|png) 129600 999999% 129600  override-expire ignore-reload store-stale
                                    refresh_pattern (avgate|avira).
                                    .(idx|gz)$            1440 90% 1440 ignore-reload ignore-no-cache ignore-no-store store-stale ignore-must-revalidate
                                    refresh_pattern images.friendster.com..(png|gif)            129600 999999% 129600 override-expire ignore-reload store-stale
                                    refresh_pattern ((facebook.com)|(85.131.151.39)).
                                    .(png|gif) 129600 999999% 129600 override-expire ignore-reload store-stale
                                    refresh_pattern garena.com 129600 999999% 129600      override-expire reload-into-ims store-stale
                                    refresh_pattern photobucket..(jp(e?g|e|2)|tiff?|bmp|gif|png) 129600 999999% 129600 override-expire ignore-reload store-stale
                                    refresh_pattern vid.akm.dailymotion.com.
                                    .on2?            129600 999999% 129600 ignore-no-cache override-expire override-lastmod store-stale
                                    refresh_pattern .fbcdn.net..(jpg|gif|png)            129600 999999% 129600  ignore-no-cache override-expire ignore-reload store-stale negative-ttl=5
                                    refresh_pattern ^http://images|pics|thumbs[0-9].            129600 999999% 129600 ignore-no-cache ignore-no-store ignore-reload override-expire store-stale
                                    refresh_pattern ^http://www.onemanga.com.
                                    /  129600 999999% 129600  reload-into-ims override-expire store-stale
                                    refresh_pattern mediafire.com/images..(jp(e?g|e|2)|tiff?|bmp|gif|png) 129600 999999% 129600  reload-into-ims override-expire ignore-private store-stale
                                    refresh_pattern ^http://.www[0-9][0-9].indowebster.com/(.
                                    )(rar|mov|mkv|cab|flv|wmv|3gp|mp(4|3)|exe|msi|zip) 43200 99999% 129600 reload-into-ims  ignore-reload override-expire ignore-no-cache ignore-no-store  ignore-private  store-stale ignore-auth

                                    ANTI VIRUS

                                    refresh_pattern guru.avg.com/..(bin)                                  43200 999999% 43200 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern (avgate|avira).
                                    (idx|gz)$                              43200 999999% 43200 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern update.nai.com/..(gem|zip|mcs)                        43200 999999% 43200 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern ^http://liveupdate.symantecliveupdate.com.
                                    (zip)    43200 999999% 43200 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern kaspersky..avc$      129600 999999% 129600  ignore-reload store-stale
                                    refresh_pattern kaspersky 1440 50% 161280 ignore-no-cache store-stale
                                    refresh_pattern avast.com.
                                    .vpx  40320 50% 525600 store-stale reload-into-ims
                                    refresh_pattern .symantecliveupdate.com..zip  1440 90% 131400 ignore-must-revalidate store-stale
                                    refresh_pattern .update.nai.com/.
                                    .(gem|zip|mcs) 43800 999999% 43800  ignore-reload store-stale ignore-must-revalidate
                                    refresh_pattern .symantec.com.*(exe|zip) 43800 999999% 43800  ignore-reload store-stale  ignore-must-revalidate

                                    #GAME PB
                                    refresh_pattern ^http://file.pb.gemscool.com.*.zip 131400 999999% 131400 override-expire store-stale

                                    #Windows Update
                                    refresh_pattern windowsupdate.com/..(cab|exe)                                43200  999999%  129600 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern update.microsoft.com/.
                                    .(cab|exe)                      43200  999999%  129600 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale
                                    refresh_pattern download.microsoft.com/.*.(cab|exe)                    43200  999999%  129600 ignore-no-cache ignore-no-store ignore-reload  reload-into-ims store-stale

                                    #images facebook
                                    refresh_pattern ((facebook.com)|(85.131.151.39))..(jpg|png|gif)      129600 999999% 129600 ignore-reload  override-expire ignore-no-cache ignore-no-store store-stale
                                    refresh_pattern -i .facebook.com.
                                    .(jpg|gif|png|swf|wav|mp(e?g|a|e|1|2|3|4)|3gp|flv|swf|wmv|zip|rar) 12960 999999% 129600
                                    refresh_pattern -i .fbcdn.net..(jpg|gif|png|swf|wav|mp(e?g|a|e|1|2|3|4)|3gp|flv|swf|wmv|zip|rar) 12960 999999% 129690
                                    refresh_pattern -i .zynga.com.
                                    .(jpg|gif|png|swf|wav|mp(e?g|a|e|1|2|3|4)|3gp|flv|swf|wmv) 12960 999999% 129609
                                    refresh_pattern -i .crowdstar.com..(jpg|gif|png|swf|wav|mp(e?g|a|e|1|2|3|4)|3gp|flv|swf|wmv) 12960 999999% 129609
                                    refresh_pattern ^http://static.ak.fbcdn.net
                                    .(jpg|gif|png|mp(e?g|a|e|1|2|3|4)|3gp|flv|swf|wmv) 129600 999999% 129600
                                    refresh_pattern ^http://videoxl.l[0-9].facebook.com/(.)(3gp|flv|swf|wmv|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://
                                    .channel.facebook.com/(.)(js|css|swf|jpg|gif|png|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://video.ak.facebook.com
                                    .(3gp|flv|swf|wmv|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://photos-[a-z].ak.fbcdn.net/(.)(css|swf|jpg|gif|png|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://profile.ak.fbcdn.net
                                    .(jpg|gif|png) 129600 999999% 129600
                                    refresh_pattern ^http://platform.ak.fbcdn.net/.* 720 100% 4320
                                    refresh_pattern ^http://creative.ak.fbcdn.net/.* 720 100% 4320
                                    refresh_pattern ^http://apps.facebook.com/.* 720 100% 4320
                                    refresh_pattern ^http://static.ak.fbcdn.net*.(js|css|jpg|gif|png) 129600 999999% 129600
                                    refresh_pattern ^http://statics.poker.static.zynga.com/(.)(swf|jpg|gif|png|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://statics.poker.static.zynga.com/.
                                    720 100% 4320
                                    refresh_pattern ^http://.zynga.com.(swf|jpg|gif|png|wav|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600
                                    refresh_pattern ^http://.crowdstar.com.(swf|jpg|gif|png|wav|mp(e?g|a|e|1|2|3|4)) 129600 999999% 129600

                                    #refresh_pattern -i .fbcdn.net..(jpg|gif|png|swf|mp3)                129600 999999% 129600 ignore-reload  override-expire ignore-no-cache ignore-no-store store-stale
                                    refresh_pattern .fbcdn.net.
                                    .(jpg|gif|png|swf|mp3)                            40320  20%    40320 ignore-reload store-stale negative-ttl=5
                                    refresh_pattern  static.ak.fbcdn.net*.(jpg|gif|png)                129600 999999% 129600 ignore-reload  override-expire ignore-no-cache ignore-no-store store-stale
                                    refresh_pattern ^http://profile.ak.fbcdn.net*.(jpg|gif|png|flv|avi)        129600 999999% 129600 ignore-reload  override-expire ignore-no-cache ignore-no-store store-stale
                                    refresh_pattern ^http://..zynga.com/(.)                        129600 999999% 129600 reload-into-ims ignore-no-cache ignore-no-store ignore-reload override-expire store-stale

                                    #speedtest
                                    refresh_pattern .speedtest.* 0 60% 10 negative-ttl=0
                                    refresh_pattern speedtest.*.(jp(e?g|e|2)|tiff?|bmp|gif|png|swf|txt|js) 0 50% 180 store-stale negative-ttl=0

                                    #general
                                    refresh_pattern .(jp(e?g|e|2)|tiff?|bmp|gif|png) 129600 999999% 129600 ignore-no-cache ignore-no-store reload-into-ims override-expire store-stale
                                    refresh_pattern .(z(ip|[0-9]{2})|r(ar|[0-9]{2})|jar|bz2|gz|tar|rpm|vpu) 129600 999999% 129600  override-expire reload-into-ims
                                    refresh_pattern .(mp3|wav|og(g|a)|flac|midi?|rm|aac|wma|mka|ape)              129600 999999% 129600  override-expire reload-into-ims ignore-reload
                                    refresh_pattern .(exe|msi|dmg|bin|xpi|iso|swf|mar|psf|cab)    129600 999999% 129600 override-expire reload-into-ims ignore-no-cache
                                    refresh_pattern .(mpeg|ra?m|avi|mp(g|e|4)|mov|divx|asf|wmv|m\dv|rv|vob|asx|ogm|flv|3gp|on2|swf) 129600 9999999% 129600 override-expire reload-into-ims

                                    refresh_pattern -i (cgi-bin)            0      0%      0
                                    refresh_pattern .(php|jsp|cgi|asx)?  0      0%      0
                                    refresh_pattern .                      0      50%    161280 store-stale

                                    zph_mode tos
                                    zph_local 0x30
                                    zph_parent 0
                                    zph_option 136

                                    global_internal_static off
                                    max_stale 10 years
                                    retry_on_error on
                                    buffered_logs on
                                    read_ahead_gap 32 KB

                                    header_access Accept-Encoding deny  all
                                    client_persistent_connections on
                                    server_persistent_connections on
                                    half_closed_clients off
                                    strip_query_terms off
                                    quick_abort_min 0 KB
                                    quick_abort_max 0 KB
                                    quick_abort_pct 100
                                    vary_ignore_expire on
                                    reload_into_ims on
                                    pipeline_prefetch on
                                    #range_offset_limit 50 KB
                                    read_timeout 30 minutes
                                    client_lifetime 6 hours
                                    negative_ttl 30 seconds
                                    positive_dns_ttl 6 hours
                                    negative_dns_ttl 60 seconds
                                    pconn_timeout 15 seconds
                                    request_timeout 1 minute
                                    store_avg_object_size 13 KB
                                    log_icp_queries off
                                    ipcache_size 16384
                                    ipcache_low 98
                                    ipcache_high 99
                                    log_fqdn off
                                    fqdncache_size 2048
                                    memory_pools on
                                    memory_pools_limit 1024 MB
                                    #forwarded_for on

                                    #cachemgr_passwd none info
                                    cachemgr_passwd none all
                                    client_db on
                                    n_aiops_threads 32
                                    load_check_stopen on
                                    load_check_stcreate on
                                    download_fastest_client_speed on

                                    1 Reply Last reply Reply Quote 0
                                    • E
                                      eduardcaballero
                                      last edited by

                                      Tocara esperar que los expertos en esto adapten el código porque quede  :-\ ??? :o

                                      1 Reply Last reply Reply Quote 0
                                      • H
                                        Himeki
                                        last edited by

                                        @amnarl:

                                        Buenas amigos!! Saludos desde venezuela barquisimeto, estuve revisando este hilo y me parecio interesante ya que desarrollo varias redes de un pequeño WISP en produccion con algunos clientes conectado y como todos saben en venezuela el ahorro de ancho de banda es necesario. Note que al hacer lo que cesar y kalelsito estaban explicando de sus avances en el uso de lusca-cache en pfsense version 2.01 y 2.02 el service squid se detiene al usar ese archivo storeurl.pl que indican en el link probado en la version 2.01. Razon por la cual me toco investigar algo para encontrar un desarrollo mas actualizado del estoreurl.pl y que realmente funcione ya lo he puesto en marcha 2 dias funcionando y haciendo full cache. Si alguien necesita algo sobre este tema estoy totalmente a la orden.
                                        Agradecido a los autores principales de este Hilo (Cesar y kalelsito)

                                        Buenas amigo seria bueno que publicases donde conseguiste el desarrollo mas actualizado del estoreurl.pl y pues que compartieses tus experiencias con este

                                        1 Reply Last reply Reply Quote 0
                                        • A
                                          amnarl
                                          last edited by

                                          Saludos Cordiales !! Mi estimados un poco perdido de aca les puedo seguir compartiendo que hasta ahora el server sigue haciendo cache a ya mas de un mes funcionando del contenido consultado por usuarios clientes del server un 30 % son hit enviados por lusca. Al amigo Himeki que posteo de ultimo aca le indico que he compartido en la parte de arriba de este hilo mi experiencia inclusive el archivo storeurl usado al momento de la instalacion del servidor y una pequeña imagen de muestra de hits enviados por el mismo. Sigo a su ordenes

                                          Configuracion y puesta en marcha de servers incluyendo pfsense en areas de produccion, para administrar y proveer servicios . Servicio tecnico presencial y online. Reparacion y mantenimiento de computadores. Instalacion y actualizacion de sistemas (Linux, Windows,Os/2) Conectividad a internet en zonas del Estado Lara donde no hay red cableada.
                                          http://www.linkedin.com/pub/amnarlyei-goitia/66/b2/722

                                          1 Reply Last reply Reply Quote 0
                                          • H
                                            Himeki
                                            last edited by

                                            Gracias y pido disculpas no me había percatado que lo habías posteado, saludos

                                            1 Reply Last reply Reply Quote 0
                                            • First post
                                              Last post
                                            Copyright 2025 Rubicon Communications LLC (Netgate). All rights reserved.