Netgate Discussion Forum
    • Categories
    • Recent
    • Tags
    • Popular
    • Users
    • Search
    • Register
    • Login

    Squid+LightSquid+Ipcad=логи съедают место на диске

    Scheduled Pinned Locked Moved Russian
    24 Posts 6 Posters 11.2k Views
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • T
      tjsolomon
      last edited by

      @DasTieRR:

      @tjsolomon:

      Ну так что Есть идеи? Чем можно свернуть логи?

      Поставить пакет крон и прописать команду удаления лишних логов, например раз в месяц.

      Опять таки не вариант, файл лога один, т.е. в один файл все скидывается. (как тогда быть?)

      1 Reply Last reply Reply Quote 0
      • D
        DasTieRR
        last edited by

        @tjsolomon:

        @DasTieRR:

        @tjsolomon:

        Ну так что Есть идеи? Чем можно свернуть логи?

        Поставить пакет крон и прописать команду удаления лишних логов, например раз в месяц.

        Опять таки не вариант, файл лога один, т.е. в один файл все скидывается. (как тогда быть?)

        Может подключить внешний USB носитель и изменить место сохранения логов на него?

        1 Reply Last reply Reply Quote 0
        • T
          tjsolomon
          last edited by

          @DasTieRR:

          @tjsolomon:

          @DasTieRR:

          @tjsolomon:

          Ну так что Есть идеи? Чем можно свернуть логи?

          Поставить пакет крон и прописать команду удаления лишних логов, например раз в месяц.

          Опять таки не вариант, файл лога один, т.е. в один файл все скидывается. (как тогда быть?)

          Может подключить внешний USB носитель и изменить место сохранения логов на него?

          И снова не вариант) Есть конечно идея завести логи в базу SQL но тогда не совсем понятно что же делать со скриптом который скидывает лог в из IPcad в нее.
          В принципе если найдется человек который знает скрипты и сумеет написать скрипт который бы сворачивал логи по принципу если в поле source присутствует только IP кроме 10.10; 192.168 и т.д. (кто помнит стандарт напомните) тогда свернуть строчку в одну torrents, хотя если совсем будет плохо то попробую все таки держать логи в другом месте.
          ну ведь я не один такой, как другие это делают%):)

          1 Reply Last reply Reply Quote 0
          • D
            dvserg
            last edited by

            @tjsolomon:

            И снова не вариант) Есть конечно идея завести логи в базу SQL но тогда не совсем понятно что же делать со скриптом который скидывает лог в из IPcad в нее.
            В принципе если найдется человек который знает скрипты и сумеет написать скрипт который бы сворачивал логи по принципу если в поле source присутствует только IP кроме 10.10; 192.168 и т.д. (кто помнит стандарт напомните) тогда свернуть строчку в одну torrents, хотя если совсем будет плохо то попробую все таки держать логи в другом месте.
            ну ведь я не один такой, как другие это делают%):)

            А какие варианты Вы уже сами пробовали?
            По поводу написания скрипта - попробуйте поискать специалиста на платной основе.

            SquidGuardDoc EN  RU Tutorial
            Localization ru_PFSense

            1 Reply Last reply Reply Quote 0
            • T
              tjsolomon
              last edited by

              @dvserg:

              @tjsolomon:

              И снова не вариант) Есть конечно идея завести логи в базу SQL но тогда не совсем понятно что же делать со скриптом который скидывает лог в из IPcad в нее.
              В принципе если найдется человек который знает скрипты и сумеет написать скрипт который бы сворачивал логи по принципу если в поле source присутствует только IP кроме 10.10; 192.168 и т.д. (кто помнит стандарт напомните) тогда свернуть строчку в одну torrents, хотя если совсем будет плохо то попробую все таки держать логи в другом месте.
              ну ведь я не один такой, как другие это делают%):)

              А какие варианты Вы уже сами пробовали?
              По поводу написания скрипта - попробуйте поискать специалиста на платной основе.

              Никаких) кроме удаления логов) раз в 2 недели

              1 Reply Last reply Reply Quote 0
              • D
                dvserg
                last edited by

                А в чем сложность в реализации предложения DasTieRR по удалению логов из крона? Они же отрабатываются в статистику ?

                SquidGuardDoc EN  RU Tutorial
                Localization ru_PFSense

                1 Reply Last reply Reply Quote 0
                • T
                  tjsolomon
                  last edited by

                  @dvserg:

                  А в чем сложность в реализации предложения DasTieRR по удалению логов из крона? Они же отрабатываются в статистику ?

                  Не совсем понял…
                  Статистика важна (иногда за 3-4 месяца назад), иначе я бы не стал прикручивать IpCad. Прошу прощения кто они?
                  P.S. свою проблемку решил тем что Сквид просто игнорирует сайты из списка, и пускает их напрямую.

                  1 Reply Last reply Reply Quote 0
                  • D
                    dvserg
                    last edited by

                    Не понятен смысл сохранения логов сквида. Логи отрабатываются в статистику лайтсквида и могут быть периодически удалены. Можно выставить опцию ротации логов в сквиде, и удалять из крона лишние архивы логов.

                    SquidGuardDoc EN  RU Tutorial
                    Localization ru_PFSense

                    1 Reply Last reply Reply Quote 0
                    • T
                      tjsolomon
                      last edited by

                      @dvserg:

                      Не понятен смысл сохранения логов сквида. Логи отрабатываются в статистику лайтсквида и могут быть периодически удалены. Можно выставить опцию ротации логов в сквиде, и удалять из крона лишние архивы логов.

                      я правильно понимаю что файл /var/squid/log/access.log можно переодически удалять?

                      1 Reply Last reply Reply Quote 0
                      • D
                        dr.gopher
                        last edited by

                        @tjsolomon:

                        я правильно понимаю что файл /var/squid/log/access.log можно переодически удалять?

                        Вам в самом начале было предложено - Как вариант поставьте сквиду, запускать ротацию логов каждый день.
                        Log rotate – сколько дней хранить активный лог

                        Вам уже пояснили, что после запуска скрипта лайт сквида, вся статистика попадает в базу лайт сквида и лог файл сквида можно чистить.

                        FAQ PfSense 2.0

                        И не забываем про Adblock дабы не видеть баннеров.

                        И многое другое на www.thin.kiev.ua

                        1 Reply Last reply Reply Quote 0
                        • D
                          dvserg
                          last edited by

                          (+) Удалять лучше архивные логи типа access.xxx . С выставленной ротацией смысла трогать access.log нет, да и безопаснее в плане стабильности работы сервисов.

                          SquidGuardDoc EN  RU Tutorial
                          Localization ru_PFSense

                          1 Reply Last reply Reply Quote 0
                          • T
                            tjsolomon
                            last edited by

                            UPну Тему ротация логов не работает, за 3-4 дня 4-5 гигабайт логов, а диск всего 10 гигабайт, ротация выставлена на 1 день.
                            Какие конфиги показать и что можно сделать?

                            1 Reply Last reply Reply Quote 0
                            • D
                              dvserg
                              last edited by

                              А squid работает ?

                              SquidGuardDoc EN  RU Tutorial
                              Localization ru_PFSense

                              1 Reply Last reply Reply Quote 0
                              • S
                                schmel
                                last edited by

                                crontab -e

                                # В 4:55 сбрасывать трафик из коллектора ipcad в логи прокси-сервер
                                          55 04 * * * /usr/local/scripts/ipcad.sh
                                          # В 5:05 снимать статистику LightSquid
                                          05 05 * * * /usr/local/www/lightsquid/lightparser.pl
                                          # В 5:15 запускать скрипт лимита по трафику
                                          15 05 * * * /usr/local/etc/squid/traf_limit/traf_limit.pl
                                          # 5:25 производить ротацию логов
                                          25 05 * * *  /usr/local/sbin/squid -k rotate
                                          # Запуск скрипта, удаляющего старые логи
                                          35 05 * * * /usr/local/scripts/rmsquidlogs.sh

                                Содержимое скрипта /usr/local/scripts/rmsquidlogs.sh:

                                #!/bin/sh
                                          rm /usr/local/squid/logs/access.log.0
                                          rm /usr/local/squid/logs/cache.log.0
                                          rm /usr/local/squid/logs/store.log.0

                                1 Reply Last reply Reply Quote 0
                                • T
                                  tjsolomon
                                  last edited by

                                  @dvserg:

                                  А squid работает ?

                                  Да работает

                                  1 Reply Last reply Reply Quote 0
                                  • T
                                    tjsolomon
                                    last edited by

                                    @schmel:

                                    crontab -e

                                    # В 4:55 сбрасывать трафик из коллектора ipcad в логи прокси-сервер
                                               55 04 * * * /usr/local/scripts/ipcad.sh
                                               # В 5:05 снимать статистику LightSquid
                                               05 05 * * * /usr/local/www/lightsquid/lightparser.pl
                                               # В 5:15 запускать скрипт лимита по трафику
                                               15 05 * * * /usr/local/etc/squid/traf_limit/traf_limit.pl
                                               # 5:25 производить ротацию логов
                                               25 05 * * *  /usr/local/sbin/squid -k rotate
                                               # Запуск скрипта, удаляющего старые логи
                                               35 05 * * * /usr/local/scripts/rmsquidlogs.sh

                                    Содержимое скрипта /usr/local/scripts/rmsquidlogs.sh:

                                    #!/bin/sh
                                               rm /usr/local/squid/logs/access.log.0
                                               rm /usr/local/squid/logs/cache.log.0
                                               rm /usr/local/squid/logs/store.log.0

                                    Спасибо попробую, если все хорошо, можно в FAQ http://forum.pfsense.org/index.php/topic,21394.0.html и http://forum.pfsense.org/index.php/topic,22839.0.html добавить

                                    1 Reply Last reply Reply Quote 0
                                    • T
                                      tjsolomon
                                      last edited by

                                      пока полет нормальный, смотрим дальше)
                                      Для тех кому лень ставить vi в файле /cf/conf/config.xml
                                      перед

                                      		 <minute>*/55</minute>
                                      			<hour>*/04</hour>
                                      			<mday>*</mday>
                                      			<month>*</month>
                                      			<wday>*</wday>
                                      			<who>root</who>
                                      			<command></command>/usr/local/scripts/ipcad.sh 
                                      		 <minute>*/05</minute>
                                      			<hour>*/05</hour>
                                      			<mday>*</mday>
                                      			<month>*</month>
                                      			<wday>*</wday>
                                      			<who>root</who>
                                      			<command></command>/usr/local/www/lightsquid/lightparser.pl 
                                      		 <minute>*/15</minute>
                                      			<hour>*/05</hour>
                                      			<mday>*</mday>
                                      			<month>*</month>
                                      			<wday>*</wday>
                                      			<who>root</who>
                                      			<command></command>/usr/local/etc/squid/traf_limit/traf_limit.pl 
                                      		 <minute>*/25</minute>
                                      			<hour>*/05</hour>
                                      			<mday>*</mday>
                                      			<month>*</month>
                                      			<wday>*</wday>
                                      			<who>root</who>
                                      			<command></command>/usr/local/sbin/squid -k rotate 
                                      		 <minute>*/35</minute>
                                      			<hour>*/05</hour>
                                      			<mday>*</mday>
                                      			<month>*</month>
                                      			<wday>*</wday>
                                      			<who>root</who>
                                      			<command></command>/usr/local/scripts/rmsquidlogs.sh 
                                      
                                      
                                      1 Reply Last reply Reply Quote 0
                                      • First post
                                        Last post
                                      Copyright 2025 Rubicon Communications LLC (Netgate). All rights reserved.