[Ru_ngi] Disk overload for ARC directories.

[Евгений Люблев]

Спасибо, Виктор!!!

Удачи. Евгений.

12.03.2021 15:10, Viktor Kotliar пишет:
> Евгений, привет!
> Я запускаю второй скрипт, в помощь основному арку для чекилки своих 
> дир. Один не справляется [1]
>
> Настройки arex тоже менял [2]
> Также этот session дир перенес на отдельную партицию xfs  и какие-то 
> параметры поставил [3] вроде ftype=1 сделал
>
>
> Удачи!
> Виктор
>
> [1]
> ```
> nohup /opt/scan-pbs-job.second.sh&
>
>
> #!/bin/sh
>
> while true;do timeout 60s /usr/share/arc/scan-pbs-job --config 
> /var/run/arched-arex.cfg /var/spool/arc/jobstatus ; date; done
>
> /opt/scan-pbs-job.second.sh (END)
> ```
>
>
> [2]
> ```
> [arex]
>   x509_host_key   = /etc/grid-security/hostkey.pem
>   x509_host_cert  = /etc/grid-security/hostcert.pem
>   delegationdb    = sqlite
>   watchdog        = no
>   loglevel        = 5
>   joblog          = /var/log/arc/arex-jobs.log
>   controldir      = /var/spool/arc/jobstatus
>   sessiondir      = /var/spool/arc/sessiondir
>   defaultttl      = 604800 1296000
>   shared_filesystem = no
>   scratchdir        = /scratch
>   mail              = lcg at ihep.ru
>   maxrerun          = 3
>   wakeupperiod      = 64
>   infoproviders_timelimit = 10800
>
> ```
>
> [3]
> ```
> /dev/xvdb on /var/spool/arc type xfs (rw,relatime,attr2,inode64,noquota)
>
>
>  xfs_info /dev/xvdb
> meta-data=/dev/xvdb              isize=512    agcount=4, 
> agsize=16384000 blks
>          =                       sectsz=512   attr=2, projid32bit=1
>          =                       crc=1        finobt=0 spinodes=0
> data     =                       bsize=4096   blocks=65536000, imaxpct=25
>          =                       sunit=0      swidth=0 blks
> naming   =version 2              bsize=4096   ascii-ci=0 ftype=1
> log      =internal               bsize=4096   blocks=32000, version=2
>          =                       sectsz=512   sunit=0 blks, lazy-count=1
> realtime =none                   extsz=4096   blocks=0, rtextents=0
>
> ```
> On 12.03.2021 13:16, Евгений Люблев wrote:
>> Спасибо, Игорь!!!
>>
>> Удачи. Евгений.
>>
>>
>> 12.03.2021 13:14, Igor Tkachenko пишет:
>>> Евгений, добрый день.
>>>
>>>
>>> 12.03.2021 12:48, Евгений Люблев пишет:
>>>> Столкнулся с проблемой переполнения ~900 GB диска, выделенного под
>>>>
>>>> директории -
>>>>
>>>> sessions
>>>>
>>>> jobstatus
>>>>
>>>> Практически, sessions захватила все пространство.
>>>>
>>>> Начал смотреть, и atlas, и alice, и cms захватывают почти одинаково.
>>>>
>>>> Сталкивались вы с этой проблемой, если да, то как выходите из нее?
>>>>
>>>> М.б. в ARC есть чистильщик и его надо специально запускать?
>>>
>>> Sessions -- это дириктории задач.
>>> Если задача по каким-то причинам не удаляет свои файлы -- они 
>>> остаются в sessions.
>>> Удаляются они при удалении задачи из ARC.
>>> За интервалы отвечает переменная defaultttl секции arex 
>>> http://www.nordugrid.org/arc/arc6/admins/reference.html#defaultttl
>>>
>>> Неприятности с этим у нас были: при убийстве задачи PBS рабочий 
>>> каталог задачи остается полностью + задача может за собой не прибирать.
>>> Для борьбы с этим используем эпилог скрипт в PBS + RTE в ARC для 
>>> очистики $HOME задачи.