[Ru_ngi] Disk overload for ARC directories.

Viktor Kotliar Viktor.Kotliar at ihep.ru
Fri Mar 12 15:10:41 MSK 2021


Евгений, привет!
Я запускаю второй скрипт, в помощь основному арку для чекилки своих дир. 
Один не справляется [1]

Настройки arex тоже менял [2]
Также этот session дир перенес на отдельную партицию xfs  и какие-то 
параметры поставил [3] вроде ftype=1 сделал


Удачи!
Виктор

[1]
```
nohup /opt/scan-pbs-job.second.sh&


#!/bin/sh

while true;do timeout 60s /usr/share/arc/scan-pbs-job --config 
/var/run/arched-arex.cfg /var/spool/arc/jobstatus ; date; done

/opt/scan-pbs-job.second.sh (END)
```


[2]
```
[arex]
   x509_host_key   = /etc/grid-security/hostkey.pem
   x509_host_cert  = /etc/grid-security/hostcert.pem
   delegationdb    = sqlite
   watchdog        = no
   loglevel        = 5
   joblog          = /var/log/arc/arex-jobs.log
   controldir      = /var/spool/arc/jobstatus
   sessiondir      = /var/spool/arc/sessiondir
   defaultttl      = 604800 1296000
   shared_filesystem = no
   scratchdir        = /scratch
   mail              = lcg at ihep.ru
   maxrerun          = 3
   wakeupperiod      = 64
   infoproviders_timelimit = 10800

```

[3]
```
/dev/xvdb on /var/spool/arc type xfs (rw,relatime,attr2,inode64,noquota)


  xfs_info /dev/xvdb
meta-data=/dev/xvdb              isize=512    agcount=4, agsize=16384000 
blks
          =                       sectsz=512   attr=2, projid32bit=1
          =                       crc=1        finobt=0 spinodes=0
data     =                       bsize=4096   blocks=65536000, imaxpct=25
          =                       sunit=0      swidth=0 blks
naming   =version 2              bsize=4096   ascii-ci=0 ftype=1
log      =internal               bsize=4096   blocks=32000, version=2
          =                       sectsz=512   sunit=0 blks, lazy-count=1
realtime =none                   extsz=4096   blocks=0, rtextents=0

```
On 12.03.2021 13:16, Евгений Люблев wrote:
> Спасибо, Игорь!!!
> 
> Удачи. Евгений.
> 
> 
> 12.03.2021 13:14, Igor Tkachenko пишет:
>> Евгений, добрый день.
>>
>>
>> 12.03.2021 12:48, Евгений Люблев пишет:
>>> Столкнулся с проблемой переполнения ~900 GB диска, выделенного под
>>>
>>> директории -
>>>
>>> sessions
>>>
>>> jobstatus
>>>
>>> Практически, sessions захватила все пространство.
>>>
>>> Начал смотреть, и atlas, и alice, и cms захватывают почти одинаково.
>>>
>>> Сталкивались вы с этой проблемой, если да, то как выходите из нее?
>>>
>>> М.б. в ARC есть чистильщик и его надо специально запускать?
>>
>> Sessions -- это дириктории задач.
>> Если задача по каким-то причинам не удаляет свои файлы -- они остаются 
>> в sessions.
>> Удаляются они при удалении задачи из ARC.
>> За интервалы отвечает переменная defaultttl секции arex 
>> http://www.nordugrid.org/arc/arc6/admins/reference.html#defaultttl
>>
>> Неприятности с этим у нас были: при убийстве задачи PBS рабочий 
>> каталог задачи остается полностью + задача может за собой не прибирать.
>> Для борьбы с этим используем эпилог скрипт в PBS + RTE в ARC для 
>> очистики $HOME задачи.


More information about the Ru_ngi mailing list