[Ru_ngi] Disk overload for ARC directories.
Viktor Kotliar
Viktor.Kotliar at ihep.ru
Fri Mar 12 15:10:41 MSK 2021
Евгений, привет!
Я запускаю второй скрипт, в помощь основному арку для чекилки своих дир.
Один не справляется [1]
Настройки arex тоже менял [2]
Также этот session дир перенес на отдельную партицию xfs и какие-то
параметры поставил [3] вроде ftype=1 сделал
Удачи!
Виктор
[1]
```
nohup /opt/scan-pbs-job.second.sh&
#!/bin/sh
while true;do timeout 60s /usr/share/arc/scan-pbs-job --config
/var/run/arched-arex.cfg /var/spool/arc/jobstatus ; date; done
/opt/scan-pbs-job.second.sh (END)
```
[2]
```
[arex]
x509_host_key = /etc/grid-security/hostkey.pem
x509_host_cert = /etc/grid-security/hostcert.pem
delegationdb = sqlite
watchdog = no
loglevel = 5
joblog = /var/log/arc/arex-jobs.log
controldir = /var/spool/arc/jobstatus
sessiondir = /var/spool/arc/sessiondir
defaultttl = 604800 1296000
shared_filesystem = no
scratchdir = /scratch
mail = lcg at ihep.ru
maxrerun = 3
wakeupperiod = 64
infoproviders_timelimit = 10800
```
[3]
```
/dev/xvdb on /var/spool/arc type xfs (rw,relatime,attr2,inode64,noquota)
xfs_info /dev/xvdb
meta-data=/dev/xvdb isize=512 agcount=4, agsize=16384000
blks
= sectsz=512 attr=2, projid32bit=1
= crc=1 finobt=0 spinodes=0
data = bsize=4096 blocks=65536000, imaxpct=25
= sunit=0 swidth=0 blks
naming =version 2 bsize=4096 ascii-ci=0 ftype=1
log =internal bsize=4096 blocks=32000, version=2
= sectsz=512 sunit=0 blks, lazy-count=1
realtime =none extsz=4096 blocks=0, rtextents=0
```
On 12.03.2021 13:16, Евгений Люблев wrote:
> Спасибо, Игорь!!!
>
> Удачи. Евгений.
>
>
> 12.03.2021 13:14, Igor Tkachenko пишет:
>> Евгений, добрый день.
>>
>>
>> 12.03.2021 12:48, Евгений Люблев пишет:
>>> Столкнулся с проблемой переполнения ~900 GB диска, выделенного под
>>>
>>> директории -
>>>
>>> sessions
>>>
>>> jobstatus
>>>
>>> Практически, sessions захватила все пространство.
>>>
>>> Начал смотреть, и atlas, и alice, и cms захватывают почти одинаково.
>>>
>>> Сталкивались вы с этой проблемой, если да, то как выходите из нее?
>>>
>>> М.б. в ARC есть чистильщик и его надо специально запускать?
>>
>> Sessions -- это дириктории задач.
>> Если задача по каким-то причинам не удаляет свои файлы -- они остаются
>> в sessions.
>> Удаляются они при удалении задачи из ARC.
>> За интервалы отвечает переменная defaultttl секции arex
>> http://www.nordugrid.org/arc/arc6/admins/reference.html#defaultttl
>>
>> Неприятности с этим у нас были: при убийстве задачи PBS рабочий
>> каталог задачи остается полностью + задача может за собой не прибирать.
>> Для борьбы с этим используем эпилог скрипт в PBS + RTE в ARC для
>> очистики $HOME задачи.
More information about the Ru_ngi
mailing list