Инфраструктура и Сервисы сайта Тир2 (JINR-LCG2), 2024

Запуск задач на обработку данных эксперимента CMS осуществляется 16-ти ядерным пилотами и для них доступны все вычислительные ресурсы. Используется менеджер рабочей нагрузки Slurm.  В грид-среде используется Advanced Resource Connector (ARC) — промежуточное ПО для грид-вычислений. Оно обеспечивает общий интерфейс для передачи вычислительных задач различным распределенным вычислительным системам и может включать грид-инфраструктуры различного размера и сложности.

В качестве основных систем хранения данных используются системы dCache и EOS,  dCache-Enstore,  кроме того система хранения afs — для домашних директорий пользователей,  cvmfs — для хранения ПО проектов (система распределённого доступа и организации версий ПО коллабораций и групп пользователей  cvmfs — для хранения ПО проектов) .

2024 году выполнен большой объем работ по переходу на операционную систему (ОС) AlmaLinux 9 в связи с окончанием жизненного цикла ОС СentOS 7. Выполнен ряд работ по эксплуатации и развитию системы хранения данных dCache-Enstore. Значительные работы выполнены по модификации Enstore. В их числе конверсия кода с python2 на python3, организация параллельного выполнение запросов на монтирование / размонтирование лент в магнитофонах, что значительно улучшило время этих операций, повышение пропускной способности обработки большого потока запросов на передачу данных.

2023Q1-Q4: 
Total:
485 hosts 
10356 cores 
166788.4 HEP-SPEC06  a total performance
16.11 HEP-SPEC06 average per core

 

Системы хранения (SE):

EOS: 

 2023Q4=23328.10 TB;
 2023Q3=22203.82 TB;
 2023Q2=21829.01 TB;
 2023Q1=16582.35 TB;
 ALICE @ EOS Total: 1653.24 TB

EOSCTA:  2023Q3=11PB

AFS: ~12.5 TB (user home directories, workspaces)

CVMFS: 140TB; 3 machines: 1 stratum0, 2 stratum1, 2 squid servers cache CVMFS; (VOs: NICA (MPD, B @ MN, SPD), dstau, er, jjnano, juno, baikalgvd....).

dCache  2023Q4 :

for ATLAS:1939.25 TB
for CMS:  1994.36 TB
Local & EGI @ dcache2 Total: 199.74 

2023: Удалены 8 старых дисковых серверов, добавлены 4 новых DELL R740 по 300 ТБ каждый. Диск SE имеет 4 сервера; в EOS — 28.

2023Q2: dCache — Добавили: 2 сервера ( Qtech QSRV-462402_3) = ~0.68 PB;     EOS — Добавили:  20 серверов (Qtech QSRV-462402_4) .                                           Всего на 2023Q2 EOS = 22.353 PB

Программное Обеспечение

2023 Q1:


ОС: Scientific Linux release 7.9.

EOS 5.1.9 (постоянно меняется)

dCache 8.2

Enstore 6.3 or tape robots SPECall_cpp2006 with 32-bit binaries SPEC2006 version 1.1  

BATCH: Slurm 20.11 with adaptation to kerberos and AFS 

grid UMD4 + EPEL, актуальные версии 

ALICE VObox
ARC-CE
FairSoft
FairRoot
MPDroot