Конфигурация фермы Тир2 (JINR-LCG2) 2020

Конфигурация  фермы Тир2 (JINR-LCG2) 2020

Обновления в 2020:

1) Изменен batch сервер на тип Slurm. Работает и используется CE.

2) Изменен  Computing Element (CE) для WLCG тип — ARC6. (CREAM-CE больше не поддерживается центральным сервисом запуска задач).

3) ферма переведена на систему Scientific Linux release 7.

4) Добавлен новый ленточный робот  (TS4500).

5) PhEDEx заменен на RUCIO.

6) Подключены новые серверы в EOS.

7) Пользовательский интерфейс lxui[01-04].jinr.ru в качестве шлюза для внешних подключений.

8) Увеличено пространство для пользователей /scrc

Вычислительный комплекс ЦИВК  :

Кластеры.

  • интерактивный (lxpub[01-05].jinr.ru) :  пять  64-х битных машин
  • вычислительный , который влючает  вычислительные фермы :

— общего назначения;

— для экспериментов  LHC;

— параллельных вычислений;

— кластер для NICA,MPD, BM@N;

Всего :

  • 248 вычислительных узлов( WNs) ,
  • 4128 ядер (cores/slots) ,
  • 55.489 kHS06  .
     

Системы Хранения (SE)

  • dCache: disk servers 9.7 PB
  • tape robots: IBM TS3500(1.6PB) + IBM T45500(1.6PB)
  • EOS: 7.198 PB
  • CVMFS: 2 machines: 2×70 TB = 140 TB    h / w RAID1 (VOs: NICA (MPD, B@MN, SPD).
  • AFS      ~12.5 TB  (домашние каталоги пользователей, рабочие пространства ) .
  • NFS       ~ 11 TB ; 5 NFS servers 
  • xrootd    40GB  ;

 

 ПО :

CentOS Scientific Linux release 7.9

GCC: gcc (GCC) 4.4.7

C ++: g ++ (GCC) 4.4.7

FC: GNU Fortran (GCC) 4.4.7  * FLAGS: -O2 -pthread -fPIC -m32

BATCH: SLURM with adaptation to kerberos and AFS dCache-5.2 Enstore 6.3 for tape robots

SPECall_cpp2006 with 32-bit binaries

SPEC2006 version 1.1 WLCG FTS FairSoft FairRoot MPDroot

Bспомогательные сервисы .

  • e-mail
  • home WWW pages
  • databases MySQL , Postgres,  Oracle
  • DNS
  • мониторинг Nagios
  • ftp
  • ….

Эти сервисы в основном работают “прозрачно” с точки зрения пользователя, то есть, не требуя дополнительных настроек. Часть этих серверов (WWW, ftp, MySQL), обеспечивает поддержку лабораторных (ЛИТ) и институтских сервисов. Часть (mail) предназначена в основном для обслуживания нужд пользователей ОИЯИ .

WLCG.

Для обслуживания сайта WLCG в ОИЯИ (сайт — отдельный кластер в распределенной среде WLCG) и других международных коллабораций, установлено 22 сервера с системой gLite (ПО промежуточного уровня WLCG). Кроме функций поддержки работы самого сайта JINR-LCG2, часть серверов реализуют важные сервисы и функции поддержки Российского сегмента проекта WLCG.

На JINR Tier2 добавлены виртуальные организации:
ILC (WLCG http://www.linearcollider.org/) ,

MPD (JINR NICA),

BM@N (JINR NICA) ,

COMPASS (WLCG CERN).

Для виртуальной организации JUNO на Tier2 будет установлено и настроено несколько сервисов:

CE JUNO — будет разрешено запускать задачи в ферме JINR/Tier2
VOMS сервер, зеркало основного VOMS в Китае;
CVMSF stratum-1 сервер, для поддержки, доступ к репозиториям ПО JUNO в Китае.

 

Сеть и телекоммуникация.

В настоящее время в ЦИВК :

Local Area Nertwork (LAN100Gbps

Wide Area Network (WAN)   100Gbps, 2x10Gbps ,

запланировано обновление :

LAN  2×100 Gbps.

WAN  3x100 Gbps.

Новости  :

В мае 2019 Запущен канал 100Gbps в LHCOPN,  который отлично работает. С остальными внешними каналами работа значительно улучшилась.

Структура Вычислительного кластера ЦИВК 2019

Структура Вычислительного кластера ЦИВК 2018