EN: This page is not translated to English.

Podstawowe informacje o limitach

Jak sprawdzić zużycie alokacji?

Zużycie alokacji można sprawdzić logując się na https://granty.icm.edu.pl/

Alternatywnie ilość zużytych zasobów można sprawdzenić logując się na klaster obliczniowy. Należy mieć na uwadze, że na Topoli/Rysach/Okeanosie są to niezależne systemy. Zatem komenda zwróci ilość wykorzystanych zasobów na danej maszynie. Z węzła dostępowego na Topoli/Rysach/Okeanosie należy wywołać komendę:

icm-show-grant-usage <grant_id> [yyyy-mm-dd yyyy-mm-dd] # aktualnie zużycie

Przykładowo

alice@rysy ~ $ icm-show-grant-usage GR12-34 2020-01-01 2020-07-30
You are on the Rysy cluster.
Usage summary for grant GR12-34 (from 2020-01-01 to 2020-07-30):

--------------------------------------------------------------------
     Cluster           Login                TRES    Usage(coreh)
--------------------------------------------------------------------
        rysy           alice                 cpu             234
        rysy             bob                 cpu             567
--------------------------------------------------------------------
                                    Total usage:             801
--------------------------------------------------------------------



Usage summary for grant GR12-34 (from 2020-01-01 to 2020-07-30):

--------------------------------------------------------------------
     Cluster           Login                TRES    Usage(coreh)
--------------------------------------------------------------------
        rysy           alice            gres/gpu             123
        rysy             bob            gres/gpu             456
--------------------------------------------------------------------
                                    Total usage:             579
--------------------------------------------------------------------

Limity storage

Przyjęte limity storage to 1TB i 100 000 plików (inodes).

Po zalogowaniu na serwer obliczeniowy pojawia się informacja o dostępnych zasobach typu storage.

##############################################  STORAGE  ###############################################
+-------------------+----------------+------------+------------+-----------+------------+--------------+
| FILESYSTEM        | RESOURCE       | USED       | AVAILABLE  | % USED    | LIMIT      | GRACE        |
+-------------------+----------------+------------+------------+-----------+------------+--------------+
| /lu/topola/home   | Storage space  | 3.355GB    | 1TB        | 0.33%     | 1.1TB      | -            |
|                   | File quota     | 105233     | 100000     | 105.23%   | 110000     | 6d23h59m15s  |
+-------------------+----------------+------------+------------+-----------+------------+--------------+
| /lu/tetyda/home   | Storage space  | 96kB       | 1TB        | 0.00%     | 1.1TB      | -            |
|                   | File quota     | 19         | 100000     | 0.02%     | 110000     | -            |
+-------------------+----------------+------------+------------+-----------+------------+--------------+
WARNING:
You have exceeded your file quota on /lu/topola/home!
Delete some of your files or archive them (tar -czvf [...])
Grace period remaining: 6d23h59m15s
More information: https://kdm.icm.edu.pl/Zasoby/przechowywanie_danych.pl/
########################################################################################################

Limity (tzw. disk quota) określone są per użytkownik.
"Filesystem" opisuje nazwę systemu plików.
"Resource" opisuje typ zasobu: "storage space" (przestrzeń na dysku) oraz "file quota" (liczba poszczególnych plików i katalogów).
"Available" opisuje miękki limit dla danego zasobu. Po przekroczeniu miękkiego limitu użytkownik ma 7 dni na zwolnienie miejsca lub redukcję liczby plików.
"Limit" opisuje twardy limit dla danego zasobu. Przekroczenie twardego limitu nie jest możliwe (system zabroni stworzenia/modyfikacji pliku, co może np. skutkować zabiciem obliczeń).
"Grace" określa czas (max 7 dni) przez który może być przekroczony miękki limit.

W celu ponownego wyświetlenia tabeli należy skorzystać ze skryptów: /apps/icm-tools/parse-lfs-quota-[lang].sh.

Skrypty te wizualizują "surowe" dane generowane przez komendy:

lfs quota -uh $USER /lu/tetyda/home/
lfs quota -uh $USER /lu/topola/home/

W celu sprawdzenia ilości zajętego miejsca na dysku oraz liczby zajętych inodes (~liczba plików) można także użyć komendy:

du -hcs --inodes * .??*
du -hcs * .??*

Czy użytkownik ma dostęp do danego account / qos?

Aby sprawdzić status account / qos należy użyć polecenia sacctmgr, udostępnionego przez system Slurm.

sacctmgr show user $USER # pokaż informacje o użytkowniku
sacctmgr show assoc where account=<grant_id> format=Cluster,Account%25,Partition%20,user,QOS,DefaultQOS,GrpTRESMins%50 # pokaż informację o grancie
sacctmgr show assoc where user=$USER format=Cluster,Account%25,Partition%20,user,QOS,DefaultQOS,GrpTRESMins%50 # pokaż w jakich jestem grantach i do których qos mam dostęp
sacctmgr show assoc format=Cluster,Account%25,Partition%20,user,QOS,DefaultQOS,GrpTRESMins%50 | grep $USER # j.w.
sacctmgr show qos format=name,MaxWall,Priority,MaxTRESPU%50 # pokaż limit czasu obliczen dla poszczególnych qos
scontrol show res # pokaż rezerwacje
scontrol show config # pokaż ustawienia slurma oraz lokalizację slurm.conf

sacct -X --user $USER -S 2020-01-01 --format=jobid,jobname,account,partition,alloccpus,Submit,Start,End,Elapsed,QOS,Timelimit,state,exitcode,Priority --parsable # pokaż zestawienie zadań, opcja --parsable umożliwia łatwy export do pliku .csv

Więcej informacji o na poszczegółnych systemach (topola/okeanos/rysy) znajduje się tu.

Inne przydatne komendy:

id $USER     # udostępnia podstawowe dane o użytkowniku
finger $USER # udostępnia podstawowe dane o użytkowniku
groups $USER # udostępnia listę grup, do których należy użytkownik
getent group NAZWA_GRUPY # wypisuje użytkowników należących do danej grupy, np GRANTu
limit # limity nałożone na procesy użytkownika