Underhållsfönster – Onsdagen den 14 oktober

Onsdag den 14 oktober genomför systemuppdateringar och omstarter av servrar och tjänster.
Detta kan påverka åtkomsten till vissa tjänster. För mer information, se driftinformation.

Lagring

  • Dev-blogg – Vecka 36

    Dev-blogg – Vecka 36

    Arbetet fortsätter framåt inom flera delar av NGP, med fokus på allt från vidareutveckling av BrainChild-portalen, till stabilare skalning av beräkningsresurser och grundläggande arkitektur för kommande verktyg.

    Brainchild

    Det första utkastet på designen för Brainchild har nu visats upp och utgör en grund för det fortsatta arbetet med portalen.

    Parallellt har arbetet påbörjats med en lösning för att kunna spara kohorter tillsammans med tillhörande filter i BrainChild-portalens backend. Målet är att skapa ett bättre stöd för att definiera och återanvända urval direkt via portalen.

    Hotfix för Navops

    Ett problem har identifierats i Navops där systemet under vissa former av belastning inte kunde hantera uppskalningen av arbetsnoder korrekt. Grundorsaken visade sig vara ett så kallat race condition i bootstrap-logiken.

    Under vissa omständigheter kunde detta leda till att flera arbetsnoder startades i Azure med samma hostname. Det skapade i sin tur problem för Grid Engine, som inte längre kunde hantera noderna korrekt.

    Problemet har åtgärdats genom en hotfix som applicerats på två av de underliggande Docker-containrar som ansvarar för bootstrap-logiken. Tester som genomförts efter implementationen av fixen har gett gröna och förväntade resultat, vilket tyder på att problemet nu är löst.

    Ny logik för dataskyffling

    Arbetet med kärnkoncepten och logiken för en ny applikation för dataskyffling inom NGP pågår aktivt. Applikationen är tänkt att utgöra en viktig grund för flera kommande verktyg och behöver därför byggas med en arkitektur som fungerar även för framtida behov.

    Det handlar om betydligt mer än själva logiken för att flytta data. Flera komponenter behöver samverka på rätt sätt för att bland annat stödja dataseparation och tydliga API-ingångar, samtidigt som lösningen behöver vara tillräckligt generell för att kunna användas av flera olika verktyg framöver.

    Fokus ligger därför just nu på att få de grundläggande koncepten och gränssnitten på plats innan implementationen byggs ut ytterligare.

    // Johan

  • Dev-blogg vecka 24

    Dev-blogg vecka 24

    BrainChild

    Design av BrainChild-portalen har påbörjats.

    NGP

    Integrationer: Bonsai & Mimosa

    Vi har haft en initial dialog med GMC Örebro om huruvida Mimosas API bör utökas med stöd för att ladda upp prover och initiera klustringsjobb. Behovet behöver först beläggas och kravställas innan sådant stöd läggs till i API:et.

    Som en snabb, och möjligtvis tillfällig, lösning utvecklar GMC Väst ett tilläggs”-PI som återanvänder så mycket som möjligt av Mimosas automationsskript.

    Systemunderhåll

    Vi utförde uppdateringar och omstarter av tjänster och portaler i veckan.

    Detta var det första rutinlagda systemunderhållsfönstret, som infaller den andra onsdagen varje månad (med undantag för semesterveckor).

    NGPc

    Netapp-arbetslagring

    Skalningslogik har implementerats för Azure Netapp Files som agerar arbetslagringen för pipelines. Logiken tittar på både storleksanvändning och nuvarande belastning för att göra en bedömning om den ska skala upp eller ner.

    Tidigare har ett så kallat “flexibelt” tier använts, men denna går inte att skala upp och ner fritt. Denna har haft en statisk storlek och “throughput” på 4 TiB och 512 MiB/s. Istället har vi bytt till “Ultra” där storlek och throughput skalar med varandra, 1 TiB och 128 MiB/s i taget.

    Koden körs på cron-schema och kommer till en början skala upp 1 TiB i taget. Om man märker att det går för långsamt (primärt throughput-mässigt) så kan man skala upp eller ner mer än så, så att fler processer ska kunna köra och köras snabbare.

    I och med denna skalning kan man spara pengar under perioder av låg aktivitet, samtidigt som man gör det möjligt att köra fler pipelines samtidigt och snabbare överlag.

    Annan lagring

    I och med ovan förändring har andra lagringar plockats bort eller förändrats.

    • /ngp/netapp som tidigare använts som test är bortplockad
    • /ngp/scratch som tidigare varit en blob-lagring har nu ersatts av ovan skalande netapp-lösning.

    Variantdatabasportalen (VDP)

    • Vi undersöker just nu hur vi kan integrera interaktiva grafer i portalen.
    • Fler förbättringar av användarupplevelsen (UX) är under utveckling.
    • Utvecklingen av stöd för import av Excel-filer med Alamut-format fortgår.
    • Vi har börjat titta på hur man kan skapa en gemensam mall för användning i databasen.

    / Johan C