Underhållsfönster – Onsdagen den 14 oktober

Onsdag den 14 oktober genomför systemuppdateringar och omstarter av servrar och tjänster.
Detta kan påverka åtkomsten till vissa tjänster. För mer information, se driftinformation.

Bonsai

  • Dev-blogg vecka 41

    Dev-blogg vecka 41

    Det har varit ett par regniga dagar i Göteborg nu när hösten är på ingång, men trots det har vi fortsatt vårat arbete med NGP:n och dess kringliggande projekt!

    Brainchild

    Vi har påbörjat implementeringen av portalen utifrån det godkända utkastet, och utvecklingen pågår nu. Parallellt har säkerhetsarbetet formaliserats. En fullständig genomförandeplan och tillhörande rekommendationer finns på plats, och arbetet inväntar nu slutgiltiga beslut inför implementeringen.

    Variantdatabasportalen (VDP)

    Arbetet med Variantdatabasportalen (VDP) fortsätter med mindre finjusteringar inför presentationen av vår Minimum Viable Product (MVP). Vi ser fram emot att låta testare prova portalen och bidra med konstruktiv feedback.

    Underhållsfönster

    Den 14 oktober mellan klockan 09.00 och 17.00 kommer systemunderhåll att genomföras för NGP:ns olika tjänster. Mer information finns på sidan för driftstatus.

    Bonsai

    Vi börjar närma oss en lösning för Bonsai där NGPi och NGPr används för datalagring och indexering, med syftet att stödja GMS-mikros pilotprojekt. När lösningen för Bonsai är på plats kan vi påbörja arbetet med att modifiera Mimosa på motsvarande sätt.

    Övrigt

    Arbetet med att koppla upp regionerna till NGP fortsätter, bland annat genom NGPr, som även är känd som vår Hitachi Content Platform.

    Vi har också sett över hur projekt och arbetsflöden dokumenteras. Syftet är att spara tid och energi, öka förståelsen för hur våra system är uppbyggda och göra det enklare att hitta, skriva och läsa dokumentation. Det nya arbetssättet kommer även att underlätta onboarding och minska personberoendet.

    // Erik B 😎

  • Dev-blogg vecka 40

    Dev-blogg vecka 40

    Brainchild

    Design av portalen har blivit godkänd, vilket betyder att arbetet med att bygga portalen kan påbörjas. Fortsatt arbete med att implementera kohorter, där bland annat GraphQL API har undersökts. Diskussioner kring hur funktionalitet ska kunna förverkligas pågår. Fortsatt arbete gällande säkerhet kring IAM och infrastruktur för att kunna införa BankId autentisering, och en tidsplan för kommande arbete på 2-3 veckor har skrivits.

    VDP

    Typvalidering har implementerats för alla strikta typer i respektive accepterade format.

    Bonsai, Mimosa, pilotprojektet GMS-mikro

    Arbete fortsatt för att Bonsai ska kunna skriva data till NGPr och att denna ska indexeras i NGPi, samt hämta data från NGPi och NGPr. En delad instans av Bonsai har satts upp, som den modifierade versionen av Bonsai kommer att köras på.

    Utbildning

    Denna vecka har vi dessutom fortsatt utbildning inom Microsoft Fabric, samt en kurs rörande säkra digitala lösningar.

    Till en trevlig oktober!

    / Hedy

  • Dev-blogg vecka 34

    Dev-blogg vecka 34

    Alla är tillbaka efter sommaruppehållet

    Efter sommarens ledigheter är hela teamet åter på plats. Arbetet är nu i full gång igen, med fortsatt fokus på våra webbportaler, den tekniska infrastrukturen och flera pågående utvecklingsprojekt.

    Webbportaler

    Under sommaren har vi genomfört flera UX-förbättringar i Variantdatabasportalen och Brainchild. Arbetet har fokuserat på att göra portalerna tydligare och mer lättanvända samt att skapa en smidigare upplevelse för användarna.

    Underhållsarbete

    Under onsdagens underhållsfönster uppdaterades ett antal noder och funktioner inom NGPc. Bland annat genomfördes uppdateringar av systemen för inloggning, qmaster och arbetsnoderna. Vi har även satt upp en systemd-tjänst för Sentieons licensserver.

    Bonsai

    Inom Bonsai arbetar vi aktivt med att ta fram en alternativ databaslösning till MongoDB. Eftersom det nuvarande regelverket inte tillåter permanent lagring av information i Azure kan Bonsais befintliga databas inte användas i sin nuvarande form.

    NGPi (HCI:n) och NGPr (HCP:n) kan vara en potentiel lösning, men innan vi kan välja väg framåt behöver vi göra en djupare analys av Bonsais nuvarande databasmodeller, hur de är uppbyggda och hur de används av applikationen.

    Parallellt siktar vi på att ta fram en referensimplementation i Bonsai, kompletterad med relevant dokumentation. Tanken är att implementationen ska kunna fungera som grund för de riktlinjer som ska tas fram för framtida NGP-integrationer av appar och andra tjänster.

    Brainchild

    I Brainchild arbetar vi med att få en inloggningslösning med BankID och Entra på plats i webbportalen. På längre sikt är målet att kunna styra auktoriseringen mer detaljerat och kräva inloggning med BankID för användare som behöver tillgång till det stängda lagret.

    //Erik B

  • Dev-blogg vecka 23

    Dev-blogg vecka 23

    Bonsai & Mimosa

    Bonsai-integrationen har verifierats på NGP-klustret inom ramen för JaseBonsaiMimosa-pipelinen och har visat god funktionalitet.

    Mimosa API är tillgängligt från NGP-klustret, men saknar för närvarande stöd för uppladdning av prover samt initiering av klustringsjobb via API. Vi utreder möjliga lösningar för att hantera denna begränsning.

    Brainchild

    Vi har satt upp nätverkskoppling mellan Brainchilds Fabric-miljö och on-prem HCP-lagring hos VGR där data är tänkt att flöda in. Utvecklare i Fabric ska i första hand nå mock-data från Barntumörbanken/Svenska Barncancerregistret.

    NGPc

    Vi har hittat ett sätt att skala netapp-lagringen mer dynamiskt för att kunna hantera större belastningar både vad det gäller storlek men också throughput. Grundlogiken är färdig men kräver mer arbete för att kunna tas i drift.

    Systemunderhåll

    Vi har diskuterat att införa regelbundna systemunderhåll en gång per månad, med start onsdagen den 10 juni och därefter den andra onsdagen varje månad.

    Under dessa underhållsfönster kommer vi att genomföra systemuppdateringar, omstarter av servrar .etc.

    Underhållsfönstret är planerat till kl. 09:00–17:00 och kan medföra begränsad tillgänglighet eller avbrott för NGPc (https://ood.genmed.se) under denna period. Användare ombeds att inte använda NGPc medan underhållet pågår.

    /Aron C

  • Dev-blogg vecka 22

    Dev-blogg vecka 22

    Autentisering

    Lösning för inloggning med bankID till NGP är under utveckling, och ett avtal är klart med FortifiedID. Vi inväntar konfiguration av IdP med client på deras håll för integration mot Keycloak-uppsättningen för att möjliggöra inloggning med BankID i OpenOnDemand.NGPc

    NGPc

    Vi har påbörjat vidareutveckling och förbättring av granskningssystemet inom klustermiljön. I nuläget använder vi flera olika verktyg för granskning, men målet är att samla loggarna på ett gemensamt ställe. Exempelvis i Graylog, så att de blir enklare att söka i framöver. Arbetet är fortfarande i ett tidigt skede.

    Vi har slutfört arbetet kring att designa och införa ny rutin för skapandet av OS image för arbetsnoderna inom NGPc. Denna möjliggör för enklare skapande, samt validering innan en ny version sätts i produktion.

    NGP Integrations: Bonsai & Mimosa

    Vi har påbörjat testning av Bonsais API från login1. Under arbetet uppkom problem kopplat till rootless Podman, filrättigheter och ägarskap för de filer som skrivs till den NFS-monterade ytan där JASEN-resultaten lagras.

    För att hantera detta använder vi bindfs tillsammans med fuse3, vilket adresserar rättighets- och ägarskapsproblematiken. Det återstår dock att avgöra om detta ska betraktas som en tillfällig workaround eller om det kan vara en hållbar lösning även på längre sikt.

    Vi har även diskuterat hur åtkomsten till Bonsai-mounten bör styras, och om detta exempelvis bör ske på gruppnivå.

    VDP

    Baserat på feedback från referensgruppen som bildats från GMS-RD-gruppen är ny funktionalitet under utveckling.

    • Import av data från Alamut.
    • Ytterligare allternativ gällande hur man gör sökningar i databasen. Detta avser alternativa söksmetoder än genomiska koordinater (kromosom, position, REF, ALT).
    • Tillägg och förändringar av användargränssnittet i portalen.

    // Hedy

  • Dev-blogg vecka 21

    Dev-blogg vecka 21

    Jasen + Bonsai + Mimosa

    Arbetet med att adaptera den befintliga lösningen utifrån de förtydligade ska-kraven har påbörjats. Som en del av detta arbete har en ny delad lagringsyta, “hot storage”, för Jasen-resultat skapats. Denna ska användas av den Jasen-Bonsai-Mimosa-pipeline (JBM) som håller på att utvecklas, samt av Bonsai vid klustringskörningar.

    NGPc

    Patching av dirty frag samt fragnesia sårbarheterna har påbörjats, och vi siktar på att patcha det som återstår nästa vecka.

    Variantdatabasportalen

    Vi har haft möte med en referensgrupp som bildats inom GMS RD-grupp

    Vi håller på att bearbeta den feedback vi har fått.


    /Aisha Alsafi

  • Dev-blogg vecka 20

    Dev-blogg vecka 20

    Brainchild

    Nya användargrupper har skapats och användare från Microsoft och Nexer har bjudits in för att arbeta på BrainChild inom fabricmiljö. En ny kapacitet har skapats och rättigheter konfigurerats för denna.

    Under skapandet/inbjudan av användare har vi stött på inloggningsproblem för nya användare där de slår i en conditional access policy. Denna policy ska hindra inloggning utan MFA men användaren får det aldrig presenterat för sig att konfigurera sin MFA innan inloggnings fallerar. Explicit exklusion av användare för policy gör det möjligt att logga in. Felsökande pågår.

    Jasen + Bonsai + Mimosa

    Vidare diskussioner har klargjort vilka de konkreta stegen är härnäst. Dessa skiljer sig delvis från originaltanken och således behöver vissa delar av uppsättning av infrastruktur förändras.

    Det kvarstår några få frågetecken som vi hoppas reds ut under nästa vecka. Under tiden implementerar vi de delar vi har god känsla för, t.ex. hur kommunikation och dataskyfflande mellan Jasen och Bonsai ska se ut i ett första skede.

    Administration GMC-joint

    Nya rutiner för GMC-joint arbetas fram som rör administration rent generellt. BDC-IT/GMC-west kommer hantera administrationen av denna tenant och dess användare. Exakt utformning är inte färdigställd men i takt med att denna blir klar kommer tekniska administratorer från varje GMC kontaktas för att ta del av dessa nya rutiner.

    Rutinunderhåll NGP

    Vi har tagit fram en grundläggande princip gällande underhåll av infrastruktur. Vi siktar på att ta ner delar av infrastrukturen den 2:a onsdagen i varje månad för att uppdatera underliggande OS och införa diverse förändringar som annars hade stört verksamheten.

    NGPc

    Förra veckan nämndes patchning av “copy fail” och sedan dess har nya liknande kritiska fel identifierats i linux kernel (dirty frag). Vi har inväntat nya kernelversioner för att patcha detta fel och siktar på att lösa detta nästa vecka.

    Ha det fint,
    Jens PW

  • Dev-blogg vecka 19

    Dev-blogg vecka 19

    NGPc

    Under veckan har vi hämtat ner nya kernel-versioner för de mest kritiska virtuella maskinerna i NGPc. Detta görs för att lösa det kritiska felet som alla Linux-distributioner har haft sedan 2017, med id CVE-2026-31431, också kallat copy fail. I samband med detta har även ett antal portaler och andra appar uppdaterats. Arbetet fortsätter med att uppdatera resterande maskiner inom NGP-kontexten.

    Vi har även satt upp InfluxDB3 och Grafana på en ny virtuell maskin. Telegraf har inkluderats på arbetsnoderna, vilket möjliggör detaljerad loggning av arbetsnodernas hälsotillstånd och öppnar upp för djupare insikt i hur mycket resurser som brukas under tiden pipelines kör.

    Ett arbete har påbörjats med målet att omarbeta rutinen för hur man bygger OS-image för arbetsnoderna inom NGPc. Om man behöver lägga till en dependency ska det vara smidigt att skapa en ny image och peka om produktionen att bruka denna efter att funktionen har validerats.

    Diskussionerna kring spårbarhet av prov genom hela NGP har expanderats och inkluderar nu fler personer från olika GMC. Det finns många alternativ som behöver utredas för att hitta en lösning som fungerar med alla olika komponenter som NGP består av.

    GMS-mikro

    Vi har i veckan deltagit i en konferens/workshop arrangerad av GMS-mikro. Där fördes många diskussioner kring slutanvändning av verktyg inom pilotprojektet, det vill säga Jasen, Bonsai och Mimosa. Det fördes även vidare diskussioner med utvecklare för verktygen.

    //Erik B

  • Dev-blogg vecka 17

    Dev-blogg vecka 17

    Autentisering

    Konfiguration av ny Open OnDemand instans med inloggning via Keycloak har börjat sättas upp i NGP.

    Azure NetApp files

    Utreder hur man effektivast skalar Netapp-lagringen utifrån nuvarande workload. Tekniska begränsningar i hur man viktar total storlek mot total throughput gör det svårt att hitta rätt utifrån ett kostnadsperspektiv. I samband med detta görs ett försök att sätta upp rutiner för att identifiera vart flaskhalsar ligger för diverse pipelines inom en bredare kontext.

    Bonsai + Mimosa

    Arbetar med automation för att kunna hämta JASEN-output från HCP för att köra i bonsai.

    Inväntar ett testdataset från GMC Örebro för att kunna testa med verklighetstrogen data.

    BrainChild

    Arbetet med indexing av Barntumörbanken data fortgår.

    /Aron C

  • Dev-blogg vecka 16

    Dev-blogg vecka 16

    Autentisering

    Inloggningsflödet är testat med LDAP-integration till IdM för matchning av inkommande claim som i sin tur skickas vidare till OpenOnDemand, för att auktorisering fortsatt ska kunna hanteras manuellt och OpenOnDemand inte ska behöva ställa ldap-frågor till IdM för att kunna matcha användare.

    Bonsai + Mimosa

    Arbetet med att integrera Bonsai och Mimosa i NGPn fortsätter.

    Vi har haft dialog med projektägarna för GMS-projektet “Prospektiv regional sekvensering av resistenta bakterier med samordnad nationell dataanalys” för att tydliggöra vilka versioner av Bonsai och Mimosa som ska stödjas i NGP. I samband med detta har vi också lyft att den senaste releasen av Bonsai ännu inte fullt ut stödjer data från de senaste versionerna av Jasen och bonsai-prp.

    Vi inväntar besked om detta, samtidigt som Bonsai-utvecklarna undersöker om stöd för bonsai-prp 1.5 kan backportas till Bonsai 2.1.x. Förhoppningen är också att GMC Örebro under nästa vecka laddar upp ett testdataset och referensisolat till GMC Joint-tenanten, så att vi kan testa med mer verklighetstrogen data.

    Mimosa har uppdaterats av externa utvecklare för publicering bakom reverse proxy och under en subpath, baserat på den feedback vi tidigare delat med dem. Vi inväntar nu en stabil release innan Mimosa-instansen i NGP uppdateras.

    NGP Cluster

    Vi har genomfört testkörningar av pipelines.

    Variantdatabasportalen(VDP)

    Vi har hållit ett möte och en grupp ska bildas för att beta testa portalen. Vidare utveckling av portalen fortsätter.

    /Hedy Pettersson