Hur man samlar in och utforskar data för förutsägelse av molekylära egenskaper: En fallstudie med hERG-blockerare

Att förutsäga molekylära egenskaper, såsom en substans förmåga att blockera hERG-kanalen, är en viktig uppgift inom läkemedelsutveckling och keminformatik. Denna uppgift kräver ofta övervakad inlärning, där ett system tränas för att förutsäga ett specifikt resultat baserat på uppsatta egenskaper. I detta avsnitt går vi igenom hur man samlar in, utforskar och bearbetar data för att skapa en modell som kan förutsäga om en substans blockerar hERG-kanalen eller inte.

En annan resurs som specifikt samlar data om läkemedelsutveckling är Therapeutics Data Commons (TDC). Genom att använda dessa resurser kan vi få tillgång till dataset som till exempel innehåller information om hERG-blockerare, vilket är avgörande för att förutsäga en molekyls förmåga att påverka den aktuella jonkanalen.

Lastning och utforskning av hERG-blockerare

Låt oss titta närmare på ett dataset med hERG-blockerare, som kan laddas ner från TDC. Datasetet består av 587 föreningar, där varje rad representerar en molekyl. Kolumnerna i datasetet inkluderar bland annat SMILES (den textbaserade representationen av molekylstrukturen), molekylens namn, pIC50-värdet (en indikator på substansens aktivitet), samt en klassificering som anger om molekylen blockerar hERG-kanalen eller inte.

Data Exploration

När vi har laddat in data är det viktigt att förstå dess struktur och kvalitet. I datasetet är pIC50-värdet ett centralt attribut för att beskriva aktivitet, där ett högre pIC50 innebär en större potent effekt. pIC50-värdet är härlett från IC50, vilket är koncentrationen av läkemedlet vid vilken det inhiberar en biologisk process med 50%. För att underlätta jämförelsen av IC50-värden konverteras dessa till pIC50 genom att ta det negativa logaritmet av IC50 i molar (M).

En utmaning med datasetet är att pIC50 inte är tillgängligt för alla molekyler, och vi kan inte använda detta som en funktion för att träna en modell. Istället förlitar vi oss på klasskolumnen, som anger om en molekyl blockerar hERG-kanalen (1) eller inte (0). Denna kolumn är vår målvariabel för att skapa en prediktiv modell.

Visualisering och dataanalys

För att få en bättre förståelse för datasetet kan vi visualisera distributionen av pIC50-värdena. Det kan hjälpa oss att upptäcka om det finns några stora avvikelser eller potentiella datakorrigeringsfel. Om exempelvis distributionen verkar följa ett ovanligt mönster, såsom en bimodal fördelning, kan det indikera att felaktiga enheter har använts för att registrera IC50-värdena. Ett sådant scenario kan tyda på att annoteraren av misstag använt nM i stället för µM.

Därför är det viktigt att regelbundet genomföra en grundlig undersökning av datasetet, inklusive att kontrollera statistiska fördelningar, identifiera avvikelser och verifiera data mot kända referenser. Detta kallas ofta Exploratory Data Analysis (EDA) och är en avgörande del i datakurering.

Det är även nödvändigt att tänka på att även de mest pålitliga dataset kan innehålla fel. Därför är det viktigt att ha en strategi för datakuration som inkluderar både automatisk och manuell granskning. En bra datakuration kan hjälpa till att identifiera problematiska datapunkter, såsom felaktiga eller saknade värden, vilket gör det möjligt att justera datasetet för att förbättra modellens noggrannhet.

Hur man optimerar hyperparametrar och skapar effektiva pipeliner i maskininlärning

Inom maskininlärning är hyperparameteroptimering en avgörande process för att förbättra modellens prestanda. Hyperparametrar definierar olika aspekter av träningsalgoritmen, som kan påverka hur väl en modell generaliserar till nya data. Denna process innebär att man söker efter de optimala värdena på dessa hyperparametrar, vilket kan inkludera komponenter i själva modellen, inlärningsalgoritmen och till och med parametrar för standardisering och funktionsextraktion.

Ett klassiskt exempel på hyperparametrar är radien och bitlängden för Morgan-fingeravtryck i kemometriska modeller. Dessa parametrar kan variera från exempelvis en radie på 2, 4 eller 6, eller bitlängder på 512, 1024 och 2048. Dessutom finns det val av regulariseringstekniker, som Ridge-regression (L2-penalitet), Lasso-regression (L1-penalitet) och Elastic Net, som är en kombination av de två tidigare nämnda teknikerna. Varje hyperparameter kan ha flera möjliga värden, vilket kan leda till en explosion av möjliga kombinationer att testa.

Transformatorerna ansvarar för förbehandling av data, vilket kan innefatta funktionell skalning, imputation av saknade värden, extraktion av funktioner och kodning av kategoriska variabler. Varje transformator appliceras på data, och den omvandlade datan skickas sedan vidare till nästa steg. Estimatorn, som vanligen är en maskininlärningsmodell (t.ex. en klassificerare eller regressionsmodell), tränas på den förbehandlade datan. En av de största fördelarna med att använda pipeliner är att det minskar risken för data-leakage – ett vanligt problem där information från testuppsättningen kan påverka träningen av modellen och ge en optimistisk bedömning av prestandan.

Ett klassiskt problem är att man vid standardisering använder den genomsnittliga värdet från hela datasetet, inklusive testdata. Detta innebär att information från testuppsättningen "läcker" in i träningsfasen, vilket kan snedvrida resultaten och leda till överdrivna prestandaindikatorer. För att undvika detta problem garanterar pipeliner att alla transformationer utförs på träningsdata först, och samma transformationer appliceras sedan på testuppsättningen.

Scikit-Learn erbjuder dessutom en cache-mekanism för att optimera prestandan vid upprepade beräkningar. Eftersom vissa delar av pipelinen, som omvandling av SMILES-strängar till molekylära objekt, kan vara tidskrävande men inte påverkas av modellens hyperparametrar, kan vi använda denna cache för att minska redundanta beräkningar.

För att skapa en pipeline i Scikit-Learn kan vi definiera anpassade transformatorer. Ett exempel på detta är en transformer som omvandlar SMILES-strängar till RDKit Mol-objekt, för att sedan standardisera och omvandla dessa objekt till fingeravtryck, vilket därefter används i en klassificeringsmodell. Här definieras en pipeline med två anpassade transformatorer: SmilesToMols, som hanterar SMILES-konvertering och standardisering, och FingerprintFeaturizer, som skapar fingeravtryck från de standardiserade molekylära objekten. Estimatorn, i det här fallet en SGDClassifier, används sedan för att klassificera de genererade funktionerna.

En viktig aspekt att beakta under denna process är vikten av korrekt implementering av anpassade transformatorer. För detta krävs att vi ärver från de basklassene BaseEstimator och TransformerMixin, och att vi implementerar metoderna fit() och transform() som säkerställer att data kan bearbetas på ett korrekt sätt i pipelinen.

Det är också värt att notera att hyperparameteroptimering och modellvalidering är iterativa processer. I de flesta fall är det inte tillräckligt att bara köra en grundläggande sökning. Att förstå och hantera resultat från dessa sökningar är lika viktigt, eftersom vi inte bara vill hitta en uppsättning hyperparametrar, utan också förstå hur varje parametrar påverkar modellens prestation. En noggrant utförd grid search ger oss en tydlig översikt över olika konfigurationer, vilket gör att vi kan fatta informerade beslut om vilken modell och vilka parametrar som bäst passar våra data.

Hur Scaffold Splitting och Distributioner påverkar Modeller inom Läkemedelsforskning

För att göra detta effektivt är det också viktigt att förstå distributionen av de målvariabler (target variables) som används i modellerna. I fallet med AqSolDB, där den målvariabeln är den vattenlöslighet (solubility) som uttrycks i logaritmisk form (logS), märker vi att fördelningen inte är normalfördelad utan täcker ett stort intervall från -13 till 2,5 logS. Ett större logS indikerar bättre vattenlöslighet. Solubilitet är en kontinuerlig variabel, och det är vanligt att se ett stort spann mellan mycket svårlösliga ämnen och de med god löslighet, vilket kan påverka modellens förmåga att prediktera under praktiska förhållanden.

En annan viktig aspekt är att vissa extrema värden kan vara legitima, beroende på sammanhanget. Till exempel, även om en molekyl är mycket svårlöslig, kan den fortfarande vara relevant för vissa läkemedelsmål. Därför är det viktigt att noggrant granska dessa extrema värden för att avgöra om de bör tas med eller tas bort. Vid inspektion av molekyler i AqSolDB kan man exempelvis se att vissa av de minst lösliga molekylerna innehåller metalljoner, vilket gör dem relevanta för andra forskningsområden men inte nödvändigtvis för läkemedelsutveckling.

För att ytterligare bearbeta dessa data kan vi tillämpa kemisk domänkunskap för att filtrera bort molekyler som innehåller ovanliga fragment eller element som inte förväntas vara relevanta för läkemedelsforskning. Vidare kan man också standardisera molekyler för att ta bort vissa fragment eller atomkombinationer som påverkar de experimentella resultaten. Det innebär att man kan ta bort molekyler som har flera fragment, vilket ofta är fallet när salter eller komplicerade strukturer finns närvarande.

När vi har hanterat de extrema värdena och eventuella uteliggare i datamängden, måste vi också vara medvetna om fenomenet distributionsskifte (distribution shift), vilket kan inträffa när träningsdata inte speglar testdata i tillräcklig utsträckning. Till exempel, om träningsdata endast består av molekyler med hög löslighet medan vi under validering testar molekyler med ett brett spektrum av löslighet, kan detta påverka modellens förmåga att generalisera. Det kan vara särskilt problematiskt om fördelningen av solubilitetsvärden skiljer sig avsevärt mellan tränings- och testuppsättningarna. Om modellen inte kan hantera denna skillnad kan prestandan försämras, och den kan ha svårt att förutsäga resultat på nya, otestade data.

Förutom de grundläggande deskriptorerna, som molekylvikt och antal vätebindningsdonatorer, kan vi också beräkna mer specifika deskriptorer som representerar strukturella egenskaper. Exempelvis kan andelen aromatiska atomer i förhållande till totala atomer i molekylen vara en viktig indikator på dess biologiska aktivitet. Denna typ av beräkning kan göras med hjälp av anpassade funktioner för att ta hänsyn till aromatiska strukturer i molekylen.

För att summera, måste vi vid arbete med kemiska datasätt vara medvetna om både datadelningstekniker, fördelningen av målvariabler, och de uteliggare som kan finnas i datan. Genom att noggrant filtrera och bearbeta data kan vi skapa bättre och mer robusta modeller som är väl anpassade för att förutsäga biologiska egenskaper i läkemedelsutveckling. Det är också viktigt att ha en djup förståelse för hur distributionsskiftet kan påverka modellens prestanda och att alltid använda rätt metoder och verktyg för att extrahera meningsfulla deskriptorer som kan användas för att förutsäga molekylers aktivitet.

Hur djupinlärning revolutionerar läkemedelsutveckling och proteinstrukturer

Den snabbt växande användningen av djupinlärning inom kemisk syntes och proteinforskning öppnar upp nya möjligheter för både läkemedelsutveckling och bioteknik. Genom att utnyttja maskininlärning och avancerade algoritmer, kan vi nu skapa nya kemikalier som potentiella terapier, syntetisera dem snabbt och kostnadseffektivt, samt förstå proteiners komplexa strukturer med en noggrannhet som tidigare var omöjlig att uppnå.

Retrosyntes handlar inte bara om att föreslå nya läkemedel, utan också om att möjliggöra kostnadseffektivare och snabbare syntes av redan existerande läkemedel. Detta har en nära koppling till processkemi, där kemister arbetar med att utveckla metoder för kommersiell tillverkning av läkemedel under ekonomiska och säkerhetsmässiga hänsyn. Genom att kombinera retrosyntes med djupinlärning kan vi optimera befintliga syntesvägar, vilket gör läkemedel mer tillgängliga och prisvärda.

Inom proteinforskning har AlphaFold2, utvecklat av DeepMind, visat sig vara en banbrytande tillämpning av djupinlärning för att bestämma proteiners tredimensionella struktur med imponerande noggrannhet. Proteiner är komplexa molekyler som består av kedjor av aminosyror. Aminosyrorna ordnas i en specifik sekvens, där varje aminosyra bidrar till den slutliga strukturen och funktionen av proteinet. Genom att förstå denna struktur kan vi identifiera funktionella problem som kan leda till sjukdomar hos människor. Trots att kunskap om proteinstruktur tidigare varit en dyr och tidskrävande process, har djupinlärning nu revolutionerat hur vi bestämmer dessa strukturer, vilket kompletterar experimentella metoder och ger detaljerad insikt om hur proteiner fungerar.

För att förstå hur dessa avancerade teknologier fungerar, är det viktigt att först definiera begreppen bakom maskininlärning (ML) och djupinlärning. Maskininlärning är en gren av artificiell intelligens som bygger på att modeller lär sig från stora mängder data snarare än att följas av programmerade regler. Detta innebär att en ML-modell lär sig att känna igen mönster i data genom att analysera exempel och kan tillämpa dessa mönster för att göra förutsägelser eller beslut om nya data.

Modeller baserade på djupinlärning är en specifik underkategori av maskininlärning, där konstgjorda neurala nätverk används för att extrahera mönster från data. Denna metod har visat sig särskilt effektiv för att arbeta med stora och komplexa datamängder, som de vi hittar inom läkemedelsforskning, där molekylstrukturer och proteinsekvenser kan vara mycket varierande.

Det är också värt att notera att, även om maskininlärning och djupinlärning erbjuder kraftfulla verktyg för att förutsäga och optimera läkemedelskandidater, är det avgörande att förstå deras begränsningar. Maskininlärning är beroende av kvaliteten på de data den tränas på, och om dessa data inte är representativa för verkliga tillämpningar kan resultaten bli missvisande. För att verkligen kunna utnyttja potentialen i dessa teknologier krävs en noggrann och detaljerad förståelse för de specifika data som används i läkemedelsutveckling och bioteknik.

Hur man tränar och utvärderar en modell för ligandy-baserad virtuell screening med PyTorch

I den här processen handlar det om att bygga, träna och utvärdera en modell som kan användas för att förutsäga aktiviteten hos olika föreningar i en ligand-baserad virtuell screening. En central del av denna process är användningen av PyTorch och dess funktioner för att effektivisera hanteringen av data, träning och utvärdering av modellen.

Genom att ange batch_size=32 säkerställer vi att DataLoadern bearbetar 32 prover åt gången under varje iteration av träningsdatan. Detta gör det möjligt att bearbeta alla exempel en gång under en epok. En epok avslutas när vi har bearbetat varje träningsprov exakt en gång. För att undvika problem med att sista batchen i en epok kan vara mindre än batchstorleken, kan vi sätta drop_last=True för att säkerställa att vi inte hamnar i en situation där batchstorleken inte är konsekvent.

En annan viktig aspekt är användningen av shuffling för träningsdata. Genom att ange shuffle=True ser vi till att DataLoadern blandar om datan efter varje epok. Detta förhindrar att modellen lär sig något baserat på ordningen i datasetet, vilket skulle kunna leda till överanpassning och påverka modellens generaliseringsförmåga negativt. För validerings- och testdata är det viktigt att behålla ordningen för att säkerställa en konsekvent utvärdering.

DataLoadern erbjuder också parallellisering för att optimera dataladdningen genom att utnyttja flera CPU-kärnor samtidigt. Genom att använda argumentet num_workers kan vi ytterligare förbättra dataladdningens hastighet och undvika att GPU:n sitter i vänteläge på grund av långsam dataladdning.

När vår data är korrekt förberedd måste vi definiera modellen. För att detta ska kunna göras effektivt måste vi också ange var modellen och dess tillhörande tensorer ska allokeras – antingen på CPU eller GPU. Detta görs genom att skapa ett torch.device-objekt, som styr om beräkningarna ska göras på en CPU eller på en GPU om CUDA är tillgänglig. Med hjälp av detta kan vi flytta alla modellens parametrar till den valda enheten, vilket gör att tensoroperationerna utförs på rätt plats.

När modellen har definierats och parametrarna har tilldelats rätt enhet, kan vi påbörja träningen. Träningen sker med en specifik loss-funktion (t.ex. MSELoss för regression) och en optimerare (t.ex. Adam), som uppdaterar modellens parametrar efter varje batch. En learning rate scheduler, som till exempel ReduceLROnPlateau, kan användas för att minska inlärningstakten när förbättringarna i modellens prestanda planar ut under träningen.

Vid träningens slut utvärderas modellen på ett testset för att säkerställa att den inte överanpassat till träningsdatan och att den ger bra förutsägelser för nya, osedda data. Vi använder här måtten för Mean Squared Error (MSE) och Mean Absolute Error (MAE), där ett lägre värde på dessa mått indikerar en bättre passform mellan de förutsagda och de verkliga pIC50-värdena. Det är också viktigt att visualisera förhållandet mellan de förutsagda och verkliga värdena för att få en uppfattning om modellens noggrannhet.

För att fullända vår ligand-baserade virtuella screening använder vi modellen för att screena en föreningsbibliotek, där vi kan prioritera de föreningar som har högst förutsagd aktivitet. Genom att använda denna metod kan vi effektivt minska den mängd av föreningar som behöver experimentell testning, genom att först screena en stor mängd föreningar med hjälp av vår tränade modell och sedan välja ut de mest lovande för vidare tester.

Endtext