Learning: Supervised og unsupervised learning

Det finnes minst to store felt innen dataanalyse: klassisk statistikk og machine learning (maskinlæring). Klassisk statistikk har vært dominert av matematikere, mens ingeniører og programvareutviklere har hatt en viktig rolle i machine learning. Formålet med machine learning og klassisk statistikk er imidlertid det samme, nemlig å:

1. Beskrive data
2. Forklare sammenhenger og relasjoner mellom variabler
3. Predikere (forutsi) en variabel ut fra verdien på andre variabler

Strategiene for å beskrive, forklare og predikere er imidlertid forskjellige innen machine learning og klassisk statistikk. Dette innebærer at metodene (algoritmene) er forskjellige, selv om det finnes mange likheter og enkelte metoder og algoritmer går igjen i begge feltene. Det er ingen nytte i å skille klassisk statistikk fra machine learning, og de fleste analytikere bruker metoder fra begge områdene. Fordi machine learning og klassisk statistikk har utviklet seg noenlunde hver for seg, finnes det terminologiske forskjeller, som forklares i tabellen nedenfor.

I dag brukes begrepet learning (læring) om beregninger og algoritmer som utforsker data. Figuren nedenfor illustrerer hvordan learning kan klassifiseres. Det viktigste skillet går mellom supervised learning og unsupervised learning. Om learning er supervised eller unsupervised, avhenger av om det finnes et utfall ($Y$) som styrer læringen.

graph LR
    A[Learning] --> |Y finnes| S(Supervised learning);
    S --> |Y er kontinuerlig| R(Regression);
    S --> |Y er kategorisk| C(Classification);
    R --> RE(Linear Regression<br/>Support Vector Machine<br/>Random forest<br/>Gradient boosting<br/>Neural networks);
    C --> CE(Logistic Regression<br/>Random forest<br/>Gradient boosting<br/>Neural networks);

    A[Learning] --> |Y finnes ikke| U(Unsupervised learning);
    U --> |Oppdag skjulte strukturer| X(Klyngeanalyse) --> KE(K-means clustering<br/>Hierarchical Clustering);
    U --> |Studer sammenhenger| Y(Assosiasjonsanalyse) --> AP(Assosiasjonsanalyse);
    U --> |Reduser kompleksitet| Z(Dimensionality reduction) --> DE(Principal Component Analysis);

Supervised learning (SL)

I supervised learning finnes det et utfall ($Y$) som styrer algoritmene, som deretter kan brukes til å predikere (forutsi) $Y$. I supervised learning studeres hvordan $Y$ henger sammen med én eller flere variabler ($X$). Formålet er å predikere verdien av Y, gitt verdiene av relaterte variabler ($X_1$, $X_2$, $X_3$, $X_n$). Ved å bruke en algoritme kan vi beregne hvordan $X_1$, $X_2$, $X_3$, $X_n$ osv. henger sammen med $Y$, og i tillegg lage en prediksjonsmodell for å forutsi $Y$, gitt verdiene av $X_1$, $X_2$, $X_3$, $X_n$.

Eksempel 1: En analyse der risikoen for å få diabetes (Y) studeres som en funksjon av alder (X1), kjønn (X2) og BMI (X3).

Eksempel 2: En analyse der årlig inntekt (Y) studeres som en funksjon av alder (X1), utdanning (X2) og yrke (X3).

*I klassisk statistikk brukes begrepet regresjon om modeller som predikerer både kontinuerlige og kategoriske Y.

Eksempler på algoritmer i supervised learning: lineær regresjon, logistisk regresjon, Cox-regresjon, random forest, dyp læring, gradient boosting osv.

Supervised learning kan deles inn i regresjon og klassifikasjon.

Classification (klassifikasjon)

Klassifikasjon innebærer at man predikerer et kategorisk utfall. Eksempler på slike utfall er:

• Død (ja/nei)
• Diabetes (ja/nei)
• Konkurs (ja/nei)
• Vektkategori (normalvekt, overvekt, fedme)

Regression

Begrepet regresjon er litt forvirrende; den klassiske statistikken inneholder en lang rekke regresjonsmodeller som kan brukes til å predikere både kontinuerlige og kategoriske utfall. Innen machine learning brukes begrepet imidlertid om modeller som predikerer kontinuerlige utfall (numeriske tall). Eksempler på slike er:

• Alder (år)
• Vekt (kg)
• Inntekt (kr)
• Pris (kr)

Unsupervised learning (UL)

Unsupervised learning kartlegger mønstre i data uten å ta hensyn til et utfall (Y). Unsupervised learning innebærer altså at algoritmen identifiserer strukturer i data. Det er ikke nødvendig å samle inn informasjon om Y, noe som ofte fører til at det finnes mye data å analysere.

Eksempel 1: Se for deg en studie med tusenvis av menneskers livsstil, kostvaner, treningsvaner og deres risikofaktorer for hjerte- og karsykdom. Med unsupervised learning kan man identifisere grupper eller klynger (eng. cluster) av individer som ligner hverandre med hensyn til disse variablene.

Typer av unsupervised learning er:

• Klyngeanalyse (cluster analysis): Med klyngeanalyse kan skjulte mønstre og grupper oppdages i data.
• Assosiasjon: Rene assosiasjonsanalyser innebærer at man studerer hvordan variabler henger sammen med hverandre.
• Dimensjonsreduksjon (dimensionality reduction): Ved dimensionality reduction brukes algoritmer for å fjerne unødvendig informasjon i data. Det kan for eksempel innebære at antallet variabler i et datasett reduseres ved å identifisere variabler som ikke tilfører noe. Det kan også innebære at variablene i datasettet erstattes med nye og færre variabler som er avledet fra disse dataene.