Deep Learning (Dyb læring)

Deep learning (på dansk også kaldet dyb læring) er en underkategori af machine learning, hvor systemet lærer mønstre i data ved hjælp af neurale netværk opbygget af flere lag. Frem for at en udvikler manuelt definerer, hvilke kendetegn ved dataene der er vigtige, finder netværket selv frem til relevante mønstre gennem træning på store mængder eksempler. Det er netop de mange lag i netværket, der har givet metoden navnet “deep” (dyb).

Et hverdagsnært eksempel er et program, der skal afgøre, om et foto viser en kat eller en hund. I klassisk programmering skulle en udvikler selv definere regler ud fra fx ørernes form eller pelsmønster. Med deep learning vises netværket i stedet en stor mængde billeder af katte og hunde, og det finder gradvist selv frem til, hvilke visuelle mønstre der kendetegner de to dyr, uden at nogen har skrevet reglerne eksplicit.

Forskellen på machine learning og deep learning

Deep learning er ikke en selvstændig teknologi ved siden af machine learning, men en bestemt måde at praktisere det på. Klassiske machine learning-algoritmer, som fx beslutningstræer eller lineær regression, arbejder ofte bedst med strukturerede data og kræver typisk, at en dataspecialist på forhånd udvælger og forbereder de relevante kendetegn (features) i datasættet. Denne manuelle proces kaldes feature engineering.

Deep learning-modeller kan i stedet arbejde direkte med ustrukturerede data som billeder, lyd og fritekst, fordi netværkets mange lag selv kan uddrage relevante kendetegn undervejs i træningen. Til gengæld kræver deep learning generelt betydeligt mere træningsdata og regnekraft end klassiske machine learning-metoder, og resultatet er ofte sværere at gennemskue, fordi det ikke er let at pege på, præcis hvilken regel netværket har lært. Det er derfor, deep learning-modeller ofte omtales som en “black box” sammenlignet med mere gennemsigtige, klassiske modeller.

Sådan er et neuralt netværk bygget op

Et neuralt netværk består af lag af kunstige “neuroner” (også kaldet noder), der er forbundet med hinanden. Der er et input-lag, som modtager de rå data, ét eller flere skjulte lag, hvor selve databehandlingen foregår, og et output-lag, som leverer modellens svar eller forudsigelse. Det er tilstedeværelsen af flere skjulte lag, der adskiller et dybt neuralt netværk fra et simpelt neuralt netværk med kun ét lag.

Hver forbindelse mellem to neuroner har en vægt, som bestemmer, hvor stor indflydelse forbindelsen har på resultatet. Under træningen sender netværket data igennem alle lagene, sammenligner sit svar med det korrekte svar og justerer derefter vægtene, så fejlen bliver mindre næste gang. Denne justering foregår typisk ved hjælp af en metode kaldet backpropagation kombineret med en optimeringsteknik som gradient descent, der gentages igen og igen, indtil netværket rammer tilstrækkeligt præcist.

Hvad bruges deep learning til?

Deep learning ligger i dag bag størstedelen af de mest avancerede AI-systemer, herunder billedgenkendelse, talegenkendelse og sprogforståelse (NLP). Det er også den grundlæggende teknologi bag moderne sprogmodeller (LLM’er), som benytter en bestemt type dybt neuralt netværk kaldet en transformer-arkitektur til at forudsige og generere sammenhængende tekst.

Samme grundprincip går igen inden for generativ AI, hvor deep learning-modeller ikke blot genkender mønstre, men også bruger dem til at skabe nyt indhold som tekst, billeder eller lyd. Andre typiske anvendelser er anbefalingssystemer i streamingtjenester og webshops, svindeldetektion i banker, og objektgenkendelse i selvkørende biler.

Fordele og ulemper ved deep learning

Den store styrke ved deep learning er evnen til at håndtere store mængder ustrukturerede data og selv finde komplekse sammenhænge, som ville være vanskelige eller praktisk umulige at programmere manuelt. Det gør metoden velegnet til opgaver som billed- og talegenkendelse, hvor klassiske algoritmer typisk kommer til kort.

Til gengæld stiller deep learning større krav til datamængde, regnekraft og specialiseret hardware som GPU’er end klassisk machine learning, og udviklingen kan derfor være mere ressourcekrævende. Modellernes uigennemsigtighed kan desuden gøre det svært at forklare, hvorfor en bestemt afgørelse er truffet, hvilket kan være en udfordring i brancher, hvor der stilles krav om forklarlighed, fx sundhedsvæsen eller finanssektoren.