1. Missdetectie: De cachecontroller detecteert dat de opgevraagde gegevens niet aanwezig zijn in de cache. Dit gebeurt meestal door een vergelijking van het gevraagde adres met de adressen die zijn opgeslagen in de index- en tagstructuren van de cache.

2. Verzoek om doorsturen: De cachecontroller stuurt een verzoek naar het volgende niveau van de geheugenhiërarchie (hoofdgeheugen). Dit verzoek specificeert het geheugenadres van de vereiste gegevens.

3. Geheugentoegang: Het hoofdgeheugen (of andere opslag) ontvangt het verzoek en haalt het gevraagde datablok op. Dit is het langzaamste deel van het proces, omdat toegang tot het hoofdgeheugen aanzienlijk langzamer is dan toegang tot de cache. De grootte van het opgehaalde datablok wordt bepaald door de lijngrootte (of blokgrootte) van de cache. Dit ophalen omvat adresvertaling (het converteren van een virtueel adres naar een fysiek adres) als virtueel geheugen wordt gebruikt.

4. Gegevensoverdracht: Zodra het gegevensblok uit het hoofdgeheugen is opgehaald, wordt het terug naar de cache overgebracht. Deze overdracht vindt meestal plaats op een speciale bus (bijvoorbeeld de systeembus) die is geoptimaliseerd voor gegevensoverdracht op hoge snelheid.

5. Cacheplaatsing: Het opgehaalde datablok wordt in de cache geplaatst. Het cachevervangingsbeleid (bijvoorbeeld LRU – Least Recent Used, FIFO – First-In, First-Out) bepaalt welk bestaand blok in de cache wordt vervangen als de cache vol is.

6. CPU-toegang: Nadat de gegevens met succes in de cache zijn geladen, heeft de CPU er toegang toe. De CPU wacht tijdens de stappen 3 en 4, waardoor de CPU vastloopt en de prestaties dramatisch afnemen.

Verschillende soorten missers en afhandeling:

De afhandeling van cachemissers kan verder worden verfijnd, afhankelijk van het *type* misser:

* Verplichte (of koude) misser: Dit gebeurt wanneer een datablok voor de eerste keer wordt benaderd. Er is geen manier om deze fouten te voorkomen, omdat de gegevens voorheen eenvoudigweg niet in de cache stonden.

* Capaciteit gemist: Dit gebeurt wanneer de cache te klein is om alle gegevens te bevatten die de CPU nodig heeft. Meer geavanceerde cachebeheerstrategieën (bijvoorbeeld grotere caches, verbeterd vervangingsbeleid) kunnen capaciteitstekorten beperken.

* Conflictmevrouw: Dit gebeurt wanneer meerdere datablokken worden toegewezen aan dezelfde cacheset (vanwege de manier waarop adressen in de cache worden toegewezen), wat resulteert in herhaalde uitzettingen. Het gebruik van technieken zoals set-associatieve of volledig associatieve caches kan het aantal gemiste conflicten verminderen.

* Capaciteit/conflictinteractie: Deze twee kunnen elkaar overlappen, waardoor ze moeilijk te analyseren zijn.

Hardwareondersteuning voor afhandeling van missers:

Moderne hardware maakt gebruik van verschillende technieken om de afhandeling van cache-missers te optimaliseren:

* Prefetchen: De hardware laadt proactief gegevens in de cache die waarschijnlijk binnenkort nodig zijn, waardoor toekomstige fouten worden verminderd.

* Terugschrijfcaches: In plaats van gegevens onmiddellijk terug te schrijven naar het hoofdgeheugen tijdens een schrijfbewerking, slaan terugschrijfcaches gewijzigde gegevens op in de cache en schrijven deze alleen terug naar het hoofdgeheugen wanneer de cacheregel wordt verwijderd. Dit vermindert het geheugenverkeer.

* Caches op meerdere niveaus: Veel systemen gebruiken meerdere cacheniveaus (L1, L2, L3, etc.), met snellere maar kleinere caches dichter bij de CPU en langzamere maar grotere caches verder weg. Deze hiërarchische structuur minimaliseert de impact van cache-missers door snellere caches te gebruiken voor vaak gebruikte gegevens.

* Hardwarebeheerde TLB's (Translation Lookaside Buffers): TLB's cachen paginatabelitems om de vertaling van virtueel naar fysiek adres te versnellen, waardoor de overhead die gepaard gaat met geheugentoegang wordt verminderd.

Samenvattend is het omgaan met cache-missers een complex proces waarbij hardwarecoördinatie tussen de CPU, cachecontroller en hoofdgeheugen betrokken is. Een efficiënte afhandeling van cache-missers is cruciaal voor de algehele systeemprestaties. Een groot deel van de verbetering in de CPU-prestaties door de jaren heen is te danken aan de vooruitgang in de cachetechnologie en strategieën voor het afhandelen van fouten.