De belangrijkste kenmerken van on-chip-geheugen zijn onder meer:

* Snelheid: Het is aanzienlijk sneller dan geheugen buiten de chip, omdat de afstand voor gegevensoverdracht veel korter is. Dit vermindert de latentie (vertraging) en verbetert de algehele systeemprestaties.

* Capaciteit: Over het algemeen kleiner qua capaciteit vergeleken met geheugen buiten de chip vanwege ruimtebeperkingen op de siliciumchip. De wisselwerking is snelheid voor grootte.

* Kosten: Per bit duurder dan geheugen buiten de chip vanwege de hogere productiekosten die gepaard gaan met de integratie ervan in de CPU-chip.

* Typen: Er bestaan ​​verschillende soorten geheugen op de chip, waaronder:

* Cachegeheugen: Dit is het meest voorkomende type on-chip-geheugen en fungeert als een snelle buffer voor vaak gebruikte gegevens. Het is doorgaans georganiseerd in niveaus (L1, L2, L3), waarbij L1 de snelste en kleinste is, en L3 de langzaamste en grootste.

* Registreert: Dit zijn de snelste en kleinste geheugeneenheden binnen de CPU, die rechtstreeks toegankelijk zijn voor de rekenkundige logische eenheid (ALU) van de CPU. Ze bevatten gegevens die momenteel worden verwerkt.

* Instructiecache: Hiermee worden recent uitgevoerde instructies opgeslagen, waardoor de ophaalsnelheid van instructies wordt verbeterd.

* Gegevenscache: Hiermee worden recentelijk gebruikte gegevens opgeslagen, waardoor de snelheid van de gegevenstoegang wordt verbeterd.

De aanwezigheid en grootte van on-chip-geheugen hebben een aanzienlijke invloed op de prestaties van een CPU. Groter en sneller geheugen op de chip leidt over het algemeen tot betere prestaties, maar verhoogt ook de kosten en complexiteit van het productieproces van de CPU.