Hier volgt een overzicht van de belangrijkste verantwoordelijkheden:

* Ophaalinstructies: De IDU ontvangt instructies van de instructie-ophaaleenheid (of een soortgelijke fase in de pijplijn). Deze instructies zijn doorgaans in machinecode:een binaire weergave van de instructies.

* Instructie decodering: Dit is de kernfunctie. De IDU splitst de machinecode-instructie op in de samenstellende delen:

* Opcoderen: Specificeert de uit te voeren bewerking (bijvoorbeeld optellen, aftrekken, gegevensverplaatsing).

* Operanden: Geef de gegevens op die bij de bewerking betrokken zijn. Dit kunnen registers, geheugenadressen of directe waarden zijn.

* Adresseringsmodi: Definieer hoe toegang wordt verkregen tot de operanden (bijvoorbeeld direct registreren, indirect geheugen).

* Registreren ophalen: Op basis van de gedecodeerde operanden haalt de IDU de benodigde gegevens op uit het registerbestand van de CPU.

* Adresberekening (indien nodig): Als de instructie betrekking heeft op geheugentoegang, berekent de IDU het effectieve geheugenadres op basis van de adresseringsmodus en eventuele geleverde offsets.

* Controlesignalen genereren: De IDU genereert besturingssignalen die de uitvoeringseenheden (ALU, FPU, etc.) aansturen om de gespecificeerde bewerking op de opgehaalde gegevens uit te voeren.

* Gegevens doorgeven aan uitvoeringseenheden: De gedecodeerde instructie wordt, samen met de opgehaalde operanden en besturingssignalen, ter verwerking doorgegeven aan de juiste uitvoeringseenheden.

In wezen fungeert de IDU als een brug tussen de fase van het ophalen van instructies en de uitvoeringsfase van de instructiecyclus van de CPU. Het zorgt ervoor dat de instructies correct worden geïnterpreteerd en dat de benodigde gegevens en besturingssignalen aan de uitvoeringseenheden worden verstrekt om de beoogde operatie efficiënt uit te voeren. De complexiteit ervan hangt af van de instructieset van de CPU-architectuur en de verfijning van de instructiepijplijn.