Κάθε υπολογιστή, ανεξάρτητα από το μέγεθος, έχει μια CPU. Η CPU είναι ένα ολοκληρωμένο κύκλωμα που συσκευάζει εκατομμύρια τρανζίστορ σε ένα πυρίτιο χιπ λίγων χιλιοστών τετραγωνικών. Αν και εκτελεί υπολογισμούς, το κύριο μέρος της CPU περιέχει μόνο ένα μέτριο ποσό δικής της μνήμης.
Οι υπολογιστές διαθέτουν μεγάλες ποσότητες τυχαίας προσβάσιμης μνήμης (RAM). Το 2011, ένας τυπικός επιτραπέζιος υπολογιστής έχει μεταξύ 1 και 4 γιγαμπάιτ RAM. Αυτή είναι γρήγορη αποθήκευση δεδομένων που κρατά τα ενεργά προγράμματα και τα αποτελέσματα υπολογισμών. Η RAM βρίσκεται έξω και ξεχωριστά από τη CPU, αν και επικοινωνούν μέσω σύνδεσης υψηλής ταχύτητας. Παρόλα αυτά, η CPU καταναλώνει σημαντικό κλάσμα του χρόνου της αναμένοντας τη μνήμη να στείλει τα δεδομένα της.
Όσο οι CPU γίναν πιο γρήγορες, οι καθυστερήσεις στην λήψη δεδομένων από τη RAM έγιναν πιο σημαντικές. Λόγω αυτού του προβλήματος, οι σχεδιαστές χιπ πρόσθεσαν ειδική μνήμη, που ονομάζεται cache, απευθείας στην ίδια τη CPU. Η cache λειτουργεί ως βραχυπρόθεσμη μνήμη για την CPU, κρατώντας τα συχνά χρησιμοποιούμενα δεδομένα κοντά. Όταν η CPU χρειάζεται ένα κομμάτι δεδομένων, κοιτάει πρώτα στη cache. Ανάλογα με το μέγεθος της cache, η CPU βρίσκει τα δεδομένα εκεί πάνω από το 90% των περιπτώσεων. Η cache είναι ταχύτερη από τη RAM, οπότε μειώνει ελάχιστα το χρόνο αναμονής της CPU. Οι CPU τρέχουν προγράμματα αρκετές φορές ταχύτερα με cache από ότι χωρίς αυτή.
Αν και η cache είναι σημαντική για την ταχύτητα, είναι επίσης ακριβή. Υποκείται επίσης στον νόμο της φθίνουσας αποδοτικότητας· ένα ιδανικό μέγεθος cache θα έχει τα δεδομένα της CPU το 90 έως 95% του χρόνου. Αν το διπλασιάσετε, μπορεί να αυξηθεί στο 97%, αλλά δεν θα φτάσει ποτέ το 100%. Η αύξηση από 95% στο 97% έχει λίγη επίδραση στην συνολική απόδοση.
Το 2011, ένας σύγχρονος μικροεπεξεργαστής, ο Intel Core i5, έχει 8 MB cache, περίπου το ένα χιλιοστό του μεγέθους της RAM ενός υπολογιστή. Το μέγεθος cache σε έναν παλαιότερο επεξεργαστή Intel, τον Pentium 4, ήταν 512 KB. Ο 386, ένα χιπ που κατασκευάστηκε την δεκαετία του 1980, δεν είχε εσωτερική cache.
Πνευματικά δικαιώματα © Γνώση Υπολογιστών Όλα τα δικαιώματα διατηρούνται.