Γιατί οι μνήμες για υπολογιστές είναι συνήθως μικρές σε μέγεθος;

Οι μνήμες είναι μικρές λόγω ενός συνδυασμού παραγόντων που σχετίζονται με το κόστος, την ταχύτητα και τους τεχνολογικούς περιορισμούς:

* Κόστος: Η ταχύτερη μνήμη είναι σημαντικά πιο ακριβή ανά bit από τη βραδύτερη μνήμη. Η οικοδόμηση μιας μεγάλης, υψηλής ταχύτητας cache θα ήταν απαγορευτικά δαπανηρή. Ο λόγος κόστους-οφέλους μειώνεται έντονα καθώς το μέγεθος της προσωρινής μνήμης αυξάνεται.

* ταχύτητα: Οι χρόνοι πρόσβασης προσωρινής μνήμης πρέπει να είναι εξαιρετικά γρήγοροι για να είναι αποτελεσματικοί. Οι μικρότερες κρυφές μνήμες επιτρέπουν τα απλούστερα, ταχύτερα σχέδια. Οι μεγαλύτερες κρυφές μνήμες εισάγουν πιο πολύπλοκα κυκλώματα και μεγαλύτερους χρόνους πρόσβασης, αρνούνται τα οφέλη μιας μεγαλύτερης χωρητικότητας. Το πλεονέκτημα ταχύτητας συνδέεται στενά με το μέγεθος.

* κατανάλωση ενέργειας: Η μνήμη υψηλής ταχύτητας καταναλώνει περισσότερη ισχύ. Μια μεγαλύτερη, ταχύτερη κρυφή μνήμη θα καταναλώνει σημαντικά περισσότερη ισχύ, οδηγώντας σε αυξημένη παραγωγή θερμότητας και μειωμένη διάρκεια ζωής της μπαταρίας (ιδιαίτερα κρίσιμη για τις κινητές συσκευές).

* Τεχνολογικοί περιορισμοί: Η κατασκευή εξαιρετικά μεγάλων, υψηλής ταχύτητας προσωρινών αποθηκών είναι τεχνολογικά προκλητική και δαπανηρή. Ενώ η τεχνολογία συνεχίζει να βελτιώνεται, υπάρχουν πρακτικά όρια για το πόσο πυκνά και γρήγορα μπορούμε να συσκευάσουμε τρανζίστορ για κύτταρα μνήμης.

* Αρχή της τοποθεσίας: Οι μνήμες βασίζονται στην αρχή της τοποθεσίας - η ιδέα ότι πρόσφατα πρόσβαση σε δεδομένα και οδηγίες είναι πιθανό να προσεγγιστούν ξανά σύντομα. Μια σχετικά μικρή μνήμη cache μπορεί να εκμεταλλευτεί αποτελεσματικά αυτή την αρχή για ένα μεγάλο ποσοστό πρόσβασης μνήμης. Η αύξηση του μεγέθους της κρυφής μνήμης πέρα από ένα συγκεκριμένο σημείο αποδίδει τις αποδόσεις μειώνοντας τις αποδόσεις όσον αφορά τη βελτίωση της απόδοσης, καθώς η πιθανότητα εύρεσης των απαιτούμενων δεδομένων στη μεγαλύτερη μνήμη προσωρινής μνήμης δεν αυξάνεται αναλογικά.

Στην ουσία, το βέλτιστο μέγεθος της προσωρινής μνήμης αποτελεί αντιστάθμιση μεταξύ κόστους, ταχύτητας, κατανάλωσης ενέργειας και αποτελεσματικότητας. Μια μικρή, γρήγορη προσωρινή μνήμη παρέχει μια σημαντική ώθηση απόδοσης με λογικό κόστος, ενώ μια μεγαλύτερη προσωρινή μνήμη θα προσφέρει μόνο οριακά κέρδη απόδοσης, αυξάνοντας σημαντικά το κόστος και την κατανάλωση ενέργειας. Αυτός είναι ο λόγος για τον οποίο χρησιμοποιούνται πολλαπλά επίπεδα κρυφής μνήμης (L1, L2, L3). Κάθε επίπεδο παρέχει διαφορετική ανταλλαγή ταχύτητας/μεγέθους.