Η IBM Watson δεν έχει σταθερό αριθμό CPU. Δεν είναι ένα ενιαίο μηχάνημα, αλλά μια συλλογή λογισμικού και υπηρεσιών που εκτελούνται σε μια τεράστια, κλιμακωτή υποδομή. Ο αριθμός των χρησιμοποιούμενων CPU εξαρτάται από τη συγκεκριμένη εργασία, τον φόρτο εργασίας και τους πόρους που διατίθενται ανά πάσα στιγμή. Θα μπορούσε να κυμαίνεται από ένα σχετικά μικρό αριθμό για απλούστερες εργασίες σε δυνητικά χιλιάδες ή ακόμα περισσότερα για πολύπλοκα. Δεν υπάρχει ενιαία απάντηση σε πόσες CPU είναι "στο" Watson.