موازي گرايي (پارالليسم)

توصيفي كه از عملكرد پايه‌اي يك سي پي يو در بخش قبلي شد، ساده‌ترين فرمي است كه يك سي پي يو مي‌تواند داشته باشد. اين نوع از سي پي يو كه معمولاً آن را ساب اسكيلر مي‌نامند، يك دستور را روي يك يا دو جزو اطلاعاتي، در يك زمان اجرا مي‌كند. اين فرايند موجب يك ناكارآمدي ذاتي در سي پي يوهاي ساب اسكيلر مي‌شود. از آنجايي كه فقط يك دستور در يك زمان اجرا مي‌شود، كل سي پي يو بايد منتظر بماند تا آن دستور كامل شود تا بتواند به دستور بعدي برود. در نتيجه سي پي يوهاي ساب اسكيلر در موارد دستوري كه بيش از يك پالس ساعت (چرخهٔ ساعتي) براي اجرا شدن كامل طول مي‌كشند، معلق مي‌ماند. حتي اضافه كردن يك واحد اجرايي ديگر بهبود زيادي روي عملكرد ندارد، و در اين حالت به جاي اينكه يك مسير معلق باشد، دو مسير معلق مي‌ماند و تعداد ترانزيستورهاي بلااستفاده افزايش مي‌يابد. اين طراحي، كه در آن منابع اجرايي سي پي يو مي‌تواند فقط يك دستور در يك زمان اجرا كند، قادر خواهد بود تا فقط احتمالاً به عملكردي در حد اسكيلر (يك دستور در يك clock) برسد. با اين وجود عملكرد آن تقريباً هميشه ساب اسكيلر (كمتر از يك دستور در يك چرخه) است.

تلاش براي رسيدن به عملكردي در حد اسكيلر يا بهتر از آن منجر به طيفي از روش‌هاي طراحي شد كه باعث مي‌شود تا سي پي يو كمتر به صورت خطي و بيشتر به صورت موازي عمل كند. در هنگام استفاده از ترم پارالليسم براي سي پي يوها، دو اصطلاح بطور كلي براي طبقه‌بندي اين تكنيك‌هاي طراحي استفاده مي‌شود. پارالليسم در سطح دستوري (ILP) كه هدف آن افزايش سرعت اجراي دستورها در داخل يك سي پي يو است (يا به عبارتي افزايش استفاده از منابع اجرايي روي همان چيپ (on-die))، و پارالليسم در سطح thread كه هدف آن افزايش تعداد threadهايي است (بطور مؤثر برنامه‌هاي جداگانه) كه يك سي پي يو مي‌تواند بطور هم‌زمان اجرا كند. هر روش با روش ديگر از نظر نحوهٔ اجرا و نيز تأثير نسبي آن‌ها در افزايش عملكرد سي پي يو براي يك برنامه متفاوت است.