5.0 編譯優(yōu)化概述

優(yōu)化是一件非常重要的事情。作為一個(gè)程序設(shè)計(jì)者，你肯定希望自己的程序既小又快。DOS時(shí)代的許多書中都提到，“某某編譯器能夠生成非常緊湊的代碼”，換言之，編譯器會(huì)為你把代碼盡可能地縮減，如果你能夠正確地使用它提供的功能的話。目前，Intel x86體系上流行的C/C++編譯器，包括Intel C/C++ Compiler, GNU C/C++ Compiler，以及最新的Microsoft和Borland編譯器，都能夠提供非常緊湊的代碼。正確地使用這些編譯器，則可以得到性能足夠好的代碼。

但是，機(jī)器目前還不能像人那樣做富于創(chuàng)造性的事情。因而，有些時(shí)候我們可能會(huì)不得不手工來(lái)做一些事情。

使用匯編語(yǔ)言優(yōu)化代碼是一件困難，而且技巧性很強(qiáng)的工作。很多編譯器能夠生成為處理器進(jìn)行過(guò)特殊優(yōu)化處理的代碼，一旦進(jìn)行修改，這些特殊優(yōu)化可能就會(huì)被破壞而失效。因此，在你決定使用自己的匯編代碼之前，一定要測(cè)試一下，到底是編譯器生成的那段代碼更好，還是你的更好。

本章中將討論一些編譯器在某些時(shí)候會(huì)做的事情(從某種意義上說(shuō)，本章內(nèi)容更像是計(jì)算機(jī)專業(yè)的基礎(chǔ)課中《編譯程序設(shè)計(jì)原理》、《計(jì)算機(jī)組成原理》、《計(jì)算機(jī)體系結(jié)構(gòu)》課程中的相關(guān)內(nèi)容)。本章的許多內(nèi)容和匯編語(yǔ)言程序設(shè)計(jì)本身關(guān)系并不是很緊密，它們多數(shù)是在為使用匯編語(yǔ)言進(jìn)行優(yōu)化做準(zhǔn)備。編譯器確實(shí)做這些優(yōu)化，但它并不總是這么做；此外，就編譯器的設(shè)計(jì)本質(zhì)來(lái)說(shuō)，它確實(shí)沒有義務(wù)這么做——編譯器做的是等義變換，而不是等效變換�？紤]下面的代碼：

好的，首先，絕大多數(shù)編譯器恐怕不會(huì)自作主張地把它“篡改”為

多數(shù)（但確實(shí)不是全部）編譯器也不會(huì)把它改為

這兩個(gè)修改版本都不同于原先程序的語(yǔ)義。首先我們看到，讓i從0開始是沒有必要的，因?yàn)閖+=i時(shí)，i=0不會(huì)做任何有用的事情；然后是，實(shí)際上沒有必要每一次都計(jì)算1+...+100的和——它可以被預(yù)先計(jì)算，并在需要的時(shí)候返回。

這個(gè)例子也許并不恰當(dāng)(估計(jì)沒人會(huì)寫出最初版本那樣的代碼)，但這種實(shí)踐在程序設(shè)計(jì)中確實(shí)可能出現(xiàn)。我們把改進(jìn)2稱為編譯時(shí)表達(dá)式預(yù)先計(jì)算，而把改進(jìn)1成為循環(huán)強(qiáng)度削減。

然而，一些新的編譯器的確會(huì)進(jìn)行這兩種優(yōu)化。不過(guò)別慌，看看下面的代碼：

程序采用的是一個(gè)時(shí)間復(fù)雜度為O(n)的算法，不過(guò)，我們可以把他輕易地改為O(1)的算法：

這是一個(gè)典型的以空間換時(shí)間的做法。通用的編譯器不會(huì)這么做——因?yàn)樗鼪]有辦法在編譯時(shí)確定你是不是要這么改。可以說(shuō)，如果編譯器真的這樣做的話，那將是一件可怕的事情，因?yàn)槟菚r(shí)候你將很難知道編譯器生成的代碼和自己想的到底有多大的差距。

當(dāng)然，這類優(yōu)化超出了本文的范圍——基本上，我把它們歸入“算法優(yōu)化”，而不是“程序優(yōu)化”一類。類似的優(yōu)化過(guò)程需要程序設(shè)計(jì)人員對(duì)于程序邏輯非常深入地了解和全盤的掌握，同時(shí)，也需要有豐富的算法知識(shí)。

自然，如果你希望自己的程序性能有大幅度的提升，那么首先應(yīng)該做的是算法優(yōu)化。例如，把一個(gè)O(n²)的算法替換為一個(gè)O(n)的算法，則程序的性能提升將遠(yuǎn)遠(yuǎn)超過(guò)對(duì)于個(gè)別語(yǔ)句的修改。此外，一個(gè)已經(jīng)改寫為匯編語(yǔ)言的程序，如果要再在算法上作大幅度的修改，其工作量將和重寫相當(dāng)。因此，在決定使用匯編語(yǔ)言進(jìn)行優(yōu)化之前，必須首先考慮算法優(yōu)化。但假如已經(jīng)是最優(yōu)的算法，程序運(yùn)行速度還是不夠快怎么辦呢？

好的，現(xiàn)在，假定你已經(jīng)使用了已知最好的算法，決定把它交給編譯器，讓我們來(lái)看看編譯器會(huì)為我們做什么，以及我們是否有機(jī)會(huì)插手此事，做得更好。

5.1 循環(huán)優(yōu)化：強(qiáng)度削減和代碼外提

比較新的編譯器在編譯時(shí)會(huì)自動(dòng)把下面的代碼：

至少變換為

甚至

當(dāng)然，真正的編譯器實(shí)際上是在中間代碼層次作這件事情。

原理 如果數(shù)據(jù)項(xiàng)的某個(gè)中間值(程序執(zhí)行過(guò)程中的計(jì)算結(jié)果)在使用之前被另一中間值覆蓋，則相關(guān)計(jì)算不必進(jìn)行。

也許有人會(huì)問(wèn)，編譯器不是都給咱們做了嗎，管它做什么？注意，這里說(shuō)的只是編譯系統(tǒng)中優(yōu)化部分的基本設(shè)計(jì)。不僅在從源代碼到中間代碼的過(guò)程中存在優(yōu)化問(wèn)題，而且編譯器生成的最終的機(jī)器語(yǔ)言(匯編)代碼同樣存在類似的問(wèn)題。目前，幾乎所有的編譯器在最終生成代碼的過(guò)程中都有或多或少的瑕疵，這些瑕疵目前只能依靠手工修改代碼來(lái)解決。

5.2 局部?jī)?yōu)化：表達(dá)式預(yù)計(jì)算和子表達(dá)式提取

表達(dá)式預(yù)先計(jì)算非常簡(jiǎn)單，就是在編譯時(shí)盡可能地計(jì)算程序中需要計(jì)算的東西。例如，你可以毫不猶豫地寫出下面的代碼：

而不必?fù)?dān)心程序每次執(zhí)行這個(gè)語(yǔ)句時(shí)作兩遍乘法，因?yàn)榫幾g器會(huì)自動(dòng)地把它改為

而不是傻乎乎地讓計(jì)算機(jī)在執(zhí)行到這個(gè)初始化賦值語(yǔ)句的時(shí)候才計(jì)算。當(dāng)然，如果你愿意在上面的代碼中摻上一些變量的話，編譯器同樣會(huì)把常數(shù)部分先行計(jì)算，并拿到結(jié)果。

表達(dá)式預(yù)計(jì)算并不會(huì)讓程序性能有飛躍性的提升，但確實(shí)減少了運(yùn)行時(shí)的計(jì)算強(qiáng)度。除此之外，絕大多數(shù)編譯器會(huì)把下面的代碼：

優(yōu)化為(再次強(qiáng)調(diào)，編譯器實(shí)際上是在中間代碼的層次，而不是源代碼層次做這件事情！)：

更進(jìn)一步，在實(shí)際代碼生成過(guò)程中，一些編譯器還會(huì)對(duì)上述語(yǔ)句的次序進(jìn)行調(diào)整，以使其運(yùn)行效率更高。例如，將語(yǔ)句調(diào)整為下面的次序：

在某些體系結(jié)構(gòu)中，剛剛計(jì)算完的a[1]可以放到寄存器中，以提高實(shí)際的計(jì)算性能。上述5個(gè)計(jì)算任務(wù)之間，只有1, 3, 4三個(gè)計(jì)算任務(wù)必須串行地執(zhí)行，因此，在新的處理器上，這樣做甚至能夠提高程序的并行度，從而使程序效率變得更高。

5.3 全局寄存器優(yōu)化

[待修訂內(nèi)容] 本章中，從這一節(jié)開始的所有優(yōu)化都是在微觀層面上的優(yōu)化了。換言之，這些優(yōu)化是不能使用高級(jí)語(yǔ)言中的對(duì)應(yīng)設(shè)施進(jìn)行解釋的。這一部分內(nèi)容將進(jìn)行較大規(guī)模的修訂。

通常，此類優(yōu)化是由編譯器自動(dòng)完成的。我個(gè)人并不推薦真的由人來(lái)完成這些工作——這些工作多半是枯燥而重復(fù)性的，編譯器通常會(huì)比人做得更好(沒說(shuō)的，肯定也更快)。但話說(shuō)回來(lái)，使用匯編語(yǔ)言的程序設(shè)計(jì)人員有責(zé)任了解這些內(nèi)容，因?yàn)橹挥羞@樣才能更好地駕馭處理器。

在前面的幾章中我已經(jīng)提到過(guò)，寄存器的速度要比內(nèi)存快。因此，在使用寄存器方面，編譯器一般會(huì)做一種稱為全局寄存器優(yōu)化的優(yōu)化。

例如，在我們的程序中使用了4個(gè)變量：i, j, k, l。它們都作為循環(huán)變量使用：

這段程序的優(yōu)化就不那么簡(jiǎn)單了。顯然，按照通常的壓棧方法，i, j, k, l應(yīng)該按照某個(gè)順序被壓進(jìn)堆棧，然后調(diào)用do_something()，然后函數(shù)做了一些事情之后返回。問(wèn)題在于，無(wú)論如何壓棧，這些東西大概都得進(jìn)內(nèi)存(不可否認(rèn)某些機(jī)器可以用CPU的Cache做這件事情，但Cache是寫通式的和回寫式的又會(huì)造成一些性能上的差異)。

聰明的讀者馬上就會(huì)指出，我們不是可以在定義do_something()的時(shí)候加上inline修飾符，讓它在本地展開嗎？沒錯(cuò)，本地展開以增加代碼量為代價(jià)換取性能，但這只是問(wèn)題的一半。編譯器盡管完成了本地展開，但它仍然需要做許多額外的工作。因?yàn)榧拇嫫髦挥心敲从邢薜膸讉�(gè)，而我們卻有這么多的循環(huán)變量。

把四個(gè)變量按照它們?cè)谘�環(huán)中使用的頻率排序，并決定在do_something()塊中的優(yōu)先順序(放入寄存器中的優(yōu)先順序)是一個(gè)解決方案。很明顯，我們可以按照l(shuí), k, j, i的順序(從高到低，因?yàn)閘將被進(jìn)行1000*1000*1000*1000次運(yùn)算！)來(lái)排列，但在實(shí)際的問(wèn)題中，事情往往沒有這么簡(jiǎn)單，因?yàn)槟悴恢�道do_something()中做的到底是什么。而且，憑什么就以for(l=0; l<1000; l++)作為優(yōu)化的分界點(diǎn)呢？如果do_something()中還有循環(huán)怎么辦？

如此復(fù)雜的計(jì)算問(wèn)題交給計(jì)算機(jī)來(lái)做通常會(huì)有比較滿意的結(jié)果。一般說(shuō)來(lái)，編譯器能夠?qū)Τ绦蛑凶兞康氖褂眠M(jìn)行更全面地估計(jì)，因此，它分配寄存器的結(jié)果有時(shí)雖然讓人費(fèi)解，但卻是最優(yōu)的(因?yàn)橛?jì)算機(jī)能夠進(jìn)行大量的重復(fù)計(jì)算，并找到最好的方法；而人做這件事相對(duì)來(lái)講比較困難)。

編譯器在許多時(shí)候能夠作出相當(dāng)讓人滿意的結(jié)果�？紤]以下的代碼：

讓我們把它變?yōu)槟撤N形式的中間代碼：

程序中執(zhí)行強(qiáng)度最大的無(wú)疑是03到05這一段，涉及的需要寫入的變量包括a, j；需要讀出的變量是i。不過(guò)，最終的編譯結(jié)果大大出乎我們的意料。下面是某種優(yōu)化模式下Visual C++ 6.0編譯器生成的代碼(我做了一些修改)：

這段代碼可能有些令人費(fèi)解。主要是因?yàn)樗�不僅使用了大量寄存器，而且還包括了5.2節(jié)中曾提到的子表達(dá)式提取技術(shù)。表面上看，多引入的那個(gè)變量(t)增加了計(jì)算時(shí)間，但要注意，這個(gè)t不僅不會(huì)降低程序的執(zhí)行效率，相反還會(huì)讓它變得更快！因?yàn)橥瑯拥玫搅擞?jì)算結(jié)果(本質(zhì)上，i*j即是第j次累加i的值)，但這個(gè)結(jié)果不僅用到了上次運(yùn)算的結(jié)果，而且還省去了乘法(很顯然計(jì)算機(jī)計(jì)算加法要比計(jì)算乘法快)。

這里可能會(huì)有人問(wèn)，為什么要從999循環(huán)到0，而不是按照程序中寫的那樣從0循環(huán)到999呢？這個(gè)問(wèn)題和匯編語(yǔ)言中的取址有關(guān)。在下兩節(jié)中我將提到這方面的內(nèi)容。

5.4 x86體系結(jié)構(gòu)上的并行最大化和指令封包

考慮這樣的問(wèn)題，我和兩個(gè)同伴現(xiàn)在在山里，遠(yuǎn)處有一口井，我們帶著一口鍋，身邊是樹林；身上的飲用水已經(jīng)喝光了，此處允許砍柴和使用明火(當(dāng)然我們不想引起火災(zāi):)，需要燒一鍋水，應(yīng)該怎么樣呢？

一種方案是，三個(gè)人一起搭灶，一起砍柴，一起打水，一起把水燒開。

另一種方案是，一個(gè)人搭灶，此時(shí)另一個(gè)人去砍柴，第三個(gè)人打水，然后把水燒開。

這兩種方案畫出圖來(lái)是這樣：

僅僅這樣很難說(shuō)明兩個(gè)方案孰優(yōu)孰劣，因?yàn)槲覀儾⒉幻鞔_三個(gè)人一起打水、一起砍柴、一起搭灶的效率更高，還是分別作效率更高(通常的想法，一起做也許效率會(huì)更高)。但假如說(shuō)，三個(gè)人一個(gè)只會(huì)搭灶，一個(gè)只會(huì)砍柴，一個(gè)只會(huì)打水(當(dāng)然是說(shuō)這三件事情)，那么，方案2的效率就會(huì)搞一些了。

在現(xiàn)實(shí)生活中，某個(gè)人擁有專長(zhǎng)是比較普遍的情況；在設(shè)計(jì)計(jì)算機(jī)硬件的時(shí)候則更是如此。你不可能指望加法器不做任何改動(dòng)就能去做移位甚至整數(shù)乘法，然而我們注意到，串行執(zhí)行的程序不可能在同一時(shí)刻同時(shí)用到處理器的所有功能，因此，我們(很自然地)會(huì)希望有一些指令并行地執(zhí)行，以充分利用CPU的計(jì)算資源。

CPU執(zhí)行一條指令的過(guò)程基本上可以分為下面幾個(gè)階段：取指令、取數(shù)據(jù)、計(jì)算、保存數(shù)據(jù)。假設(shè)這4個(gè)階段各需要1個(gè)時(shí)鐘周期，那么，只要資源夠用，并且4條指令之間不存在串行關(guān)系(換言之這些指令的執(zhí)行先后次序不影響最終結(jié)果，或者，更嚴(yán)格地說(shuō)，沒有任何一條指令依賴其他指令的運(yùn)算結(jié)果)指令也可以像下面這樣執(zhí)行：

這樣，原本需要16個(gè)時(shí)鐘周期才能夠完成的任務(wù)就可以在7個(gè)時(shí)鐘周期內(nèi)完成，時(shí)間縮短了一半還多。如果考慮灰色的那些方格(這些方格可以被4條指令以外的其他指令使用，只要沒有串行關(guān)系或沖突)，那么，如此執(zhí)行對(duì)于性能的提升將是相當(dāng)可觀的(此時(shí)，CPU的所有部件都得到了充分利用)。

當(dāng)然，作為程序來(lái)說(shuō)，真正做到這樣是相當(dāng)理想化的情況。實(shí)際的程序中很難做到徹底的并行化。假設(shè)CPU能夠支持4條指令同時(shí)執(zhí)行，并且，每條指令都是等周期長(zhǎng)度的4周期指令，那么，程序需要保證同一時(shí)刻先后發(fā)射的4條指令都能夠并行執(zhí)行，相互之間沒有關(guān)聯(lián)，這通常是不太可能的。

最新的Intel Pentium 4-XEON處理器，以及Intel Northwood Pentium 4都提供了一種被稱為超線程(Hyper-Threading ^TM)的技術(shù)。該技術(shù)通過(guò)在一個(gè)處理器中封裝兩組執(zhí)行機(jī)構(gòu)來(lái)提高指令并行度，并依靠操作系統(tǒng)的調(diào)度來(lái)進(jìn)一步提升系統(tǒng)的整體效率。

由于線程機(jī)制是與操作系統(tǒng)密切相關(guān)的，因此，在本文的這一部分中不可能做更為深入地探討。在后續(xù)的章節(jié)中，我將介紹Win32、FreeBSD 5.x以及Linux中提供的內(nèi)核級(jí)線程機(jī)制(這三種操作系統(tǒng)都支持SMP及超線程技術(shù)，并且以線程作為調(diào)度單位)在匯編語(yǔ)言中的使用方法。

關(guān)于線程的討論就此打住，因?yàn)樗�更多地依賴于操作系統(tǒng)，并且，無(wú)論如何，操作系統(tǒng)的線程調(diào)度需要更大的開銷并且，到目前為止，真正使用支持超線程的CPU，并且使用相應(yīng)操作系統(tǒng)的人是非常少的。因此，我們需要關(guān)心的實(shí)際上還是同一執(zhí)行序列中的并發(fā)執(zhí)行和指令封包。不過(guò)，令人遺憾的是，實(shí)際上在這方面編譯器做的幾乎是肯定要比人好，因此，你需要做的只是開啟相應(yīng)的優(yōu)化；如果你的編譯器不支持這樣的特性，那么就把它扔掉……據(jù)我所知，目前在Intel平臺(tái)上指令封包方面做的最好的是Intel的C++編譯器，經(jīng)過(guò)Intel編譯器編譯的代碼的性能令人驚異地高，甚至在AMD公司推出的兼容處理器上也是如此。

5.5 存儲(chǔ)優(yōu)化

從前一節(jié)的圖中我們不難看出，方案2中，如果誰(shuí)的動(dòng)作慢，那么他就會(huì)成為性能的瓶頸。實(shí)際上，CPU也不會(huì)像我描述的那樣四平八穩(wěn)地運(yùn)行，指令執(zhí)行的不同階段需要的時(shí)間(時(shí)鐘周期數(shù))是不同的，因此，縮短關(guān)鍵步驟(即，造成瓶頸的那個(gè)步驟)是縮短執(zhí)行時(shí)間的關(guān)鍵。

至少對(duì)于使用Intel系列的CPU來(lái)說(shuō)，取數(shù)據(jù)這個(gè)步驟需要消耗比較多的時(shí)間。此外，假如數(shù)據(jù)跨越了某種邊界(如4或8字節(jié)，與CPU的字長(zhǎng)有關(guān))，則CPU需要啟動(dòng)兩次甚至更多次數(shù)的讀內(nèi)存操作，這無(wú)疑對(duì)性能構(gòu)成不利影響。

基于這樣的原因，我們可以得到下面的設(shè)計(jì)策略：

第一條規(guī)則比較簡(jiǎn)單。例如，需要求一組數(shù)據(jù)中的最大值、最小值、平均數(shù)，那么，最好是在一次循環(huán)中做完。

“于是，這家伙又?jǐn)�了一段代碼”……

Visual C++編譯器把最開始一段賦值語(yǔ)句翻譯成了一段簡(jiǎn)直可以說(shuō)是匪夷所思的代碼：

這段代碼是最優(yōu)的嗎？我個(gè)人認(rèn)為不是。因?yàn)榫幾g器完全可以在編譯過(guò)程中直接把它們作為常量數(shù)據(jù)放入內(nèi)存。此外，如果預(yù)先對(duì)a[0..9]10個(gè)元素賦值，并利用串操作指令(rep movsdw)，速度會(huì)更快一些。

當(dāng)然，犯不上因?yàn)檫@些問(wèn)題責(zé)怪編譯器。要求編譯器知道a[0..9]和[10..19]的內(nèi)容一樣未免過(guò)于苛刻。我們看看下面的指令段：

上面的程序倒是沒有什么驚人之處。唯一一個(gè)比較嚇人的東西是那個(gè)jmp SHORT指令，它是否有用取決于具體的問(wèn)題。C/C++編譯器有時(shí)會(huì)產(chǎn)生這樣的代碼，我過(guò)去曾經(jīng)錯(cuò)誤地把所有的此類指令當(dāng)作沒用的代碼而刪掉，后來(lái)發(fā)現(xiàn)程序執(zhí)行時(shí)間沒有明顯的變化。通過(guò)查閱文檔才知道，這類指令實(shí)際上是“占位指令”，他們存在的意義在于占據(jù)那個(gè)地方，一來(lái)使其他語(yǔ)句能夠正確地按CPU覺得舒服的方式對(duì)齊，二來(lái)它可以占據(jù)CPU的某些周期，使得后續(xù)的指令能夠更好地并發(fā)執(zhí)行，避免沖突。另一個(gè)比較常見的、實(shí)現(xiàn)類似功能的指令是NOP。

占位指令的去留主要是靠計(jì)時(shí)執(zhí)行來(lái)判斷。由于目前流行的操作系統(tǒng)基本上都是多任務(wù)的，因此會(huì)對(duì)計(jì)時(shí)的精確性有一定影響。如果需要進(jìn)行測(cè)試的話，需要保證以下幾點(diǎn)：

對(duì)于絕大多數(shù)程序來(lái)說(shuō)，計(jì)時(shí)測(cè)試是一個(gè)非常重要的東西。我個(gè)人傾向于在進(jìn)行優(yōu)化后進(jìn)行計(jì)時(shí)測(cè)試并比較結(jié)果。目前，我基于經(jīng)驗(yàn)進(jìn)行的優(yōu)化基本上都能夠提高程序的執(zhí)行性能，但我還是不敢過(guò)于自信。優(yōu)化確實(shí)會(huì)提高性能，但人做的和編譯器做的思路不同，有時(shí)，我們的確會(huì)做一些費(fèi)力不討好的事情。