當前，新一輪科技革命和產(chǎn)業(yè)變革方興未艾，人工智能已逐漸發(fā)展成為帶動技術(shù)創(chuàng)新、推動產(chǎn)業(yè)升級的通用技術(shù)。為應(yīng)對人工智能所帶來的市場需求，主流IT廠商如谷歌、蘋果、亞馬遜、騰訊、百度、阿里等紛紛投入巨資自研AI芯片，AI芯片創(chuàng)業(yè)公司也不斷刷新融資紀錄，AI芯片設(shè)計和開發(fā)已儼然成為IT產(chǎn)業(yè)界的顯學。
AI應(yīng)用和模型在AI芯片上運行離不開編譯器的支持。面對AI芯片產(chǎn)業(yè)的快速擴張，芯片技術(shù)人才供不應(yīng)求，編譯器人才同樣嚴重匱乏，如何改善編譯器人才緊缺的局面成為急需解決的難題。編譯技術(shù)是一門不斷發(fā)展的技術(shù)，特別是針對新興的AI應(yīng)用，編譯器開發(fā)目標和方法出現(xiàn)了新的變化。AI編譯器一方面要實現(xiàn)AI應(yīng)用到芯片的自動化部署，另一方面要通過優(yōu)化算法與芯片架構(gòu)間的適配關(guān)系，協(xié)助提升AI應(yīng)用的執(zhí)行效率。市面上現(xiàn)有的編譯器類書籍大多偏重經(jīng)典理論和原理的闡述，這類書籍對于AI編譯器初學者建立編譯器相關(guān)基本概念當然是有幫助的，但因其滯后于AI芯片的發(fā)展形勢，在為AI編譯器開發(fā)提供可行的解決方案和指導建議方面力有不逮。因此，業(yè)界亟須一本完整介紹AI編譯器開發(fā)的入門指導書籍，引導初學者由基本的編譯器知識入手，逐步掌握AI編譯器開發(fā)的基本過程。本書綜合了各種現(xiàn)有的AI編譯器設(shè)計理論和實踐成果，旨在幫助初學者快速建立AI編譯器開發(fā)領(lǐng)域知識圖譜，理解AI編譯器開發(fā)的各種關(guān)鍵技術(shù)，并為AI編譯器實際開發(fā)過程中出現(xiàn)的問題提供有價值的指導和參考意見。
本書共分為7章，各章安排如下。
第1章從多個角度對現(xiàn)有AI編譯器進行分類，總結(jié)了AI編譯器通常采用的設(shè)計結(jié)構(gòu)和特征，并介紹了AI編譯器的產(chǎn)品設(shè)計和差異，以及GPGPU編譯器基本組成。
第2章以TVM、TensorFlow XLA和Glow三種AI編譯器為例，詳細介紹了AI編譯器的基本架構(gòu)設(shè)計和實現(xiàn)方法。
第3章專注于以TVM為代表的開源AI編譯器的實現(xiàn)分析及其定制化開發(fā)方法介紹。
第4章將GPGPU編譯器后端設(shè)計方法作為AI編譯器的重要補充加以闡述，重點分析了GPGPU編譯器后端重要的三個組成部分：指令選擇、指令調(diào)度和寄存器分配。
第5章針對引人注目的GPGPU張量核專用處理模塊，從張量核設(shè)計原理、編程方法和編譯器支持角度對其做了系統(tǒng)論述。
第6章在分析模型性能衡量方法和影響因素的基礎(chǔ)上，介紹了LLVM AMDGPU和TVM開源項目中的性能相關(guān)優(yōu)化方法。
第7章介紹了對AI編譯器設(shè)計有重要影響的軟硬件接口設(shè)計方法，著重介紹了AI編譯器與AI加速器硬件相關(guān)的接口設(shè)計和面向硬件的模型量化方法。
本書從開發(fā)實戰(zhàn)的角度出發(fā)，將抽象的編譯器概念，以源代碼、結(jié)構(gòu)框圖、流程圖等方式形象地表述，輔以開源項目中的源代碼分析，盡量避免煩瑣的公式推導，使讀者能通過實際例子對AI編譯器的開發(fā)有更直觀的認識，將AI編譯器原理與實踐緊密結(jié)合起來，提高開發(fā)者解決實際問題的能力。本書適合AI編譯器開發(fā)工程師、AI芯片架構(gòu)師、AI芯片設(shè)計工程師、算法優(yōu)化工程師、高等院校相關(guān)專業(yè)的本科生和研究生，以及其他對AI編譯器感興趣的人員閱讀學習。
AI芯片和編譯技術(shù)的發(fā)展日新月異，由于篇幅限制，書中僅闡述了當前主要和主流的AI編譯器相關(guān)技術(shù)，一些對AI編譯器有重要影響的技術(shù)，如MLIR、多面體模型等，書中未能充分論述。讀者若對更深入和專門的議題感興趣，可參考本書參考文獻中提供的相關(guān)論文和網(wǎng)址。本書中涉及的TVM、LLVM、NVDLA等開源項目源代碼可從https://github.com/apache/tvm、https://github.com/llvm/llvm�瞤roject和https://github.com/nvdla獲得。
本書重點、難點部分配有二維碼視頻，讀者可以掃碼觀看，本書附帶配套免費資源可掃描封底二維碼獲取，或從以下Github鏈接獲得https://github.com/frankwang0818/AI_compiler_development_guide。
囿于個人經(jīng)驗，書中難免有不準確甚至錯誤之處，歡迎讀者批評斧正。
感謝機械工業(yè)出版社策劃編輯李培培，從選題到定稿再到本書的出版，她都提供了非常專業(yè)的指導和幫助。
感謝我的家人的照顧和支持，讓我有時間和精力在工作之余完成本書的寫作任務(wù)。