2010年前後開始真正受到矚目的深度學習（Deep Learning），是人工智慧（AI）相關技術進化的關鍵期，透過機器學習得到的經驗，讓AI技術有了新的依靠。2016年的AlphaGo更是推波助瀾的重要突破，之後各種邊緣裝置（Edge Devices）出現在市場上，相關技術與半導體晶片的進展也受到矚目。
至於在半導體領域發展的特用AI晶片，則是一種特化型IC（ASIC），又可分為伺服器與邊緣端專用。目前大家關注GPU與CPU帶來的運算之爭，將來重心也會慢慢移轉到前端設備，這些都是重要的變化、挑戰，也是機會，而台商是海景第一排的有力角逐者。
AI半導體是指可以讓AI軟體與演算法可以更有效率執行的各種專用晶片。現有的泛用CPU，在處理大量數據時可能面對極限，也讓出更多機會給不同的微處理器，例如GPU、DPU與用於推論的NPU，特別是當初用來處理圖像的GPU，運用在AI上，竟有遠超過原來期待的功能。
特別是NVIDIA結合CUDA的軟體設計程式，造就了NVIDIA今天的盛況。除此之外，其他如現場可程式化邏輯閘陣列（FPGA）晶片也出現了新的契機。GPU與FPGA也都是泛用型IC，非只為某一客戶量身定製的ASIC。
ASIC是具有明確目標功能的系統半導體，目前最被看好的GPU結合了CUDA軟體，在市場上具有壓倒性優勢，而NVIDIA的財報也證明過去的投資與軟硬整合的優勢正在發酵中。
A100擁有6,912個CUDA Core與40GB HBM2記憶體，這套解決方案可以整合成一套超級電腦。2022年3月，NVIDIA推出效能比A100還要強大的H100。
根據IDC調查，全球AI資料中心的市場規模，將從2021年的156億美元，成長到2025年的318億美元，年均成長19.5%，遠高於傳統伺服器市場的10.7%。
至於AI晶片市場，各大顧問公司也有許多評估，多數看好未來幾年的成長，其中Gartner認為，AI晶片在2025年時可達700億美元，到2030年AI晶片市場總值將達1,179億美元，貢獻整個ASIC市場的31%。
由於看好AI晶片商機，從超微（AMD）、英特爾（Intel）這些NVIDIA傳統的競爭對手，到上游的Arm、新思（Synopsys），以至高通（Qualcomm）、博通（Broadcom）每一家公司都虎視眈眈，英特爾甚至透過購併Habana，希望加速軟硬整合的實力。
除此之外，美國、英國、法國都有很多新創公司嘗試開發出各種用途的AI晶片，中國當然也沒閒著。百度、華為、阿里巴巴、比特大陸等，都有明確規格與定義的AI晶片發展計畫。
此外，南韓記憶體雙雄在記憶體內運算（PIM）市場上著力更多。三星電子（Samsung Electronics）在2020年發表HBM-PIM的產品，讓晶片可以在沒有連結資料中心的情況下，獨立進行演算，對聲音、影像在裝置前端的應用上深具意義。
走在市場最前端的晶圓代工業、設計服務業者，大致可以維持應有的地位，但最受挑戰的是台灣IC設計產業。在晶圓製造領域，14奈米以下先進製程成為必要條件，擁有最先進製程的公司，仍將是市場上的寵兒。
台灣IC設計業雖只佔全球市場的18%，在前十大業者中有3家來自台灣，但台灣擅長替代型商機，而非定義市場，參與前端市場的角逐。
其次，業者面對人才短缺、成本激增、中國業者追擊等相關議題，真正有實力角逐頂級商機的廠商屈指可數。台灣的IC設計業者正積極趕上這一波大AI潮的滾滾商機。
最後，前端設備的多元需求，AIoT商機無可限量。IBM估計，物聯網終端設備總量從2020年的150億台，增加到2025年的1,500億台。10倍速成長加上多元商機，如何發展通用效益，又可以差異化設計的發展機制，是台灣業者最大的挑戰。
為擁有近40年資歷的產業分析師，一手創辦科技專業媒體《電子時報》（DIGITIMES），著有《矽島的危與機》、《東方之盾》、《斷鏈之後》、《科技島鏈》、《巧借東風》、《西進與長征》、《出擊》、《電腦王國ROC》、《打造數位台灣》、等多本著作。曾旅居韓國與美國，受邀至多家國際企業總部及大專院校講授產業趨勢，遍訪中國、歐美、亞太主要城市。
