由於全球產業對生成式AI、大語言模型（LLM）與數位轉型需求的快速成長，讓今年的COMPUTEX成為全球科技業關注焦點，更讓台灣資通訊產業成為各國媒體報導重要議題。

為延續COMPUTEX展覽能量，積極面對AI新工業時代，台灣資通訊產業可能遇到的機會與挑戰，台北市電腦公會日前（TCA）主辦，台灣玉山科技協會協辦，「迎向AI新時代－從COMPUTEX看台灣資通訊產業的下一步」產業座談，雖碰到凱米颱風進逼，仍吸引了多家中外媒體與貴賓到場。

座談會由資策會產業情報研究所（MIC）資深產業顧問兼所長洪春暉，以「從COMPUTEX看台灣資通訊產業的下一步」為主題進行專題演講，分析台灣資通訊產業未來優勢，探討生成式AI趨勢及資通訊產業生態系演進，並邀請TCA榮譽理事長暨台灣玉山科技協會理事長童子賢、宏碁營運長高樹國、神通資訊董事長蘇亮、台智雲策略長李立國、所羅門董事長陳政隆與耐能智慧董事長劉峻誠進行座談。

台北市電腦公會理事長彭双浪表示，從今年COMPUTEX展出的內容，讓許多人知道，算力就是國力，算力也需要電力，所以賴總統在開幕典禮就承諾，台灣一定會有足夠的電力，期待除足夠的電力外，希望有足夠的綠電與更好的能源配比，政府更承諾在未來會有更多的低碳能源，而另外一個關注重點就是人才培育。

彭双浪指出，「算力」、「電力」、「人才」這三力，能促進台灣資通訊產業，在AI新時代更進一步發展；透過大家共同討論台灣資通訊產業下一步發展，一起提升台灣三力，進一步提升台灣地位，提升台灣產業競爭力，並把今年COMPUTEX展會創造出來的氣勢，能夠繼續延續下去，更希望能變成台灣產業的氣勢。

　　工業電腦大廠NEXCOM新漢集團以及AI晶片開發新創公司耐能智慧7 月11日簽署合作意向書（MOU），建立雙方在Edge AI邊緣運算領域的 合作關係，未來NEXCOM新漢集團利用自身在產業垂直應用的深厚經驗 與耐能智慧在人工智慧領域的前沿技術，共同打造專為終端應用市場 所量身設計的AIoT智慧物聯網解決方案。

　　耐能智慧的NPU晶片具備低能耗、高隱私性和彈性客製的特性，結 合NEXCOM新漢集團在應用市場積累的AI系統整合經驗，共同合作硬體 系統的設計製造、邊緣AI運算與邊緣GPT應用開發、系統化AI產品共 同行銷等，將全面為AI金礦－各類大數據應用提供多樣化的邊緣應用 及卓越的AIoT開發平台。

　　NEXCOM新漢集團董事長林茂昌表示，AI發展浪潮將持續推演，科技 大廠間無論是AI雲服務或是AI伺服器供應鏈，現階段都只停留在基礎 建設的軟硬體供給，而放眼未來AI垂直應用與邊緣整合的龐大需求， 才是新漢集團所看見與專注投入的持續性藍湖市場。

　　林茂昌強調，未來將整合雙方資源，包括軟硬體運算平台技術整合 、業務通路與行銷活動串聯、並以聯名方式推出Edge AI運算平台產 品線，耐能智慧會是NEXCOM新漢集團在Edge AI／Edge GPT發展中最 重要的策略夥伴。

　　耐能智慧董事長劉峻誠提到，耐能智慧致力於發展AI前端技術，在 技術應用場域的落地需要豐富經驗的強力夥伴，整合雙方在軟、硬體 的技術優勢才有辦法面對客戶實際應用需求。NEXCOM新漢集團除了擁 有在物聯網深厚的產業技術實力外，更協助無數企業進行物聯網數位 轉型，未來強強聯手、加乘效應可期。

　　總部位於美國聖地牙哥的人工智慧公司耐能智慧於COMPUTEX2024上 宣佈推出最新的邊緣AI伺服器及一款內置耐能AI晶片的PC設備。KNE O330是耐能最新且第二款端側GPT伺服器。首款產品KNEO 300於2023 年推出，已在製造業、金融服務和大學教育領域擁有企業客戶，包括 史丹佛大學和加州大學洛杉磯分校。KNEO 330擁有48TOPS的AI計算能 力，最多可支持八個併發連接，支持LLM和Stable Diffusion。在較 低的硬體條件下，其RAG精度與雲端解決方案相當，大幅降低了小型 企業的整體AI成本，降幅可達30％～40％。

　　與大多數雲解決方案相比，KNEO 330實現了更簡單的集成和分層許 可權管理，極大地提高了隱私和安全性。其全面的功能包括多模態G PT的離線版本。耐能智慧創辦人兼執行長劉峻誠表示：「AI近期蓬勃 發展，強大的AI模型發展速度超出了許多專家的預期。平衡AI的道德 倫理與盈利驅動是AI真正的挑戰。諸如訓練AI模型所需的電力和數據 以及AI幻覺的潛在問題等擔憂都是現實問題。我們相信我們的產品是 解決當前GPT ESG和能耗問題的關鍵。」

　　除了KNEO 330耐能還推出搭載第三代NPU晶片KL830的PC設備。AIP C的時代已經來臨，根據IDC報告，銷量預計將從2024年5000萬臺增長 到2027年的超過1.67億臺，占整體個人電腦市場的60％以上。同時G artner機構預測2024年全球AI個人電腦和AI智慧手機的出貨量將達到 2.95億臺，比2023年的2900萬臺增長十倍多。KL830使得低成本AIPC 成為可能，將為更廣泛的消費者群體帶來AI的普及和應用。KL830提 供高達 10eTOPS@8bit 的綜合計算能力（CCP），峰值功耗僅為2W， 將使個性化GPT成為現實。

　「AI串聯，共創未來」AIGC和大語言模型的崛起，正逐漸成為推動 智慧化轉型的關鍵力量。在這個發展趨勢下，耐能智慧即將於6月4日 亮相於2024年臺北國際電腦展，並在AI計算暨系統解決方案區N1223 號展位，展示各種耐能最新技術和先進解決方案的領先客戶產品，以 及耐能如何將其應用於各種行業，以實現更智慧、高效的解決方案。

　　耐能此次將展出EDGE GPT解決方案，能夠離線進行即時的數據分析 和智慧決策，大幅降低了企業及科研機構資料洩露風險，亦可以相容 於公司既有的權限存取管理，安裝於公司防火牆之後，無聯網需求， 避免資安問題。該產品具備大算力、高性能、低功耗、易部署、隱私 安全等特點。

　　AI PC方案：隨著AI大語言模型的迅猛發展，為PC端實現人機交互 的智慧化提供了必要的技術基礎，耐能與PC產業鏈緊密合作，推出基 於耐能新一代KLL830晶片的AI PC方案，以支持在PC終端上部署本地 RAG及大語言模型能力。即使在離線狀態下，也能在AI PC設備上運行 大規模語言模型，實現更專業的本地知識庫問答及智慧文檔管理和搜 索。

　　AI板卡（GPU+NPU）：採用耐能可堆疊架構的KLL830，提供高達40 TOPS等效算力的板卡，體積小、性能強、功耗低，使得邊緣設備承載 大模型能力成為現實，可用於PC，工業電腦或是終端伺服器上。

　　汽車智慧駕駛：耐能帶來的智慧輔助駕駛方案，透過成熟的ISP及 AI演算法，有效監測駕駛員狀態並適應行車過程中「隧道場景」、「 逆光」等複雜光線場景。支持120db寬動態、星光級低照，並可識別 人、車、標誌和障礙物等。

　　AI物聯網：基於耐能AI Soc和高能ISP演算法的IP Cam及諸多智慧 場景方案，覆蓋了門禁，全場景會議，及紅外熱成像監控場景。滿足 客戶多種複雜安防環境及智慧需求。具備離線運算，以及高精度、低 延遲等優勢。

AI晶片新創耐能智慧創辦人暨執行長劉峻誠昨（27）日表示，神經處理單元（NPU）可取代繪圖處理器（GPU），讓生成式AI應用更多元化，能耗、成本都較低，是可推動AI普及、性價比（C╱P值）最高的下世代AI解決方案。

劉峻誠在專題座談上，暢談如何透過NPU，協助企業在切入AI應用的同時，解決最關鍵的能耗問題。

劉峻誠舉例，進行一次ChatGPT搜尋所消耗的電，能將一隻小雞烤熟，耗電量相當龐大，而廣達先前在伺服器中導入耐能產品，發現降低75%至80%的能耗，中華電信導入後，營運成本也降低85%

劉峻誠表示，耐能2015年就開始做NPU，雖然不像通用型GPU，但專攻AI應用，多年來一直想告訴市場，「這是最適合AI時代的解決方案」，而去年底英特爾也開始走向NPU。

除了能耗問題外，劉峻誠指出，從目前金融業、製造業上看到的痛點之一，就是機密資料無法傳輸上網，而NPU是封閉式的AI，相對沒有資安問題，也不會像開放式AI一般，被大眾餵養大量錯誤資訊後，產生錯誤判斷。

劉峻誠說，今年COMPUTEX中，將揭露與筆電廠、板卡廠、車廠等產業的合作計畫，他認為，NPU將是下世代AI應用的趨勢，「我們畢竟是先行者，這也是我們的機會」。

　　人工智慧AI及雲端服務成為企業數位轉型的主軸，新創公司iKala 愛卡拉也獲電信公司青睞，下周將宣布獲中華電信策略性投資。除了 引進中華電成為股東，未來中華電信的雲端客戶，若有AI導入及相關 需求，iKala愛卡拉將可提供資源和服務。

　　iKala共同創辦人暨執行長程世嘉在台灣軟體界也頗有名氣。他畢 業於台大資管系，取得美國史丹佛電腦碩士學位，曾在Google美國總 公司工作，回台灣後加入剛成立不久的Google台灣辦公室，成為第三 號員工，曾投入Google Map及Android相關的專案。2012年時轉戰iK ala擔任執行長，加入新創公司的行列。

　　iKala愛卡拉目前主要的服務為雲端服務、大數據行銷，並提供企 業AI轉型解決方案。目前已協助逾1,000家亞太區企業客戶數位轉型 。

　　未來獲中華電信策略投資後，雙方將在雲端、AI兩大面向的合作。 ikala與中華電預計3月26日召開記者會，對外宣布投資案及策略合作 內容。而出席者除了iKala共同創辦人程世嘉、iKala董事簡立峰，還 有中華電信的主管。iKala目前主要股東包括緯創數技投資控股、耐 能智慧、M17等。

　　這也是繼雲端服務公司萬里雲（Cloud Mile）2022年獲台灣大共1 ,544萬元的投資後，又有電信公司投資新創公司，布局雲端及AI事業 。而另一家電信公司遠傳旗下的雲端服務商博弘科技則是於年初時登 錄興櫃。

AI新創業者耐能智慧（Kneron）創辦人暨執行長劉峻誠最近很火紅 ，成大電機系92級畢業的他，不只受到母校歡迎，清大及交大也爭相 邀約他到學校講座，他將演講的PPT寫成書，成為熱門的AI教科書。

　　劉峻誠為何炙手可熱？因為他是AI晶片量產先驅。他日前在成電論 壇演講時透露，當初宣布推出AI晶片時，大家都笑他，但現在耐能智 慧的晶片，效能卻可以跟世界一級大廠平起平坐。

　　劉峻誠日前在成電論壇以「個人化GPT：未來在終端」為題進行分 享，他一上台，就為現場展示沒有連接網際網路的「私有化GPT」， 舉凡搜尋世界名人相關資料、語言翻譯或寫程式等，該GPT的回覆時 間都很即時，甚至可以一張他自己的照片，同時化身成年輕人、老年 人，流利地口說國、台語及英、日語，英文如果覺得不夠標準，也可 以馬上調整口音。

　　劉峻誠強調，這些技術透過小型電路，就能實現，而且沒有風扇、 可以像積木一樣堆疊，符合各式市場需求，引發現場與會人士諸多好 奇。

　　當有人詢問他，為何耐能智慧的神經網路處理器（NPU），以小小 一個盒子，可以做到需要大型AI伺服器、好幾顆GPU晶片運行的算力 ？劉峻誠直白地回答說：「因為我們很厲害。」

　　耐能智慧自2015年成立，迄今已經獲得了超過1.9億美元融資，並 得到了李嘉誠旗下的維港投資、高通、紅杉資本、富士康、和順興基 金、光寶、華邦、旺宏、台達電集團等企業的支持。

　　耐能智慧自研的高能效輕量級可重構神經網路架構，解決了邊緣A I設備所面臨的三個主要問題，亦即延遲、安全性和成本。

　　隨著資料 量爆炸性增加，人們面臨著終端和雲端之間的資訊傳遞 延遲，迫切需要即時決策，而網絡延遲則需要極力縮小。

　　而ChapGPT聊天機器人的崛起，證明AI在以前被認為無法替代的知 識型工作中的能力。但基於意識形態的模型訓練結果，需要謹慎校正 ，以免引發隱私問題。

　　此外，AI應用的爆發式發展，也產生了巨大的能源消耗，未來 電 費將占據整體運維成本的40％。目前碳中和已是大勢所趨，全球範圍 內的多家大型公司已要求其供應鏈實現淨零排放，以促進可持續的綠 色發展。

　　更高算力，更優異的性能及更實惠的成本，都是客戶考慮的因素， 也對AI晶片提出了更高的要求。

　　劉峻誠指出，終端算力NPU可同時解決延遲和隱私揭露問題，通過 在邊緣運行AI演算法，實現最小延遲，成本效益顯著。

　　耐能智慧近期推出最新的超輕量級AI晶片，將Transformer（通常 應用於語言處理）應用於圖像處理上，充分發揮了Transformer處理 時間序列和整體圖像數據的能力。

　　通過提高上下文處理和數據處理能力，耐能至少提高了30％的圖像 處理應用準確度，這對於實現自動駕駛來說，是一項重大進步。

　　劉峻誠說，耐能智慧的車規AI晶片，可以跟世界級的晶片廠一起競 爭，因為其測試地點在台灣，台灣的摩托車騎士技術高超，可以充分 展現自動駕駛方面AI晶片的辨識能力。

　　雖然GPU晶片目前在市場上占據主導地位，但耐能智慧正在開發更 多適合人工智慧計算的NPU晶片，劉峻誠信心滿滿地認為，耐能智慧 AI晶片與CPU及GPU不同，可以做到私有化及安全性，他相信，未來A I晶片將是由耐能智慧定義。隨著AI需求的爆發，該公司仍有無限延 伸的可能性。