雅虎香港新聞 一文解釋終端裝置 AI 大模型意義所在｜有哪些優勢和用途？未來的發展前景
愈來愈多新手機直接內建 AI 大模型，這到底是怎麼一回事呢？
如果你有觀察過去幾個月裡陸續登場（以及即將登場）的諸多 Android 新旗艦，應該會發現各大廠商不約而同地都在強調一件事 — 終端裝置 AI 大模型。隨著高通 Snapdragon 8 Gen 3、聯發科天璣 9300 等行動 SoC 演算力的加強，以及各家 AI 方案的成熟，原本往往要連網經由第三方入口（比如 ChatGPT、文心一言）才能接觸到、多少還有點距離感的 AI 服務也開始越來越多真正「落戶」到手機裡面了。那所謂的終端裝置 AI 和內建大模型 LLM 的優勢究竟在哪？能為用戶帶來什麼不同體驗？未來是什麼發展方向？希望在閱讀本文後你能找到答案。
終端裝置內建 AI 大模型的優勢
首先要明確的一個概念是，終端裝置內建大模型和 ChatGPT 等雲端網路大模型並不是互斥的存在。目前晶片、終端廠商基本選擇的都是讓兩者互補、協同進化的策略，在硬體上部署終端裝置大模型的同時，背後也有更高參數量級的雲端大模型提供支援。以現有幾款正式在手機上推出的終端裝置大模型來看，參數大多集中在 60 億到 70 億的範圍，而其對應的雲端方案則都達到了超過 1,000 億的級別。
雖然運行環境被限制在裝置內的大模型不具備雲端方案那樣的通用知識、網路資源，但其在響應速度、運行成本、隱私安全和客製彈性上都更具備優勢。速度的部分很好理解，畢竟操作時省去了一個跟伺服器通訊的過程。而運行成本則主要是針對廠商而言，將一部分運算轉移到終端上後便可以減少伺服器算力的消耗。作為參考，ChatGPT 一次問答的成本就是幾美分，在付費使用者仍佔少數的前提下營運開支是非常可觀的。
因為不存在數據傳送的環節，裝置終端大模型的隱私保護自然也比雲端方案更為徹底。在這一基礎上，終端裝置大模型可以更加深度地與系統整合，廠方因而也能進行更適合自己的客製。此外在透過對用家習慣、偏好的學習後，終端裝置大模型亦能更好地滿足不同的個人化需求。在終端上積累起來的個人知識庫，日後在用家進行同品牌換機後應該也有繼續完善的可能。
終端裝置 AI 大模型的用途
基於前面提到的這些優勢，應用終端裝置大模型的 AI 服務主要是體現在系統整合層面。以筆者剛剛體驗過的 vivo 藍心小 V 為例，它對自然語義的理解明顯優於一般的虛擬助理，語音轉文字的速度也更快。因為擁有更高的系統權限，它也能直接搜尋、調用手機上的照片、文檔、訊息等內容，並進一步與系統或第三方 app 產生互動。比如在提取了訊息裡的地點、日期資訊後，你可以讓 AI 直接為你新建行事曆事項。
除此之外，終端裝置大模型也能完成一定難度的內容總結、圖像識別、圖文生成等任務。只是結果未必能達到高參數雲端大模型的水準，但勝在數據不會有外洩風險。在 Honor、OPPO、小米、華碩、Google 等品牌的產品上，筆者也見過用機內照片自動製作影片、通話/錄音摘要、遊戲助手、智慧回覆等功能。
總的來說，這一批 Android 新旗艦的終端裝置 AI 已在提升用機效率這件事上展現出了巨大潛力，某種程度上其甚至比配套的雲端方案更有意義。因為相較 ChatGPT、DALL-E 等通用型的明星產品，各家手機廠的雲端大模型成熟度還仍有差距。
終端裝置大模型的發展方向
可以預見到的是，未來高階行動晶片支援的終端裝置大模型會越來越強、參數會越來越多。上面提到的現有用途體驗將變得更好，在有了更多的運算力資源後，廠家的創新空間也將變得更大。當然，中階和低階手機應該也都能逐步受惠。和快充、高刷新率等特性一樣，裝置終端 AI 肯定也會慢慢普及開來。
另一邊廂，這項技術施展的舞台終究也將延伸到個人電腦（已有機器發表）、穿戴產品、IoT、汽車等更多領域。AI 以能被感知到的形式真正融入人們日常生活的日子，可能已經沒那麼遙遠了。
更多內容：
緊貼最新科技資訊、網購優惠，追隨 Yahoo Tech 各大社交平台！
🎉📱 Tech Facebook：https://www.facebook.com/yahootechhk
🎉📱 Tech Instagram：https://www.instagram.com/yahootechhk/
🎉📱 Tech WhatsApp 社群：https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8
🎉📱 Tech WhatsApp 頻道：https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D
