特徵
快-GenAI 最佳實踐,通過模型量化、模型編譯和模型推理技術,加速大模型的終端部署,可使原本需要幾個星期的工作量,縮短為一天。
全-全面的GenAI Model Hub ,是聯發科為開發者打造的模型庫,已適配包括:Meta Llama、百川大模型、阿里雲通義千問在內的全球主流大模型,開發者可以輕鬆獲取並使用這些不斷新增的大模型,進而降低模型部署的難度和複雜性。
強-強大的GenAI最佳化技術,已導入了多項業界最新、最快的軟體最佳化技術,包括“推測解碼加速”和“LoRA Fusion”等等,可顯著提升AI套用的生成速度,功能包所占用的存儲空間也可以大幅減少。
易-易用的Neuron Studio 集成開發環境,跳出傳統的代碼開發環境,可為開發者提供高度集成的,一站式、可視化開發環境 ,帶來“所見即所得”般更易用的開發體驗,讓開發過程變得更加直觀、易用。
套用
“天璣AI開發套件”為全場景終端的生成式AI套用開發提供強大的技術支持。已覆蓋包括智慧型手機、智慧型汽車、物聯網、個人電腦等智慧型終端設備,推動這些領域的AI套用快速創新落地。藉助“天璣AI開發套件”,聯發科希望幫助開發者們在搭載天璣晶片的終端上打造出更具創新性的用戶體驗,從而推動整個生成式AI生態的繁榮與發展。