天璣AI開發套件

天璣AI開發套件

“天璣AI開發套件”是聯發科在天璣開發者大會2024(MDDC 2024)上發布的面向全球開發者的終端生成式AI套用開發的一站式解決方案。“天璣AI開發套件”包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI最佳化技術和Neuron Studio 一站式視覺化開發環境等四大模組,為廣大開發者提供“快、全、強、易”的專業開發體驗,賦能終端生成式AI套用開發全流程。

基本介紹

  • 中文名:天璣AI開發套件
  • 套用領域:智慧型手機、智慧型汽車、物聯網、個人電腦等智慧型終端設備
特徵,

特徵

快-GenAI 最佳實踐,通過模型量化、模型編譯和模型推理技術,加速大模型的終端部署,可使原本需要幾個星期的工作量,縮短為一天。
全-全面的GenAI Model Hub ,是聯發科為開發者打造的模型庫,已適配包括:Meta Llama、百川大模型、阿里雲通義千問在內的全球主流大模型,開發者可以輕鬆獲取並使用這些不斷新增的大模型,進而降低模型部署的難度和複雜性。
強-強大的GenAI最佳化技術,已導入了多項業界最新、最快的軟體最佳化技術,包括“推測解碼加速”和“LoRA Fusion”等等,可顯著提升AI套用的生成速度,功能包所占用的存儲空間也可以大幅減少。
易-易用的Neuron Studio 集成開發環境,跳出傳統的代碼開發環境,可為開發者提供高度集成的,一站式、可視化開發環境 ,帶來“所見即所得”般更易用的開發體驗,讓開發過程變得更加直觀、易用。
套用
“天璣AI開發套件”為全場景終端的生成式AI套用開發提供強大的技術支持。已覆蓋包括智慧型手機、智慧型汽車、物聯網、個人電腦等智慧型終端設備,推動這些領域的AI套用快速創新落地。藉助“天璣AI開發套件”,聯發科希望幫助開發者們在搭載天璣晶片的終端上打造出更具創新性的用戶體驗,從而推動整個生成式AI生態的繁榮與發展。

相關詞條

熱門詞條

聯絡我們