Apple 推出 OpenELM 開源大型語言模型,可在筆電和手機上運行

agoda

流量密碼 提供 科技娛樂流行穿搭影劇遊戲電競開箱資訊正妹網紅女神 等各類新聞資訊等,發燒話題永不退流行,讓您第一手快速掌握,快速更新文章及最新消息的發布就是我們的宗旨,只要隨時關注流量密碼資訊就是掌握 流量密碼

流量密碼推播群,掌握第一手資訊

這一年各大品牌可說都大力發展生成式 AI,像是微軟、Google、Meta 等,陸陸續續都推出多個版本的 LLMs 大型語言模型,而 Apple 就低調很多,即便 iPhone 16 系列有相關傳聞出現,也是沒有太多細節。終於在稍早,Apple 釋出全新「OpenELM」開源大型語言模型,而且還標榜是一款高校模型,可在筆電、手機這種硬體規格較低的設備裡離線運行,目前共有 4 種模型版本。

Apple 推出 OpenELM 開源大型語言模型,可在筆電和手機上運行 - 電腦王阿達

Apple 推出 OpenELM 開源大型語言模型,可在筆電和手機上運行

稍早 Apple 在 Hugging Face 分享全新 OpenELM 開源大型語言模型,全名是 Open-source Efficient Language Models,就如同名字上的高效,這是一款鎖定對硬體要求沒那麼高的設備,像是筆電、手機,相對模型的指令參數也沒那麼多。

OpenELM 開源大型語言模型共釋出 4 個版本,另外還有 4 個 Instruct 指令調教版本:

  • OpenELM-270M
  • OpenELM-450M
  • OpenELM-1_1B
  • OpenELM-3B
  • OpenELM-270M-Instruct
  • OpenELM-450M-Instruct
  • OpenELM-1_1B-Instruct
  • OpenELM-3B-Instruct

因此最大的模型參數也就是 3B(30 億),相較於其他高效能模型少蠻多的,這也是為什麼可在筆電和手機本地運行的原因。不過要注意是,這裡說的規格沒那麼要求,是跟電腦相比,如果是同等級,你所使用的筆電、手機硬體還是不能太差。

Apple 也有提供一些效能跑分測試分數,LLM360 訓練的前提下,最強 OpenELM-3B-Instruct 的 ARC-c 準確率為 47.70%,HellaSwag 常識推理測試為 76.87%, WinoGrande 數學推理則是 67.96%,所有測試的平均是 51.22%:
Apple 推出 OpenELM 開源大型語言模型,可在筆電和手機上運行 - 電腦王阿達

就以上分數來說,OpenELM 的效能不是說非常亮眼,但根據已經在測試的用戶反饋,模型是很可靠,但非常的一致:

目前 OpenELM 在 Hugging Face 還沒有 GGUF 格式,所以沒辦法直接透過 LM Studio、GPT4All、Jan 等這類軟體運行測試,必須透過指令來安裝,有興趣的人可以點我至 OpenELM 介紹頁面了解安裝步驟:
Apple 推出 OpenELM 開源大型語言模型,可在筆電和手機上運行 - 電腦王阿達

分享