Phi-3是什么?
微軟公司于04/23宣布推出了Phi-3系列人工智能模型,這是迄今為止該公司創(chuàng)建的最小的人工智能模型。Phi-3模型作為目前功能最強大、最具成本效益的小型語言模型,得益于Microsoft研究人員開發(fā)的創(chuàng)新訓(xùn)練技術(shù),Phi-3在各種基準(zhǔn)測試中表現(xiàn)優(yōu)異,包括語言評估、編碼和數(shù)學(xué)能力評估,超越了同尺寸甚至更大尺寸的其他模型。
Phi-3的優(yōu)勢?
目前,微軟僅發(fā)布了Mini版本,該版本包含38億個參數(shù),性能比兩倍大小的模型更出色,而且還可以在手機上運行!
Phi-3模型將在Microsoft Azure AI模型目錄、Hugging Face(機器學(xué)習(xí)模型平臺)以及Ollama(用于在本地計算機上運行模型的輕量級框架)上提供。此外,它還將作為NVIDIA NIM微服務(wù)提供,具備標(biāo)準(zhǔn)API接口,可在任何地方部署。
微軟還宣布將推出Phi-3系列的其他型號,以提供更多選擇。預(yù)計很快將在Azure AI模型目錄和其他模型平臺上推出Phi-3-small(70億個參數(shù))和Phi-3-medium(140億個參數(shù))。
如何下載、安裝和使用Phi-3 Mini?
1.下載LM Studio
首先,您需要下載并安裝LM Studio,您可以通過訪問LM Studio官網(wǎng)(lmstudio.ai)下載適用于您操作系統(tǒng)的版本。
2.登錄Hugging Face
在瀏覽器中輸入huggingface.co進入網(wǎng)站,或者直接訪問。
鏈接:
https://huggingface.co/collections/microsoft/phi-3-6626e15e9585a200d2d761e3
3.下載Phi-3 Mini 模型
在搜索框中輸入“Phi-3”進行搜索。在搜索結(jié)果中,找到名稱為
microsoft/Phi-3-mini-4k-instruct-gguf的模型,選擇并下載最新版本,通常標(biāo)有“最新”或具體的版本號,如Q4,因為它只有2.32GB。
請注意:Phi-3 7B Mini的某些版本可能針對性能進行了優(yōu)化,例如提供更快的處理速度或更低的資源消耗,因此請根據(jù)您的需求選擇合適的版本。
4.開始使用Phi-3 Mini 模型
模型下載和安裝完成后,您可以立即開始使用Phi-3 Mini模型。在LM Studio的左側(cè)菜單中,點擊“AI Chat”標(biāo)簽,然后在頂部的模型選擇欄中選擇Phi-3 Mini模型,此時您就可以進行使用了。