隨著AI模型進入智能手機，圍繞數據安全性的論述也迅速增加。具有專用神經處理單元的高級設備能夠在設備本身上處理一部分AI任務，但依靠雲處理來執行更苛刻的任務。蘋果還通過將一些AI加工外包到打開AI的服務器來沿著相同的路線行駛。如果那是您的交易破壞者，那麼您可能會感興趣的一些解決方法。今天，我們為您帶來在當地使用Android手機上運行LLM的最簡單方法。
季風季節的十大有用小工具（2024）
MLC聊天應用程序值得一試嗎？
MLC聊天應用程序使您可以在Android手機上本地運行一系列LLMS。當然，這意味著您的Android手機需要具有由任務符合的強大處理器。運行Snapdragon 8 Gen 2或Gen 3的設備應適合此任務。但是，這並不意味著在使用Android旗艦上的有限資源運行語言模型時，您不會面對滯後或打ic。
幸運的是，MLC Chat有六個LLM可供選擇。這包括一些更受歡迎的模型，例如Meta AI使用的Llama 3。您還可以使用Microsoft的PHI 2等小型語言模型，以獲得更加順暢的體驗。不用說，您只能使用MLC CHAT與LLM進行文本對話。仍然不可能使用諸如圖像生成之類的更苛刻的任務僅使用設備資源。
步驟1：安裝您的Android手機上的MLC聊天應用程序使用此鏈接。
- -
步驟2：由於您是從第三方來源下載該應用的，因此您需要提供網絡瀏覽器允許從未知來源下載並安裝MLC聊天。
步驟3： 發射手機上的MLC聊天應用程序。
步驟4：瀏覽列表大型語言模型提供。在撰寫本文時，MLC CHAT上有6個LLM：Gemma 2B，Llama 2 7b，Llama 3 8b指示，Phi 2，Mistral 7b 7b指示和Redpajama Incite Chat 3B。
步驟5：點擊向下箭頭圖標在語言模型旁邊可以在您的設備上下載它。
步驟6：點擊聊天圖標與AI模型進行對話。
常見問題（常見問題解答）
如何在Android手機上運行設備AI模型？
在手機上下載MLC聊天應用程序，選擇一個LLM，然後點擊聊天圖標以啟動與AI模型的對話。所有的AI處理都將在您的設備上進行，並且不會將其外包給雲服務器。
我的手機需要有多大功能才能運行設備AI模型？
MLC聊天應用程序不需要專用的NPU在手機上運行LLM。但是，建議您使用帶有強大芯片組的智能手機，例如Snapdragon 8 Gen 2（或更高）。
WhatsApp上的Meta AI是否在我的設備上進行處理？
不，WhatsApp上的Meta AI聊天機器人將其處理到雲服務器的處理。您餵養的數據不限於您的設備。
如何使用Google密碼管理器（2024）與家人共享密碼
結論
這就是您可以在Android手機上本地運行設備LLM的方式。由於LLM非常有用，因此在設備上使用Llama 2（例如Llama 2）時，可以期待經常關閉。如果您的手機缺乏處理能力，我們建議使用PHI 2這樣的輕型LLM。