手机就能跑！开源AI机器人MLC LLM发布：无需联网
(相关资料图)
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
责任编辑：
关键词：
推荐阅读
快科技5月2日消息，近日，一个名为MLCLLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的
2023-05-02 21:42:42
据台媒报道，25家美国军火商预计于5月2日派代表团访问台湾，讨论合作生产无人机与弹药事宜。其中，洛克希德
2023-05-02 20:32:26
疑似“横店插队母女”发文称遭网暴，东阳文旅局：双方都正常游玩未投诉,横店,游玩,秦王宫,横店影视城,广州
2023-05-02 19:30:28
5月2日，知情人士透露，苹果公司新推出的高收益储蓄账户在上线前四天就吸引了高达9 9亿美元的存款。仅在启
2023-05-02 18:07:23
5月2日，中国从苏丹撤离的部分人员从沙特吉达阿卜杜勒阿齐兹国王国际机场乘坐中国国际航空CA090临时航班启
2023-05-02 13:55:06
作为国乒女队的两位边缘主力，王艺迪和陈幸同实力相差无几，在去年的成都世乒赛期间，两人都虽然都随队获得
2023-05-02 12:53:00
76人119-115绿军！可怕的不是哈登砍45分，而是苏群赛后的这番话,苏群,绿军,记者,恩比德,霍福德,76人队,美国
2023-05-02 11:56:12
极目快评|武生裤子脱落继续翻跟头，认真坦荡的人都会赢得满堂喝彩---京剧演出舞台上，一名武生翻跟头时裤子
2023-05-02 09:43:33
一、云南省临沧市天气预报1、沧源县气象台2023年5月2日02时02分发布雷电黄色预警信号。2、预计未来6小时，
2023-05-02 02:44:03
资讯
品牌
