登录注册
我成功在手机端离线部署了大语言模型
剑盾
无师自通的龙头选手
2023-06-04 15:13:13

今天我离线部署了一个大语言模型苹果11上成功运行了

部署后长这样


不需要联网我录了视频详细问了几个问题但雪球好像发视频还要开通我没搞就截视频里的图吧

总的来说英文回答没问题中文因为语料原因有缺陷但是也还可以

不多说直接上图


第一个问题让他写个代码反转字符串

然后回答


第二个问题让他讲故事


也没问题而且回答的长度超预期了特别完整就不全部放出来了

第三个让他写巧克力蛋糕制作过程

根本难不倒他

但到这里开始手机开始变得很烫很卡

还是对硬件有要求的我的11可能还是不太行后面几代手机应该压力不大

接下去用中文提问了让他解释人工智能和应用


回答也很长

之后让他写一段中文的情景对话很魔性给我看笑了英文还好中文训练不够


之后让他想一个去巴黎旅行一周的计划也不错


最后我还想问一个和朋友吵架了该怎么办但是突然就黑屏闪退了手机太烫了11可能是刚好能够运行那样再次运行进去历史记录就没了

目前来看还有很多缺陷

但这一小的成功步代表了可行性代表了未来广阔的空间

未来都可以离线部署的话

我想肯定可以做到人人自定义地打造自己的助手

离线存储就可以问任何内容不用怕隐私问题

企业内部也可以专门自己搞一个了专门自己企业用不怕数据泄露

各种仪器自己能读懂自己的数据了交互也方便很多

无人的一些设备单机游戏npcarvrmr这些虚拟现实设备各种物联网设备电子阅读器广告屏智能家居的全部……

可以有很多场景未来肯定会被开发出来

其实能离线也能在线是最好的状态速度会很快功能也可以很强兼顾隐私安全没人规定一定要全部云端也不是全部边端远近结合强弱合作大小通吃

这才是未来的生态吧

$全志科技(SZ300458)$ $广和通(SZ300638)$ $美格智能(SZ002881)$ #上证指数#

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者持有相关标的,下一个交易日内没有卖出计划。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
全志科技
S
美格智能
S
广和通
S
中天科技
S
奋达科技
工分
26.08
转发
收藏
投诉
复制链接
分享到微信
有用 31
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(14)
只看楼主
热度排序
最新发布
最新互动
  • yyy
    超短追板
    只看TA
    2023-06-04 22:10
    这就叫边缘计算?
    1
    0
    打赏
    回复
    投诉
    于2023-06-05 08:02:20更新
    查看1条回复
  • 只看TA
    2023-06-04 18:00
    怎么部署的,大神
    1
    0
    打赏
    回复
    投诉
    于2023-06-04 18:16:23更新
    查看1条回复
  • 只看TA
    2023-06-04 17:19
    可以用来编程序吗,例如选股公式
    1
    0
    打赏
    回复
    投诉
    于2023-06-04 18:31:07更新
    查看1条回复
  • 只看TA
    2023-06-04 15:25
    貌似不错
    1
    0
    打赏
    回复
    投诉
    于2023-06-04 15:28:33更新
    查看1条回复
  • 只看TA
    2023-06-05 11:55
    厉害了,完全离线。
    1
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-06-04 20:41
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-06-04 19:35
    感谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-06-04 16:41
    谢谢
    1
    0
    打赏
    回复
    投诉
  • 1
前往