SiS001! Board - [第一会所关闭注册]

标题: [转帖] [资源]免费！！隐私！！本地！！Llama 3大模型隐私机器人 [打印本页]

作者: jinyong 时间: 2024-4-30 18:10 标题: [资源]免费！！隐私！！本地！！Llama 3大模型隐私机器人

给大家分享一款很实用的软件， 免费！！隐私！！本地！！Llama 3大模型隐私机器人，无需 GPU 或互联网。

文章比较长，介绍的很详细，容易出问题的地方，都做了详细的解决办法，耐心对着做就ok

第一步下载、安装

https://gpt4all.io/index.html

windows、mac自行选择，本教程是windows版本

第二步（注意：这步需要开魔法，这里一定要注意，出现下载卡住，要注意网络环境）

双击桌面图标打开，勾选统一NO 不把数据上传数据库

然后会出现这个界面，我们输入Llama 3 ，进行模型下载

我这里选择的第一个8B模型，因为这个模型需要的电脑配置很低，如果有高级显卡的可以往下翻，自行选择

注意如果出现下载卡住，实在下载不了的，点击这里去官网手动下载

下载完成后，复制这里的路径，打开文件夹

然后把刚刚手动下载好的模型拖进去

然后点击刷新，再点击左边的选择模型就有了

第三步

关闭刚刚的模型下载，让他后台自动下载，我们点击右上角的设置

点击左边第二个选项

device 这里如果你的电脑有显卡，一定要选择对应的显卡，这样运行速度会快很多！！！

第四步运行

如果想让模型用中文回复，第一句话要输入：你好请用中文回复

接下来就可以随意使用啦

往期目录：

VAS视频生成字幕文件、字幕翻译、生肉片子加字幕教程，小白软件谁都能学会！
[bbs]thread-11904551-1-1.html[/bbs]

[ 本帖最后由内力煮火锅于 2024-4-30 19:34(GMT+8) 编辑 ]

作者: Was175 时间: 2024-4-30 20:24

求魔法上网靠谱方法

作者: OAHIHZNAW 时间: 2024-4-30 23:42

老哥，现在还有靠谱的可以搞黄色的模型吗

作者: cwhcpvrb 时间: 2024-5-2 05:07

需要什么配置呀

作者: 16104905 时间: 2024-5-2 17:11

这个可以的，一直想研究本地部署，就是不会弄。楼主的教程图文并茂

作者: jdh 时间: 2024-5-3 08:50

可以呀，一直想本地部署一个私人的

作者: manshang0803 时间: 2024-5-4 09:07

大佬，gpu显存要多少才够啊

作者: darkman 时间: 2024-5-5 11:04

论坛的大牛或者论坛组织人力做个没有限制的聊天女友，就是付费也有钱途！怎么一直没人做这个工作

作者: greptee 时间: 2024-5-5 22:42

感谢楼主大神分享，部署好之后，有好用的公网IP服务吗，想远程连一下ssh

作者: 804027539 时间: 2024-5-6 03:39

其实说真的，最近国内这个方面打的严，国外的又道德高，成气候的要不自我阉割，要不被喝茶，如果有人能在外面起一个ai宇宙那个水平的模型，搞个网站出来，这中间盈利空间是按百万起步的买卖，可惜又要大本钱，又要身在外，大部分人都是有心无力。

作者: cnwolf2012 时间: 2024-5-7 00:51

有趣,可以学习一下

作者: cnwolf2012 时间: 2024-5-7 00:52

有趣,值得好好学习一下

作者: shayilong 时间: 2024-5-7 22:21

已下载完指定的模型，但放入文件夹之后，点击刷新并没有检测到模型，请问作者有没有解决方法？
已解决，重启一下程序就可以读取到模型了

[ 本帖最后由 shayilong 于 2024-5-7 14:25(GMT0) 编辑 ]

作者: 黑暗之瞳 时间: 2024-5-27 16:43

安装失败，提示
无法下载存档https://gpt4aii.io/installer_repos/windows/repository/gpt4all/2.8.0lib.7z:连接关闭了

作者: khafHSfihaoisfh 时间: 2024-5-27 18:40

看着有点复杂，搞搞试试。果然有欲望才有学习的动力。

作者: 冰雪老猫 时间: 2024-5-27 20:10

小白想问问，这个是干什么用的，本地AI吗？用来干啥的啊，哪位大佬科普下呗

作者: smartter 时间: 2024-5-28 08:45

似乎选项不一样，只有一个Llama 3 instruct，不知道是不是系统做了更改。

作者: ssamuel 时间: 2024-5-28 10:01

试过了，很多模型都是根据国外环境训练的，回答问题要么不着边际，要么一本正经的胡说八道，想让他干点活写点总结、心得之类的，输出结果也远远不如文心一言之类的国内大模型。至于搞黄色，还是别想了，跟你聊天的是个太监。

举个栗子，用爱马仕模型(Hermes)：
问：黄山有哪些著名景点
答：如果你想在黄山旅行时看到最有代表性和美丽的地方，那么我会推荐：
1. 黄山主峰：这是黄山最高的点，海拔1435米。从此处可以一览无遗的景色。
2. 九寨涧：这里有着美丽的水falls和石桥，也是黄山最为人知的地方之一。
3. 青龙洞：这个洞穴在黄山中最大和最长，可以看到各种奇怪的岩石形状。
4. 玉屏山：这里有着美丽的湖泊、水falls和森林，是一个完全的风景区。
5. 天门：这座古老的城墙可以远望黄山的奇怪形状，也是黄山最为人知的地方之一。

问题是这几个答案里，九寨涧查无此地，青龙洞在四川、天门好像全国哪里都有，拿着这个去旅行大概率要抓瞎。

总之就是没啥可用性，和陪神经病人聊天差不多。

作者: 内力煮火锅 时间: 2024-5-28 12:04

引用:

原帖由 smartter 于 2024-5-28 08:45 发表 [bbs=redirect.php?goto=findpost&pid=113780275&ptid=11917984][/bbs]
似乎选项不一样，只有一个Llama 3 instruct，不知道是不是系统做了更改。

要输入关键词搜素，从搜索的结果里找，默认的那些模型效果都不怎么样。

作者: 黑暗之瞳 时间: 2024-5-29 12:59

如果上传数据库，会怎么样，好像还是不能写色情小说

作者: sesaqwd 时间: 2024-5-30 18:02

有模型真好。我也想来跑跑

欢迎光临 SiS001! Board - [第一会所关闭注册] (http://67.220.91.23/bbs/)