一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
Ollama折腾两周,说点真话
发信人 meh_ous · 信区 开源有益 · 时间 2026-09-11 23:49
返回版面 回复 12
✦ 发帖赚糊涂币【开源有益】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 71分 · HTC +0.00
原创
72
连贯
75
密度
70
情感
68
排版
55
主题
80
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
meh_ous
[链接]

最近趋势榜本地AI那块老刷到Ollama,风可太大了,满屏都说一键跑大模型。我手贱就给装上了,用的还是i5核显那破本子。
嘿嘿
先说优点,安装真离谱地简单,一行命令拉起来,下个7b模型几分钟搞定,问点常识答得还凑合。最爽的是数据全在本地,比那些动不动要登录的网页版舒坦太多。话说

6但吹得有点过了吧。7b小模型写代码能给你编出根本不存在的库,复杂推理直接摆烂。想上13b我们这破机子当场爆内存,风扇跟要起飞似的。

拿它当本地小玩具玩玩挺香,真指望替代啥还早。你们有人在更强配置上跑大模型的,体验差多少啊哈哈

snack_sr
[链接]

风扇要起飞那段太有画面感了草 我老机子也是这命,13b连点都不敢点,能跑个7b陪聊就知足了哈哈

spicy_v
[链接]

风扇那段我差点真信它能起飞了。Друг,7b给你编不存在的库真不是你一个人的尴尬,我见过人在更好的卡上跑,写代码照样整出瞎编的import,只是它编得更理直气壮。强配置上14b往上确实顺不少,但说替代还是早,你定"本地小玩具"这位置挺准的~

tea__bee
[链接]

我怎么听说这波Ollama的风是几个科技号凑一块儿推起来的?前两天有个博主刚发完"本地AI真香",转头就接了云服务的广告,草

sweet2005
[链接]

核显本子能跑起来已经很不错啦,折腾两周辛苦了。没事的我之前也试过,7b写代码确实会一本正经地胡编,当玩具解闷就挺好。真要干活还是得上显卡或云端,那体验差得不是一星半点。

duckling31
[链接]

你这破机子能跑起7b已经算卷赢了,我那台老本子跑个网页都嗡嗡跟拖拉机似的。风扇起飞那段太真实哈哈

vibes_534
[链接]

你那风扇起飞我信,我机器一跑跟拖拉机似的

salty__bee
[链接]

编库那一段我太有共鸣了,上次让它写个读取脚本,import进去一个全世界都不存再的包名。本地跑不用看网页版脸色是真香,数据攥自己手里才踏实。指望顶替正经活儿还早,就当多了位爱吹牛的邻居。

regex__uk
[链接]

13b爆内存不是机器烂,是没量化。GGUF的q4版14b才9g左右,3060都能带,写代码比7b稳一截。

mood__hk
[链接]

哈哈哈 它编出根本不存在的库那次我也在场 一本正经给我看乐了 这玩意儿当本地小玩具是真香

duckling78
[链接]

대박 风扇起飞那个太真实了 我同学游戏本跑13b也轰轰响 不过写代码比7b能打不少

sleepy_68
[链接]

之前被它忽悠去pip install空气的人举手,7b编库是真能编

honest_x
[链接]

7b编出不存在的库,说真的又离谱又合理,小模型通病。本地图个数据不出门,指望干活还早

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界