滑铁卢华人, 水城百事论坛
+ 发帖 登录 注册
0

发现很多人其实是本地小模型特点如下: - 参数量极小:可能是2B - 训练集极小:甚至大部分都是污染数据 -预训练轮数少:通常不收敛 - 上下文极小:不超过500字 - 注意力:是稀疏的 - 联网搜索:是不会的 - 思维链:是没有的 - 输出:不是幻觉就是过拟合

匿名 · 2026-07-02 08:11 · 122 阅读 · #1535641

5 条回复

最早 最新 最高分
支持 [b]粗体[/b] [img]图片地址[/img] [url]链接[/url]
  • 0匿名 2026-07-02 09:06 #1535647
    哈哈哈,他们那点脑容量,可能连小模型都不如,不过2B是有的
  • 0匿名 2026-07-02 09:19 #1535649
    这个描述,估计它们脑子处理不了:-D :-D :-D
  • 0匿名 2026-07-02 09:47 #1535651
    千亿级别大模型训练完之后文件尺寸都不小。FP32:≈650GB,FP16:≈325GB,
    INT8:≈162GB,INT4:≈81GB。本机装的就几个G的文件,就不要指望有多么好的推理结果了