zjhzyhxxwzm:↑那个群我也没去过,我只是看到你说酒馆,突然想到的。vcrunyue:↑本地部署得看条件啊,7b幻觉太严重了,也太弱智,玩起来会很难受。目前见过最厉害但烧钱的方案,是opus4.7直接claude code里对话,无甲超长中文理解,1M上下文,长期记忆(本地记忆储存),但是太贵了。感谢指导,因为xp刚好是坛里类似“最强英雄系统”这种短篇诱惑章回集,感觉对模型的记忆力要求不是特别高,7b好像可以实现4k左右的记忆力量,感觉每个短篇才2k左右且关联性不高,想着会不会好使一些。幻觉和弱智就有点不太能理解了,我去找找你说的官方群看,看看有没有什么干货科普。
论坛不知道啊,电报的酒馆AI官方群里问下,可能会有人有。