Versun

文章：How to Make LLMs Shut Up

这是一篇来自Greptile公司的博客，讲述了他们是如何提高 LLM 在产品中的回复质量，减少无用/低效的回复。
分别尝试了3种方法：

1. 提高Prompt质量
2. 使用另一个 LLM 审核输出
3. 使用简单的聚类向量系统

最后测试下来只有第三种方法是有效的。

这和最近我在做的aicmt工具时，遇到的问题非常类似。
起初我将prompt优化到90%的效果后，无论再怎么优化prompt或者引入第二个AI都无法继续提升回复的质量，恰巧看到这篇文章后，准备试一试用向量过滤器看看效果