企业🤖AI智能体构建引擎,智能编排和调试,一键部署,支持知识库和私有化部署方案 广告
# Minhash Token Filter(Minhash过滤器) ## 简述 min_hash 过滤器将token流中每个token一一哈希,并将生成的哈希值分成buckets,以保持每bucket最低值的散列值。 然后将这些哈希值作为token(词元)返回。 ## 参数 | 设置 | 描述 | | --- | --- | | `hash_count` | 散列token流的散列数。 默认为`1` 。 | | `bucket_count` | 将minhash分成的bucket数。 默认为`512` 。 | | `hash_set_size` | 每bucket要保留的最小数量。 默认为`1` 。 | | `with_rotation` | 是否将空bucket中的第一个非空bucket的值填充到其循环右边。 仅当hash_set_size等于1时才生效。 如果bucket_count大于1,则默认为`true` ,否则为`false` 。 |