Skip to main content
这些设置可在 system.settings 中查看,且由 源代码 自动生成。

ai_function_embedding_default_credentials

当调用未在其参数映射中传递 credentials 时,aiEmbed 使用的命名集合名称。留空表示没有默认值:此类调用必须显式传递 credentialsaiEmbedmodel 作为必需的位置参数传入,而不是从命名集合中获取。之所以与 ai_function_text_default_credentials 分开,是因为嵌入向量端点与聊天端点不同。

ai_function_embedding_max_batch_size

单个由 aiEmbed 发起的 HTTP 请求中最多可包含的文本数量。文本会按该大小分成批次,以减少 API 调用开销。例如,500 条唯一文本在批次大小为 100 时,会产生 5 个 HTTP 请求。

ai_function_max_api_calls_per_query

每次查询中,AI 函数可发起的 HTTP 请求最大数量。设置为 0 可禁用。

ai_function_max_input_tokens_per_query

单个查询中,所有 AI 函数 API 调用的输入 (prompt) 标记总数上限。该值根据提供商响应累计统计。请注意,由于单次调用的输入标记数事先无法得知,因此该限制可能会被超出一次调用对应的输入标记数。设为 0 可禁用。 此限制仅对在响应中返回 usage 对象的提供商生效 (OpenAI、Anthropic、vLLM) 。如果提供商未返回标记使用量 (尤其是 HuggingFace TEI) ,计数器将保持为 0——请改用 ai_function_max_api_calls_per_query 来限制此类调用。

ai_function_max_output_tokens_per_query

单个查询中,所有 AI 函数 API 调用产生的输出 (completion) 标记总数上限。该值会根据提供商响应中的数据进行累计统计。请注意,由于单次调用的输出标记数无法预先得知,因此实际输出可能会超出该限制一个调用的输出量。设置为 0 可禁用此限制。 此限制仅对在响应中返回 usage 对象的提供商生效 (OpenAI、Anthropic、vLLM) 。它不适用于 embedding 函数 (尤其是 aiEmbed) ,因为这类函数不会产生输出标记。

ai_function_max_retries

单个 API 请求在出现瞬时错误时的最大重试次数。每次重试都会采用指数退避,初始延迟由 ai_function_retry_initial_delay_ms 指定。

ai_function_request_timeout_sec

AI 函数发起的单个 HTTP 请求 (AI 聊天补全和 embedding API 调用) 的超时时间,单位为秒。如果请求未在此时间内完成,则会被视为失败,并可根据 ai_function_max_retries 进行重试。

ai_function_retry_initial_delay_ms

失败的 AI 函数 API 请求在首次重试前的初始延迟,单位为毫秒。之后每次重试时,延迟都会翻倍 (指数退避) 。例如,在默认设置下:1000ms、2000ms、4000ms。

ai_function_text_default_credentials

当调用未在参数映射中传递 credentials 时,文本 AI 函数 (aiGenerateaiClassifyaiExtractaiTranslate) 将使用此命名集合的名称。为空表示没有默认值:此类调用必须显式传递 credentials。聊天补全端点与嵌入向量端点不同,因此该设置与 ai_function_embedding_default_credentials 分开。

ai_function_throw_on_error

如果为 true (默认值) ,AI 函数调用在耗尽所有重试后仍永久失败时,会抛出异常并中止查询。如果为 false,失败的行会被赋予该列类型的默认值 (String 的默认值为空字符串) ,并继续处理。

ai_function_throw_on_quota_exceeded

如果为 true (默认值) ,当超出 AI 函数配额限制 (ai_function_max_input_tokens_per_queryai_function_max_output_tokens_per_queryai_function_max_api_calls_per_query) 时,查询会因抛出异常而中止。如果为 false,剩余行将接收该列类型的默认值 (String 的默认值为空字符串) 。
最后修改于 2026年7月24日