Skip to content

流式输出参数 incremental_output 无效 #4

Description

@rmrf2020

流式输出设置参数 incremental_output 无效

根据官方文档,incremental_output 默认为 False,但是实际上不设置也是全量返回的。就算手动设置 incremental_output=False,响应也是全量返回

版本

1.23.1

参考代码

response = Application.call(
        api_key='apikey'
        app_id='appid',
        stream=True,
        incremental_output=False,
        prompt='帮我搜索下最近的新闻'
    )
for chunk in response:
    if chunk.output.text:
        print(chunk.output.text)

部分响应日志

DEBUG:dashscope:Request body: {'model': '', 'parameters': {'workspace': None, 'incremental_output': False}, 'input': {'prompt': '帮我搜索下最近的新闻'}}
DEBUG:urllib3.connectionpool:Starting new HTTPS connection (1): dashscope.aliyuncs.com:443

DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 1, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 2, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 3, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '
', 'finish_reason': 'null', 'text': '根据当前的时间(202'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 7, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '
', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 11, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '
', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 15, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '
', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 19, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '
', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 23, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近可能的新闻方向'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 27, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近可能的新闻方向,尽管具体日期'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 31, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近可能的新闻方向,尽管具体日期超出了文档中的'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 35, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近可能的新闻方向,尽管具体日期超出了文档中的时间范围,但'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 39, 'model_id': 'qwen-plus'}]}, 'request_id': ''}
DEBUG:dashscope:Stream message: {'output': {'session_id': '', 'finish_reason': 'null', 'text': '根据当前的时间(2025年4月21日),以下是通过分析现有文档总结的一些最近可能的新闻方向,尽管具体日期超出了文档中的时间范围,但可以推测一些持续'}, 'usage': {'models': [{'input_tokens': 490, 'output_tokens': 43, 'model_id': 'qwen-plus'}]}, 'request_id': ''}

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions