[Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 #436

CyanMystery · 2023-06-20T08:34:56Z

What would you like to be added?

我想它应该支持流式输出使用yield返回，因此，处理llm('hello')这样调用之外，最好能使用llm.custom_func()调用

Why is this needed?

支持流式输出

Anything else?

No response

SimFG · 2023-06-20T08:48:24Z

@jiangbossB It's a great advice!

SimFG · 2023-06-26T02:55:30Z

If you want to support streaming output, this should be supported in langchain, such as returning a generator

CyanMystery changed the title ~~[Enhancement]:llm('hello')这样调用会执行_call()方法，但是它只能returern 一个str类型~~ [Enhancement]:llm('hello')这样调用会执行_call()方法，但是它只能return 一个str类型 Jun 20, 2023

CyanMystery changed the title ~~[Enhancement]:llm('hello')这样调用会执行_call()方法，但是它只能return 一个str类型~~ [Enhancement]:llm('hello')这样调用会执行llm的_call()方法，但是它只能return 一个str类型 Jun 20, 2023

CyanMystery changed the title ~~[Enhancement]:llm('hello')这样调用会执行llm的_call()方法，但是它只能return 一个str类型~~ [Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 Jun 20, 2023

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

[Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 #436

[Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 #436

CyanMystery commented Jun 20, 2023

SimFG commented Jun 20, 2023

SimFG commented Jun 26, 2023

[Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 #436

[Enhancement]:llm('hello')这样调用会执行langchain中LLM类的_call()方法，但是它只能return 一个str类型 #436

Comments

CyanMystery commented Jun 20, 2023

What would you like to be added?

Why is this needed?

Anything else?

SimFG commented Jun 20, 2023

SimFG commented Jun 26, 2023