Update app.py

app.py

@@ -4,8 +4,6 @@ import gradio as gr
 from zhipuai import ZhipuAI
 import json
 
-api_key = os.environ['ZHIPUAI_API_KEY']
-
 def convert_to_openai_format(nested_chat):
     openai_format = []
     for dialogue in nested_chat:
@@ -14,7 +12,7 @@ def convert_to_openai_format(nested_chat):
         openai_format.extend([user_dialogue, assistant_dialogue])
     return openai_format
 
-def master_llm(user_prompt, history):
+def master_llm(user_prompt, history, api_key):
     # 生成针对专家LLM的系统提示
     # 示例: 根据用户提问生成一个简单的系统提示
     if history != []:
@@ -36,13 +34,14 @@ def master_llm(user_prompt, history):
 
 参数解释：
 temperature为AI回复时的随机程度，值越小意味着回答逻辑越发散。取值为(0,1)，但不能等于0或1。
-top_p为AI会考虑的候选采样范围，比如0.1指只会选择前10%推荐的候选token。取值为(0,1)，但不能等于0或1。
-行业内，一般来说如果需要创意类型的AI，就会让这两个参数的值高一些，如果需要严格服从型的AI，则需要temperature尽量低一点。
+top_p为AI会考虑的回复候选采样范围，比如0.1指只会选择前10%最佳的候选回复项。取值为(0,1)，但不能等于0或1。
+技巧：一般来说如果需要创意类型的AI，就会让这两个参数的值高一些；
+如果需要严格服从型的AI，则需要temperature与top_p尽量低一点；
 
-注意，请不要刻意生成专家，如果无法判断需要什么领域的专家（比如无上下文），则直接回复此默认设定：
+注意，请不要刻意生成专家，如果无法判断需要什么领域的专家（比如无上下文，用户乱问乱答），则直接回复此默认设定：
 ```
 {{
-    "expert_system_prompt":"根据用户的提问与需求（如有上下文，请根据上下文），返回合适的回应。",
+    "expert_system_prompt":"根据用户的发送的信息（如有上下文，请根据上下文），合适地回应用户。",
     "temperature":"0.5",
     "top_p":"0.5"
 }}
@@ -71,7 +70,7 @@ top_p为AI会考虑的候选采样范围，比如0.1指只会选择前10%推荐
     
     return expert_system_prompt, temperature, top_p
 
-def expert_llm(user_prompt, history, expert_system_prompt, temperature, top_p):
+def expert_llm(user_prompt, history, expert_system_prompt, temperature, top_p, api_key):
     client = ZhipuAI(api_key=api_key)
     if history != []:
         prompt_records = convert_to_openai_format(history)
@@ -87,12 +86,14 @@ def expert_llm(user_prompt, history, expert_system_prompt, temperature, top_p):
     )
     return response.choices[0].message.content
 
-def gradio_fn(message, history):
-    expert_system_prompt, temperature, top_p = master_llm(message, history)
-    expert_response = expert_llm(message, history, expert_system_prompt, temperature, top_p)
+def gradio_fn(message, history, api_key):
+    expert_system_prompt, temperature, top_p = master_llm(message, history, api_key)
+    expert_response = expert_llm(message, history, expert_system_prompt, temperature, top_p, api_key)
     return expert_response
 
-demo = gr.ChatInterface(fn=gradio_fn)
+with gr.Blocks() as demo:
+    api_key = gr.Textbox()
+    main_interface = gr.ChatInterface(fn=gradio_fn, additional_inputs=api_key)
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch(show_error=True)