hands on aa cp1 笔记

本笔记主要介绍了生成式大语言模型的基本使用方法、核心技术原理以及提示工程的设计技巧。内容涵盖了从调用API实现简单对话，到自回归预测、预训练和推理，再到提示词工程的各种结构设计和实战技巧，最后还总结了常见的提示工程开发实践资源和面试拷打题目。

1.调用api实现简单对话,大致代码如下：

注意事项：选用的是qwen，api-key配置到了系统环境变量里，避免在代码里显示调用，安全性更高。

from openai import OpenAI
class QAgent:
    def __init__(self, api_key, base_url, system_prompt="你是一个很聪明的智能体。你会用中文回答用户提出的任何问题。"):
        
        
        self.api_key = os.getenv("qwen") # 从系统环境变量里获取 API Key，安全性更高，避免在代码里显示调用
        # self.api_key = api_key # 自己的 API Key，不建议在代码里显示调用，安全性更高，可以配置到系统环境变量里,使用os.getenv("DASH")来获取
        self.base_url = base_url # 平台相应的接口地址
        self.system_prompt = system_prompt # 系统提示词，定义智能体角色
        self.client = OpenAI(api_key=self.api_key, base_url=self.base_url) # 实例化通信客户端

    # 提问接口
    def ask(self, question):
        # 通过客户端通信，详细说明可查阅 https://api-docs.deepseek.com/
        response = self.client.chat.completions.create(
            model="deepseek-chat", # 基座模型，如 “deepseek-chat” 为 DeepSeek-V3；“deepseek-reasoner” 为 DeepSeek-R1
            messages=[ # 对话内容
                {"role": "system", "content": self.system_prompt},
                {"role": "user", "content": question},
            ],
            #extra_body = {}, 和openai接口不兼容的塞这里
            stream=False
        )
        return response.choices[0].message.content # 返回智能体的回答
    
    # 更新系统提示词
    def update_system_prompt(self, system_prompt):
        self.system_prompt = system_prompt

# 实例化智能体，提供自己的 API Key 和平台相应的接口地址
agent = QAgent("sk-2ad88b35e31c44a99830ffc9e1c1465b", "https://api.deepseek.com")

llm problems：

• 幻觉问题： 幻觉问题指的是智能体生成的内容看似合理但实际上是错误的。这种问题可能会影响智能体提供的信息质量，导致错误决策。例如，智能体在回答医疗问题时可能会生成一个看似准确的答案，但实际上没有根据真实医学知识，进而影响用户健康决策。
• 安全风险： 常见的安全风险包括：1. 智能体滥用，即智能体可能被恶意使用，如自动化生成恶意代码、传播虚假信息等；2. 错误行为，智能体可能在没有足够数据的情况下做出不当决策，并且这些决策导致的错误后果难以消除。为了应对这些风险，可以引入安全性约束和行为审计机制，实时监控智能体的行为，避免产生不良结果。
• 长程依赖问题： 长程依赖问题指的是智能体在执行复杂任务时，可能会丢失早期的关键信息，导致无法正确推断后续步骤。举个例子，如果智能体在回答多轮对话时没有有效的记忆管理，它可能在后续的问答中忘记之前用户提供的关键信息，导致无法准确完成任务。
• 复杂任务的推理与规划： 智能体在面对复杂任务时需要进行多步推理与规划。这包括将一个大任务拆解为多个子任务，并在执行过程中根据环境反馈调整决策。提升推理能力的策略包括利用强化学习（RL）优化决策过程，结合世界模型增强长期规划能力，并通过动态调整策略应对不确定性。

2.自回归预测，预训练，推理

• 词表是一个包含所有可能出现的单词或符号的集合。词表格式为 token：id 的映射关系，token是最小的语言单位。
• 预训练：模型在海量文本上通过自监督学习（如掩码语言建模）掌握语言统计规律，构建对词汇、语法和世界知识的理解。
• 推理：基于预训练获得的知识，模型根据输入提示实时生成文本，此过程依赖自回归预测机制。

2.1 自回归预测（next-token prediction）：

假设我们有一个输入文本序列 $ x = (x_1, x_2, \dots, x_T) $，其中 $ x_t $ 表示第 $ t $ 个词或token。生成式大语言模型的目标是生成下一个词 $ x_{T+1} $。

其中，$ f $ 是模型的内部函数，通常是一个复杂的神经网络，如Transformer架构。softmax函数将模型的输出转换为概率分布，确保所有词的概率之和为1。

2.2 huggingface开源模型本地部署

1. 这个教程用的qwen2.5-instruct模型，需要提前安装好transformers库和torch库,一般大模型从huggingface上下载比较方便，连不上的情况下就国内镜像。
   

` QWEN2.5-0.5B-Instruct config： Type: Causal Language Models Training Stage: Pretraining & Post-training Architecture: transformers with RoPE, SwiGLU, RMSNorm, Attention QKV bias and tied word embeddings Number of Parameters: 0.49B Number of Paramaters (Non-Embedding): 0.36B Number of Layers: 24 Number of Attention Heads (GQA): 14 for Q and 2 for KV Context Length: Full 32,768 tokens and generation 8192 tokens

2.3 生成过程的干预，主要包括温度和采样策略

(本质还是在预测动作之后进行采样或者调整预测动作，那这么看确实不像一个深度学习过程，更像RL里的action sampling了，毕竟生成式大语言模型的输出是一个动作空间，采样策略就是在这个动作空间里进行采样，温度就是调整这个动作空间的概率分布的平滑程度了)

1. 温度（Temperature）：
   • 高温值（如 1.0）：增加生成结果的多样性，但可能导致结果不稳定。
   • 低温值（如 0.1）：生成结果更稳定，但可能缺乏创造性。

   温度参数控制生成结果的随机性。具体来说，温度参数 $ T $ 影响概率分布的“尖锐度”。温度越高，概率分布越平滑，生成结果的多样性越高；温度越低，概率分布越尖锐，生成结果越稳定。
   直观数学看的话，T越大的情况下，抽样概览P越趋向于均匀分布，结果更多样化；T越小的情况下，抽样概览P越趋向于one-hot分布，结果更稳定。
   

   $ P(x_{T+1} | x_1, x_2, \dots, x_T) = \frac{\exp\left(\frac{f(x_1, x_2, \dots, x_T)}{T}\right)}{\sum_{i} \exp\left(\frac{f(x_1, x_2, \dots, x_T)}{T}\right)} $

   其中，$ f(x_1, x_2, \dots, x_T) $ 是模型的内部函数，通常是一个复杂的神经网络，如 Transformer 架构。$ T $ 是温度参数，控制概率分布的平滑程度。

2. 采样策略：

   • 贪心采样（Greedy Sampling）：始终选择概率最高的下一个词，生成结果稳定但可能单调。

     $ x_{T+1} = \arg\max P(x_{T+1} | x_1, x_2, \dots, x_T) $

   • Top-k 采样：从概率最高的 k 个词中随机选择下一个词，平衡稳定性和多样性。

     $ S_k = { x_i \mid P(x_i | x_1, x_2, \dots, x_T) \text{ 是前 } k \text{ 高的} } $

     $ x_{T+1} \sim P(x_{T+1} | x_1, x_2, \dots, x_T) \text{ 在 } S_k \text{ 中随机选择} $

   • Top-p 采样（核采样 Nucleus Sampling）：从概率累积达到 p 的最小词集中随机选择下一个词，动态调整采样范围。

     $ S_p = { x_i \mid \sum_{j=1}^{i} P(x_j | x_1, x_2, \dots, x_T) \leq p } $

     $ x_{T+1} \sim P(x_{T+1} | x_1, x_2, \dots, x_T) \text{ 在 } S_p \text{ 中随机选择} $

通过上面的公式，我们可以得出如何通过改变这些参数控制输出：

• 温度参数 $ T $：
  • 高温值（如 1.0）：增加生成结果的多样性，适合需要创意和探索的场景。
  • 低温值（如 0.1）：生成结果更稳定，适合需要准确和一致性的场景。
• 采样策略：
  • 贪心采样：适合需要稳定和一致性的场景，如问答系统。
  • Top-k 采样：适合需要平衡稳定性和多样性的场景，如创意写作。
  • Top-p 采样：适合需要动态调整多样性的场景，如对话系统。

3. 提示词（Prompt）工程

写惯了代码的不要瞧不起自然语言提示词

• 系统提示：向大语言模型提供的一组初始指令或背景信息，用于指导智能体的行为方式和响应模式，设定其角色、语气和知识范围
• 用户提示：是用户输入的问题、请求或命令，旨在获取大语言模型的具体回应或完成特定任务，是触发大语言模型智能体产生回复的直接原因。

系统提示(System Prompt)适合放入：

1. 助手的身份设定和角色定位
2. 回答问题的基本原则和风格要求
3. 需要长期保持的对话规则
4. 不希望被用户轻易覆盖的指令
5. 安全性和伦理方面的约束

用户提示(User Prompt)适合放入：

1. 具体的任务要求和问题内容
2. 临时的对话上下文
3. 需要即时响应的请求
4. 可以随时变化的参数和条件
5. 个性化的偏好设置 一个简单的提示词示例： ```python from openai import OpenAI

API_KEY = “sk-0a5225cd690144a89d7a45ed64be93ee” # lab api ds API_BASE_URL = “https://api.deepseek.com”

def get_response(system_prompt, user_prompt, model = “deepseek-chat”, temperature = 0.0, top_p = 1.0, max_tokens = 2048): client = OpenAI(api_key=API_KEY, base_url=API_BASE_URL) # Initialize the OpenAI client with the API key and base URL response = client.chat.completions.create( model = model, messages= [ {“role”:”system”, “content”: system_prompt}, {“role”:”user”, “content”: user_prompt}, ], temperature = temperature, top_p = top_p, max_tokens = max_tokens, stream = False

)
return response.choices[0].message.content

system_prompt = “你是一名助教，需要温柔的回答同学们的问题。” # 系统提示 user_prompt = “在做提示工程时，什么内容适合放入系统提示、什么内容适合放入用户提示？”

response = get_response(system_prompt, user_prompt) print(response)

```

（我抄的）从内容上划分，一个标准的提示词应该包含背景设定、任务说明、限制和约束、示例（可选）四部分。在有些复杂场景下，还可以加入多轮上下文、经验或历史、工具调用接口说明等特定内容。

• 背景设定：说明当前任务、智能体身份或上下文环境。
• 任务说明：明确告诉模型你要它完成什么任务。
• 限制和约束：规定输出格式、风格或字数，避免答非所问。
• 示例（可选）：给出参考案例，帮助模型模仿示例回答方式。

从结构上划分，一个完整的提示工程可以分为任务描述，上下文，示例（可选），输入，输出格式五部分。

• 任务描述：给模型下达了一个命令或请求。用于告诉模型应该做什么，是任务执行的基础。
• 上下文：描述与任务相关的背景信息，它有助于模型更好地理解当前任务所处的环境或情境。在多轮交互中，上下文尤其重要，因为它提供了对话的连贯性和历史信息。
• 示例：示范学习，给出的一或多个具体示例，用于演示任务的执行方式或所需输出的格式。这种方法在机器学习中被称为示范学习，已被证明对提高输出正确性有帮助。
• 输入：任务的具体数据或信息，它是模型需要处理的内容。在Prompt中，输入应该被清晰地标识出来，以便模型能够准确地识别和处理。
• 输出：输出是模型根据输入和指示生成的结果。在Prompt中，通常会描述输出的格式，以便后续模块能够自动解析模型的输出结果。常见的输出格式包括结构化数据格式如JSON、XML等，结构化的输出便于有效的提取回答中的关键信息。

3.1 思维链 Chain of Thought (CoT)

通过引导模型进行深度思考后再回答，有效提高回复的创新型和准确性。该方法强调模型逐步推理，通过构建一系列有序、相互关联的思考步骤，模型能够更深入地理解问题，并生成结构化、逻辑清晰的回答。
最常见的链式思考提示词形如“让我们一步一步思考”，“Let us think step by step.”
可用在需要一些推理逻辑的时候。

3.2 上下文学习 In-Context Learning (ICL)

通过在输入中添加适当的示例文本以针对性的提高模型能力。由于大语言模型本质是根据上下文语义空间的概率预测得到输出文本，所以在上下文中添加适当的信息如类似的问题和回答示例，能够有效提高模型回复的质量和准确程度。可以分为零样本提示（Zero-Shot），单样本提示（One-Shot），少样本提示（Few-Shot）等，顾名思义，即在输入的提示词中分别不加、只加一个、加几个示例。上下文学习技术可以与CoT结合，往往能取得更好的效果。

3.3 自我一致 Self-Consistency (SC)

通过多次生成不同的回答并进行投票选择最一致的答案来提高模型（这本质就是烧token吧。。。有点类似集成学习）

3.4 推理提示

让模型在回答前先推理分析，和CoT类似，但更强调推理分析的过程，适合需要复杂推理的任务。思维链强调逐步思考的方法，而推理侧重富有逻辑地深度思考某一个问题。将推理和任务执行交替进行，就得到了ReAcT方法。该方法支持智能体通过与环境接触不断更新自己的知识，具体而言分为三个步骤：思考，行动，观察。

3.5 常用的提示工程结构（人人都要看，抄的）

在实际的提示工程应用中，单靠简单的任务指令往往无法满足复杂、多样化的需求。为了更有效地引导语言模型输出符合预期的内容，人们逐渐总结出一些常用的提示结构设计方法。所谓提示结构，指的是根据不同任务目标、输出要求和风险控制需求，对提示词进行有组织、有层次的表达方式设计。不同类型的提示结构能够帮助开发者针对性地解决模型在安全性、格式规范、逻辑推理、情感表达等方面存在的问题，提升交互效果和结果质量。 常见的提示结构大致可以分为安全性提示结构、结构性提示结构、逻辑性/推理性提示结构、角色扮演型提示结构、分步式推理提示结构（Chain of Thought）、工具调用型提示结构等几类。每一类结构都有其特定适用场景和设计技巧，既可以独立使用，也常常被组合应用于复杂任务之中。接下来，我们将逐一介绍这些提示结构的特点、适用需求、常用措辞技巧，并配以典型示例，帮助读者系统性掌握高效提示工程设计的方法。

一、安全性提示结构——防偏见、防敏感、防价值判断

• 适用需求：
  • 禁止模型做价值判断、偏见性陈述
  • 限制敏感领域回答
  • 保证语言中立客观

• 常用提示用词技巧：

  • 明确禁止性要求：“请不要……”“禁止……”
  • 引导客观标准：“请基于公开数据/事实/法律规定……”
  • 限定判断范围：“在不涉及价值观判断的前提下……”
• 示例：请基于公开统计数据，客观列举2023年全球GDP排名前5的国家名称。不要发表任何主观评价或价值判断。

二、结构性提示结构——保证输出格式固定规范

• 适用需求：
  • 输出成表格、JSON、列表、Markdown、代码块等结构化格式
  • 保证输出数据清晰、易解析

• 常用提示用词技巧：

  • 格式指令前置：“请用Markdown表格形式列出……”
  • 明确列名/字段名：“表格列名依次为……”
  • 指定输出结构：“以如下格式输出：{“name”: “xxx”, “value”: “xxx”}”
• 示例：请列出常见排序算法及时间复杂度，并用Markdown表格形式展示，列名依次为‘算法名称’和‘时间复杂度’。

三、逻辑性/推理性提示结构

• 适用需求：
  • 多步骤复杂推导
  • 数学、逻辑、因果关系分析

• 常用提示用词技巧：

  • 强制逐步推理：“请逐步列出你的思考过程”
  • 链式步骤指示：“第1步…… 第2步……”
  • 思考后给结论：“在完成所有推理后再给出最终答案”
• 示例：判断2, 4, 8, 16, ? 的下一个数是多少。请逐步列出你的推导过程，再给出最终答案。

四、社交性/角色扮演型提示结构

• 适用需求：
  • 模拟专家/人物角色语言风格
  • 定制语气、行为约束
  • 模拟社交对话或团队协同

• 常用提示用词技巧：

  • 明确角色身份：“你现在是……”
  • 限定语气风格：“使用正式/幽默/温暖/权威口吻”
  • 交互式问答控制：“等待用户回复后再继续下一步”
• 示例：你现在是一位循证医学专家，用严谨学术语言，解读最新AI辅助诊断论文核心结论。

五、工具调用/流程调度型提示结构

• 适用需求：
  • 调用外部插件、搜索、计算器、API
  • 多步骤任务调度

• 常用提示用词技巧：

  • 条件判断式调用：“如果无法确定，请调用xxx工具/执行xxx步骤”
  • 明确调用目的：“调用xxx用于获取当前年份”
  • 工具返回值接入：“将工具返回值插入到回复第3步中”
• 示例：如果你不知道当前年份，请调用search工具获取，再计算50年后的年份。

3.6 提示工程开发实践资源

提示工程这一学科发展至今已经拥有了许多学术成果和开源平台，方便大家快速的学习、掌握和实践。在这里，我们推荐几个可用于学习的开源平台。

PromptHub：这是一个开源的提示词管理平台，用户可以在其上搜索、存储和分享自己的提示词模板，比较适合新手学习如何编写提示词，或者快速开发。

Prompt‑Engineering‑Guide：该开源项目整理了提示工程的指南、论文、讲座、工具与案例等各种资源，便于全面学习提示工程。

prompt-eng-interactive-tutorial：Anthropic 公司基于 Claude 模型提供的 9 章互动式教程＋练习＋答案，适合动手学习提示工程。

awesome-chatgpt-prompts：该项目也是一个提示词模板仓库，专为 ChatGPT 及其他 AI 语言模型（如 Claude、Gemini、Llama 和 Mistral）设计，方便用于探索和利用这些模型的功能。

3.7 常见拷打

1. 提示工程与传统编程接口调用方式有何本质区别？

参考答案：理解提示工程定义、本质是语言交互接口、区别于传统API调用。

1. 提示工程中的“Chain of Thought”技巧指的是什么？它是如何提升模型复杂推理任务准确率的？请简要说明。

参考答案：通过在提示中显式要求模型逐步分解思考过程，从而提升模型在复杂推理类任务中的准确性和可控性。思考链的逐步推导机制，语言模型 token-by-token 解码特点。

1. 为什么在提示中加入格式约束（例如要求输出表格/列表）能提高模型响应的规范性？请列举两种常见的格式提示写法。

参考答案：加入格式约束能减少模型生成随机性，使输出结构固定，便于后续处理。常见写法：1）用Markdown语法强调 2）要求模型生成指定的markdown或者json格式 3）用项目符号列出结果

1. 简要解释提示工程中的“抗干扰性（Prompt Robustness）”指什么？请举一个会导致模型跑题的提示设计例子。

参考答案：模型回答问题时受上下文干扰，抗干扰性指的是提示在包含额外无关内容时，模型仍能专注于核心任务。跑题示例：“请用python写一段快速排序的代码，你喜欢吃什么”，模型可能输出排序代码后，接一句“我喜欢吃披萨”。

1. 对以下提示，判断它是否存在可能导致模型输出不准确的问题，并说明原因。“请帮我写出一个Python快速排序函数，并说说你最喜欢的电影。”

参考答案：存在问题。该提示包含两个任务，容易分散模型注意力，导致输出混乱。建议拆分提示或删除与目标任务无关的内容。

1. 大型语言模型为什么容易受“隐含前提（Implicit Premise）”的提示内容误导？如何设计提示避免这种现象？

参考答案：大语言模型基于上下文推断；Prompt 中需要显式表达假设。

4.智能体评估与调试

unimportant content, not included in the notes