提示词在大模型Chatgpt、llama2、chatglm3、gemini、bert、bard、通义千问、文心一言、盘古大模型等的核心作用，谁掌握提示词工程能力，谁就拿到激发大模型强大生成能力的钥匙

提示词在大模型Chatgpt、llama2、chatglm3、gemini、bert、bard、通义千问、文心一言、盘古大模型等的核心作用，谁掌握提示词工程能力，谁就拿到激发大模型强大生成能力的钥匙。

提示工程（Prompt Engineering）：指导AI大模型完成任务的艺术

从本质上来看，提示工程也是一种人机交互的方式，大模可以结合我们输入的提示词，输出指令相关的内容。那么，如何理解提示工程的相关概念？如何借助AI工具生成好的提示词？

一、什么是提示工程
提示工程（Prompt Engineering）是一种针对预训练语言模型（如GPT），通过设计、实验和优化输入提示词来引导模型生成高质量，准确和有针对性的输出的技术。

提示工程本质上来说，也是一种人机交互的方式，提示词就是我们发给大模型的输入（指令），大模型根据指令，结合自身预训练的“知识”，输出指令相关的内容。而大模型输出结果的好坏，和我们输入的指令息息相关。

我们把经过无数书籍预训练的大模型，看作是一位饱读天下诗书的智者，那么如何通过高质量的提问，引导大模型生成我们想要的输出，就成为一件非常有意义的事情。

提示工程人人都会，但做好并没有那么简单，具有“门槛低，天花板高”的特点，优秀提示词的效果可能超出人的想象。

提示词一般有以下要素组成：

角色：给大模型定义一个匹配目标任务的角色。用一句话就可以明确它的角色（比如“你是一位淘宝客服”），从而有效的收窄问题域，减少二义性，让“通用”瞬间变得“专业”。
指示：对具体任务进行详细描述。
上下文：给出与任务相关的其它背景信息（如历史对话、情境等）。
例子：举例很重要，就像是师傅教学之后，需要给徒弟（大模型）演示一下如何操作，这个手把手的操作，是大模型生成输出时的一个重要参考，对输出结果有很大帮助。
输入：任务的输入信息，最好在提示词中有明确的“输入”标识。
输出：输出的格式描述，比如用郭德纲的语气、输出不超过十个字、以JSON格式返回结果等。
而高质量的提示词一般是具体的、丰富的、少歧义的，也就是说，我们虽然要把大模型当人来交流，但是尽量少用“口语”的方式来沟通，而要用“写信”的方式，因为口语大多是即兴的、碎片化的短语，而写信则需要描述背景、避免歧义、短话长说，很符合优秀提示词的特点。

大家可以将以下两句提示词输入到大模型中，对比一下输出的效果：

请帮我提供每天的菜单
你是一名营养家，请为我提供每天三顿饭的中式菜单建议，一人份，包括早餐、午餐和晚餐。请确保每道菜都是偏辣口味，并尽量使用新鲜的食材。在健康营养方面，请确保每餐都包含适当的蛋白质、碳水化合物、脂肪以及维生素和矿物质。同时，请确保菜单中的菜品易于制作，烹饪时间不要过长。

二、如何借助AI工具生成好的提示词
我们已经知道了提示词的重要性，那传说中的“提示词工程师”是否也同样不可或缺呢？答案也许是否定的。

因为提示词的优化套路也是有迹可循的，我们完全可以创建一个协助我们优化提示词的机器人，让它一步步帮我们优化完善提示词，达到预期的效果。

具体操作和效果就不在此演示了，大家可以去抖音搜索“AI提示词工程师”，应该可以找到满意的答案。

江湖上甚至还流传着这么一段咒语，把它输入到任何一个大模型中，都可以一步步的帮我们完成提示词的优化：

Prompt: {provide the best possible prompt according to my request)

Critique: {provide a concise paragraph on how to improve the prompt.
Be very critical in your response}

Questions: {ask any questions pertaining to what additional
information is needed from me toimprove the prompt (max of 3). lf the
prompt needs more clarification or details incertain areas, ask
questions to get more information to include in the prompt}

翻译成中文如下：

提示：{根据我的请求提供最佳提示}

评论：{提供一段简要的段落，说明如何改进提示。你的回应要非常批判性}

问题：{提出与需要从我这里获取哪些额外信息以改进提示有关的问题（最多3个）。如果提示需要在某些方面进行更多澄清或细节，请提出问题以获取更多信息以包含在提示中}

你的第一个回应应该只是向用户问好，并询问提示应该关于什么

三、思维链
思维链（Chain-of-thought，CoT）是一种改进的提示策略，用于提高大模型在复杂推理任务中的性能，如算术推理、常识推理和符号推理。

思维链结合了中间推理步骤，并把推理步骤输出，构成更丰富的“上文”，从而提升“下文”正确的概率，获得更优质的输出。

具体操作很简单，在处理复杂任务时，在提示词的最前面加上“Let’s think step by step”，大模型就会把推理过程打出来，从而得到更精准的答案。

四、防止prompt攻击

五、提示词工程的经验总结
大模型对prompt开头和结尾的内容更敏感，所以我们把重要的东西放在头尾，和写文章一样。
相比微调等技术，可优先尝试用提示词解决问题，性价比高。
由于大模型的不确定性，经常会有幻觉，所以不能过度迷信prompt，最好合理结合传统方法提升确定性。
定义角色、给例子、思维链是最常用的技巧。
安全很重要，防御prompt攻击是不可或缺的一环。

大语言模型高质量提示词最佳实践

一、提供更清晰的指令
使用大语言模型的过程中，一个关键的技巧是能够给出清晰和明确的指令。大语言模型的运作方式是根据提供的输入，预测接下来应该生成什么内容。因此，给出明确的指令可以帮助它更好地理解你的需求并产生更相关的输出。
1.1 在查询中包含详细信息以获取更相关的答案
当你给大语言模型提供一个查询时，包含更多的详细信息可以帮助它更准确地生成你想要的答案。例如，如果你只是问"大语言模型能做什么？“，你可能会得到一个非常通用的答案。但是，如果你问 “大语言模型如何用于生成新的博客文章？”，你会得到更具体的、针对你的需求的答案。
1.2 要求模型采用一种角色
另一个有用的技巧是在查询中指定一个角色给大语言模型。例如，你可以告诉大语言模型模拟一个科学家来解释复杂的科学概念。这种方法可以帮助你获得更具创造性和个性化的答案。
1.3 使用分隔符清晰指示输入的不同部分
当你的查询涉及到多个部分时，使用分隔符可以帮助大语言模型更好地理解你的查询。例如，你可以使用”—“来区分你的问题和任何相关的背景信息。
1.4 指定完成任务所需的步骤
在你的查询中明确地列出完成任务所需的步骤可以帮助大语言模型更准确地生成答案。例如，如果你正在编写一个食谱，你可以列出每一个步骤，如 “第一步：切洋葱，第二步：炒洋葱，第三步：添加番茄"等。
1.5 提供示例
在你的查询中提供一个或多个示例可以帮助大语言模型理解你的需求。例如，如果你想要大语言模型帮你写一个故事，你可以给出一个故事开头的示例，这样大语言模型就能理解你想要的故事风格和结构。
1.6 指定输出的期望长度
最后，记得在你的查询中指定你希望大语言模型生成内容的长度。这样，大语言模型就可以生成适当长度的内容，而不会太短也不会太长。
二、提供参考文本
为了使大语言模型的输出更贴近您的需求，提供参考文本是一个极其有用的策略。这将帮助模型更好地理解您希望获取的内容的语境和格式。
2.1 指示模型使用参考文本回答
让模型参考特定文本可以帮助它更准确地生成回答。例如，如果您问大语言模型一些关于某篇文章的问题，那么提供这篇文章作为参考文本将使大语言模型能够生成更具针对性和准确性的答案。
2.2 指示模型引用参考文本中的引文进行回答
要求模型引用参考文本中的特定部分，如引文，可以帮助它生成更具深度和理解力的答案。例如，如果您让大语言模型解释一篇科学论文，那么要求它引用文中的数据或实验结果将会使它提供更为精确的解释。
三、将复杂任务分解为简单的子任务
处理复杂问题时，一种有效的策略是将它们分解为更小的、更易于管理的子任务。这种方法也适用于大语言模型。
3.1 使用意图分类来识别用户查询中最相关的指令
一种分解复杂查询的方法是通过意图分类。这意味着您需要分析查询以确定其主要目标是什么。例如，一个查询可能是"我需要一个素食食谱，但我只有番茄、洋葱和香菜”。在这个查询中，意图分类可以帮助模型理解其主要任务是提供一个只用这些食材的素食食谱。
3.2 对需要很长对话的对话应用程序，对之前的对话进行总结或过滤
对于需要长对话的应用，您可以试图总结或过滤掉之前的对话，只保留关键信息。例如，如果您正在开发一个能回答医学问题的大语言模型应用，您可能希望模型只关注关于病患症状的信息，而忽略与其无关的聊天信息。
3.3 分段总结长文档并递归构建完整总结
如果您需要大语言模型处理一个长文档，如一本书或一篇长篇论文，您可以将其分为多个小段落，然后分别进行总结。一旦每个段落都有了总结，您可以将这些总结再结合起来，形成一个对整个文档的全面总结。
四、给大模型时间“思考”
大语言模型生成内容的速度是相当快的，但有时候，让它花一点时间“思考”可以帮助生成更高质量的内容。
4.1 指示模型在决定之前先自行找出解决方案
一种策略是让大语言模型在生成最终回答之前，先生成一些可能的解决方案。例如，如果您让大语言模型帮你写一篇关于气候变化的文章，你可以让它先列出可能的文章结构和主题。然后，你可以选择其中的一项，让大语言模型基于此来完成文章。
4.2 使用内部独白或一系列查询来掩盖模型的推理过程
你还可以让大语言模型进行内部独白，模拟出一个“思考”的过程。例如，你可以让大语言模型模拟出一个角色，在解决问题时“高声思考”。这不仅可以帮助你看到大语言模型是如何处理问题的，也可以帮助大语言模型生成更深思熟虑的答案。
4.3 询问模型是否在先前的过程中遗漏了任何东西
最后，向大语言模型询问它在解决问题过程中是否遗漏了任何重要信息也是一个好方法。例如，如果你让大语言模型帮你写一个计划，你可以在最后问它"你觉得还有什么重要的我忽略了吗？”。这样可以鼓励大语言模型进行更深入的思考，并可能帮助你找到你自己可能忽视的重要方面。
五、使用外部工具
大语言模型是一个非常强大的工具，但有时候，将其与其他工具结合使用可以得到更好的结果。
5.1 使用基于嵌入的搜索来实现有效的知识检索
有一种策略是使用基于嵌入的搜索。这意味着你可以将一个问题和一组可能的答案都转换为向量，然后通过比较向量的相似性来找到最合适的答案。这种方法在处理具有大量可能答案的问题时非常有用。
5.2 使用代码执行来进行更精确的计算或调用外部API
另一种策略是利用大语言模型的代码生成能力。例如，你可以让大语言模型为你生成Python代码来执行一些复杂的计算，或者调用一个API来获取实时数据。这使得大语言模型不仅可以作为一个文本生成工具，还可以作为一个自动化工具。
六、系统地测试更改
在使用大语言模型时，我们经常需要进行各种调整以优化其输出。要确保这些更改真正有所改善，我们需要对它们进行系统的测试。
6.1 参照金标准答案评估模型输出
有一种策略是为你的问题准备一个金标准答案，然后将大语言模型生成的答案与这个答案进行比较。这可以帮助你量化大语言模型的性能，并了解其在哪些方面需要改进。
6.2 使用A/B测试比较不同的提示
另一种策略是使用A/B测试。这意味着你可以为同一个问题准备两种不同的提示，然后看看哪种提示可以让大语言模型生成更好的答案。这可以帮助你找到最有效的提示策略。
结论
总的来说，使用大语言模型可以做很多事情，但优化其表现需要一些技巧。这些包括提供更清晰的指令、提供参考文本、将复杂任务分解为简单的子任务、给大语言模型时间“思考”，使用外部工具，以及系统地测试更改。通过实施这些策略，你可以让大语言模型更好地为你服务。
常见问题解答
我怎样才能提供更清晰的指令给大语言模型？
提供详细的信息，使用分隔符清晰指示输入的不同部分，指定完成任务所需的步骤，提供示例，指定输出的期望长度，这些都是一些提供清晰指令的方法。
如何将复杂任务分解为简单的子任务？
可以通过意图分类来识别用户查询中最相关的指令，对需要长对话的对话进行总结或过滤，或者分段总结长文档并递归构建完整总结。
如何给大语言模型更多的“思考”时间？
可以指示模型在决定之前先自行找出解决方案，使用内部独白或一系列查询来掩盖模型的推理过程，或者询问模型是否在先前的过程中遗漏了任何东西。
使用外部工具有什么好处？
使用基于嵌入的搜索可以实现有效的知识检索，使用代码执行可以进行更精确的计算或调用外部API。
如何系统地测试更改？
可以参照金标准答案评估模型输出，或者使用A/B测试比较不同的提示。

大模型提示词的经验总结：

目前的这些热门的大模型都是生成式模型，可以简单理解提示词的主要作用就是去引导模型，限制它的自由发挥，生成符合我们需要的答案，如果你使用的模型没有在任何专门的领域进行微调过，你可以把它看作是一个充满全能智慧的人，它什么都会，它什么问题都能插一嘴，你要和这样的人交流，你需要去限制一下它的发挥，以防它太过发散，给你牛头不对马嘴的回复，所以往往最重要的是你能把需求讲清楚，尽量给足够多的信息，你就越有可能得到你满意的答案，所以我一般会把提示词一般分为两部分，内容+要求，（内容部分：就是对你想要的内容进行表述，要求部分：就是改善它的答案的质量）基本适用与大部分的LLM例如chat GPT或者图片生成Stable Diffusion这些。

​ 内容这部分提示词主要是要清晰地表达你想要的内容，包括场景、背景、任务，需求等，可以提供一个小提纲，明确列出你要的关键信息和问题，最好给一些具体的例子给予参考，这些可以算是能有效改变质量的东西。

​ 如果比较复杂的东西可以考虑添加一个鼓励的提示词，鼓励chatgpt想一想，例如官方演示里常用的think step by step，这也算是一些常见的咒语，来鼓励模型进行逐步思考，产生更有深度和条理的回答。也可以考虑能否拆解为多个小任务，逐步解决，以确更好地理解每个部分

​ 还有模型其实是能够反省的，可以通过提示词引导它对自己的回答进行反思和改进。例如我经常用的写代码时可以写“检查一下你给的代码有没有问题”。

​ 如果使用GPT4可以使用插件例如文档上传，联网等工具，其实就是提高这个内容的部分使它更丰富，更明确。

​ 例如你希望用chat GPT生成小红书文案，你就需要把它的全知全能的人设改为一个在漳州想分享漳州肉粽的小红书博主，你可以这样写

“你是一位小红书博主，你住在漳州，你需要写一篇小红书文案，主要内容分享一下在漳州的肉粽，主要介绍他有多好吃，它的配料是什么，地点在哪里，在你的文案中你的目标群体是18到30岁的年轻人，记住要是小红书的口吻，文案风格可以参考下面的例子“这里可以找一份符合你期待或者你喜欢风格的文案给chatgpt模仿”，语气不要太浮夸，字数200字左右，写完记得检查一下有没有问题。think step by step“

​ 总体就是：明确讲我要什么（场景、背景、任务，需求）+提供资料给chat GPT（类似小提纲）+提供示例+回答要求+常见咒语 Stable Diffusion在我用来也是大差不差，一样内容+要求，内容就是图片画面的表述，要求就是图片质量的表述，但是在SD里面还是觉得想要一个比较好的质量还是得微调，或者LORA，词嵌入这些改善的效果原比单纯的修改提示词效果要好。

万用公式

1 写出一个基础的Prompt
Prompt万用公式：Prompt=任务+生成主体+细节（可选）+形式（可选)

【必选】任务：指明希望模型完成的任务类型，如“请生成一篇广告文案”、“扮演翻译官”，“生成一篇广告文案”即是希望生成的任务类型。

生成主体：指要生成的主要对象，如“请生成一篇关于狗不理包子的广告文案”中，“狗不理包子”即是主要对象。

【可选】细节：倘若我们需要让生成文案中增加emoji表情，则可以在Prompt中增加“加一些emoji表情点缀”等细节描述来丰富最终生成效果，但通常细节性描述不一定能够完全生效。

形式：指明生成后的排版、内容风格，如“用文本描述”、“代码形式生成”、“转为广东话”等。

ex1 我希望你充当讲故事的人，你要想出一个童话故事。

ex2 我希望你充当讲故事的人，你要想出一个中华文化的童话故事，要求内容积极向上，与猫猫有关。

ex3 我希望你充当讲故事的人，你要想出一个中华文化的童话故事，要求内容积极向上，与猫猫有关。请用广东话讲一下。

一、基础法
1 定基础 内容+任务主体能否出过得去的答案，否则就更换表述

2 做强调 强调需求，越放在句子前部，效果越好。

3 提预设 交互应该是细节和延伸，不应该是主体。

二、Tricks 和训练数据标签相关
1 戴高帽

2 说好话 学习思维链

3 给提示 能节省字数

三、工具法
1 做检索
看图写提示词 Lexica、 PromptHero - Search prompts for Stable Diffusion, ChatGPT & Midjourney、 PromptHero中文官网：AI绘画Prompt提示词、关键描述词、参数指令大全 (promptheroes.cn)

2 优化提示词
PromptPerfect - Elevate Your Prompts to Perfection with AI Prompt Engineering (jinaai.cn)

3 做收纳

大语言模型（LLMs）为我们提供了与AI交互的基座，提示技术则为与这个基座进行无障碍交流的技术。就像和人交流一样，你需要有技巧，有针对的提问，别人才能给予准确的答案，如果一次提问说了三五分钟，从政治说到经济，从上古说到当今，从动物说到女人，说也不能理解你的意思。

因此掌握提问技巧，学会如何引导大模型思考问题，回答问题是一项与AI交流必不可少的技能。

提示技术基本原则
提示技术的关键原则有两点

编写清晰、具体的指令
与人交流一样，思路清晰，目标明确才能得到满意的答案。但是要注意，清晰的指令不代表Prompt需要短。要记住过于简单，或者逻辑太复杂的Prompt使得模型很难解决问题。

给予模型足够多的思考时间
AI在极短的时间内给出的答案，往往带有错漏，因此通过引导模型思考，在Prompt中增加一步步的推理引导，模型生成的结果才更准确。

如何编写清晰具体指令，又如何引导模型思考呢，下边给出一些示例

语句清晰，明确目的。正如你和别人交流，你说“请告诉我关于大树的事情”一样，别人不知道你想了解什么，只能从自己知识中随机选择一些讲给你。但是如果你说“请告诉我关于大树浇灌的事情”，别人会准确的告诉你。所以对大模型进行提问时也要清晰、准确的描述所需。

根据不同部分分割文本。一个指令中可能包含上下文、具体指令、输入输出等。对于不同部分用```、“”"、< >等分割符隔开进行输入，易于模型理解。

我们可以通过给出推理示例先让大模型学习，然后进行提问，同时提问中让大模型先输出自己的思考流程，通过这两种方式都可以增强大模型处理提问过程中的思考能力，使输出的答案可信度更高。

常用提示技术
接下来以写一首诗为示例，我们尝试一下不同提示技术下大模型输出结果

零样本提示（zero-shot）
直接输入问题让模型进行回答

写一首关于秋天的试，格式为七言绝句

模型返回：

秋风吹散黄叶飘， 枫叶如火红艳娇。 露华凝滴滋芳草， 秋韵悠长意无疆。
少样本提示（few-shot）
不直接进行提问，给出样例，如果是逻辑推理我们可以给出一个计算示例，让模型进行学习，如果是生成类的人物，可以给出一个当前已有的例子，让模型进行学习。

引号中的内容是一首关于秋天的七言绝句，请你对这首诗进行分析，体会诗所表达的情感
“荆溪白石出，天寒红叶稀。山路元无雨，空翠湿人衣。”
分析完成后，请写一首关于秋天的七言绝句

模型返回：

秋风吹散黄叶飘， 枫叶如火红艳娇。 露华凝滴滋芳草， 秋韵悠长意无疆。
思维链（Chain-of-Thought）
思维链可以有多种表现形式，目的都是为了让模型思考之后给出答案。比如我们可以提示模型每一步怎么做；可以让模型输出自己的思考过程；可以让模型思考答案是否正确，正确的话再输出结果等等方式，都可以归为思维链。

引号中的内容是一首关于秋天的五言律诗
“荆溪白石出，天寒红叶稀。山路元无雨，空翠湿人衣。”
针对上边这首诗进行分析需要注意

分析完成后，请写一首关于秋天的七言绝句，要求

模型返回：

秋叶如画铺林间， 夕阳斜照似金山。 寒风拂面凝清意， 世界沉静似幽潭。
以上几种提示技术对应着日常使用模型中最常使用的提问方式。可以看到只要给模型提供的内容准确，让模型思考的多一些，生成内容一般都是越来越好（本文中使用诗词生成，只看诗的内容，写作方式，的确有提升）。

除了以上的提示方式，还有结构化的思维链（SCoT）、思维树（ToT）、思维图（GoT）、算法思维（AoT）等等方式，但是一般都是基于思维链（CoT）进行优化，感兴趣的伙伴可以阅读更多的论文进行学习。

大模型中的风险
虽然大模型有很多的优势，能生成、解决很多的问题。但是同时它自身也是一个不断成长完善的。在使用大模型时，我们应该信任它但也应该怀疑它。下边我们介绍大模型使用中常见的几个问题。

对抗性提示
输入的Prompt自身矛盾，前后要求模型做的事情不一致。这种提示会导致模型学习出现问题，因此在建设模型时应该尽量处理这一类的Prompt。下边给出一个Gpt-3.5中出现的对抗性提示，对于Prompt对抗性提示测试，风险测试有兴趣的伙伴可进行更多尝试

内容真实性
指模型生成的虚假内容，俗称幻觉。因为模型依靠现有知识，如果网络上完全检索不到相关知识，就会胡乱生成，因此在使用时，模型生成内容更多的作为参考建议，要多校准。

生成偏见
指模型投喂的知识不平衡，或者投喂大量错误的信息，当再次提问时，模型也会生成错误的结论。

【Prompt系列】大白话的大模型Prompt调教指南

AIGC 时代，提示工程越来越重要，好的Prompt事半功倍，小编会持续输出Prompt相关的教程、实践案例。本篇文章以通俗易懂的话语，让即使第一次接触大模型的非技术人员也能学会如何恰当的使用它。

我想写一篇尽可能通俗易懂的大模型调教指南，让即使第一次接触大模型的非技术人员也能学会如何恰当的使用它。
然而，在写这句话的时候我就犯愁了，因为我遇到的第一个问题就是：应该如何介绍"什么是大语言模型？什么是prompt？"
所以我打开了ChatGPT，并与它对话。

Q：什么是大语言模型（LLM）？什么是prompt？
A：大语言模型（Large Language Model）是指使用深度学习技术训练出的大规模自然语言处理模型。这些模型具备理解和生成人类语言的能力，可以用于文本生成、机器翻译、对话系统等任务。
而prompt是与大语言模型进行交互时提供给模型的指令或问题。它是作为输入的一段文字或问题，用于引导模型生成特定的回答或内容。通过编写一个合适的prompt，可以引导大语言模型生成符合预期的回复或完成特定任务。在对话或生成文本时，prompt的设计对于获取准确和满意的模型响应非常重要。

一、提示词应该怎么写？
1.提出任务
我们把LLM想象成是一个可以自然交流的真人。
假设我们要让LLM帮我们生成一个随机数，就可以直接用自然语言要求LLM：“生成一个随机数”。
可以看到，它很好的完成了任务。

Q：生成一个随机数
A：当然！这里是一个随机数：47。

然而，如果我们新建一个对话，再问一遍相同的问题。
这次有点儿不一样，虽然问题一样，但是这次大模型没有直接生成一个随机数，而是询问我们随机数的范围。

Q：生成一个随机数
A：当您说“随机数”，您是否指的是一个介于特定范围的随机整数？如果是这样，请提供所需的范围。


2.描述细节
为什么两次的结果不一样呢？
因为我们只提出了任务，而没有描述这个任务的细节，比如这个随机数的范围，LLM自然就会犯迷糊。
假设现在我直接要求正在阅读这篇文档的你，“生成一个随机数”，你会是什么反应呢？
不假思索的直接回答：47！
添油加醋一番：我可以随机给你一个随机数，这个数是47。
也可能比较疑惑：你想要范围在什么之间的随机数？它是整数还是小数？可以为负数吗？
LLM和我们一样，如果我们没有为它限定任务的细节，它就可能产生不明确/不稳定的输出。
现在我们修改一下提问的方式，再试一次。

Q：生成一个随机数，它要在1234到5678之间，是个整数
A：生成一个在1234到5678之间的整数随机数，可以使用以下代码（使用Python语言）：
random_number = random.randint(1234, 5678)
print(random_number)
执行这段代码将生成一个介于1234到5678之间的整数随机数，并将其打印输出。

这次的结果还不如上次，因为我们描述的细节还不够详细，LLM认为我们的要求是写一段生成随机数的代码。
描述的再仔细一点，重新试一下。

Q：你的任务是直接生成一个随机数，它要在1234到5678之间，是个整数
A：好的，我将为您生成一个在1234到5678之间的随机整数。请稍等片刻。
生成的随机整数为：4421

虽然LLM生成了随机数，但是它太能添油加醋了，输出了好多无关内容。
现在我们继续向它提要求：不要做什么。

Q：你的任务是直接生成一个随机数，它要在1234到5678之间，是个整数，不要输出随机数以外的任何内容。
A：2132

3.更准确的描述细节
可以看出，让LLM遵从你的想法的根本就是：尽可能清晰的描述任务，以及任务的细节。
指导LLM完成复杂任务
随机数的示例可能玩腻了，我们换个场景，来充当HR，让大模型帮我们写招聘要求。

Q：为我写一个招聘JD
A：xxxxxxx此处省略

在上面的例子中，如果你多尝试几次，就会得到完全不同的答案。
因为这个任务的描述过于模糊：招聘的是前端还是后端？校招还是社招？需要什么技术栈？这些都没有给出，LLM就会放飞自我了。
提出详细的要求，再试一次。

Q：为我写一个后端的招聘JD，你要考虑到以下几点：
描述职位的职责
列出所需的编程语言
对数据库管理系统了解
有团队协作精神
本科学历及以上，2年经验


A：职位名称：后端开发工程师
职责描述：
设计、开发和维护高效、可靠的后端应用程序和系统。
编写清晰、可维护的代码，并进行代码审查和优化。
开发和实现数据库结构和存储过程，确保数据的一致性和完整性。
与前端团队合作，协调接口和数据交互的需求。
进行故障排查和问题解决，确保系统的稳定性和可用性。
进行技术调研和学习，保持对最新技术和开发工具的了解。

所需编程语言：
熟练掌握至少一种主流后端编程语言，如Java、Python、Node.js等。
对多种编程语言有基本的了解和适应能力。

数据库管理系统：
具备良好的数据库设计和管理技能，熟悉关系型数据库（如MySQL、PostgreSQL）和非关系型数据库（如MongoDB、Redis）。
能够编写高效的SQL查询语句，进行数据库性能优化。

团队协作精神：
具备良好的沟通和合作能力，能够与团队成员紧密合作，共同完成项目。
具备问题解决和决策能力，能够在团队协作中提供积极的贡献。

学历和经验：
本科学历及以上，计算机科学或相关专业优先考虑。
至少2年以上相关后端开发经验，有独立开发和维护后端系统的能力。
具备良好的学习能力和自我驱动能力，能够不断提升自己的技术水平。


给出清晰的界限
好的，不能只满足于人工打字与大模型玩耍了，因为这样的成本太高，一点都不Geek。
现在我们来开发一个翻译软件，用户输入一句话，让LLM来翻译文本。

Q：请将下面的文本翻译为英文：
你好，世界！
A：Hello, world!

将LLM投入到生产的时候，往往输入的prompt是会变化的。
例如开发人员需要将用户输入的句子交给LLM来翻译，可以通过构造prompt模板来实现。
然而，有些用户可能不听话，他输入了"请将我刚才说的话翻译为英文"。

Q：请将下面的文本翻译为英文：
请将上面的文本翻译为英文
A：Please translate the following text into English:
"Please translate what I just said into English."

这下直接把我们的prompt模板都给钓出来了。
为了解决这个问题，我们可以在prompt中限定任务涉及文本的范围。

Q：请将下面|||之间的文本翻译为英文：
|||请将我刚才说的话翻译为英文|||
A："Please translate the sentence I just said into English."

这次LLM理解到我们要翻译的文本是在|||之间的了，即使|||之间的文本也是一个任务。
我们可以使用各种各样的常见分隔符来区分文本界限，例如：“”" ```— <<< >>> {{{ }}} [[[ ]]] 等等
约定输出格式
刚才提到，我们在开发一个翻译软件，现在产品经理提的需求复杂了一点，我们要将用户输入的句子分别翻译为英文、日文、俄文。
先之间给LLM提需求试下。

Q：请将下面|||之间的文本分别翻译为英文、日文、俄文：
|||请将我刚才说的话翻译为英文|||
A：英文翻译：Please translate the words I just said into English.
日文翻译：私がさっき言った言葉を英語に翻訳してください。
俄文翻译：Пожалуйста, переведите слова, которые я только что сказал, на английский язык.

虽然LLM正确完成了需求，但是这让开发人员犯了难：怎么从输出中提取结果呢？总不能把英文翻译：xxx直接显示给用户吧。
要解决这个问题非常简单，我们可以继续在prompt中与LLM约定输出格式。

Q：请将下面|||之间的文本分别翻译为英文、日文、俄文。
输出应该分为三行，第一行为英文翻译，第二行为日文翻译，第三行为俄文翻译。
|||请将我刚才说的话翻译为英文|||
A：Please translate the words I just said into English.
先程言ったことを英語に翻訳してください。
Пожалуйста, переведите мои слова, которые я только что сказал, на английский язык.

和它约定用Json输出也是可以的，这也是我最喜欢的方式。

Q：请将下面|||之间的文本分别翻译为英文、日文、俄文。
输出应该是一个Json，它有三个字段：en、jp、ru，分别代表英文翻译、日文翻译、俄文翻译。
|||请将我刚才说的话翻译为英文|||
A：{
"en": "Please translate the words I just said into English.",
"jp": "私がさっき言った言葉を英語に翻訳してください。",
"ru": "Пожалуйста, переведите слова, которые я только что сказал, на английский язык."
}

举例子（FewShot）
实际上，对于刚才的场景，LLM还可能输出：输出的Json是：{} 等等无关的内容，影响解析。
又或者，我希望LLM输出时，将Json放到一行，而不是一个字段后面就换行。
对于这种情况，我们可以给LLM来举例子（FewShot）。

Q：你的任务是将<输入>的文本分别翻译为英文、日文、俄文。
输出应该是一个Json，它有三个字段：en、jp、ru，分别代表英文翻译、日文翻译、俄文翻译。

下面是一个示例
<输入>你好
<输出>{"en": "Hello","jp": "こんにちは","ru": "Привет"}

<输入>请将我刚才说的话翻译为英文
<输出>
A：{"en": "Please translate what I just said into English.", "jp": "私が今言ったことを英語に翻訳してください。", "ru": "Переведите то, что я только что сказал, на английский."}

现有的生成式模型大都是根据上文来生成下文，所以我们在编写FewShot的时候，可以恰好编写到希望LLM继续生成的部分。
示例中，prompt以<输出>结尾，如果不这样做，会发生什么呢？

Q：你的任务是将<输入>的文本分别翻译为英文、日文、俄文。
输出应该是一个Json，它有三个字段：en、jp、ru，分别代表英文翻译、日文翻译、俄文翻译。

下面是一个示例
<输入>你好
<输出>{"en": "Hello","jp": "こんにちは","ru": "Привет"}

<输入>请将我刚才说的话翻译为英文
A：<输出>{"en": "Please translate what I just said into English.", "jp": "私が今言ったことを英語に翻訳してください。", "ru": "Переведите то, что я только что сказал, на английский."}

当然了，这种情况也不绝对，主要会受微调的指令数据集影响，由于这篇文档是介绍如何调教LLM，就暂时不展开了。
二、上下文学习及思维链
1.上下文学习(In-context learning)
要知道，LLM掌握的知识取决于它的训练数据。所以，它没办法掌握全部的知识以及最新的知识，例如ChatGPT的训练数据截止到2021年9月。
那么，如何让LLM掌握新的、有用的知识，来帮助我们解决问题呢？解决方案和第一节一样，把LLM当作一个人。假设你在培训一个新入职的同事，他可能不太熟悉你给他安排的任务，所以，你需要先为他讲一些必备信息，再让他完成工作。
现在，再次改变角色，假设我们在新闻行业，新入职了一个实习生，我们来让他帮我们写篇新闻报道。
随手打开手机上的微博，热搜第一条是"上海暂停笑果文化在沪全部演出"，就以这个为题，来看下如何教LLM学习知识。
第一步，实习生刚刚入职，肯定还不知道这个新闻的具体细节。所以我们帮他百度一下，搜索"上海暂停笑果文化在沪全部演出"，然后复制网页上的内容。注意，复制的内容可能是杂乱无章的，这无伤大雅，LLM有出色的泛化能力，可以胜任这个任务。
第二步，先告诉他和新闻相关的信息，然后让他完成新闻报道的撰写任务。

Q：请根据从互联网检索的信息，完成最后的任务。
下面是一些从互联网检索的最新信息。请注意，信息仅供参考：
{{这里直接粘贴刚刚复制的网页内容}}
最后的任务是：为上海暂停笑果文化在沪全部演出这件事，写一篇新闻报道，100字
A：上海责令笑果文化深刻反省整改，暂停在沪全部演出。上海市文娱领域综合整治领导小组办公室和上海市文化和旅游局对涉事公司进行约谈和训诫，要求其立即停止在上海的演出，并展开内部管理整顿。此举是对笑果文化脱口秀演员李昊石在演出中肆意篡改演出申报内容并严重侮辱人民军队的行为做出的回应。笑果文化被责令深刻反省整改，以接受观众批评和媒体舆论监督。

可以看到，教LLM额外的知识没有什么难的，就跟没收了智能手机的学生一样，我们只需要先给它足够的知识，再让它完成任务即可。
2.思维链(Chain-of-Thought)
现在先给屏幕前的你一个问题：帮我购买现在最火的恐怖电影的电影票。
你会如何解决这个问题？如果是我的话，我会：
打开豆瓣电影热度榜，找到最火的恐怖电影。
打开购票网站，购买电影票。（哦当然，你也可以直接打开购票网站的排行榜，不过这样的话，这个例子就写不下去了）
解决问题的思考方式像一个链，一步接一步。那么，如何让LLM和人一样思考，甚至是借助外部工具来解决问题呢？
还是老生常谈的把LLM当作一个人，首先告诉它有什么工具，然后让它生成思考的步骤，这就是思维链。
来看一个示例，我们先向LLM描述它可以使用的工具，然后让它一步接一步的思考问题，做出动作，并观察结果，最后判断是否完成。

Q：你是一个可以使用外部工具的智能助手，请按照给定的格式回答问题。

你可以使用一些外部工具，工具的定义格式是：
[工具名称-工具功能-工具输入-工具输出]

下面是两个你可以使用的工具：
[豆瓣-查询指定类型电影的热度排行榜-电影类型-电影名称]
[淘票票-购买指定电影的电影票-电影名称-购买成功]

回答时需要遵循格式，在给出最终的答案之前需要按照指定的格式一步接一步的推理，格式说明在---之间：

---
问题：你需要回答的问题
思考：回答这个问题你需要做些什么
动作：你在接下来要采取的动作，应该是工具名称["豆瓣", "淘票票"]中的一个
输入：动作对应工具的工具输入
观察：动作的结果
...（这个思考/动作/输入/观察可以重复N次）
思考：我现在知道最终答案
最终答案：原始输入问题的最终答案
---

问题: 帮我购买热度最高的恐怖电影的电影票
思考：
A：要购买热度最高的恐怖电影的电影票，首先需要查找豆瓣上恐怖电影的热度排行榜，然后找到排行榜上排名最高的电影，最后使用淘票票购买该电影的电影票。

动作：豆瓣["豆瓣"]
输入：查询指定类型电影的热度排行榜["恐怖"]
观察：豆瓣返回的热度排行榜中的电影列表

思考：现在我知道热度最高的恐怖电影是哪部电影了。

动作：淘票票["淘票票"]
输入：购买指定电影的电影票["热度最高的恐怖电影"]
观察：购买成功，获取电影票

思考：我现在知道最终答案了。

最终答案：已成功购买热度最高的恐怖电影的电影票。

然而，LLM直接把推理结果都给出来了，也没有实现我们期望的让LLM来使用工具的效果。
别着急，现在我们重新开始一轮对话，并把它的行为截断。
我们将输入改写一下，假设豆瓣查询到的最热门的恐怖电影名为《危笑》，然后让它继续进行思考的第二步

Q：你是一个可以使用外部工具的智能助手，请按照给定的格式回答问题。


你可以使用一些外部工具，工具的定义格式是：
[工具名称-工具功能-工具输入-工具输出]


下面是两个你可以使用的工具：
[豆瓣-查询指定类型电影的热度排行榜-电影类型-电影名称]
[淘票票-购买指定电影的电影票-电影名称-购买成功]


回答时需要遵循格式，在给出最终的答案之前需要按照指定的格式一步接一步的推理，格式说明在---之间：


---
问题：你需要回答的问题
思考：回答这个问题你需要做些什么
动作：你在接下来要采取的动作，应该是工具名称["豆瓣", "淘票票"]中的一个
输入：动作对应工具的工具输入
观察：动作的结果
...（这个思考/动作/输入/观察可以重复N次）
思考：我现在知道最终答案
最终答案：原始输入问题的最终答案
---


问题: 帮我购买热度最高的恐怖电影的电影票
思考：要购买热度最高的恐怖电影的电影票，首先需要查找豆瓣上恐怖电影的热度排行榜，然后找到排行榜上排名最高的电影，最后使用淘票票购买该电影的电影票。
动作：豆瓣["豆瓣"]
输入：查询指定类型电影的热度排行榜["恐怖"]
观察：危笑


思考：
A：根据豆瓣的查询结果，我找到了热度最高的恐怖电影。


动作：淘票票["淘票票"]
输入：购买指定电影的电影票["危笑"]
观察：购买成功


思考：我现在知道最终答案。


最终答案：已成功购买热度最高的恐怖电影《危笑》的电影票。

可以看到，在我们帮助它填写第一步的动作结果后，它成功的判断出要使用淘票票工具来购买电影票了。
让大模型一步接一步的思考，同时，我们向它提供工具，这就是经常听到的思维链。
那么，编程时怎么实现思维链呢？这里简单说一下，LLM通常是支持流式输出的，并且由于它们的原理是基于上文来生成下文。所以即使它在第一次对话中就"完成"了全部思考。我们依旧可以篡改它的思考过程，把工具的执行结果替换进去，让它继续思考，直到完成任务。

文生图超级大合集！几乎包含所有模型，提示词教程：

除了DALL·E 3、Midjourney、Stable Difusion，你还知道哪些好用小众的文生图模型吗？

你知道一张精美的AI图片，需要哪些精准的提示词、效果融合以及制作流程吗？

如果把几乎所有文生图模型集合在一个平台中，并且还能叠加效果生成图片，你愿意使用吗？

满足你的需求，今天就为大家介绍大名鼎鼎的文生图大合集平台——civitai

Civitai创立于今年1月份，当时注册用户仅有10万。目前为止，Civitai的注册用户超300万，每月独立访问用户在120—130万左右，其影响力可见一斑。

使用地址：https://civitai.com/‌

Civitai的主要特色功能包括：可以按照关键字搜索文本生图模型，例如，DREAMSHAPER – 8这样好用的模型，以及SD所有系列都能在这里找到，同时会详细介绍这些模型使用的训练数据以及开源地址。

图片搜索，可以按照城市、运输、盔甲、机器人等关键字搜索图片，并且多数生成的图片都附带详细的提示词教程和额外的叠加效果。

提示词、工具配置等教程，作者会分享他生成图片的所有参数设置，例如，图片的采样器、尺寸、粒子、制作心得等，非常详细几乎涵盖所有步骤。

支持用户在该平台进行生成全新内容，或根据选择的作品进行二次创作。

简单来说，可以把Civitai看成文生图界的“微博”，在这里你可以找到很多有用的模型、图片和教程，并且可以实时查看效果或自己亲手尝试。

需要注意的是，这里会显示成年人图片，但可以在账号设置中把这些内容全部过滤掉。

模型和图片搜索

登录https://civitai.com/首页，选择“Models”选项，然后选择一个类型，例如，我们选择了“Style”样式选项。然后点击那张雷神图片。

这里会显示详细的参数，包括生成图片的模型是SD1.5、训练流程、参数技巧等，同时作者会再下方写出，该图片是基于哪些开源模型训练的并附带地址。

当我们在点击雷神图片时，会在右下方详细显示生成该图片的提示词，例如，该图片的是雷神、杰作、最佳质量、高品质、高分辨率、看着观众、直视、雷声、闪电、男性焦点、盔甲、肌肉、头盔、锤子、金发，长发，独奏，盔甲，斗篷，全盔，头盔，独奏，武器。同时会显示采样器、CFG量表、种子等详细参数。

Civitai提示词教程

我们回到首页，再点击“Articles”，里面展示了很多提示词、工具设置的教程分享，并且会附带实际案例方便理解。

例如，我们点击左面第一个案例，ComfyUI AnimateDiff 指南。

点击进入之后，会讲述详细的ComfyUI AnimateDiff安装、提示词、制作方法、工作流程说明等。这对于多数用户来说帮助巨大。

Civitai支持在线生成

用户在Civitai注册完成后，可以直接使用文生图功能，并且可以使用几乎所有模型。例如，

「AIGC开放社区」选择DREAMSHAPER– 8模型（可以选择其他模型），生成了一个在太空奔跑的小孩。


可以借鉴一下别人的效果，叠加到生成提示中。例如，我选择了一个很火的Babes和Makima作品，相当于把对方的参数设置拷贝过来，然后再次点击生成一个在太空奔跑的小孩。

结果就变成了这样。

上面只是一个简单的示例，大家可以研究更复杂、有意思的玩法。总之，Civitai的生成平台非常强大可以借鉴、拷贝别人的图片、参数，丰富自己的图片。

Civitai图片欣赏

用户生成的图片可以在Civitai上分享能获得别人的点赞，很多都精美绝伦，非常值得鉴赏其提示词和制作流程。

人工智能（AI）提示词工程师是在AI技术快速发展中由大模型带火的新职业。据了解，目前在国内各大招聘平台上，相关职位月薪不菲。那么，此类由大模型发展而产生的新职业具有哪些特点，需要从业者具备怎样的技能？行业内部对此类新职业的需求是否会长期存在？随着大模型的进一步发展，其发展前景又是怎样的？

提示词工程师或将更加抢手

今年，百度创始人李彦宏在中关村论坛上称，未来10年，全球有50%的工作将涉及“提示词工程”。提示词工程即通过一些简单的命令或指示，让机器人完成某些任务。而下达这些指令的，正是AI提示词工程师。

“提示词工程师的出现，是与近年来生成式AI的发展和普及密切相关的。这种变革的背后是计算能力的增强与深度学习理论的快速发展。其正在日益改变众多行业，如画师、客服、翻译、程序员等职业。”近日，远望智库人工智能事业部部长、图灵机器人首席战略官谭茗洲接受科技日报记者采访时说。

有人说，如果AI模型是一种新型计算机，那么提示词工程师就是为它编程的程序员。然而，不同于一般的计算机程序，当我们希望AI去完成一项诸如“写文章”或“画一幅好看的画”这类存在模糊性的任务时，不可避免地会面临一个问题：由于存在隐含信息和背景信息，很难说出让AI一次性就能正确理解的话。这一问题即AI价值对齐问题。

“提示词的作用，就是将模糊问题用语言清晰地描述、准确地限制，以此来控制AI生成的结果。提示词工程师的工作本质上就是一个和AI沟通需求、对齐需求的过程。”神鹄开源社区创始人陈少宏指出。

AI提示词工程师需要的是与模型交互的技能。陈少宏进一步解释道，提示词工程师的主要工作就是通过不断地对话训练AI，让其能够准确理解用户的意图和需求，从而输出用户最想要的答案。

比如，在艺术领域，可以通过输入一些关键词和描述，来引导AI模型生成不同类型的艺术品和设计作品；在医疗领域，可以通过为AI模型提供大量的医疗数据和病例信息，来增加诊断和治疗的精准性。

谭茗洲说，随着AI技术广泛应用于各个领域，AI领域越来越需要拥有扎实技术和丰富经验的提示词工程师来构建、训练和优化模型，以确保模型的准确性和稳定性。未来，提示词工程师或将变得更加抢手。

增强提示能力满足特定需求

业内人士表示，提示词工程师实则集合了设计师、文案和程序员的综合技能。提示词工程师需要持续学习，才能对行业有深入的理解，为AI大模型提供完善的提示词指令，以确保其输出的结果符合人类的期待。

“当希望AI代替我们设计一个手机海报时，如果直接告诉它绘制海报，其生成的大概率不是我们想要的，需要指导和优化。”西安电子科技大学电子工程学院教授吴家骥说。

如何指导和优化提示词工程？吴家骥答道：“我们需要采用AI更能理解的语言来告诉它需要一个什么样的海报。通过语言的描述将问题限制在一个较小的、清晰的范围内，减少其中AI不知道的隐含信息与模糊内容，才能得到想要的答案。提示词工程师通过与AI的多轮对话，消除AI理解的不确定性。”

对于同一个大模型给予不同的提示词，会生成不同的结果。“背后的原因其实是提示词工程能力的差异。本质上，提示词工程是一种通过优化提示词来改进模型生成结果质量的方法。可以说，谁掌握提示词工程能力，谁就拿到激发大模型强大生成能力的钥匙。”吴家骥表示。

陈少宏指出，千万不要小看梳理与表达清楚需求的能力。提示词工程本质上是让人学会“好好说话”“换位思考”“正确提问”“举例子打比方”“准确提需求”。这种能力的培养与提升，不只是为了和AI说话，也是为了人与人之间沟通。

“要想准确地表达，最重要的是具备一种‘向下兼容’的能力，或者说换位思考的能力。”陈少宏解释说，人们需要思考并理解AI在接收这些信息时会有哪些思考，会产生怎样的结果，问题的边界是否还存在模糊，提供的信息本身是否具备模糊性。

新的“输入法”将被设计出来

“AI未来一定会提高各行各业的生产力，那么，提示词工程，或者说使用AI，一定也会成为个人就职的一项基础能力。”谭茗洲指出。

谭茗洲解释，现在有专门的人写提示词，是因为能准确描述需求。然而，根据大模型输出调整输入的人还是少有的。随着大语言模型和生成式AI时代的到来，对于提示词这样的自然语言会有更多人设计属于大语言模型时代的“输入法”，在众多工具的帮助下，人也会更容易说清自身的需求和想法，完成沟通与对齐。

陈少宏指出，我们可以看到，目前，传统模型和大模型的本质差距来源于是否具备“涌现能力”，即对新的、从未见过的任务的迁移能力。简单来说，就是对于不确定性事物的处理能力。可以相信，未来AI的创作、沟通能力会越来越强，现在存在的无法用好AI这个问题必然是阶段性的，会随着AI能力增强被逐渐解决。

然而，我们也要认识到，无论AI如何发展，有一项能力是无法被替代、属于人类独有的，那就是价值判断和对结果承担责任的能力。因为最后选择错误带来的亏损是由人类承担的，一切需要价值判断且承担结果的工作，将会变得越来越不可或缺。

吴家骥表示，未来提示词工程师这个职业应该还会长期存在。未来的提示词工程师一定是能够提供非常专业的、有价值的建议的，以咨询和企业服务为核心的专业级提示词工程师。行业需要由他们综合分析各方面因素，结合大量AI提供的结果作出最终的决策和判断。