ChatQA是一系列对话问答（QA）模型，可以达到GPT-4级别的准确性。我们提出了一种两阶段指导调优方法，可以显著提高大型语言模型（LLMs）的零射击对话QA结果。为了处理对话式QA中的检索，我们在多轮QA数据集上对密集检索器进行微调，这提供了与使用最先进的查询重写模型相当的结果，同时大大降低了部署成本。值得注意的是，我们的ChatQA-70B在10个对话QA数据集的平均得分上可以胜过GPT-4（54.14 vs. 53.90），而不依赖于OpenAI GPT模型的任何合成数据。