百川智能发布超千亿参数大模型Baichuan 3,多个权威医疗评测成绩超过GPT-4

1月29日,由前搜狗公司CEO王小川创立的“百川智能”发布了超千亿参数的大语言模型Baichuan 3。

作者: 本站编辑 来源: 大健康派 2024-01-31 10:20:29

1月29日,由前搜狗公司CEO王小川创立的“百川智能”发布了超千亿参数的大语言模型Baichuan 3。百川智能方面表示,Baichuan 3在多个权威医疗评测上的中文效果超过了GPT-4,是中文医疗任务表现最佳的大模型。

据介绍,百川智能在模型预训练阶段构建了超过千亿Token的医疗数据集,包括医学研究文献、真实的电子病历资料、医学领域的专业书籍和知识库资源、针对医疗问题的问答资料等。该数据集涵盖了从理论到实际操作,从基础理论到临床应用等各个方面的医学知识,确保了模型在医疗领域的专业度和知识深度。

针对医疗知识激发的问题,百川智能在推理阶段针对Prompt做了系统性的研究和调优,通过准确的描述任务、恰当的示例样本选择,让模型输出更加准确以及符合逻辑的推理步骤,最终不仅提升了Baichuan 3在多项医疗考试上的成绩,并且在真实的医疗问答场景下也能给用户提供更精准、细致的反馈。

百川智能表示,Baichuan 3在数学和代码等多个权威评测上接近GPT-4,证明了其强大的基础逻辑推理能力。基于丰富高质量的专业医疗知识,通过调优后的Prompt可对这些知识进行充分激发,再结合超千亿参数的推理能力,Baichuan 3在医疗领域的任务效果提升显著,在各类中英文医疗测试中的成绩提升了2到14个百分点。不仅MCMLE、MedExam、CMExam等中文医疗任务的评测成绩超过GPT-4,USMLE、MedMCQA等英文医疗任务的评测成绩也逼近了GPT-4的水准。

微信图片_20240131101856.png

未来,百川智能将基于Baichuan 3打造“超级应用”,把大模型技术落地到诸多复杂应用场景。

百川智能 大语言模型 GPT-4

关注大健康Pai 官方微信:djkpai我们将定期推送医健科技产业最新资讯