一家名为Saama AI Labs发布了他们基于Llama 3 微调的开源医疗AI大模型OpenBioLLM-Llama3-70B 和 OpenBioLLM-Llama3-8B,刷新抱抱脸上的医疗大模型榜单,并占据榜首。其在生物医学领域的测试性能超越 GPT-4、Gemini、Meditron-70B、Med-PaLM-2等行业巨头。
OpenBioLLM-70B 展示了卓越的性能,在 9 个不同的生物医学数据集中超越了 GPT-4、Gemini、Meditron-70B和 Med-PaLM-2 等更大的模型。尽管与 GPT-4 和 Med-PaLM 相比,其参数数量较少,但它取得了最优的结果,平均得分高达 86.06%,令人印象深刻。
微调过程分两个阶段进行,对使用 LLama-3 70B 和 8B 型号作为基础进行微调
1、策略优化:利用直接偏好优化DPO 数据集和微调配方。《直接偏好优化:你的语言模型实际上是一个奖励模型》arxiv.org/abs/2305.18290
2、微调数据集:自定义医疗指导数据集。耗时约 4 个月收集数据,纳入 3000 个医疗保健和 10 多个医学主题数据,与医学专家合作审查其质量,并过滤掉不合格的例子。该数据集详细信息尚未发布。
OpenBioLLM 可以高效地分析和总结复杂的临床记录、EHR 数据和出院摘要,提取关键信息并生成简洁、结构化的病历摘要。
病例摘要
**主诉:**呼吸急促,进行性加重,伴心电图异常。
相关病史:
结肠炎和憩室炎,目前正在接受治疗。
高血压病史。
心脏杂音,未定期随访。
长期呼吸急促。
体格检查:
未明确提及,但根据心电图结果推测:
二尖瓣反流严重。
大量胸腔积液。
诊断:
未明确说明,但根据心电图结果推测:
二尖瓣反流。
充血性心力衰竭(CHF)。
治疗方案:
目前药物:
速尿(利尿剂)。
钾补充剂。
肼屈嗪(抗高血压药)。
抗生素治疗。
甲状腺补充剂。
可能需要进一步评估和治疗二尖瓣反流和充血性心力衰竭。
其他信息:
患者为 86 岁女性,因腹痛和血便入院治疗。
患者活动能力有限,多年来一直呼吸急促。
患者有大量胸腔积液,但未定期随访。
有高血压病史,但无糖尿病、血脂异常病史,不吸烟。
家族史无特殊。
患者正在服用多种药物,包括:氨氯地平、卡维地洛、布洛芬。
患者不吸烟,不喝酒,无娱乐性药物使用史。
OpenBioLLM 可以为广泛的医学问题提供答案。
执行各种生物医学分类任务,例如疾病预测、情感分析、医疗文档分类
可以通过从非结构化临床文本中识别和提取关键医学概念(例如疾病、症状、药物、手术和解剖结构)来执行高级临床实体识别。通过利用对医学术语和上下文的深刻理解,该模型可以准确地对临床实体进行注释和分类,从而从电子健康记录、研究文章和其他生物医学文本源中实现更高效的信息检索、数据分析和知识发现。此功能可以支持各种下游应用,例如临床决策支持、药物警戒和医学研究。
检测并删除医疗记录中的个人身份信息 (PII),确保患者隐私并遵守 HIPAA 等数据保护法规。
OpenBioLLM-70B 下载地址:huggingface.co/aaditya/Llama3-OpenBioLLM-70B
OpenBioLLM-8B 量化模型下载地址:huggingface.co/aaditya/OpenBioLLM-Llama3-8B-GGUF
在使用中需要注意的是要使用 Llama-3 指导版本提供的聊天模板。否则,性能将会下降。有用户和我本人在实际使用Llama 3 的过程中,已经遇到过因为提示词模板的问题,导致Llama 3 进入自循环回答错误问题了。 官方还宣称,虽然 OpenBioLLM-70B 和 8B 利用高质量的数据源,但其输出仍可能包含不准确、偏差或不一致,如果在没有进一步测试和完善的情况下依赖其进行医疗决策,可能会带来风险。该模型的性能尚未在随机对照试验或现实医疗环境中经过严格评估。
如果在医院本地部署该模型,挂上医院本地知识库,已经能想象到超多的实际应用了,应该能成为医疗行业的超级效率工具。
本文作者:小白菜
本文链接:
版权声明:摘自《火星AICG》,版权归原作者所有,仅供学习参考,禁止用于商业用途,若涉及知识产权,请联系删除。