清华AIR开源轻量版生物医药基础模型BioMedGPT
2023-04-21 13:41
摘要:日前,清华智能产业研究院(AIR)开源轻量版BioMedGPT1.6B。据悉,BioMedGPT-1.6B是一个参数为16亿的生物医药领域轻量级科研版基础模型,具有跨模态与知识融合的特点,可以处理药物性质预测、自然语言类、跨模态等多..
日前,清华智能产业研究院(AIR)开源轻量版BioMedGPT1.6B。据悉,BioMedGPT-1.6B是一个参数为16亿的生物医药领域轻量级科研版基础模型,具有跨模态与知识融合的特点,可以处理药物性质预测、自然语言类、跨模态等多种任务。
BioMedGPT-1.6B是清华智能产业研究院(AIR)团队正在做的BioMedGPT的单机轻量版,后者是一个适用于生物医药领域研发的通用大模型。
BioMedGPT-1.6B的开源是为了小试牛刀,同时让行业相关科研人员有东西可用。
项目特点:
BioMedGPT-1.6B是一个具备多个输入Encoder的模型,可以处理分子、蛋白质和文献等多个模态的输入,是首个将多模态知识引入模型的生物医药领域基础模型。
它可以将不同模态的输入进行统一表示处理,学习到不同模态之间的关联知识,具有“融会贯通”的能力。
BioMedGPT-1.6B的开源标志着生物医药领域的基础大模型正在逐渐成形。这个模型具有跨模态与知识融合的特点,可以增强模型的泛化能力和可解释性。
开源地址:https://github.com/BioFM/OpenBioMed
更新于:2023-04-21 13:41