更多精彩 >

MedBench最新评测:山海大模型医疗各项指标力压GPT-4

2024-06-14 09:55:41   来源:天极网  作者: 

摘要:MedBench致力于打造一个科学、公平且严谨的中文医疗大模型评测体系及开放平台,其基于医学权威标准,不断更新维护高质量的医学数据集,全方位多维度量化模型在各个医学维度的能力。

近日,由上海AI实验室和上海市数字医学创新中心联合推出的MedBench评测更新榜单,继4月份夺冠后,云知声山海大模型医疗行业版(UniGPT-Med)再次以综合得分82.2的优异成绩位列全球第一,各项指标全面超越GPT-4,充分展现出山海大模型在拥有业内一流的通用能力之外,更具备打造世界领先的行业大模型的能力。

7.png

MedBench致力于打造一个科学、公平且严谨的中文医疗大模型评测体系及开放平台,其基于医学权威标准,不断更新维护高质量的医学数据集,全方位多维度量化模型在各个医学维度的能力。

MedBench的五大评测维度——医学语言理解、医学语言生成、医学知识问答、复杂医学推理、医疗安全和伦理,构成了其专业评测框架的核心。这一框架吸纳了海量医学知识库和医院医学专家的丰富经验,涵盖8个公开数据集和12个自建数据集,总计约30万道中文医疗专业测评题目,覆盖了从医学考试题库到患者服务、医学问诊、病例分析以及病历生成等广泛的医学任务,致力为中文医疗大模型提供客观科学的性能评测参考。

今年5月,MedBench平台全面升级,不仅引入API评测方式,丰富了参评途径,还优化了开放域问答的评估指标。通过医学专家的精准标注,平台进一步提升了评测结果的公正性和专业性。同时,平台在数据集、评测方法和系统功能等方面也进行了升级,旨在为医疗大模型评测构建一个更加完善的社区环境,并提供更加丰富、真实的实践场景。

此次评测,云知声山海大模型医疗行业版(UniGPT-Med)通过API提交方式,不仅以82.2的综合得分刷新了MedBench评测记录,更是在各个维度上力压GPT-4,排名全球第一。这一成绩的取得,是山海大模型医疗专业能力的集中展现,也标志着其技术迭代和创新发展达到了一个新的高度。

目前,山海大模型通用能力已超越GPT-3.5,并在SuperCLUE 4月评测中跻身国内大模型Top10;与GPT-4的对战中,山海综合胜率与和率为75.55%。

在医疗专业能力上,山海大模型于2023年6月的MedQA任务中超越Med-PaLM 2,取得87.1%的优异成绩;在临床执业医师资格考试中以523分(总分600分)的优异成绩,超过99%的考生水平;其基于山海大模型孵化的医疗行业版大模型,也在CCKS 2023 PromptCBLUE医疗大模型评测中夺得通用赛道一等奖。

随着医疗行业对智能化、精准化服务需求的不断增长,云知声山海大模型医疗行业版(UniGPT-Med)有望在医疗健康领域扮演更加关键的角色,为提升医疗服务效率、优化患者体验、推动医疗科技进步提供强有力的支持。

时代天使亮相第六届中部国际口腔展 数字化创新成焦点

创新创业时代天使

2024年11月11日至13日,第六届中部国际口腔展在中国光谷科技会展中心(武汉)隆重举行。

2024-11-21

夜郎古酒业上诉能有多大胜算?

大消费夜郎古酒

11月18日,夜郎古酒业正式向四川省高级人民法院提起上诉,这场备受争议的案件将正式走向二审阶段。

2024-11-21

FWD富卫保险贺岁杯2025盛大启幕,群星云集会员享优先订票

金融科技FWD富卫保险

随着新年的脚步日益临近,FWD富卫保险贺岁杯2025发布会于11月14日在中国香港隆重举行,标志着这...

2024-11-21

超10万开发者已开始赚钱,百度文心智能体平台在乌镇获奖

创新创业百度文心

11月 21日,2024年世界互联网大会乌镇峰会互联网企业家论坛在浙江乌镇举行,百度集团资深副总裁梁...

2024-11-21

smart全球灵感定制启动,提供专属定制服务,助力密友灵感落地成真

大消费smart

11月20日,豪华奇旅大五座SUV全新smart #5在浙江省湖州市smart全球灵感定制中心举行全...

2024-11-21

太美医疗科技入选浙江省DCMM贯标和企业首席数据官制度建设试点企业

医疗健康太美医疗科技

近日,浙江省经济和信息化厅公布了2024年“浙江省企业数据管理国家标准贯标第二批试点企业”及“浙江省...

2024-11-21

全球新能源船艇精英汇羊城,助力行业全球化破局

新能源羊城

在全球范围内,新能源产业正成为推动经济增长,实现绿色转型的重要力量,引领着一场深刻的产业革命。

2024-11-21

医学论文证实:步长青花瓷脑心通胶囊可延缓颈动脉斑块进展

医疗健康步长青花瓷脑心通胶囊

据中国知网数据库查询,《辽宁中医杂志》刊文报道,相关研究证实,为探讨脑心通胶囊对脑梗死患者颈动脉粥样...

2024-11-21

以丰沃生态土壤持续培育创新产品,腾讯荣获世界互联网杰出贡献奖

腾讯上市公司

站在“下一个十年”新起点,今年的乌镇峰会全新设立“世界互联网大会杰出贡献奖”,设置社会贡献类、创新突...

2024-11-21

多元探索 多维绽放 五粮液“和美全球行”香遇世界

上市公司五粮液

11月11日—12日,五粮液作为首席合作伙伴,在纽约举行的2024《财富》全球论坛上精彩亮相,以美酒...

2024-11-21

投资家网(www.investorscn.com)是国内领先的资本与产业创新综合服务平台。为活跃于中国市场的VC/PE、上市公司、创业企业、地方政府等提供专业的第三方信息服务,包括行业媒体、智库服务、会议服务及生态服务。长按右侧二维码添加"投资哥"可与小编深入交流,并可加入微信群参与官方活动,赶快行动吧。

沙特天空塔投资设立专项基金带领中国氢能独角兽扎根沙特

2016年注册于北京的中氢新能技术有限公司,下设位于大兴的装备制造公司、位于海淀区的技术研究院、材料...

挑战奔驰的明星车企,突然“翻车”了

一度无比高光的理想汽车,猝不及防遭遇重挫。

深圳天使母基金姚小雄:将来股权投资行业竞争是服务能力的竞争

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

避免卡脖子,硬科技如何“逆境”突围?

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

VC/PE眼中的“专精特新”

2024年1月10日,由投资家网主办,财经锐眼、有时间协办,北京微金科技有限公司承办的“第十二届股权...

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会将盛大启幕

第二届中匈可再生能源、新材料商业投资峰会于2025年4月9日在匈牙利布达佩斯盛大启幕。

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

雕刻耐心|第18届中国投资年会·有限合伙人峰会在沪召开

“中国投资年会”作为私募股权行业的年度盛会,已成功举办了18届,吸引了全国VC/PE领域从业者的广泛...

雕刻耐心|第18届中国投资年会·有限合伙人峰会即将启幕

雕刻耐心|第18届中国投资年会·有限合伙人峰会即将启幕

2024年的一级市场,“耐心”是最高命题,也引发了持续全年的讨论。

不响不辍|第18届中国投资年会·年度峰会在沪召开

不响不辍|第18届中国投资年会·年度峰会在沪召开

5月8-10日,由投中信息、投中网主办的“第18届中国投资年会·年度峰会”在上海外滩W酒店盛大召开。

2024汽车科技创新与成果转化大会在常州成功召开

2024汽车科技创新与成果转化大会在常州成功召开

4月12日,2024汽车科技创新与成果转化大会在常州经开区成功召开。