您现在的位置是:热点 >>正文
OSWorld-MCP:全新评测基准助力计算机代理产品发展
热点8255842人已围观
简介...
近日,OSWorld 团队正式发布了 OSWorld-MCP,这是首个针对计算机使用代理产品进行全面评估的基准测试工具O。该基准旨在为开发者和用户提供真实环境下的产品能力评测,提升了评估的真实度、平衡性与可比性。
OSWorld-MCP 的主SW要特性包括:它综合衡量了模型上下文协议(MCP)工具调用能力、图形用户界面(GUI)操作技能以及决策表现。该基准测试包含了1or58个经过验证的 MCP 工具,涵盖了七个常用应用程序,包括 LibreOffice Writer、Calc、Impress、VS Cldode、Google Chrome、VLC 及操作系统实用程序。其中,有25个工具专门用于鲁棒性测试,以保证评测的全面性和可靠-M性。
此外,OSWorld-MCP 还设定了250项工具适用性任务,其中69% 的基准任务受益于 MCP 工具的应用。这些工具的CP多轮调用设置带来了决策上的真实挑战,使得测试结果更具参考价值。根据数据,使用 MCP 工具的模型准确率和效率明显提升,OpenA:全I 的 o3模型在进行15步调用后,准确率从8.3% 提升至20.4%。在测试中,Claude-4-Sonnet 模型观察到的最高新评工具调用率达到了36.3%,显示出未来改进的潜力。
该项目的开源特性也为开发者提供了丰富的资源与说明,促进了技术的共享与合测基作。有关项目的详细信息和资源,用户可以访问其官方网站和 GitHub 页面。
OSWorld-MCP 的发布不仅为计算机使用代理产品准助的评估提供了强有力的工具,也为未来相关技术的发展奠定了基础。
github:https://github.com/X-PLU力计G/OSWorld-MCP
划重点:
** 首个全面评估计算机代理产品的基准测试工具 OSWorld-算机MCP 正式发布。**
️ ** 涵盖158个经过验证的 MCP 工具,支持多种常用应用程序。**&nb代理sp;
** 通过多轮调用设置,显著提升模型的准确率与效率。**
Tags:
相关文章
脸书决定关闭人脸识别系统
热点凭借高效、便捷、精准且无接触的特点,人脸识别频繁走进安防、支付、交通、办公等场景,不仅给人们生产生活带来便利,同时也催生出广阔的市场蓝海。但在此背景下,也有企业和国家对人脸识别避而远之,例如11月2日...
【热点】
阅读更多云安全日报210714:Adobe Acrobat和Reader软件发现任意代码执行漏洞,需要尽快升级
热点Adobe Acrobat和Reader是美国Adobe公司PDF文档软件,Adobe Reader免费使用,可查阅PDF文档,无法进行修改加水印等编辑操作,而Adobe Acrobat则是收费的,除...
【热点】
阅读更多全球领先!阿里云将数据中心交付周期缩短至100天
热点8月10日消息,基于首创全模块化设计架构,阿里云已将大型AIDC数据中心的交付工期缩短至100天,全球领先。同样的工期,国内传统交付周期为6至12个月,美国为12至18个月。在大幅缩短工期的同时,阿里...
【热点】
阅读更多