Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

facai369 2024-10-23 新闻动态 490 次浏览 0个评论

当地时间10月22日,Anthropic的Claude 3.5迎重磅升级!

Claude 3.5 Haiku 和升级款的 Claude 3.5 Sonnet 都来了。Claude 3.5 Sonnet 不仅编程能力更强,还带来全新功能computer use(计算机使用), Claude 现在支持像人类一样操作计算机,可以遵循用户的命令在计算机屏幕上移动光标,点击相关位置,并通过虚拟键盘输入信息,模拟人们与自己计算机的交互方式


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

升级版 Claude 3.5 Sonnet 现在就可以使用了。computer use测试版也开放使用。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

进化后的Claude 3.5 Sonnet堪称最强推理模型。它在各个方面得到了全面显著的提升,尤其是业界领先的编码能力。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

甚至,Claude现在能够像人类一样操作计算机,不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

目前,Claude 在以与人相同的方式使用计算机的模型中处于最先进水平——也就是说,通过查看屏幕并根据屏幕内容采取行动。在一个旨在测试开发人员让模型使用计算机的评估(OSWorld)中,Claude 目前获得了 14.9% 的分数。这远未达到人类水平的技能(通常为 70-75%),但远高于同一类别中排名第二的 AI 模型获得的 7.7%。

Anthropic开发者关系主管表示,计算机使用是全新人机交互范式的第一步。同时也是,AI模型应该具备的全新基础能力。

为什么要训练AI操作电脑?Anthropic表示,在过去几年里,强大的AI开发已经达到了许多里程碑,比如执行复杂逻辑推理,以及识别和理解图像的能力。而下一个突破点,就是AI操作电脑了!如果模型不必通过专门定制的工具进行交互,而是按指示就能使用所有软件,这一定代表着未来的方向。

在下面这个demo中,Anthropic研究员给Claude提出了一个极有难度的挑战:

我的朋友要来旧金山,我想明天早上和他一起在金门大桥看日出。我们将从太平洋高地出发。你能帮我们找到一个绝佳的观赏地点,查看一下开车时间和日出时间,然后安排一个日历活动,让我们有足够的时间到达那里吗?

Claude自行打开了Google,开始了搜索。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

金门大桥和用户居住地有多远呢?Claude会自己打开地图查找距离。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

开发者展示出Claude如何操控了自己的笔记本电脑,丝滑地完成了一个网站编程任务。

首先,Claude在小哥的Chrome浏览器中导航到了Claude.ai,并且让Claude为自己创造了一个90年代主题的个人主页。

只见它自己输入网址,键入提示,向另一个Claude发出请求。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

假设我们需要填写一份来自蚂蚁设备公司的供应商请求表,但需要填写的数据散步在电脑的各个角落,Claude能帮我们完成吗?

只见它开始截取操作者的屏幕截图,并且很快发现:蚂蚁设备公司并不在表格中。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

这时,它立刻切换到CRM系统中,去搜索这个公司。找到后,它开始滚动页面,查找填表所需的所有信息,然后提交了表格。这也就意味着,我们工作中许多不得不做的繁琐事项,都可以交由Claude代劳了!


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

在各项行业基准测试中,升级版Claude 3.5 Sonnet性能得到了全方位提升。特别是,智能体编码、工具使用任务中取得显著突破。

在编码能力方面,它在SWE-bench Verified测试中,性能从33.4%大幅提升至49.0%。

这超越了所有公开可用的模型——包括OpenAI o1-preview等推理模型和专为智能体编码设计的专门系统。

凭借快速的处理速度、改进的指令执行能力和更准确的工具使用,Claude 3.5 Haiku非常适合面向用户的产品、专门的辅助任务,以及从海量数据中生成个性化体验。

AI操作电脑能力代表了一种全新的人工智能开发方法。

迄今为止,LLM开发者一直在努力使工具适应模型,创造特殊的环境,让AI使用专门设计的工具来完成各种任务。

虽然Claude已经达到了当前的最高水平,但它的操作仍然相对缓慢且容易出错。我们日常使用电脑时的许多操作,如拖拽、缩放等,Claude都还无法做到。

此外,Claude目前观察屏幕的方式类似于快速翻阅一本画册,通过连续截图并拼接在一起,而不是观察连续的视频流。这意味着它可能会错过一些短暂的动作或通知。

有趣的是,Anthropic在录制Demo时,还遇到了一些有趣的小插曲。

比如,在一次演示中,Claude不小心点击停止了一个长时间运行的屏幕录制,导致所有录像都付诸东流。

而在另一次编码演示中,Claude则突然「走神」,开始饶有兴趣地浏览起黄石国家公园的照片。


          
            Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

总之,Claude如今的表现让人对未来充满期待:AI操作电脑的能力将神速进步,那一天,软件开发小白都能轻松使用它。

每日经济新闻综合公开资料

转载请注明来自语言学习,本文标题:《 Claude迎重磅升级,支持像人一样操控计算机:不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本! 》

百度分享代码,如果开启HTTPS请参考李洋个人博客
好好学习天天向上
Top