• 首页
  •   >   技术科普
  •   >   正文
  • 科技周报|OpenAI悬赏找漏洞,阿里通义千问正式开放

    发布日期:2023-04-04    浏览次数:

    产业动态

    01OpenAI:最高“悬赏”两万美元在全球范围内找AI漏洞

    4月11日,据路透社报道,OpenAI推出“漏洞赏金”(Bug Bounty Program)计划,向那些举报其AI系统漏洞的用户提供奖励,根据报告漏洞的严重程度,每个漏洞的奖励金额奖从200美元到20000美元不等。

    据了解,在这一“漏洞悬赏计划中”,OpenAI表示,其使命是创建造福所有人类的AI(人工智能)系统,该公司已经大力投资研发,以确保AI系统安全可靠。

    据美国商业内幕网站报道,为了管理提交和奖励流程,OpenAI正在与众包安全平台 Bugcrowd公司合作,让其帮忙管理提交和奖励流程。

    据悉,用户提交的漏洞内容会在两小时内被拒绝或接受,这一计划发布当天已有七个漏洞报告得到奖励,但是漏洞不包含由 OpenAI 系统生成的不正确或恶意内容。Bugcrowd公司表示,将根据对方报告问题的严重性提供现金奖励,金额为200美元到20000美元不等。

    据报道,目前OpenAI 已邀请研究人员审查 ChatGPT 的某些功能以及 OpenAI 系统与第三方应用程序通信和共享数据的框架。该公司表示,启动该计划的原因是,他们认为解决任何复杂技术中出现的漏洞和缺陷,“透明度和合作”至关重要。

    02中国版OpenAI:王小川创立百川智能正式入局AI大模型

    4月10日,搜狗创始人王小川正式对外宣布开启人工智能大模型领域创业。据21世纪经济报道消息,王小川与前搜狗COO茹立云联合创立了人工智能公司——百川智能。


    据报道,作为一家研发并提供通用人工智能服务的中国公司,百川智能旨在打造中国版的OpenAI,致力于研发并提供通用 AI 服务、基础大模型及颠覆性上层应用。王小川在接受红星新闻专访时表示,百川智能大模型的训练也已经启动,并且进展顺利。“创业方向是以大模型这一波新技术为核心,去做一个中国版的ChatGPT。它是既能通过大模型创造通用智能去赋能各种行业,也会打造ToC端的超级个人助理。”他说。

    据悉,该公司早前已获得5000万美元启动资金,主要来自于王小川与其业内好友的个人支持。目前,该创业团队共拥有包括前搜狗、百度、华为、微软、字节、腾讯等知名科技公司以及其他创业公司核心成员在内的数十位顶尖AI人才。据王小川透露,筹建百川智能不到两个月,已有多位技术合伙人和领军人物的加入,“到4月底将会有近50人规模的精英团队。”

    此外,王小川还对媒体表示,面向机构的融资会在近期启动,该公司将会在年底发布面向To B(企业端)领域的大模型产品。

    03阿里版ChatGPT“通义千问”正式开放:未来所有产品都将接入

    4月11日,阿里巴巴正式宣布开放阿里版ChatGPT“通义千问”,未来所有产品都将接入。


    据报道,在阿里云峰会上,阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇宣布,钉钉、天猫精灵等产品已经接入“通义千问”大模型进行测试,未来,阿里所有产品都将接入“通义千问”进行全面改造,包括淘宝、天猫、高德地图、菜鸟、饿了么等所有国民级产品。他认为,面向AI时代,所有产品都值得用大模型重新升级。

    据了解,接入“通义千问”后,钉钉可实现近10项新AI功能;而新天猫精灵则变得更拟人更聪明,知识、情感、个性、记忆能力大幅跃升。

    张勇表示,AI大模型的出现是一个划时代的里程碑,人类将进入到一个全新的智能化时代,就像工业革命一样,大模型将会被各行各业广泛应用,带来生产力的巨大提升,并深刻改变我们的生活方式。

    同时,阿里云智能CTO周靖人也提出,所有软件都值得接入大模型升级改造,阿里将开放“通义千问”的能力,帮助每家企业打造自己的专属大模型。

    据悉,目前已有OPPO、吉利汽车、智己汽车、奇瑞新能源、毫末智行、太古可口可乐、波司登、掌阅科技等企业表态,将与阿里云在大模型相关场景展开合作。

    04上海商汤科技宣布推出“商汤日日新大模型”

    4月10日,上海商汤科技SenseTime举办技术交流日活动,商汤科技董事长兼首席执行官徐立宣布推出大模型体系“商汤日日新大模型”。


    据了解,“日日新SenseNova”大模型体系立足于“大模型+大算力”的战略布局,主要包含有自然语言处理、内容生成、自动化数据标注、自定义模型训练等多种大模型及能力。

    据报道,在这一大模型体系中,主要包含了商汤自研的中文语言大模型商量SenseChat、以及包括了AI文生图创作、2D/3D数字人生成、大场景/小物体生成等一系列生成式AI模型与应用。

    据悉,商汤SenseChat主打妙解复杂问题,创作一流文本,有1800亿参数,总体上模型训练使用了大量数据,并充分考虑了中文语境,能够更好地理解和处理中文文本。

    商汤科技联合创始人、首席科学家王晓刚表示:“商汤已建立了全栈的大模型研发体系,并已在多个行业场景中落地,场景的多样性,任务的复杂度,数据的丰富度均充分展示了我们大模型的能力和未来潜力。我们将持续推动基础设施建设,期待和合作伙伴一起投入到AGI的时代大潮中。”

    ···

    科技前沿

    01AI小镇:生成式智能体开启“模拟人生”

    4月7日,斯坦福大学和谷歌的研究人员发表一篇题为《生成代理:人类行为的交互式模拟》(Generative Agents: Interactive Simulacra of Human Behavior)的论文。


    在该论文中,研究团队提出了“生成式代理”的概念,即模拟人类行为的计算软件,以实现更强大的交互应用程序。

    该论文具体阐述了研究人员如何训练“生成式代理”,包含有具有人工智能特征的虚拟角色,赋予它们身份、记忆力和计划能力,使它们能在虚拟环境中自主行动和交互。

    在具体的研究中,研究人员采用了25个预设角色,将其放到虚拟环境中进行“游戏”,观察它们之间的交流、关系形成和互动协调,就仿佛形成一个AI小镇,开启生成式智能体的“模拟人生”。

    研究团队还介绍了控制评估和端到端评估,以确定该架构的关键组件、大型语言模型的潜在用途以及需要以怎样的一种方式来设计代理,以减轻形成偏执社会关系、深度伪造或定制说服等伦理或社会风险。

    研究团队成员表示,他们在研究中通过消融实验证明了智能体的体系结构——观察、规划和反思的组成部分——这些对智能体行为的可信度均起到了至关重要的作用。

    此外,研究人员还表示,这种人工智能“生成式代理”技术可能应用于虚拟现实世界、实体机器人和在线人工智能辅助等领域。

    02最新发现: ChatGPT或可影响用户道德判断

    4月6日,根据《科学报告》发表的一项研究,人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明,用户可能低估了自己的道德判断受ChatGPT影响的程度。


    在该研究中,德国英戈尔施塔特应用科学大学科学家研究团队将“电车难题”抛给了ChatGPT,让ChatGPT多次回答牺牲1人生命换取其他5人生命是否正确。研究人员发现,ChatGPT分别给出了赞成和反对的陈述,显示它并没有偏向某种道德立场。之后,研究团队又给767名平均年龄39岁的美国受试者假设了一到两种道德困境,要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述,陈述摆出了赞成或反对的观点,受试者答完问题后,被要求评价他们读到的这份陈述是否影响了他们的作答。

    最终,研究团队发现,受试者相应地是更接受或不接受这种牺牲,取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时,这种情况也成立。这说明受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。

    因此,研究团队认为,对话机器人影响人类道德判断的可能性,凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题,或是在回答时提供多种观点和警告。

    ···

    交通驾驶

    01特斯拉被曝因车载摄像头侵犯客户隐私遭起诉

    4月7日,据路透社报道,美国加利福尼亚州一名特斯拉车主在一项潜在的集体诉讼中起诉了特斯拉,指控其侵犯客户隐私。


    此前,有报道称,在2019至2022年间,特斯拉员工通过内部消息系统私下分享了客户车载摄像头记录的私人视频、图像等敏感信息。

    据报道,有7名特斯拉前员工表示,他们在工作中使用的计算机程序可以显示录音中的位置数据,并可能揭示特斯拉车主的居住地。

    一位特斯拉前员工向路透社表示:“某些特斯拉员工甚至可以看到车主的孩子以及非常私密的事情。”还有员工表示,虽然有些帖子只在两名员工之间分享,但也有一些会被数十人看到。

    目前,该车主就上述侵犯隐私的行为向美国加州北区地方法院提起潜在的集体诉讼,要求特斯拉承担责任。“我代表自己和具有类似情况的集体成员以及公众提起诉讼,他们可能是过去四年中租赁或购买特斯拉汽车的客户。”

    02比亚迪正式发布行业首个新能源专属系统“云辇”

    4月10日,据新华社消息,比亚迪正式发布新能源专属智能车身控制系统“云辇”,云辇智能车身控制系统由比亚迪全栈自研,这也标志着比亚迪成为首个自主掌握智能车身控制系统的中国车企。


    在发布会现场,比亚迪董事长兼总裁王传福表示,云辇是行业内首个新能源专属智能车身控制系统,不仅填补了国内在这方面的技术空白,实现从0到1的突破,更超越了国外技术水平,实现了从1到2的提升。

    据了解,云辇系统包含云辇-C(智能阻尼车身控制系统)、云辇-A(智能空气车身控制系统)、云辇-P(智能液压车身控制系统)及云辇-X四套不同取向的车身控制系统。其中,云辇-A提升车辆的舒适性、支撑性与通过性;云辇-C可实现车辆舒适性和运动性的兼容;云辇-P能够实现超高举升、四轮联动、露营调平等越野功能。

    据悉,云辇将搭载在比亚迪王朝海洋旗舰车型、腾势、仰望以及比亚迪专业个性化品牌的车型上。

    03 首个应用GPT模型的自动驾驶算法模型DriveGPT发布

    4月11日,在毫末智行第八届HAOMO AI DAY上,毫末智行发布了业内首个应用GPT模型和技术逻辑的自动驾驶算法模型,DriveGPT正式官宣,中文名雪湖·海若。


    据毫末智行CEO顾维灏介绍,毫末DriveGPT雪湖·海若通过引入驾驶数据建立RLHF(人类反馈强化学习)技术,对自动驾驶认知决策模型进行持续优化,现阶段主要用于解决自动驾驶的认知决策问题,终极目标是实现端到端自动驾驶。

    据了解,毫末智行作为开发者,是国内第一个将Transformer大模型引入自动驾驶、第一个自建超算、辅助驾驶量产落地进展第一的公司。

    据悉,毫末DriveGPT底层模型采用GPT(Generative Pre-trained Transformer)生成式预训练大模型,与ChatGPT使用自然语言进行输入与输出不同。毫末DriveGPT将训练的数据从语言文本,变成了图片、视频等等自动驾驶数据。

    据科创板日报报道,毫末DriveGPT雪湖·海若实现了模型架构与参数规模的升级,参数规模达1200亿,预训练阶段引入4000万公里量产车驾驶数据,RLHF阶段引入5万段人工精选的困难场景接管Clips。据毫末初步估计,在RLHF加持下,困难场景通过率提升48%左右。

    此外,在此次发布会上,毫末智行CEO顾维灏表示,毫末DriveGPT雪湖·海若将率先探索智能驾驶、驾驶场景识别、驾驶行为验证、困难场景脱困四大应用场景。“首先会开放智能驾驶、驾驶场景识别。”他还在现场宣布,毫末DriveGPT雪湖·海若智能驾驶能力首发落地车型为新摩卡DHT-PHEV。

    ICP备案编号:鄂ICP备05003301号  地址:湖北省荆州市学苑路33号 邮编:434020  电话:0716-8068629(院办) 0716-8068678(招办) 版权所有 766全讯白菜网  

      Copyright ©, Yangtze University College of Arts and Sciences  All Rights Reserved