“无疆生成,有界行者”——心智观察所首届线下沙龙探讨AI下一个爆点

来源:观察者网

2024-07-30 08:27

心智观察所

心智观察所作者

以心智观察新质

7月19日下午,由观察者网·心智观察所主办的首届线下沙龙正式召开。本次沙龙以“无疆生成,有界行者”为主题,多位演讲嘉宾围绕AIGC技术革命牵引下的伦理难题应对与治理,以人形机器人运动捕捉为代表的具身智能理念,以及美国对华AI算力管制等议题,与现场观众分享了在各自领域的真知灼见。

参加本次沙龙的演讲嘉宾包括北京瑞莱智慧科技有限公司AI治理研究院院长张伟强,迈柯博科技(上海)有限公司(Movella)亚太区业务总监魏昌,美国凯腾律师事务所上海办公室合伙人韩利杰。

观察者网总经理李波全程参会并做了开场致辞。心智观察所负责人孙珷主持会议。

李波:“心智观察所”志存高远

观察者网总经理李波在开场致辞中表示,“心智观察所”是观察者网新组建的以高科技为主要观察方向的内容创作团队,力求将“心智观察所”打造为观察者网的精品科技内容IP。心智观察所将竭力追踪国内外科技前沿动态,把握科技产品市场脉搏,研判地缘政治博弈大势,以文字、图片、视频等立体化内容发布形态拓宽海内外传播渠道。

观察者网总经理李波

李波阐述,如何保证产、学、研高质量结合,促成科技成果的有效商业转化是业界普遍关心的话题。心智观察所举办系列科技沙龙的重要目的之一,就是为了探索如何以新媒体人的视角,近距离体会和洞察科技产业一线群体关切,及时对接产业需求。

李波强调,目前国内科技、财经类媒体的传播和经营模式正在经历一场深层次的嬗变。观察者网多年来聚焦国内外时政新闻,已经在海内外积累了巨量的人气,也总结了一套成熟有效且成体系的内容创作、发布方法论。以此为依托,观察者网希望科技界企业代表、投资方、高校学科带头人积极参会,携手心智观察所一起讲好中国新质生产力叙事。

张伟强:保障安全性是AI治理的第一要务

瑞莱智慧AI治理研究院院长张伟强发表了以《大模型时代的人工智能安全态势与应对实践》为主题的演讲。

张伟强首先追溯了我国的人工智能研究和治理历程,指出AI对助力新质生产力建设的重要性,特别是在提升社会治理能力、信息利用能力等方面具有的重大贡献。但同时,AI技术发展也带来很多新型的社会伦理问题。

瑞莱智慧AI治理研究院院长张伟强

张伟强阐述,相比传统计算机技术,人工智能现在还没有扎实的理论基础,大模型对人类来讲还是一个“黑箱”,会产生新型安全风险。比如,在大模型训练过程中“投毒”污染数据,可误导AI判断并输出错误信息;再比如,AI伪造文本、图片、音频和视频会扰乱大众信息认知,带来严重的社会治安隐患。这些新型风险,需要社会各界共同寻找应对之策。

张伟强强调,AI风险治理最根本的,在于建立底层技术理论,需要在数学理论、模型架构等方面不断创新突破。其次,应当加强治理手段的建设,如不断增强对大模型的安全测评能力,人工智能产品经过严格安全测评后才可以投入市场应用;不断提升对AI伪造信息的检测能力,通过技术手段确保新闻、司法、社交等领域数字信息的真实性。

张伟强在演讲总结环节中提出了“靶场”概念,认为人工智能产品出厂条件应与汽车相似,在出厂前完成攻防演练,以保障其安全性。瑞莱智慧在这一领域已经积累了丰富经验,比如开展人工智能模型安全测评、设立人脸安全防火墙、实现多模态信息伪造检测等,发展和安全双轨并驱,在“矛”和“盾”的较量中提升两方面的技术能力。

魏昌:具身智能是AI行业爆点,人形机器人市场空间巨大

迈柯博科技(上海)有限公司(Movella)亚太区业务总监魏昌在现场分享了以《Movella(Xsens)在人形机器人场景中应用》为主题的演讲。

魏昌在演讲中阐释,运动传感器是人形机器人控制平衡以及控制运动姿态的重要部件,目前Movella可以做到在人身上可佩戴17个运动传感器,采集欧拉角、四元数等数据,形成一个三维图像用于采集人体运动实时数据进行二次开发。

迈柯博科技(上海)有限公司(Movella)亚太区业务总监魏昌

接下来魏昌介绍了公司在人形机器人遥操控之动作捕捉设备方面的应用案例,通过播放多个视频,生动展示了为何动作捕捉技术在运动数据采集方面是极其重要的。以特斯拉为例,该公司数据采集团队庞大,可保证其24小时不间断采集数据,典型成果之一就是实现了机器人走路能力的大幅提升,能够在没有牵引的情况下长时间、长距离独立行走。这一过程需要解决两个重大问题:机器人的平衡控制以及机器人的电池续航能力。特斯拉优势在于其能够收集大量环境空间数据,使其机器人物体判断能力快速成熟,并且对空间位置有着良好的感知能力。

魏昌指出,作为人形机械应用的动力,能否提供高质量数据非常关键。因此,动作捕捉设备是目前发展具身智能的一大重点,然而AI算法捕捉所需训练大模型的时间成本、人工成本极高,目前绝大多数公司还无法快速投入应用。

魏昌总结,人形机器人未来可以代替人类完成高危工作,在保证其安全性的前提下能进入居家场景,服务供应育儿养老市场。

韩利杰:如何全面认识美国对华高端AI芯片管制

美国凯腾律师事务所上海办公室合伙人韩利杰带来的演讲题目是《美国对华AI产业措施》。韩利杰律师回顾了中美贸易战、科技战的历史,指出自特朗普当选美国总统之后,美国的关税政策让企业法律战逐步升级,美国相关部门也越来越多采用贸易管制手段实施对华技术遏制,中美科技战经让全球供应链已出现了严重的割裂风险。

美国凯腾律师事务所上海办公室合伙人韩利杰

韩利杰指出,2018年美国国家安全审查改革,就埋下了对于人工智能技术管控的伏笔。2020年,美国财务部国家安全审查将人工智能列为敏感技术,意味着中国企业基本无法在美收购人工智能相关软硬件公司,而俄乌战争进一步加速了美国对华进出口管制进程。2022年10月,美国商务部颁布法令限制英伟达芯片出口,对于中国超算中心造成影响巨大,不少中国人工智能相关企业被列入美国实体清单之中。

韩利杰阐述,美国对先进芯片限制指标的管制规则出现过诸多波折,美国当局根据实际情况和其认知能力,对“先进芯片”的标准进行过多次讨论和修改。

此外,韩利杰还就美国关税对中国企业出海的影响,未来美国对华高科技“卡脖子”的政策走向,以及中国对等反制手段等问题做了详细的分析和阐述,让现场观众获知满满。

沙龙现场听众与演讲嘉宾交流互动

结语

现场观众和每位演讲嘉宾都进行了极富有成效的Q&A互动。仲夏时节的申城阳光炙热,活动现场的氛围同样热烈而欢快。本次心智观察所主办的以AIGC为话题主轴的线下沙龙在一片掌声中圆满结束。

观察者网·心智观察所,以“心智”观察“新质”,聚焦以科技为内核的新质生产力,深入探讨前沿科技话题、科技产业动态以及科技企业案例,致力于推动中国科技自主创新,提供对科学技术进步、产业发展以及工业应用等最深刻的洞察与前瞻。

“心智观察所”,与中国科技自立自强一路相伴。

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:武守哲
观察者APP,更好阅读体验

特朗普威胁巴拿马“收回”运河,还扯上中国

“朔尔茨对波兰总统怒吼,在场领导人都惊了”

被当面打脸,日铁急了

受中国影响,澳企要在稀土加工业务上发力了

挪用学生餐补、欠薪欠保…审计署发布报告涉5380多亿