瑞莱智慧田天:伦理规则和技术安全是AI高质量发展的关键
封面新闻记者 雷强
11月10日,在2022世界互联网大会人工智能与数字伦理分论坛上,瑞莱智慧CEO田天表示,在数智化时代,人工智能与云计算、区块链等技术一样,是基础设施的重要组成。人工智能充当着“大脑”的角色,在目标性能的实现、设施运维的智能化和设施安全保障等方面发挥着重要作用。
近年来,随着算法的快速发展,算力、数据等资源的日益丰富,人工智能产业呈现快速发展态势。在田天看来,放眼未来,人工智能若要实现高质量发展,需要突破伦理规则和技术安全两大关键问题。
“随着人工智能逐步成为经济社会的关键角色,它与人类的交互规则构成了伦理问题,例如,人机控制权分配、人工智能采信度等。”田天表示,作为一项具有开放性但又远未成熟的新技术,人工智能不可避免地会对现有伦理关系与社会结构造成冲击。“比如,人类对机器控制权的不适当让渡,会导致恶性事故的发生。自动驾驶汽车电子刹车系统失控引发交通事故,以及过度信任算法而忽视算法偏见导致的不公平事件等。随着人工智能对生产生活方方面面的不断渗透,伦理问题层出不穷。”
在技术安全层面。田天进一步解释道,与传统软件系统运行逻辑的确定性不同,当前主流的人工智能应用基于第二代深度神经网络技术,其模型参数从数据中学习而来,决策逻辑和链路天然存在大量不确定性,鲁棒性和可解释性具有本质缺陷,只需在输入数据中添加细微的扰动噪点,就能够使模型出错,对抗样本攻击就是典型的例子。“以当前落地应用最为广泛的人脸识别为例,这一技术实现的整个过程为黑箱模式,主要依靠海量人脸数据进行特征提取、训练和识别,从而能够利用相关漏洞,采用多种形式进行攻击。例如,在人脸照片上添加少量干扰或将对抗补丁打印制作后由真人佩戴,以这种定向攻击的形式破解人身核验。”
对于解决此类问题,田天表示,需要从伦理规则和技术规则两方面出发:一是伦理规则建设。这涉及到人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题,需结合具体应用场景,打造可量化、可度量、可执行的具体标准,再落实到算法、代码层面。二是技术路径优化。在数据、算法、算力三大要素基础上,将知识要素融合进来,发展安全、可靠、可信和可扩展的第三代人工智能,不断提升人工智能的鲁棒性和可解释性,同时持续提高人工智能伦理安全、技术安全的敏捷测评水平,使之成为保障人工智能产业高质量发展的关键能力。
上一篇:绝命毒师第一季在线
下一篇:致敬白衣天使 展现护理风采
最近更新生活资讯
- 反转再反转,这部科幻末世灾难片真的爽
- 快捷指令sky电影捷径库
- 2021《自然》年度十大人物:塑造科学,造福社会
- 千里单骑救萝莉却被捕,“正义使者”成了谁的牺牲品?
- 浪漫爱情励志人生 最震撼人心的十部日剧(图)
- 短篇小说(家庭伦理)
- 推动农业绿色低碳循环发展 推动农业绿色发展、协调发展
- 资料:成奎安电影作品《灯草和尚》(1992)
- 稻盛和夫《活法》1
- 合肥市第六中学2019-2020学年下学期2019 级高一年级线上线下教学衔接学
- 全网的电视剧,电影和动漫无偿观看(每年的都有哦)
- 理想国
- 刺激!梅州首部限制级伦理微电影《幻镜》网络首映!
- 男人为何迷恋女人胸部?
- 陆小曼与林徽因:都是富养的女儿,差别在哪里?
- 问题已被解决?
- 看了多少烂片,才找出这92部经典!
- 金高银:怎么从拿8个电影奖的怪物新人沦为了被众嘲的“资源咖”?
- 猎天下第2部:河阴之变
- 封神演义读后感100字(五篇)
- 又一部岛国神作,堪称校园版《权力的游戏》!
- 【全面解读】2022年以后,再无“国产”BCBA?
- 鬼文化(商代的帝王文化))
- 豆瓣9.2分年度第一佳片,每一秒都是夏日初恋的味道
- 社会的重器:性侵犯罪信息统一查询平台,还校园一片蓝天