证监会科技监管局局长姚前:算法可能引致危险,加强算法监管是必然之举
金融界网9月3日消息 由北京市地方金融监督管理局和北京市朝阳区人民政府共同主办的“2021中国国际金融科技论坛”于2021年9月3日在北京召开,主题为“数字金融体系建设与数字金融安全”。中国证监会科技监管局局长姚前出席论坛并以算法监管为题发表演讲。
姚前指出,算法是指一系列解决问题的清晰的机器指令,代表着用系统的方法描述解决问题的策略和机制,在当今的信息时代,算法已渗透到社会的各个领域。
不过,姚前表示,在特定领域,算法还可能引致特定的危险,比如智能领域金融算法给出的资产配置算法有可能推荐与金融机构自身利益高度相关的商品,涉嫌利益侵占。智能算法形成的信息茧房容易掩盖金融风险的复杂性,引入过度消费和负债,甚至误导投资者。智能算法趋同导致羊群效应,加大了金融的顺周期风险等等,因为算法背后有这样一些风险,所以各国的监管部门高度关注算法隐含的风险。
姚前称,总的来说,智能算法已在很多行业大量采用,考虑到其生态规模趋大、潜在风险不容忽视,我国算法监管制度正在逐步完善和健全,具体内容还有待完善。姚前认为算法监管具体内容至少包括:一是信息披露,即作为算法的设计者,相关主体和利益相关者应该披露算法设计执行使用过程中可能存在的偏见和漏洞、数据来源以及可能对个人和社会造成的潜在危害。
二是解释即作为采用算法自动化的机构,相关主体和利益相关者有义务解释算法运行原理和算法具体决策结果。
三是留痕与可审计,算法系统的设计测试运行表现及变动留有记录,全程监测并可审计。四是质询与申诉,确保受到算法决策负面影响的个人或组织享有对算法进行质询并申诉的权利。
五是内部治理,相关主体应建立清晰有效的内部治理框架、内部控制机制和责任体系,防止算法滥用,防范算法风险并提高算法的对抗性,避免算法攻击。
六是加强行业自律,通过行业自律机制加强算法道德和算法伦理的建设。
“不可否认,算法催生了新的经济模式,带来了社会整体效益的提升,有其独特的优势,但有利必有弊,近年来算法的作恶、算法道德、算法伦理问题已引起了广泛关注,为此加强算法监管以监管科技应对新型科技,既是顺应之策又是必然之举。” 姚前如是表示。
- 脑机接口创新论坛将召开,脑机接口产业化正在快速打开
- 火电龙头业绩大增!燃料成本下降+用电量增长,灵活性支撑电源处于政策红利期
- 智界S7将于6月全球首发商用泊车代驾,智驾产业链三大受益方向明确
- 小米汽车将推出纯电SUV,同时规划更低价车型,关注零部件供应商
- 特斯拉财报后暴拉12%,廉价车型最快明年推出,关注产业链优质个股
- “最强AI芯片”有望9月量产,PCB产业链国产厂商竞争优势明显
- 财政部表示支持部分大中城市地下管网更新改造,广东有10余个观测站日雨量突破4月历史极值
- 在适度超前建设数字基础设施的过程中,智算中心建设成为电信运营商重点发力方向
- 恒力石化有望获得沙特阿美入股,荣盛石化与沙特阿美签署合作框架协议
- TV面板价格持续上涨,国内头部企业话语权明显提高