证监会科技监管局局长姚前:算法可能引致危险,加强算法监管是必然之举

  金融界网9月3日消息 由北京市地方金融监督管理局和北京市朝阳区人民政府共同主办的“2021中国国际金融科技论坛”于2021年9月3日在北京召开,主题为“数字金融体系建设与数字金融安全”。中国证监会科技监管局局长姚前出席论坛并以算法监管为题发表演讲。

  姚前指出,算法是指一系列解决问题的清晰的机器指令,代表着用系统的方法描述解决问题的策略和机制,在当今的信息时代,算法已渗透到社会的各个领域。

  不过,姚前表示,在特定领域,算法还可能引致特定的危险,比如智能领域金融算法给出的资产配置算法有可能推荐与金融机构自身利益高度相关的商品,涉嫌利益侵占。智能算法形成的信息茧房容易掩盖金融风险的复杂性,引入过度消费和负债,甚至误导投资者。智能算法趋同导致羊群效应,加大了金融的顺周期风险等等,因为算法背后有这样一些风险,所以各国的监管部门高度关注算法隐含的风险。

  姚前称,总的来说,智能算法已在很多行业大量采用,考虑到其生态规模趋大、潜在风险不容忽视,我国算法监管制度正在逐步完善和健全,具体内容还有待完善。姚前认为算法监管具体内容至少包括:一是信息披露,即作为算法的设计者,相关主体和利益相关者应该披露算法设计执行使用过程中可能存在的偏见和漏洞、数据来源以及可能对个人和社会造成的潜在危害。

  二是解释即作为采用算法自动化的机构,相关主体和利益相关者有义务解释算法运行原理和算法具体决策结果。

  三是留痕与可审计,算法系统的设计测试运行表现及变动留有记录,全程监测并可审计。四是质询与申诉,确保受到算法决策负面影响的个人或组织享有对算法进行质询并申诉的权利。

  五是内部治理,相关主体应建立清晰有效的内部治理框架、内部控制机制和责任体系,防止算法滥用,防范算法风险并提高算法的对抗性,避免算法攻击。

  六是加强行业自律,通过行业自律机制加强算法道德和算法伦理的建设。

  “不可否认,算法催生了新的经济模式,带来了社会整体效益的提升,有其独特的优势,但有利必有弊,近年来算法的作恶、算法道德、算法伦理问题已引起了广泛关注,为此加强算法监管以监管科技应对新型科技,既是顺应之策又是必然之举。” 姚前如是表示。

责任编辑:申雪娇 RF13056
精彩推荐
加载更多
全部评论
金融界App
金融界微博
金融界公众号