算法治理为人工智能“消远虑、解近忧” | “绿动未来”观点精粹
电商平台的隐性价格歧视、大数据杀熟等问题一直备受热议，常常迫使消费者不知不觉付出额外的费用。同时，网络信息被算法筛选后将受众引入偏听偏信的信息茧房、外卖骑手被困在算法中等则在一定程度上影响了个体的多元选择和决策能力。
这些问题指向了一个共同关切：人工智能的安全与可持续发展。随着人工智能技术的迅猛进步，我们切实需要深入关注人工智能治理的议题。
上周，在由复旦管院、第一财经和上海现代服务业联合会大数据中心联合主办，第一财经研究院、第一财经可持续商业研究中心、上海现代服务业发展研究院联合发起的“绿动未来ESG@复旦管院暨第一财经可持续活动周论坛”上，来自科技企业、协会、学界的嘉宾汇聚一堂，共同探讨如何确保AI的安全性和可持续性，让AI成为人类社会进步的引擎，为社会带来更多正面的变革。
AI算法的“治”与“理”
复旦管院信息管理与商业智能系教授、博士生导师张成洪在演讲中表达了自己的观点。他认为，AI算法治理的需求日益突出，特别是随着ChatGPT等生成式AI的发展与应用，人们的生活和工作越来越依赖AI系统之时。
今年3月，特斯拉CEO马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等上千名AI专家和行业高管签署公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停时间至少6个月，同时加快开发强大的AI治理系统。这封公开信的呼吁未必可行，但充分体现了科技界对AI发展的担忧和对AI算法治理的迫切需求。
张成洪教授表示，AI算法治理体系至今还在搭建之中，要求AI算法符合透明可解释、公平多样、安全合规等等要求并不容易。AI算法治理至少要包含三个层面：
■ 第一，需要国家和行业的主管部门制定相应算法治理的政策法规，进行相应的引导；
■ 第二，需要专门机构或部门进行算法审计，检查和监管算法，从而把国家法律法规或者行业的要求落地，“算法合规性的审计可能由企业内部专门部门去内审，也可能由行业或者是国家专门监管机构去外审”；
■ 第三，需要在设计和开发AI算法时保证其合规合法，“其实这是对开发人员、算法工程师的要求，要求他们把科技伦理融入AI算法中”。
“为什么需要算法审计？因为用户和社会都在关心AI算法是否符合政策法规。过去有的企业应对社会舆情和政策要求的做法是把AI算法公开，但如果把AI算法全部公开会不会破坏公司关于算法的知识产权？如果只公开算法的一小部分能否达到舆论澄清和政府监管的要求？算法公开程度与算法的知识产权保护怎么去权衡？我的观点是，我们不可能让一个企业把它的AI算法完全向社会公开，最好是向审计机构的专业人士公开。” 张成洪说。
在AI算法治理的三个层面中，我国在政策法规层面与时俱进，近几年持续出台一系列相应的政策要求，但在AI算法审计层面和合规算法开发层面都还刚刚起步。AI算法审计的评测标准和审计工具还在前期探索，目前缺乏有能力的专业AI算法审计机构；合规算法开发对企业的算法工程师也是巨大挑战，因为很多AI算法采用黑盒模型，依赖数据驱动，在设计开发AI时未必能判断最终训练结果是否存在算法歧视、信息茧房、安全风险等各种问题，因此合规算法开发层面还需要高校和企业的相关研究推进，需要企业贯彻对AI算法的合规要求和道德约束，更需要AI开发人员的自觉负责。
“嵌入式”的AI可持续治理模式
上海现代服务业发展研究院副院长、复旦大学校友徐云程指出，随着各大企业全面拥抱AI，人们从担心数据、算法和商业可行性，转而担心AI对人类的意义。企业以可持续发展的目标看AI技术发展与应用时，面临商业与伦理、国内与国际、现在与未来三大问题。
她提出要打造“嵌入式”的可持续治理新模式，并提出“三步走”方法论：首先进行可持续评估，诊断企业自身状况；其次，根据规划“诊疗方案”，设计未来3-5年发展规划；最后试运营，验证规划的合理性。她认为合理使用AI，不仅能促进自身产业的可持续发展，还为人类的可持续发展提供新工具。
扩博智能联合创始人兼首席运营官陈丽平表示，随着AI技术的发展，AI将取代机械重复工作，促使科技企业回归商业模式。她强调推动AI的可持续发展更应该扎根行业，真正将技术落地在行业里。“扩博智能”致力于在风电和零售领域提供高效解决方案，以AI技术赋能客户实现可持续发展。
“近几年来很多机构提出AI治理和安全的问题，特别关注人工智能的内生性安全。”瑞莱智慧（RealAI ）联合创始人刘荔园说，她通过对比海内外的AIGC诈骗的规模和作案特点，提醒我国相关行业和部门需提前防范利用AI进行诈骗犯罪的风险。
云从科技副总经理、董事会秘书杨桦分享了云从科技从单点技术开始，通过人工智能的技术，围绕公安、城市治理、金融、出行、商业提供解决方案。“发挥各自的技术特质就是要有理性并且节制，必须要做创新和责任之间的平衡。”
在人工智能时代，企业需积极传递负责任形象，负责任的公司更容易获得社会认可。第一财经可持续商业研究中心副主任周旭峰总结活动时指出，未来最大挑战可能是商业管理的变革，开启“嵌入式”的可持续治理新模式是迈出的第一步。
ESG@复旦管院