新加坡提出生成式人工智能治理框架草案

新加坡作为人工智能领域的先行者，一直致力于推动人工智能的发展和治理，并为全球提供有益的经验和参考。2019年，新加坡发布了亚洲首个人工智能监管模式框架，为人工智能的应用提供道德指导原则和措施。2022年，新加坡又发布了全球首个人工智能治理评估框架和工具包——A.I.Verify，旨在帮助用户根据国际公认的人工智能治理原则，验证其人工智能系统的性能。

一、为何需要治理框架

2022年11月，ChatGPT的横空出世给人工智能领域带来极大的机遇和挑战。一方面，ChatGPT强大的文本生成力、语言能力和学习能力使其拥有了巨大的变革潜力，已经超过了传统人工智能所能达到的水平；但另一方面，它也会带来系列风险隐患，如生成恶意代码、侵犯知识产权、窃取用户信息、消灭既有工作岗位等。因此，如何在保障生成式人工智能的创新和效益的同时，防止其滥用和误用，是一个亟待解决的问题。

目前，全球对生成式人工智能的治理和监管还处于初级阶段，缺乏统一的标准和原则。新加坡为获取先发优势，在生成式人工智能这一关键领域的规则制定中，争取到自己的话语权，于2024年1月16日，率先发布了生成人工智能治理框架草案，并向国内外征求反馈意见。

该治理框架草案由人工智能验证基金会（AI Verify Foundation）与资讯通信媒体发展局（IMDA）联合公布。人工智能验证基金会是IMDA下设的全资子公司，成立于2023年6月，目前有超过50名成员，包括淡马锡人工智能卓越中心Aicadium、IBM、谷歌、星展银行、新加坡航空公司等海内外机构。该基金会不仅充当着联系政府、私人企业和学术专家的平台，也汇聚了全球领先的科技公司，共同开发和使用AI测试工具。

二、治理框架的九大维度

该框架重点关注人工智能治理的九个维度，旨在确保人工智能决策的可解释、透明和公平，具体如下：

1.问责制：明确人工智能系统的责任主体和责任分配，建立有效的监督和审查机制；

2.安全性：确保人工智能系统的可靠性、鲁棒性和抵御攻击的能力，防止故障和损害；

3.可解释性：提供人工智能系统的决策逻辑和依据，使利益相关者能够理解和信任其输出；

4.透明度：披露人工智能系统的相关信息，包括目的、功能、数据来源、限制和风险等；

5.公平性：避免人工智能系统的偏见和歧视，保障不同群体的利益和权利；

6.人性化：尊重人类的价值观、尊严和自主性，保持人类在人工智能系统中的主导地位；

7.隐私性：保护个人数据的安全和保密，遵守相关的法律和道德规范；

8.社会责任：评估人工智能系统对社会和环境的影响，促进社会福祉和可持续发展；

9.测试和保证：对人工智能系统进行全面和持续的测试和评估，确保其符合预期的目标和标准。

新加坡通讯及新闻部长兼内政部第二部长杨莉明表示，既然各国都面临对生成式人工智能有效监管的难题，那这个努力首先必须由凝聚基本共识开始。要进行国际对话，那必须有人提出一些建议，并把它们摆到桌面上，然后才能进一步丰富全球对话的内容。新加坡的生成式人工智能治理框架，正是对话的文本。治理框架展示了新加坡这一小国，如何把握机会，其是在生成式人工智能这类科技和经济前沿领域，通过提倡新理念或组织形式等贡献，强化自身的国际价值，以提高影响力来确保自身的未来。

当前的生成式人工智能治理框架草案将开放给决策者、业者、学者和公众提供意见，当局会根据反馈调整框架内容并在年中正式推出。 

相关链接：

1. IMDA,PROPOSED MODEL AI GOVERNANCE FRAMEWORK FOR GENERATIVE AI[EB/OL].[2024-01-16].https://aiverifyfoundation.sg/downloads/Proposed_MGF_Gen_AI_2024.pdf

2. IMDA,Singapore proposes framework to foster trusted Generative AI development[EB/OL].[2024-01-16].https://www.sgpc.gov.sg/api/file/getfile/Press%20Release%20Model%20AI%20Gov%20Framework%20GenAI.pdf?path=/sgpcmedia/media_releases/imda/press_release/P-20240116-1/attachment/Press%20Release%20Model%20AI%20Gov%20Framework%20GenAI.pdf