《Kimi人工智能月度报告2024年2月丨AI监管政策》
关键词：AI安全
1．美国成立人工智能安全研究所联盟
2024年2月8日，美国商务部长雷蒙多宣布成立人工智能安全研究所联盟（AI Safety Institute sortium，AISIc），以支持生成式人工智能的安全开发和部署。联盟由200多家实体组成，其中包括openAI、谷歌、微软meta、苹果、亚马逊、英伟达、palantir、英特尔、摩根大通和美国银行等，以及主要学术机构和政府机构。雷蒙多在声明中表示：“在制定标准和开发我们所需的工具以减轻风险并利用人工智能的巨大潜力方面，美国政府可以发挥重要作用。”该联盟将设在商务部国家标准与技术研究院（NISt），其任务是执行拜登总统去年10月人工智能行政命令中概述的优先行动，“包括制定红队指导方针、能力评估、风险管理、安全保障以及对合成内容加水印”。
具体来说，联盟将履行以下职能：（1）知识和数据共享，（2）跨学科研究与开发，（3）了解AI对社会和经济的影响，（4）促进技术和数据合作，（5）简化联邦机构AI安全投入，（6）评估和评价AI系统。为创建一个持续联合研究和开发的方式，AISIc的工作将是公开和透明的，并为有关各方提供一个枢纽，以共同建立可信和负责任的AI的测量科学。
2．美国众议院宣布成立跨党派人工智能特别工作组
2月20日，美国国会众议院宣布，将成立一个以人工智能（AI）为中心的两党特别工作组，旨在应对人工智能技术的迅猛发展。工作组由共和党和民主党领导，将制定监管框架和政策报告，促进跨党派合作推动人工智能领域立法进展。成员来自两党，共同面对人工智能带来的经济和社会挑战。
美国众议院议长约翰逊指出，“由于人工智能的进步有可能迅速改变我们的经济和社会，因此国会必须以两党合作的方式来理解和规划这项变革性技术的前景和复杂性。”
3．美国国际开发署合作出版《全球发展中的人工智能手册》
美国国际开发署（USAId）与美国国务院、美国国家标准与技术研究院（NISt）计划合作出版《全球发展中的人工智能手册》（AIinGlobaldevelopmentplaybook）。该手册旨在采用美国国家标准与技术研究院的《人工智能风险管理框架》中的要素和原则，将人工智能风险管理框架的原则应用于更广泛的国际社会，从而为在运营过程中建立或部署人工智能应用的组织或个人提供指导，同时该手册也强调了在不同地理文化背景下理解人工智能相关风险需要多方面的专业知识。
4．美国司法部首次任命“首席AI官”
2月22日，美国司法部任命了首位专注于AI的官员——研究技术与法律的普林斯顿大学教授乔纳森?梅耶（Jonathan mayer）将担任首席科技顾问、首席AI官。
乔纳森?梅耶将领导一个新成立的执法和民权官员委员会，该委员会将就人工智能系统的道德和有效性向司法部长和其他人员提供建议，并努力招募更多的技术专家加入该部门，同时，该部门正努力应对AI对联邦执法和刑事司法系统的潜在变革性影响。美司法部长梅里克?加兰在声明中表示，“司法部必须跟上日新月异的科技发展步伐，以履行我们维护法治、确保国家安全和保护公民权利的使命。”
5．美国专利商标局发布关于人工智能辅助发明的发明指南和示例
为了激励、保护和鼓励人们对通过使用人工智能实现的创新进行投资，并向公众和美国专利商标局（USpto）的工作人员明确人工智能辅助发明的可专利性， USpto 在《联邦公报》上发布了一项新的指南。该指南履行了该机构根据《关于安全、可靠、可信地开发和使用人工智能的行政命令》所承担的义务。
这份指南在授予专利保护以促进人类创造力的发展和对人工智能辅助发明的投资之间取得了平衡，同时又不会不必要地为未来的发展而锁定创新。该指南通过接纳人工智能在创新中的使用并关注人类的贡献来做到这一点。”
6．欧盟27国代表一致支持《人工智能法案》文本
2月2日，欧盟27国代表投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。说明“谈判者在创新与安全之间找到了完美平衡”。《人工智能法案》仍需要提交欧洲议会批准。如果获得批准，相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。
欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。
7．美国联邦加州法院驳回针对openAI的部分版权诉讼
2月13日，美国联邦加州地区法院驳回了喜剧演员 Sarah Silverman、michael chabon 和 ta-Nehisi coates 等作者针对 openAI 提起的部分版权诉讼。被驳回的起诉指控 openAI 未经授权使用他们的书籍来训练其 chatGpt 语言模型，构成了版权侵权和不当得利。法院认为原告没有足够的证据证明作者的作品与chatGpt 输出之间存在相似性。
openAI与其他科技公司联合声称，他们的人工智能训练符合合理使用原则，并且这些法律行动威胁着人工智能行业。针对 openAI 的诉讼被部分驳回对于使用作者的作品来训练人工智能模型具有影响。
该案提出了关于人工智能开发中合理使用界限的问题，影响了 openAI 和其他面临类似法律挑战的科技公司。该案凸显了围绕人工智能行业实践正在进行的法律辩论，可能影响未来的监管并塑造数字时代的知识产权格局。
8．英国：发布关于负责任AI开发技术的指南
2月12日，科学、创新与技术部(dSIt)发布了一份名为《AI保障入门》(Introdu toAIassurance)的指南。dSIt强调，该指南旨在支持组织更好地了解如何使用AI保障技术来确保安全和负责任的开发和部署AI。
9．英国寻求与欧盟在人工智能政策框架和版权问题上保持一致
2月16日，作为科技关系升温的一部分，英国人工智能与知识产权部长乔纳森·贝里访问欧盟总部布鲁塞尔时使用了积极的语言。然而，欧盟和英国在监管该技术方面仍然采取截然不同的方法。
英国政府致力于对人工智能监管采取支持创新的方法，并寻求与包括欧盟在内的国际伙伴就此事密切合作。
由于加入了国际条约，英国和欧盟已经就版权作品达成了相互保护协议。英国在脱欧后修改了其版权法，以保留其作为欧盟成员国时有效的大部分利益和保护。
英国政府正在根据五项核心原则采用跨部门的人工智能监管方法。其目的是通过将现有的技术中立监管框架应用于人工智能来平衡创新和安全。政府还认识到，未来可能有必要采取立法行动，特别是对于通用人工智能系统。
10．日本今年将推动AI监管立法
日本执政党将提议政府在2024年内出台一项监管生成人工智能（AI）技术的新法律。为了解决围绕AI的虚假信息和侵权等问题， 日本自民党AI项目团队将为基础模型开发商（openAI 等）起草初步规则，包括刑事法规。
11．第二届全球人工智能伦理论坛举行
2月5日，第二届全球人工智能伦理论坛上，联合国教科文组织表示，与八家全球性科技机构和公司签署了一项与人工智能相关的协议。根据相关协议，这些机构和公司将结合教科文组织《人工智能伦理问题建议书》中有关AI伦理的价值观和原则，设计和使用AI系统。这是私营企业首次在AI领域与联合国合作。协议规定，为符合安全标准，并识别AI的不良影响，必须进行尽职调查，并采取及时措施预防，减轻或纠正这些影响，使之符合各国法律的规定。协议还强调了前期测试的重要性。但鉴于市场上已有的AI系统迅速发展，协议还呼吁制定后期的风险评估和风险控制措施。
12．全球开源安全组织发布AI大模型应用网络安全治理检查清单
2月19日，全球开源安全组织o（open lication Security project）发布了《AI大模型应用网络安全治理检查清单（V1.0）》。在这份长达32页的《检查清单》中，较完整地介绍了AI大模型部署应用时的安全原则、部署策略和检查对照表，适用于那些希
（本章未完，请点击下一页继续阅读）
最新网址：xiashukan.com