词语解读播报编辑

生成式人工智能指称一种通过学习大规模数据集生成新的原创内容的新型人工智能，它是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。

《2023年十大新兴技术报告》中指出生成式人工智能是一种通过学习大规模数据集生成新的原创内容的新型人工智能，在2022年底因ChatGPT发布而引起了公众广泛关注。生成式人工智能将在教育和研究等多个行业引发颠覆性变革。 [7]

2023年以来，以ChatGPT为代表的生成式人工智能成为全球科技热点，它不仅影响着人类的生活和生产方式，还为各种行业的创新和发展提供了新的工具和视角。 [1-3] [11]

技术简介播报编辑

该机器学习方法从其数据中学习内容或对象，并运用数据生成全新、完全原创的实际工件。 [1]

用途风险播报编辑

用途

可用于多种活动如创建软件代码、促进药物研发和有针对性的营销。

风险

也有被滥用于诈骗、欺诈、政治造谣、伪造身份等风险。 [1]

数据比例播报编辑

预计到2025年生成式人工智能将占所有生成数据的10%，而目前这一比例还不到1%。 [1]

管理办法播报编辑

2023年4月11日，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见。征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。 [2]《征求意见稿》要求，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 [2]

2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。 [8]

发展情况播报编辑

2023年5月，IBM发布了新的人工智能和数据平台Watsonx。Watsonx将使IBM的客户能够发布基础模型和生成式人工智能，并在任何云环境的一个地方存储和管理它们。 [4]

2023年6月13日，东京都知事小池百合子宣布，东京都所有的政府部门都将引入以 ChatGPT 为代表的生成式 AI，该计划将于 8 月起全面施行。 [5]

2023年6月14日，欧洲议会投票通过了《人工智能法案（AI Act）》，禁止实时面部识别，并对ChatGPT等生成式人工智能工具提出了新的透明度要求。 [6]

2023年8月15日起，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布的《生成式人工智能服务管理暂行办法》正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。 [8-9]

2023年9月21日，亚马逊推出了一系列全新的设备，并为其语音助手Alexa加入了生成式人工智能功能，该公司希望借此巩固其在人工智能竞赛中的地位。 [10]

2023年12月，生成式人工智能入选“汉语盘点”发布2023年度中国媒体十大新词语。 [11]12月26日，生成式人工智能入选“2023年度十大科技名词”。 [14]

2024年4月，从国家网信办官网获悉，已有117个大模型完成生成式AI服务备案，从公开信息可以看到，完成生成式人工智能服务备案的大模型包括中国移动九天、百度文心一言、阿里巴巴通义千问、华为云盘古、腾讯混元助手、OPPO安第斯、vivo蓝心等。 [16]

2024年4月，在瑞士举行的第27届联合国科技大会上，世界数字技术院（WDTA）发布了《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准，是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。 [17]

学者观点播报编辑

生成式人工智能的伦理法律风险受关注

2023年是世界互联网大会乌镇峰会第十年，全球科技行业的热词，非人工智能莫属。由ChatGPT带动的生成式人工智能、大模型热潮，引起学界广泛的关注和讨论。

有学者指出，从医疗健康到交通运输，从金融领域到农业生产，人工智能正引领着各个领域的变革。然而，我们也需要认识到人工智能应用所带来的挑战和风险。在推动人工智能技术发展的同时，我们必须确保其应用符合法律法规和伦理原则，避免潜在的负面影响。

有学者认为，生成式人工智能的广泛运用会强化目前已经显现的各种社会伦理问题，带来偏见和歧视。如果用于开发人工智能算法和模型的训练数据有偏见，算法和模型也会有偏见，从而导致生成式人工智能的回应和建议出现歧视性的结果。还有如信息误导、信息滥用以及对个人自主性的干预，如生成式人工智能在商业上可能被用来影响或操纵用户的行为和决策。

有学者从法律方面分析认为，人工智能的发展所产生的最大挑战就是引发侵权风险。与传统的侵权行为不同的是，ChatGPT引发的侵权行为，主要是侵害人格权和著作权。如生成式AI可能引发大规模隐私或者个人信息泄露问题。不法行为人有可能通过攻击大规模语言模型，提取出训练数据中的核心隐私和敏感个人信息，从而导致个人信息、隐私的大规模泄露，形成“大规模微型侵害”的现象。

还有学者认为，生成式人工智能的普及应用将对重复性、模板化的工作岗位带来冲击，催生大量“无用阶层”，导致社会阶层固化，将造成更为严重的社会及政治不平等。与人类历史上的其他任何时期相比，这种信息技术有可能造成更大的收入差距。应高度重视科学技术对经济社会的影响，及早做好技术创新和迭代发展的公共政策、社会政策储备工作。

还有学者认为，随着人工智能在国家竞争力、国家安全等方面的作用凸显，各国都在加紧相关规划部署和政策制定，人工智能已经成为国际竞争新的焦点所在。大模型对算力的巨大消耗也对低碳转型目标的实现带来新的挑战，这些新的问题成为各国政府关注的新课题。 [12]

社会影响播报编辑

2023年12月，生成式人工智能入选“2023年度十大科技名词”。 [13]

2024年2月，广州互联网法院生效了一起生成式AI服务侵犯他人著作权判决，这也是全球范围内首例生成式AI服务侵犯他人著作权的生效判决。该案认为，被告（某人工智能公司）在提供生成式人工智能服务过程中侵犯了原告对案涉奥特曼作品所享有的复制权和改编权，并应承担相关民事责任。 [15]