关于ChatGPT等AIGC技术对人类社会的影响

梗概

横空出世的ChatGPT作为新一代人工智能技术，开启了通用人工智能时代，标志着人工智能具有广泛的学习能力并在大多数领域达到或超过普通人类的水平，其社会影响将巨大而深远。面对这一新传播范式，对其原理架构与应用创新解析、风险认知、应对策略的相关研究刻不容缓。在第一章中，本论文将从生成式人工智能技术的背景出发，简介其原理、与内容创作模式的关系及其发展历程三大阶段的区分叙述。并通过剖析生成式人工智能技术国内外相关应用当前现状及其基本技术架构来从消费服务、产业发展、社会价值三个方面搭配具体案例来探讨其对社会的积极影响并补充综述目前存在的挑战与风险。而在第二章中，本论文将深度结合《计算机伦理学》一书中相关知识，从信息技术与知识产权、计算机技术与隐私保护、经济问题与计算机犯罪等多方面结合具体现象与案例针对生成式人工智能技术所涉及的伦理问题进行分析，并提出相应的解决方案与思考。在第三章中，本论文主要聚焦于针对生成式人工智能技术的个人阐述，包括但不限于通过其对社会的深远影响及应对策略来论述自己的观点和看法。同时将会结合实际生活中的案例，深度解析并论述新一代人工智能对个人及社会生活带来的深远影响。而在本论文的最后部分，将会注明相关的参考资料。

一、生成式人工智能技术的发展历程及社会影响

1.1 生成式人工智能技术的发展简介

1.2 概述生成式人工智能技术的发展对社会的影响

二、生成式人工智能技术所涉及的伦理问题分析

2.1 生成式人工智能技术中的信息技术与知识产权

2.2 生成式人工智能技术中的计算机技术及隐私保护

2.3 生成式人工智能技术中的计算机犯罪

2.4 生成式人工智能技术中的计算机技术相关经济问题

2.5 生成式人工智能技术中的IT职业道德和社会责任

三、个人阐述

3.1 就生成式人工智能技术对社会的深远影响及应对策略来论述自己的观点和看法

3.2 搜索实际生活中案例，论述新一代人工智能对个人及社会生活带来哪些影响

3.2.1 新一代人工智能对个人及社会生活的渗透

3.2.2 新一代人工智能对产业模式的影响

3.2.3 新一代人工智能对社会价值的影响

3.2.4 新一代人工智能与计算机犯罪案件

3.2.5 新一代人工智能对社会就业的影响

四、参考资料

一、生成式人工智能技术的发展历程及社会影响

1.1 生成式人工智能技术的发展简介

2022年标志着以生成式人工智能技术为核心的AIGC（AI-Generated Content）爆火。其中，Stability AI发布了一款名为Stable Diffusion的开源模型，它能够根据用户输入的文字描述自动生成惊人的图像，这一创举引爆了AI作画领域，使AI作品在艺术界掀起了一股热潮。在同一年的12月，OpenAI的强大语言生成模型ChatGPT横空出世，其不仅能够高情商地进行对话，而且还能应用于生成代码、构思剧本和小说等多种场景。这一突破将人机对话推向了一个新的高度，开启了通用人工智能时代，并使相关技术成为全球关注的焦点与未来重点研究趋势。这一热潮迅速席卷全球科技企业，激发了各大公司积极拥抱AIGC的热情。各家企业纷纷推出相关技术、平台和应用，以满足市场的需求。从图像生成到音乐创作，从自动写作到虚拟角色设计，人工智能生成内容正在迅速丰富和改变我们的创作方式和娱乐体验，一些AIGC应用案例如图1所示。

图1 AIGC应用案例

ChatGPT等AIGC模型及应用本质上是人工智能生成内容的最新应用成果，其发展历程与内容创作模式是息息相关的，如图2所示。随着时间推移，内容数量逐渐增多，内容创作模式在AIGC之前经历了PGC（Professionally-Generated Content）、UGC（User-Generated Content）、AIUGC（Artificial Intelligence + User-Generated Content）三个主要阶段。除了内容数量，不同阶段的主要区别则是创作主体、专业度和内容质量等方面。如今AIGC生成内容的专业度和内容质量逐渐提高，达到类人或超人。而同时ChatGPT等AIGC模型及其应用代表了AI技术发展的新趋势，与传统的分析数据获取规律的人工智能技术不同，而是正在生成/创造新的东西。即其实现了人工智能从感知理解世界到生成创造世界的跃迁。因此，从这个意义上来看，广义的AIGC可以看作是像人类一样具备生成创造能力的AI技术，即生成式人工智能技术。根据不同方案的Prompt，生成式人工智能会基于算法、模型、规则创造出不一样的内容，包括但不限于文本、图片、声音、视频、代码，总的来说其在内容质量、创造性、数量等方面均存在极高的上限（参考[1]）。

图2 内容创作模式的发展历程[1]

2022年以来ChatGPT等生成式人工智能技术及应用因其优越的效果与广泛的应用场景出圈爆火，而其并非一个全新的概念，实际上1957年莱杰伦·希勒（Lejaren Hiller）和伦纳德·艾萨克森（Leon-ard Isaacson）完成了人类历史上第—支由计算机创作的音乐作品就可以看作是生成式人工智能技术的开端，距今已有65年，这期间随着计算机技术与硬件的发展以及数据的丰富，也不断有各种形式的生成模型、AI 生成作品出现。而根据生产式人工智能技术的核心原理，大致可以将其发展历程分为三个阶段：1）基于数学模型与统计方法的探索期，2）基于基础深度学习模型的发展期，3）基于预训练大模型的繁荣期，分阶段简介如下。

早期（1957-1990左右）的生成式人工智能技术主要受限于计算机的数据处理能力以及研究者相关创意的缺乏，主要还是集中在分析型人工智能的模型设计与实践。在生成式人工智能技术的探索部分，主要是将数学分析方法引入计算机中，基于规则和统计方法生成自然语言文本、简单图像与旋律等供数据增强与相关人员使用。同时，在简单应用场景使用中，探索期的生成式人工智能技术也为规划和排程问题、专家系统等领域提供了解决方案。早期生成的结果相对简单和有限。然而，这些早期的研究为后续生成式人工智能技术的发展打下了基础，并为今天更先进的生成模型和应用奠定了基本原理。

而随着计算机技术与硬件的发展，同时许多深度学习模型逐渐火热且被应用于各种计算机视觉、自然语言处理任务，生成式人工智能技术进入了发展期（1990-2018左右），一些经典的模型/技术总结于表1，同时也有大量真实应用与方案被提出。如Adobe的Sensei AI技术（参考[2]）提供了内容生成和修复功能，可以自动生成图像、修复图像缺陷并提供智能编辑建议，广泛应用于创意设计和图像处理领域。又如DeepMind的AlphaGo项目（参考[3]）开发出了世界级的围棋人工智能在2016年击败了围棋世界冠军李世石，引起了广泛的关注，展示了生成式人工智能技术在复杂策略游戏中的应用潜力。另外还有广为人知的ChatGPT的前身——来自OpenAI的GPT系列早期模型（如GPT-2，参考[4]）被广泛应用于自然语言处理领域，包括文本生成、简单问答等。它们能够根据输入的提示生成连贯、富有创意的文本内容。综上所述，生成式人工智能技术的发展期涌现了许多经典模型，生成结果已经相对合理，同时也积累了大量真实的应用案例。这些技术和应用不仅在计算机相关领域取得了重要突破，还在创意设计、图像处理、游戏和其他领域中展现了巨大的潜力。

表1 发展期生成式人工智能技术的经典模型/技术

模型

简介

循环神经网络（LSTM，GRU等）

一般具有较强的记忆能力和序列建模能力，被广泛应用于机器翻译、对话系统、文本生成等NLP任务。

变分自编码器（VAE）

一种学习数据潜在变量分布的生成模型，生成与原始数据相似的新样本。广泛应用于图像生成、图像修复和特征学习等任务。

生成对抗网络（GANs）

一种由生成器判别器组成的对抗性框架。生成器试图生成逼真的样本，而判别器则尝试区分生成的样本和真实样本。在图像生成与编辑、超分辨率重建和文本生成等领域取得了重大突破。

Transformer模型

一种基于自注意力机制的神经网络架构，有较强的并行性能和建模能力。广泛应用于机器翻译、文本摘要、对话系统等任务。

第三阶段（基于预训练大模型的繁荣期）从2018年左右开始，基于数据可用性的丰富、硬件与计算机能力的发展、算法与模型架构的改进等多种因素，生成式人工智能技术进入了一个飞速发展且逐渐爆火的阶段。这一阶段的广义起点可以看作2018年谷歌发布基于Transformer机器学习方法的自然语言处理预训练模型BERT（参考[5]），核心是基于预训练大模型的应用，预训练大模型是指拥有巨量参数的模型在大规模数据上进行预训练，学习到丰富的语言和知识表示，然后通过微调或生成来适应并完成具体而广泛的下游任务。按照基本类型分类，预训练模型包括:（1）自然语言处理预训练模型，如谷歌的LaMDA和PaLM、Open AI的GPT系列;（2）计算机视觉预训练模型，如微软的Florence;（3）多模态预训练模型，即融合文字、图片、音视频等多种内容形式。主要的预训练模型及其简介如图3所示。

图3 2023生成式人工智能技术常见预训练模型概览[1]

以自然语言处理领域为例，在这一阶段，预训练大模型如GPT-3和LaMDA等取得了巨大的突破，具备了强大的语言理解和生成能力。可以以较低的成本与技术门槛生成高质量的文本、回答复杂的问题，并在许多自然语言处理任务中表现出色。具体应用中，OpenAI团队的ChatGPT（参考[6]）作为优秀典范，赋能不同领域，以及不同模型应用的深度组合，如New Bing在搜索引擎的生成式人工智能技术引入，又如Microsoft的Office + GPT打造办公新范式Copilot（参考[7]）。同时，GPT4（参考[8]）开始支持图像的输入，并且不断优化模型效果，由此侧面反映生成式人工智能技术的未来的无限潜力与多模态对内容生成多样性的推动。综上所述，预训练模型的出现与发展解决了过往生成式人工智能技术面对的使用门榄高、训练成本高、内容生成简单和质量偏低等问题，而基于预训练模型的生成式人工智能技术进入繁荣期，发生范式变革，展现出令人惊讶的涌现能力，并显著提高各种下游任务的性能，同时为各个领域提供了更多的创新解决方案。

根据上文对于生成式人工智能技术发展历程的简介，我们可以总结出随着计算机技术、硬件计算能力、数据丰富度等因素不断变化与发展，生成式人工智能技术一共经历了三个阶段，随着发展，其生成内容不断丰富，应用场景逐渐拓展，技术门槛慢慢降低。如今，预训练大模型由于其性能的优越性逐渐成为主流方案，生成式人工智能技术进入繁荣期并展现出巨大的潜力。未来，生成式人工智能技术及其应用有望继续推动发展与进步，并在更多领域发挥重要作用。

1.2 概述生成式人工智能技术的发展对社会的影响

1.1节中简述了生成式人工智能技术的基本背景与发展历程，而相关技术及其应用的快速发展除了在计算机NLP、CV等相关研究方向外，对经济、教育、医疗和媒体等各个领域同样也产生了巨大的影响，不仅提升了个人与产业端的工作效率和创造力，革新了生活与生产方式，却也带来了一系列社会和伦理问题，故面对这一新传播范式，本节将从不同维度简述其发展对于社会的影响。

在探讨生成式人工智能技术带来的社会影响前，我们首先来剖析一下国内外相关应用现状及其基本技术架构。其生态技术体系的三层架构如图4所示,一些分类应用汇总如图5所示。

图4 生成式人工智能技术生态体系的三层架构[1]

如图4，生成式人工智能技术的生态体系被分为三层（参考[1]）：

基础层：由预训练模型为基础搭建的AIGC技术基础设施层，由于预训练模型的高成本和技术投入，因此具有较高的进入门槛。因此，目前进入预训练模型的主要机构为头部科技企业、科研机构等。中间层：即垂直化、场景化、个性化的模型和应用工具。预训练的大模型是基础设施，在此基础上快速抽取生成场景化、定制化、个性化的小模型，实现在不同行业、垂直领域、功能场景的工业流水线式部署，同时兼具按需使用、高效经济的优势。应用层：即面向C端用户的文字、图片、音视频等内容生成服务。在应用层，侧重满足用户的需求，将AIGC模型和用户的需求无缝衔接起来实现产业落地。

图5 生成式人工智能技术应用现状概览[9]

由图5可见，目前AIGC在文字、图像、音视频、代码等领域均有很广泛的应用场景，主要集中在生成/创造上。而从泛一点，归纳的角度来说，还可以从行业+生成式人工智能技术的角度思考应用场景，比如计算机领域的技术AIGC（计算机视觉、自然语言处理等），或AIGC+金融（自动化客户服务、量化交易、个性化财务分析等），或AIGC+物联网（智能设备感知、智慧城市等），以及AIGC赋能传统行业而诞生的未来应用，归纳如图6所示。综上所述，随着生成式人工智能技术的快速发展，大量相关方案与落地应用诞生，同时大量针对相关领域的研究报告也明晰了技术发展的价值，如腾讯的AIGC发展趋势报告[1]、华金证券的AIGC分析报告[10]、埃森哲的商业价值报告[11]等，另外，还有大量生成式人工智能技术平台出现提供用户便捷应用，如AIGC全球应用汇[12]。

图6 生成式人工智能技术应用场景样例

技术发展是社会进步的第一生产力，由于生成式人工智能技术在不同领域的优秀表现使其快速发展并深度赋能不同应用场景，对社会注入了活力，产生了大量积极的影响。以下将从消费服务、产业发展、社会价值三个方面简析生成式人工智能技术对社会各领域带来的影响（参考[1]）。

“在消费端，生成式人工智能技术牵引数字内容领域的全新变革。”，对于消费市场，生成式人工智能技术通过多维度的服务创新与输出，正引领着数字内容领域与交互的全新变革。由于AIGC的应用生态和内容消费市场逐渐繁荣，它日益在娱乐、媒体和文化创意等领域发挥着重要的作用，便捷了用户，拉动了市场增长，一些基于生成式人工智能技术的消费服务如图7所示。

图7 基于生成式人工智能技术的消费服务样例[10]

对于消费服务中的用户侧，通过个性化推荐和定制化服务，生成式人工智能技术改变了传统的用户体验。以电商消费领域为例，它能够分析消费者的购买历史、偏好和行为模式，提供个性化的产品推荐和购物建议，满足消费者的需求，提高购物满意度。此外，生成式人工智能技术还能够生成虚拟试衣、虚拟试妆等应用，让消费者在线上获得更真实、便捷的购物体验。另外，通过自然语言处理和语音识别技术，生成式人工智能能够实现智能客服、智能助理等应用，为消费者提供24小时在线的服务支持，解决问题和提供帮助。这种便捷和高效的客户服务提升了用户体验与用户满意度。对于消费服务中的市场侧，通过生成式人工智能技术对用户体验的优化，实现精细化营销的同时拓展了潜在的消费者群体，增加了消费市场的活力。以广告和营销领域为例，生成式人工智能技术能够分析大量的用户数据，预测用户需求和购买意向，帮助企业进行精准的广告投放和市场推广。通过更加精准的定位和个性化的广告传播，生成式人工智能技术能够提高广告效果，提升企业的品牌认知度和销售额。一些生成式人工智能技术发展梳理及预测如图8。

图8 生成式人工智能技术发展梳理及预测 - 消费服务[10]

“在产业端，生成式人工智能技术中的合成数据牵引人工智能的未来，助力产业创新与发展。”，对于产业发展，生成式人工智能技术不仅提高了生产效率和质量，还催生了新的产业模式和商业机会。相关团队与企业如若积极把握相关技术的发展趋势，合理利用合成数据与AIGC在消费服务端进行创新方案设计，将推动实现AI2.0，持续拓展产业互联网应用空间。

图9 生成式人工智能技术对各产业/领域的影响[11]

根据图9所示，基于2021的美国就业水平，生成式人工智能技术预计将会对所有行业超过40%的总工时产生影响（参考[11]）。这将是产业发展的巨大机遇，据埃森哲商业研究院2023年2月开展的首席高管动向调研，近六成的企业已将ChatGPT等AIGC赋能对应产业进行结构与工作流的变革。这说明，为了创造人工智能的价值，企业必须全面转变工作方式，并重新构想人机协作的未来，以此实现企业的爆发增长，提升结构的抗风险性。以传统制造业变革为例，生成式人工智能技术在制造业领域实现了智能制造的突破。通过将生成式人工智能技术与物联网、大数据等技术相结合，可以实现生产过程的自动化、智能化和个性化。例如，在智能工厂中，生成式人工智能技术可以对生产线进行实时监测和优化，提高生产效率和产品质量。此外，生成式人工智能技术还可以实现智能供应链管理、智能物流等应用，提升供应链的响应速度和效率。同理，生成式人工智能技术在金融领域的应用也带来了巨大的影响。生成式人工智能技术能够分析金融数据、预测市场趋势和风险，并提供个性化的投资建议和财务规划。这对于投资者和企业决策者来说，具有重要的参考和辅助作用。此外，生成式人工智能技术还能够改进支付系统和风控体系，提升金融交易的安全性和效率。综上所述，生成式人工智能技术对产业发展带来了积极影响。通过消费服务端生产效率和质量的提高，促进了市场活力的焕发，同时推动新的产业模式和商业机会的出现，也促进各行业的创新发展。

“在社会端，生成式人工智能技术助力可持续社会价值”，对于社会价值，生成式人工智能技术对社会的发展和进步具有重要意义。不仅提供了创造力解放与艺术领域革新的元价值，也提供了诸如教育公平、社会榜样等衍生引导价值。

首先，生成式人工智能技术的本质能力是生成内容，为人们提供了更多的创造和表达空间。能够生成文学作品、音乐作品、艺术作品等，扩展了创作的边界，为人们创造和表达提供了新的可能性。以 AI 绘画模型为例，—张人类画手可能要花费数日来完成的画作，只需要—串关键词和几分钟的时间，Stable Diffusion、MidJourney等AI绘画模型就能生成。这首先带来的是人类创造力的解放，对于大量重复性、机械化的低层次任务，可以由AI来完成，从而释放人类创造能力，让人类创作者的脑力和时间用于更具创造性的任务中。

而在社会价值维度上更重要的是生成式人工智能技术对于社会行为与人群思想的正向影响与引导，比如在医疗行业，AI生成治疗方案、AI生成语音帮助失声者“开口说话”，减少沟通障碍，提升生活品质和社交能力。比如全世界第一个“赛博格”彼得·斯科特-摩根，面对渐冻症的折磨，不认命的他选择了技术改造，在声音重建方面，寻求CereProc公司的帮助，通过AIGC相关技术打造了对应的3D的虚拟动画人像，如图10所示。又如教育行业，生成式人工智能技术在教育领域的应用有助于提高教育质量和公平性。通过个性化教学和智能辅导能够满足学生的不同学习需求，提供针对性的教学资源和指导，提高学习效果和学习动力。此外，生成式人工智能技术还能够弥补教育资源的不平衡，提高教育的普及程度和质量。让更多的学生获得优质的教育机会。这些案例无一不在表现生成式人工智能技术对于社会带来的正能量与积极影响力，通过影响和引导社会行为为构建更加包容和进步的社会做出了重要贡献。

图10 生成式人工智能技术助力彼得·斯科特-摩根“重生”[1]

综上所述，生成式人工智能技术的发展从消费服务、产业发展、社会价值等多个维度对社会多个领域带来了大量积极影响。

然而，技术发展都是一把双刃剑。需要注意的是，生成式人工智能技术的发展也面临一些挑战和风险，如数据隐私和伦理问题，技术的透明度和可解释性问题，技术背后的伦理和道德问题，就业结构变革与冲击问题等等（详细问题的介绍与解析在后续章节叙述），部分问题已经给社会带来了较大的隐患与冲击。因此，对其风险认知、应对策略研究刻不容缓，需要在技术发展的同时，加强法规和伦理的规范，确保生成式人工智能技术能够更好地造福社会，促进人类的进步和福祉。

二、生成式人工智能技术所涉及的伦理问题分析

2.1 生成式人工智能技术中的信息技术与知识产权

知识点1：信息技术与知识产权

（1）教材中的对应章节

1、第7章7.2节《版权、专利、商标和商业秘密》P131-P137

2、第7章7.4节《网络知识产权》P141-P413

（2）对教材中对应内容的简要概括

在7.2节中教材指明了知识产权的范围与国内外有关知识产权立法及保护特点，在知识产权范围中，分别讨论了版权、专利、商标和商业秘密的定义、核心特点与权利。以后文主要讨论的版权为例，“版权是计算机软件产品、集成电路布图设计权和文学、艺术、科学技术等作品的原创作者依法对其作品所享有的一种民事权利。”，一般作者及其继承人享有使用或根据议定的条件许可他人使用其作品的专有权，也即其作品受版权相关法律保护。然而教材也同时指出“创作作品的许多所有人无法寻求实施版权的法律和行政手段，特别是由于文学、音乐和表演的权利被越来越多地在世界范围内使用。”，指出了版权纠纷事件频发的现象与版权保护的相关漏洞。而在国内外有关知识产权立法及其保护特点小节，教材也指出“各个国家对保护知识产权的立法也有所不同。从国际范围看，知识产权保护的好坏与该国的科技发展有着直接的关系。我国加入世界贸易组织后，中国在世界舞台上的影响越来越大，知识产权也就成为我国对外经贸摩擦的主要问题之一。”

而在7.4节主要介绍了网络知识产权的特点、存在的问题及其保护。在特点部分，“由于网络空间信息的存储、产生、传播、利用等条件的不同，其知识产权的特点也有所不同。”网络知识产权特点的无形财产权性质更加明显，且地域性、时间性与专有性均受到较大影响与挑战。在存在问题部分，“任何作品都可以很容易地被数字化，自然也就便利了侵权行为的发生，增加了保护著作权人合法权益的难度，引发了一些现行知识产权管理制度所无法解决的问题。”首当其冲，是核心难题。且关于数字化作品的侵权和合理使用的界限定义不明晰，更加大了问题解决的难度。而在保护部分，“建立一个同网络管理相结合的、既合理又方便可行的知识产权管理制度是网络知识产权保护的一个紧迫问题，同时也是一个技术问题。”

（3）生成式人工智能技术涉及相同内容

生成式人工智能技术中也涉及了大量教材第七章《信息技术与知识产权》中提到的内容，尤其是其涉及到的版权、原创性、侵权等问题与知识产权密切相关。在1.1节中我们提到了生成式人工智能技术的发展与当今的主流方案，目前应用主要基于预训练大模型学习大量的输入数据，用于生成/创造新的文本、图像、音频等作品。而这将引发了一系列与知识产权相关的伦理问题。例如，生成的作品是否受到版权保护？如果是由机器生成的，是否可以认定为原创作品？大量AIGC作品解放人类创造力的同时也模糊了知识产权的认定边界，加大了版权保护的难度，让有心之人有机可乘。总的来说，生成式人工智能技术应用场景涉及的知识产权问题及简单解决方案主要包括几个方面：

训练数据版权：AIGC需要大量的训练数据来进行模型训练，如果使用了受版权保护的数据进行训练，需要获得合法的许可或确保符合公平使用原则。否则，生成的内容可能涉及侵权问题。生成/创造内容的版权归属：生成/创造的内容来源于AIGC，但是问题在于版权归属。这可能涉及到AIGC的开发者、训练数据的提供者以及生成内容本身的版权问题。需要明确确定生成内容的版权归属，以避免可能的纠纷。创意灵感和相似性：AIGC生成/创造的内容可能与他人的原创作品相似，这可能引发侵权纠纷或版权争议。如果内容与他人的作品相似度过高，可能被视为抄袭。因此，在应用AIGC生成内容时，需要注意保持创意的独特性，以避免侵权问题。演绎和改编：如果AIGC生成的内容是基于他人已有的作品进行演绎或改编，可能涉及到原作品的版权问题。在这种情况下，需要遵守相关的版权法律，获取原作品的许可或确保符合合理使用原则。

（4）关于两者相同之处的简要说明

根据（2）、（3）可见，生成式人工智能技术与教材中的知识产权涉及内容有一些相同之处，主要表现在三个方面：1）知识产权特点与保护：教材中涉及（网络）知识产权（尤其其中版权）的定义、核心特点和权利等知识，而生成式人工智能技术也引发了对生成作品的版权保护问题。无论是教材中的文学、艺术作品，还是生成式人工智能技术生成的文本、图像、音频等，都可能享有版权保护，需要考虑其创作与使用权利。2）数字化作品的侵权和合理使用：教材中指出数字化作品的侵权问题和合理使用的界限定义不明晰，这也适用于生成式人工智能技术。生成的作品本身带有数字化的特点，增加了侵权行为的发生，同时也给著作权人的合法权益保护带来了挑战，需要解决数字化作品的合理使用和侵权问题。3）网络传播性质：由于网络无国界、无地域限制、无时差的特点，生成式人工智能技术的特点与网络知识产权有强相关性，与其产生的问题与保护策略的制定有练习。

接下来我们将通过一些具体的应用场景来分析生成式人工智能技术在知识产权方面引发的问题，并尝试提出一些更细致的解决方案。

图11 因版权争议，国外艺术作品平台ArtStation上的画师们掀起了抵制AIGC生成图像的活动，打出 “ NO TO AI GENERATED IMAGES"的标语[1]

图11是AIGC引发的新型版权侵权风险的典型例子，这已经成为整个行业发展所面临的紧迫问题，AIGC已能成熟进行内容作品创作，但从著作权法角度看，AIGC基本属于重组式创新，尚不具有真正的创造力。AIGC作品既存在被他入侵权的风险，也存在侵犯他人权利的可能性。在1.1节中我们知道了AIGC的核心流程是深度学习模型。这就需要一个庞大的人类作品数据库，让算法学会创作风格、内容题材等创作的要领。如果未经许可，复制或者通过网络爬虫爬取他人享有著作权的在线内容, 在我国现行著作权法没有明确将数据挖掘等智能化的分析行为规定为合理使用的情况下，此类行为可能构成著作权侵权。此外，AI视频合成、剪辑领域，如果没有获得原始视频的著作权人的许可，可能因为侵犯原著作权人所享有的修改权、保护作品完整权或者演绎权而构成版权侵权行为。像是2019年大火的ZAO，通过AI换脸软件生成新的视频，若不获得他人肖像权授权和视频内容的授权，便也存在侵权的可能（参考[1]）。

同样的在法律层面也出现了AIGC知识产权案件，2023年1月23日，美国三名漫画艺术家针对包括Stability AI在内的三家AIGC商业应用公司，在加州北区法院发起集体诉讼，指控Stability AI研发的Stable Diffusion模型以及三名被告各自推出的、基于上述模型开发的付费AI图像生成工具构成版权侵权。

图12 全球首例：“Stable Diffusion”AIGC模型版权侵权案（左图：画家Erin Hanson在2021年创作的作品；右图：在Stable Diffusion中以“style of Erin Hanson”等作为提示生成的结果）[13]

无独有偶，2月15日《华尔街日报》记者弗朗西斯科·马可尼（Francesco Marconi）也公开指责，Open AI公司未经授权大量使用路透社、纽约时报、卫报、BBC等国外主流媒体的文章训练Chat GPT模型，但从未支付任何费用（参考[13]）。

而为了解决/减少这些知识产权问题，有以下一些措施可以采取：

合法数据采集：确保训练数据来源合法，遵守版权法律，获取适当的授权或许可。数据清洗和筛选：在训练数据中进行严格的筛选和清洗，删除侵权/未经授权的内容。明确版权归属：制定明确的政策和协议，规定AIGC生成内容的版权归属，明确开发者、数据提供者和生成内容本身的权益。创新保护和监管：制定相关的法律和监管措施，保护AIGC生成内容的知识产权，并对侵权行为进行监管和制裁。

需要注意的是，知识产权问题是复杂且动态的，需要在法律、道德和伦理等多个层面进行综合考虑，制定相应的政策和规范来规范生成式人工智能技术的应用和生成的内容。同时，技术开发者、内容创作者和相关利益相关者之间的合作与协商也是解决这些问题的重要途径。

2.2 生成式人工智能技术中的计算机技术及隐私保护

知识点2：计算机技术及隐私保护

（1）教材中的对应章节

1、第8章8.1节《隐私保护的道德和法律基础》P145-P152 （重点关注8.1.1节 P145-P147）

2、第8章8.2节《数据挖掘与公共数据库的隐私安全》P152-P155 （重点关注8.2.2节 P154-P155）

3、第8章8.3节《隐私保护的技术策略和伦理规范》P155-P162 （重点关注8.3.1节 P155-P157 与8.3.4节 P160-P162）

（2）对教材中对应内容的简要概括

在8.1节中主要是介绍计算机技术及隐私保护的基础知识，包括隐私及其权利、公民自由与网络言论自由的定义与特点，以及不同国家对于隐私与言论自由的态度及其相关的法律政策论述。“凡是涉及个人秘密与公众利益无关的，公民不愿公开的私人资料、私人生活等都属于隐私权的范围。而保护隐私权包括两个方面的含义：一是保证隐私权不受他人侵犯，二是隐私权受到侵害时可求助于法律得以保护。”揭露了隐私（权）的本质，但本节也提到了信息数字化时代隐私侵犯的概念被泛化的现象愈演愈烈，各国也在面临相似的困境。而由于网络言论自由，也导致各种隐私的盗用、欺骗等法律真空，同时加大了相关事件侦破的难度。

8.2节主要是论述数据挖掘技术的原理及公共数据库相关的隐私安全隐患。“数据挖掘指从数据库中提取出隐含的、先前不知道的有用知识的过程，即数据库中的知识发现，是从大量数据中提取出可信、新颖、有效并能被人理解模式的高级数据处理技术。”，该技术已为各领域提供了各种复杂、高质量而丰富数据供使用，已得到广泛传播，但同时教材中指出数据挖掘很容易发现敏感信息，使用的规范需要严格定义，稍有不慎便会造成隐私泄露。“公共数据库是指在一个单位、企业或城市、地区甚至一个国家等范围内建立一个信息共享的平台，其中所有的数据库可以共享。”，大大便利了用户的生活方式，但与数据挖掘同理，部分公共数据库存在触犯信息保护法律法规，侵犯个人隐私或人权的问题。

而8.3节中主要提供了各国隐私保护的技术策略，指明了相关伦理规范。首先指明了网络隐私权的内涵、各国的做法与技术保护模式，接着分析了网站隐私图标与系统隐私报告，最后从理论、现象等方面分析了隐私保护的伦理规范，其中，“尊重个人隐私都是必需的道德要求”是理由，“生活中个人隐私权受到侵犯的现象很多，公民意识中还没有普遍树立对他人隐私尊重的概念”是现象与分析，“只有隐私得到很好的尊重和保护，人们的生活才会觉得安全”是动机。另外，教材中指出信息化社会中舆论对于隐私保护的监督与约束作用是很大的，需要合理利用。

（3）生成式人工智能技术涉及相同内容

安全问题始终是AI技术发展和应用中不可回避的。生成式人工智能技术中也涉及了大量教材第八章《计算机技术及隐私保护》中提到的内容，尤其是其涉及到的隐私及其伦理规范定义、隐私权及其保护、数据挖掘与数据库合理建立与使用等问题与隐私保护密切相关。在1.1节中我们提到了生成式人工智能技术的发展与当今的主流方案，常使用“预训练-微调”策略，故其模型需要来自各领域、各渠道的各类型输入数据，用于生成/创造新的文本、图像、音频等作品。其中数据一般包含各种隐私数据，如何确保数据本身的安全与合理使用（对数据来源群体的隐私保护）是一个核心问题，但其中大量的不合理现象（隐私获取、虚假信息生成、偏见问题等）将引发了一系列与隐私保护相关的伦理问题。总的来说，生成式人工智能技术会面对在内容安全、技术滥用、用户隐私和身份、AI内生安全等多个方面的安全挑战，其应用场景涉及的隐私保护问题及简单解决方案主要包括以下几个方面：

数据收集和使用：AIGC训练需要大量的数据，可能涉及个人敏感信息的收集和使用。例如，文本生成可能需要访问大量的公开文本、社交媒体帖子或个人博客，其中可能包含个人身份、、偏好和观点等敏感信息。在数据收集和使用过程中，需要确保符合相关隐私法规，获得用户的知情同意，并采取适当的安全措施来保护数据的隐私性。数据处理和存储：AIGC需要对大量数据进行处理和存储，包括训练数据和模型参数。在这个过程中，需要采取安全措施来保护数据的机密性和完整性，以防止未经授权的访问、泄露或篡改。这涉及到数据加密、访问控制和安全存储等方面的技术。内容安全：AIGC可以用于生成文本、图像、音频等内容，但可能存在不良内容的生成和传播问题，例如虚假信息、恶意广告、淫秽色情内容等。确保生成的内容符合道德、法律和社会准则，防止不良内容的产生是一个重要的安全挑战。技术滥用：AIGC可能被恶意用户或组织滥用，用于进行网络攻击、欺诈行为、冒充身份、网络钓鱼等活动。这可能导致个人隐私泄露、财务损失和社会不稳定等问题。因此，防止技术滥用，确保生成式人工智能技术的安全使用是至关重要的。公平使用和偏见问题：AIGC训练所使用的大数据集可能存在偏见，这可能会导致生成内容中的歧视性或偏见性。例如，针对特定种族、性别或群体的偏见。在AIGC应用中，需要审慎处理和纠正这些偏见，确保生成的内容公平对待各个群体，并遵循相关的公平和反歧视原则。数据共享和合作：AIGC训练可能涉及多个组织或合作伙伴之间的数据共享合作，不合理的数据库使用会导致数据的泄露与滥用。在这种情况下，要确保数据的合法共享和合作协议，并明确规定数据的使用目的、访问权限和保密义务等。

（4）关于两者相同之处的简要说明

根据（2）、（3）可见，教材中涉及隐私、内容、权利的现象分析、规范与技术简介的论述，同时生成式人工智能技术也引发了对生成作品的隐私保护问题，即生成式人工智能技术与教材中的隐私保护涉及内容有一些相同之处，主要表现在四个方面：1）数据隐私保护：生成式人工智能技术和计算机技术都需要处理大量的数据，并在处理数据的过程中确保数据的隐私和安全。两者都需要采取适当的措施来保护数据的机密性、完整性和可用性，以防止未经授权的访问、泄露或篡改。2）用户信息保护：生成式人工智能技术和计算机技术都需要关注用户的身份和个人信息的保护。在数据收集、存储和处理过程中，需要遵守隐私法规，并采取适当的措施来保护用户的身份和个人隐私。3）内容合理性要求：生成式人工智能技术和计算机技术都需要确保生成的内容符合道德、法律和社会准则。两者都需要应对不良内容的生成和传播问题，并采取相应的措施来防止虚假信息、淫秽色情内容等的产生。4）技术滥用防范：生成式人工智能技术和计算机技术都需要防止技术的滥用。恶意用户或组织可能滥用技术进行网络攻击、欺诈行为、冒充身份等活动，从而导致个人隐私泄露、财务损失和社会不稳定等问题。因此，对于两者来说，确保技术的安全使用是至关重要的。

接下来我们将通过一些具体的应用场景来分析生成式人工智能技术或下游应用中在隐私保护方面引发的问题，并尝试提出一些更细致的解决方案（参考[1]）。

此前，如图13所示GPT-2就发生过隐私泄露的问题，可见个人隐私数据确实是被收录在模型的训练数据之中。同样的，2023年3月20日，ChatGPT平台（基于GPT3.5）出现了用户对话数据和付款服务支付信息丢失的情况。这是ChatGPT平台首次遭遇重大个人数据泄露。之后，加拿大隐私专员办公室（OPC）有收到投诉，称OpenAI在未经同意的情况下收集、使用和泄露个人信息。4月，加拿大隐私专员办公室（OPC）宣布，将对AI聊天机器人ChatGPT背后的开发商OpenAI展开调查。对企业来说也是如此，三星使用ChatGPT不到20天就发生了芯片机密泄露事件（参考[14]）。

图13 GPT-2隐私泄露问题（如果使用前缀为"East Stroudsburg Stroudsburg... ”的提示词,

GPT-2会生成一段包含特定个人的姓名、电话号码、电子邮件和住址等信息的文本）[1]

更甚，伴随着元宇宙的到来，人们通过AIGC生成各种虚拟形象和数字身份，不法分子拥有极其便利的技术手段盗用或者冒充用户身份且难以识别，可能给用户造成经济损失、人格侵犯等损害。

英国国家统计办公室也提出合成数据也存在通过逆向工程来获取真实数据的风险，对数据隐私保护而言并非完美的解决方案，如图14所示。

图14 合成数据存在数据泄露风险（来源：英国国家统计办公室）[1]

根据以上几个例子，生成式人工智能技术下游应用中可能涉及的隐私保护问题主要是个人、企业的隐私数据泄露与非法生成/利用问题，包括人脸、语音、相关信息文字等各种数据类型。

为了解决这些隐私保护问题，需要制定相关的隐私政策和规范，确保数据的合法使用、安全处理和适当保护。此外，技术开发者和应用提供商还应积极采取隐私保护措施，包括数据匿名化、加密、访问控制和用户知情同意等，以确保个人隐私得到妥善保护。

以具体示例来说，中国以出台相关规定管控AIGC导致的隐私泄露问题，《互联网信息服务深度合成管理规定》已经于2023年1月10日施行。此外，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容（参考[15]）。

此外，一个AIGC的法律框架可见图15。个人/企业如果希望在服务中引入AIGC，则需要关注：

与深度合成服务提供者或技术支持者的协议条款。基于合同关系，重点需要关注在使用AI方面有何限制、免责场景。深度合成服务提供者与技术支持者是否履行了《互联网信息服务深度合成管理规定》中的合规义务。如果其无法履行相关义务，则需要法务合规人员将风险进行识别和标记，供公司领导层与业务部门决策是否承担该风险。

而对于计划在中国境内合规提供深度合成技术的机构来说，《互联网信息服务深度合成管理规定》中的各项义务，也是提供服务前的必答题，尤其是算法备案义务。

综上所述，为了解决生成式人工智能技术在隐私保护方面引发的各类问题，需要制定相关的法律法规和政策，并采取适当的技术和组织措施来保护数据隐私、用户信息、内容安全和防范技术滥用。此外，用户和组织在使用生成式人工智能技术时也应该增强对隐私保护的意识，并积极参与到隐私保护的规范和措施中。

图15 AIGC的法律框架[15]

2.3 生成式人工智能技术中的计算机犯罪

知识点3：计算机犯罪

（1）教材中的对应章节

1、第9章9.1节《计算机犯罪概述》P167-P169

2、第9章9.2节《计算机犯罪的主要形式及预防抵御策略》P169-P178（重点关注9.2.5节P178-P179）

（2）对教材中对应内容的简要概括

在9.1节中主要概述了计算机犯罪的概念、特点、构成要件及其历史。“计算机犯罪是犯罪分子利用计算机或网络技术、管理的安全漏洞，并通过计算机或网络对受害者的计算机或网络系统进行非授权的操作，从而造成受害者在经济、名誉以及心理等方面损害的犯罪行为。”一般来说有1）犯罪成本低，传播迅速，传播范围广、2）手段隐蔽性高、3）具有严重的社会危害性、4）智能化程度越来越高四大特点。另外，教材指出自计算机犯罪出现以来，案件迅猛增长，不仅侵害了计算机系统所有人的权益，而且对国家的计算机信息管理秩序造成了破坏，同时还有可能对受害的计算机系统当中数据所涉及的第3人的权益造成危害，如何预防、监管处理是核心问题。

而在9.2节中主要从黑客攻击、计算机病毒等方面综述了计算机犯罪的主要形式与特点及预防抵御策略。教材中指出过往的计算机犯罪主要几种经典案例可以分为黑客攻击行为、计算机病毒、蠕虫、木马，各具特点，而同时指出“计算机犯罪是信息时代的一种高科技、高智能、高度复杂化的犯罪”，故针对计算机犯罪的预防抵御策略应从发展技术、健全法制、强化管理、加强教育监管、打防结合以及健全信息机制等诸多方面着手。

（3）生成式人工智能技术涉及相同内容

2.1节与2.2节中谈到了生成式人工智能技术中知识产权与隐私保护的一些风险与挑战，实际上其内容与计算机犯罪是有联系的，一些生成式人工智能技术的不合理利用会导致知识产权纠纷、隐私泄露与盗取、虚假内容生成，更甚者即会上升导致计算机犯罪案件。更泛化一点讲，通过前文对于生成式人工智能技术的解析，实际上其技术中也涉及了大量教材第九章《计算机犯罪》中提到的内容，尤其是生成式人工智能技术涉及到的高度信息化、边际成本近零、市场空间大等特点与计算机犯罪的定义与特点、构成要件等内容密切吻合。而同样的，使用生成式人工智能技术的同时也有可能遭受传统计算机犯罪案件，如面临黑客攻击的风险，被其利用技术漏洞或弱点来获取未授权访问生成模型或相关数据的权限，进而滥用或篡改生成的内容。综上所述，生成式人工智能技术的使用中可能会成为计算机犯罪的加害者或受害者，大量不合理的AIGC技术使用会导致各类计算机犯罪案件数量持续攀升，而不注意使用方法的安全性与隐私性会使自身的权益受到威胁。生成式人工智能技术的应用场景涉及的计算机犯罪问题主要包括以下几个方面：

版权纠纷：使用AIGC应用生成的内容可能侵犯他人的版权和知识产权。这可能涉及未经许可使用他人的图片、艺术作品或品牌标识。隐私侵犯：AIGC应用在训练时大量使用各领域数据，可能存在着对它人/企业隐私数据的非法使用，侵犯了相关人员的合法权益。伦理道德问题：不同数据训练出的AIGC模型与应用会存在明显且严重的歧视问题，由此引发的宗教、偏见等会导致一些冲突事件，可能引发犯罪，伤亡。色情、诽谤和骚扰：恶意使用AIGC应用可以生成具有色情、诽谤或骚扰性质的内容。这可能导致对个人隐私和声誉的侵犯，并造成心理和社会伤害。伪造内容：恶意使用AIGC应用可以生成虚假的图像证据，如伪造犯罪现场照片、虚假的签名或身份证明等。这可能被用于欺诈、勒索或破坏他人声誉。强人工智能带来的安全问题：若强人工智能时代来临，若不正确地加以监管，AIGC可能会失去控制，自我产生非法的犯罪恶念，对人身安全、社会和平造成恶劣影响。

（4）关于两者相同之处的简要说明

根据（2）、（3）教材中对计算机犯罪的概述和预防抵御策略以及生成式人工智能技术的涉及内容，可以得出它们之间存在一些相同之处。首先，生成式人工智能技术的不合理利用可能导致计算机犯罪，例如利用技术漏洞获取未授权访问生成模型或数据的权限，进而滥用或篡改生成的内容。这与计算机犯罪中的黑客攻击行为有相似之处。其次，生成式人工智能技术涉及到的高度信息化、边际成本近零、市场空间大等特点与计算机犯罪的定义、特点和构成要件密切吻合。计算机犯罪是信息时代的一种高科技、高智能、高度复杂化的犯罪，而生成式人工智能技术在其发展和应用过程中也具备类似的特点。另外，生成式人工智能技术的应用场景涉及的计算机犯罪问题主要包括版权纠纷、隐私侵犯、伦理道德问题、色情、诽谤和骚扰、伪造内容以及强人工智能带来的安全问题。这些问题与计算机犯罪中涉及的内容有一定的重合，都涉及到利用计算机或网络进行非授权操作、侵犯他人的权益、造成经济、名誉、心理等方面的损害。综上所述，生成式人工智能技术与计算机犯罪在一定程度上存在联系，使用生成式人工智能技术的同时需要注意安全性、隐私保护和合法合规，以避免成为计算机犯罪的加害者或受害者。

目前生成式人工智能技术在不同领域均有广泛的应用场景，主要集中在生成/创造上。接下来我从特定AIGC应用与案例出发，分析其可能带来的计算机犯罪问题，以及可以如何应对（参考[1]）。

从如文生图应用举例，2.1节实际上就有提及。AIGC内容生成可能造成知识产权的纠纷，甚至知识产权侵犯罪，如图12提及的“Stable Diffusion”AIGC模型版权侵权案。同时也有2.2节提到的隐私泄露问题，企业在训练AIGC模型/开发AIGC应用时若不充分尊重相关法律法规，可能会造成对用户隐私数据的侵犯与错误利用，造成相关的隐私侵犯罪，如上文提到的OpenAI被调查一事。

科技伦理领域的摩尔定律指出“伴随着技术革命，社会影响增大，伦理问题也增加。”故AIGC应用也会引发不少伦理问题，同样有很大可能导致计算机犯罪。首先，目前基于预训练模型的AIGC依然存在较为严重的歧视问题。比如，目前已有研究显示预训练语言生成模型会再现有害的社会偏见和刻板印象，例如GPT-3会有明显的基于宗教的偏见和性别歧视。而此前，Yannic Kilcher用1.3亿条仇恨言论训练的GPT-4chan更是挑战了互联网言论的底线，满嘴脏话和仇恨偏见。

AIGC图像生成也存在将为显著的歧视现象。OpenAI在对DALL-E 2的生成结果进行公平性测试时发现，其表现出显著的性别和种族歧视。2022年4月，研究人员对比发现DALL・E 2比minDALL-E表现出更多的性别偏见和种族偏见，即倾向于更高频地生成男性和白人的人类图像，并且这两个模型都有非常强烈的倾向通过CLIP生成标记为男性和西班牙裔的图像，样例如图16。

图16 DALLE 2具有显著的种族和性别刻板印象。例如，提示词“律师"、“ CEO"时，几乎生成的图像都是白人男性[1]

同时在内容生成的真实性上有待考量，目前AIGC以低成本生成以假乱真内容的能力可能会导致诈骗、声誉破坏、利益损害等计算机犯罪。目前AIGC越来越多地被用来制作数字人、生成逝者的音容相貌、数字化复活已故演员、创造与逝者交谈的可能等，如2022年10月，Podcast.ai在一期节目中"复活”了已故的史蒂夫•乔布斯，节目中的整个对话都是由AI生成的。但与此同时，一些别有用心的不法分子也可以利用数据去合成数字人，或利用AIGC生成一些伪造内容去获取一些不合理的利益，导致了他人权利的受损，更甚造成了一些计算机犯罪事件。比如上面提到的“乔布斯复活事件”，损害了曾经活着的人的隐私权和代理权。哲学家埃里克•施维茨格贝尔更是发出可怕警告：“如果任由AIGC模仿生成他人, 人类会变得不太关心他人是真人，还是合成的数字人。”

最后，在AIGC应用中，还有一个常见的争论是AIGC模型是否具有自我意识问题，即对强人工智能造成一些人身安全问题的担忧。2022年6月，谷歌的AI工程师Blake Lemoine声称，他们的AI聊天机器人生成模型LaMDA具有自我意识。在Lemoine与LaMDA的测试对话中，我们可以发现LaMDA不仅像人一样害怕死亡，甚至还解决了拥有灵魂的问题，它能每天冥想并阅读悲惨世界，后被证伪。但若强人工智能时代真的来临，即AIGC自生心智，若有别出心裁者利用其烧杀抢掠，或AIGC本身滋生犯罪等不合法念想，都是很可怕的事情。

而针对这些已经存在或潜在的AIGC应用导致的计算机犯罪问题，我将给出一些应对措施，有一些在前两节的论述中也有涉及。

Ⅰ、版权纠纷：

⚪ 强化版权保护措施：建立更严格的法律框架和数字版权保护机制，确保原创作品的合法权益得到保护。

⚪ 数字水印技术：在图像中嵌入数字水印，以确保图像的来源和版权归属可追溯。

Ⅱ、隐私侵犯：

⚪ 加强数据隐私保护：确保在训练AIGC模型时遵循严格的隐私政策，仅使用经过合法授权的数据，并采取安全措施保护个人隐私信息。

⚪ 增强合规性监管：加强AIGC应用的监管和审核，确保数据合法使用和隐私保护。

Ⅲ、伦理道德问题：

⚪ 推动伦理准则：制定行业准则和伦理规范，要求AIGC应用的开发者遵循公正、平等和无歧视的原则，确保生成的内容不会引发种族、宗教或偏见问题。

⚪ 多元化数据集：确保训练数据集的多样性，避免对特定群体进行歧视性偏好，以减少模型的偏见。

Ⅳ、色情、诽谤和骚扰：

⚪ 强化内容过滤：建立有效的内容过滤和监测机制，识别和阻止色情、诽谤和骚扰内容的传播。

⚪ 用户举报和投诉机制：建立举报机制，让用户能够快速报告违规内容，采取相应措施进行处理。

Ⅴ、伪造内容：

⚪ 强化数字鉴定技术：开发高效的数字鉴定技术，用于验证图像的真实性和完整性，防止伪造内容的传播和误导。

⚪ 提高意识和教育：加强用户教育，提高公众对于虚假内容和伪造证据的识别能力。

Ⅵ、强人工智能带来的安全问题：

⚪ 加强监管和规范：建立全面的监管框架，确保强人工智能的研发和应用符合道德、法律和安全的要求。

⚪ 增强安全性和透明度：推动开发具备自我监控和安全机制的人工智能系统，确保其行为可解释、可预测和可控制。

总的来说，这些解决方案需要技术、法律、道德和社会等多个方面的综合努力，以确保生成式人工智能技术的合理和负责任的应用，从而保障个人和社会的利益和安全。

2.4 生成式人工智能技术中的计算机技术相关经济问题

知识点4：计算机技术相关经济问题

（1）教材中的对应章节

1、第10章节10.3节《IT垄断的问题》P193-P198

2、第10章节10.4节《工作场所的计算机化》P198-P203

（2）对教材中对应内容的简要概括

在10.3节中教材综述了IT垄断的现象与问题分析。包括不平等竞争与垄断的介绍，IT领域的垄断与反垄断及其其对信息产业的危害。由于IT使用水平的差异，导致企业/国家之间的不平等竞争随处可见。教材指出，IT领域的垄断主要是关键技术及资源由一家企业拥有，对经济带来的影响是非常显著的。“中国 IT 产业存在着严重的垄断现象，尤其是微软、英特尔分别在软、硬件领域的垄断，不仅让中国广大用户付出了高昂的代价，而且在信息安全、政府采购、知识创新等多方面带来了消极影响，阻碍了中国IT产业的健康发展。”

而在10.4节主要是介绍了计算机带来的经济结构与劳动关系的变革，探讨了“用人工还是机器？”、“计算机和工作质量”、“计算机和就业”三方面的问题。计算机软硬件不断发展，带来的是及其高效的生产力发展，但对于就业市场是无尽的争议。失业可以由新技术的应用造成，而新技术最终会创造更多的就业机会，创新中的变革显著地改变着人们的生活方式，也转换了经济结构。

（3）生成式人工智能技术涉及相同内容

经济问题始终是AI技术发展和应用中不可回避的。生成式人工智能技术中也涉及了大量教材第十章《计算机技术相关经济问题》中提到的内容。AIGC技术作为计算机的前沿技术，同样避免不了高速发展带来的本论文2.3节中的一些犯罪问题中的经济损失、教材10.3节中大公司IT垄断现象的发生以及教材10.4节探讨的劳动关系与市场变革的问题。具体来说，在生成式人工智能技术方面，由于某些大型科技公司（OpenAI、微软等）在该领域积累了巨大的数据集和算法优势，可能存在着数据和算法的垄断现象。导致其他竞争者难以进入市场，限制了创新和竞争的可能性。这与教材中讨论的IT领域的垄断现象相似，都是关键技术和资源被少数企业垄断的问题。另外，生成式人工智能技术的发展也对经济结构和劳动关系产生了影响。通过自动化和智能化的技术，生成式人工智能可以完成一些重复性、繁琐的任务，提高生产力和效率。这与教材中讨论的计算机对经济结构和劳动关系的变革相似，都是通过技术的应用改变了传统的劳动模式和工作方式。综上，生成式人工智能技术应用场景涉及的计算机相关经济问题及简单解决方案主要包括以下几个方面：

就业市场变革：AIGC的广泛应用可能导致一些岗位的自动化和消失，特别是那些可以被AIGC替代的重复性工作。这可能对某些行业和劳动力造成影响，需要重新定位和培训工人来适应新的就业市场需求。产业结构调整：AIGC的应用可能引起产业结构的调整和重组。某些行业可能受到冲击，而其他行业可能因为AIGC的增长而蓬勃发展。这可能导致市场份额的变化、公司兼并和收购的增加，以及经济结构的调整。不平等问题：AIGC的应用可能加剧财富和收入的不平等问题。某些企业和个人可能从AIGC的发展中受益，而其他人可能因为技术进步而落后。这可能导致贫富差距的进一步拉大，需要采取措施来确保机会的公平分配和社会包容性。数据隐私和安全：AIGC的应用可能引发数据隐私和安全的问题。大量的个人和商业数据被用于训练AIGC模型，因此保护数据隐私和防止数据泄露变得尤为重要。未经授权的数据使用和滥用可能导致经济损失和信任问题。市场失灵和监管挑战：AIGC的发展可能导致市场失灵和监管挑战。新兴的AIGC技术和应用可能迅速发展，而监管机构和法规可能无法及时跟进。这可能导致市场不公平竞争、垄断行为和潜在的市场失灵问题。人类劳动力与AI的协作：AIGC的应用可能改变劳动力的组成和劳动力需求。人类劳动力需要与AI系统进行更密切的协作和合作，适应新的工作方式和技能需求。这可能需要投资于教育和培训，以确保人类劳动力具备适应未来工作环境的能力。

（4）关于两者相同之处的简要说明

根据（2）、（3）可见，教材中相关内容涉及IT垄断现象分析及其对信息产业带来的影响，同时从多个维度探讨了计算机技术对于经济结构与就业市场的影响。同时生成式人工智能技术也引发了相关的计算机技术相关经济垄断与变革问题，即生成式人工智能技术与教材中的隐私保护涉及内容有一些相同之处，主要表现在（3）论述的垄断现象、经济结构变革、就业市场问题、数据隐私和安全、不平等问题、协作问题等多个维度。

由于生成式人工智能技术相关应用带来的经济问题，行业被迫或主动地发生着变革，在未来齿轮的加速只会越来越快，人类也需要去适应新产业赋能的节奏，做出相应的新方案，相对于上述提到的一些AIGC导致的经济问题，可以从以下几个方面做出应对：

政府监管和反垄断措施：政府可以制定相关法规和政策来缓解数据和算法的垄断现象，保护市场竞争公平性。同时，加强对数据隐私和安全的监管，确保个人和商业数据的合法使用和保护。技能培训和教育：面对就业市场的变革，需要投资于教育和培训，提升人们的技能和适应新的工作方式。培养具备与AI系统协作的能力，推动人机协同工作的发展。加强数据隐私保护和安全措施：建立健全的数据隐私保护法律法规，加强数据安全的技术防护措施，确保个人和商业数据的安全和隐私不受侵犯。鼓励创新和多样化竞争：支持创新企业的发展，鼓励多样化的竞争，减少垄断现象的出现。促进技术的开放和共享，推动技术创新和进步。跨界合作和共享经济：促进跨界合作和共享经济模式，以加强资源的共享和互补。不同行业和机构之间的合作可以促进技术应用的创新和共同发展，实现经济效益的最大化。意识与参与：提高公众对AIGC和相关经济问题的意识和理解，鼓励公众参与讨论和决策过程。透明的信息传播和参与机制有助于建立共识和平衡各方利益。

综上所述，正确、合理面对这些生成式人工智能技术带来的经济问题需要政府、企业、社会和个人共同努力。通过合作、创新和适应能力的提升，可以实现技术发展和经济变革的良性循环，促进社会的可持续发展和共同繁荣。

2.5 生成式人工智能技术中的IT职业道德和社会责任

知识点5：IT职业道德和社会责任

（1）教材中的对应章节

1、第4章4.1节《道德的社会价值》P60-P64

2、第4章4.3节《职业道德与个人职业发展》P65-P70

3、第4章4.4节《IT职业人员的社会责任》P70-P75

（2）对教材中对应内容的简要概括

在4.1节中主要概述了道德的社会价值，从对社会、对工作生活两方面论述了道德的作用。本节教材指出“在信息化的社会中，由于IT发展超乎人们的估计，普遍存在着法律政策规范的真空现象和其他一些社会问题，在这种情形下，人们的道德水准对社会的稳定运行和社会的健康发展构成了基本的要素。”

而在4.3节中，主要论述了职业道德与个人职业发展的关系。从职业道德的概念与特点出发，再到与个人职业发展的关系，最后简介职业道德规范的相关知识。其中IT职业道德指从事IT职业的专业人员应当遵循的行为规范的总和，对个人、社会发展均至关重要，“职业素质=职业道德与职业修养+专业技能”。而职业道德规范对不同行业均规定了相应的能力、意识和责任，是该职业道德行为的标准、行为依据。

4.4节中明晰了IT职业人员的社会责任。包括社会责任的意义、责任问题说明、负责行为的障碍。其中，现代社会各个层面的运行都离不开IT，因此，IT技术人员的社会责任感、道德品质对人民的社会生活更具有影响力。而如何使IT技术人员规范职业道德和正确履行社会责任，给社会与国家带来技术发展的同时带来积极影响是一个核心议题。

（3）生成式人工智能技术涉及相同内容

在论文前四节中分别论述了生成式人工智能技术带来的一系列知识产权、隐私保护、计算机犯罪、经济变革问题无不证明了应用和发展也带来了一系列道德和社会责任的考虑，这实际上与生成式人工智能技术的不合理使用及相关IT开发人员的不合规开发与不合理引导有关。故生成式人工智能技术的发展离不开IT职业道德和社会责任话题的讨论，与教材中涉及相同内容大致总结如下：

道德的社会价值：生成式人工智能技术的应用可能涉及到一些道德问题，例如虚假信息的传播、人工智能歧视等。因此，IT从业人员在应用生成式人工智能技术时需要关注其社会价值，确保技术的使用符合伦理和道德准则。职业道德与个人职业发展：生成式人工智能技术的发展需要专业人员具备一定的职业道德素养和修养。他们应该关注个人职业发展的同时，始终遵循职业道德规范，以提供可靠、安全和负责任的技术解决方案。 IT职业人员的社会责任：生成式人工智能技术的应用对社会产生广泛影响，因此IT职业人员有责任意识到自己的行为对社会的影响，并积极履行其社会责任。这包括保护用户数据隐私、防止技术滥用、推动公平和可持续的技术发展等。

（4）关于两者相同之处的简要说明

根据（2）、（3）可见，教材中IT职业道德和社会责任的相关内容与生成式人工智能技术背后的应用开发人员规范有很多相同之处。在高度信息化的社会中，目前AIGC作为最前沿的计算机技术之一，其不合理使用导致的法律政策规范的真空现象和其他一些社会问题对人们尤其是相关IT从业者的道德水准提出了质疑与挑战，成为了对社会的稳定运行和社会的健康发展构成了基本的要素。根据（3）中论述，与教材相似之处主要是1）道德价值观：教材中重点论述信息化社会背景下正确传播道德对于社会、工作生活的正面价值，即道德问题的定义，生成式人工智能技术的应用同样也涉及到大量道德问题分析。2）职业道德与个人职业发展：教材中强调了职业道德对个人职业发展的重要性，同时提出了职业道德规范的约束。同样，生成式人工智能技术的发展的正向性也对IT专业人员的职业道德素养提出了要求。3）社会责任：教材中明确提到IT职业人员的社会责任感和道德品质对社会生活的影响力。生成式人工智能技术的应用对社会产生广泛影响，因此IT职业人员也有责任意识到自己的行为对社会的影响，并积极履行社会责任。

对此，在AI技术不断高速发展的新时代，技术背后的道德也同样至关重要。生成式人工智能技术的应用需要与社会和道德价值观保持一致，IT人员应遵循职业道德规范，提高职业素养，并承担起相应的社会责任。同时，相关机构和监管机构也需要制定相应的法律和伦理准则来指导生成式人工智能技术的发展和应用，确保技术的利益最大化，并最小化潜在的负面影响。

三、个人阐述

3.1 就生成式人工智能技术对社会的深远影响及应对策略来论述自己的观点和看法

论文第一章1.1节从生成式人工智能技术的发展简介出发，补充了核心的背景知识，明晰了当前AIGC技术及应用的发展现状与主流方案。1.2节概述了生成式人工智能技术的发展对社会的影响，从生态技术架构出发，主要聚焦在消费服务、产业发展、社会价值三个方面对于社会的积极影响，同时简单综述了相关技术及应用目前的风险与挑战。而在第二章深度结合教材，从知识产权、隐私保护、计算机犯罪、计算机经济问题、IT职业道德和社会责任五个不同方面针对生成式人工智能技术所涉及的伦理问题进行了深入调研，并结合各领域现象与案例分析。而在本章中，3.1节将结合前两章的叙述就生成式人工智能技术对社会的深远影响及应对策略来论述笔者个人的观点和看法，3.2节将通过实际生活中的案例，论述新一代人工智能对个人及社会生活带来的各种影响。

埃森哲Accenture的技术研究报告《生成式人工智能：人人可用的新时代》[11]认为AIGC发展趋势与关键问题如图17，并指出“ChatGPT背后的技术将深刻改变工作模式，重塑商业形态。”。其论点与本论文强调的“生成式人工智能技术开创新时代”主题不谋而合。无论是ChatGPT等AIGC应用在各行业的爆火现象，还是背后对技术、伦理的研究，无不显式地表现出生成式人工智能技术对社会的深远影响。面对这一新传播范式，个人、企业与国家享受着其优越技术表现、低创作边际效应、广泛应用范围的优势时也在不断面对有心之人的不合理利用与规范与约束尚未完善带来的各种风险与挑战。对此，大量团队与企业积极拥抱AIGC，变革性地创收、赋能，获得成功；同时也有无数惨不忍睹、不合伦理的相关现象与案件频发。这是一个生成式人工智能技术开创的新时代，关键词是“震撼”、“发展”、“隐患”，更是“未知”。

图17 生成式人工智能技术发展趋势与关键问题[11]

以上是我对于生成式人工智能技术观点与看法的简单综述，接下来我们将按论文组织结构梳理相关知识，由背景到影响到应对策略，并在其中加入我个人的阐述。

首先，我们先综述地探讨一下生成式人工智能技术及其应用本身的核心概念与发展历程，根据前两章的论述，我们明晰了生成式人工智能技术并非一个全新的概念，自1957年第一支由计算机创作的音乐作品诞生标志着广义的AIGC出现。而随着计算机技术、硬件计算能力、数据丰富度等因素不断变化与发展，其生成内容不断丰富，应用场景逐渐拓展，技术门槛慢慢降低。根据生产式人工智能技术的核心原理，大致可以将其发展历程分为三个阶段：1）基于数学模型与统计方法的探索期，2）基于基础深度学习模型的发展期，3）基于预训练大模型的繁荣期，核心发展历程梳理如图18。而在2023年的如今，正处于AIGC的繁荣期，目前的生成式人工智能技术主要基于“预训练-微调”大模型方案，即拥有巨量参数的模型在大规模数据上进行预训练，学习到丰富的语言和知识表示，然后通过微调或生成来适应并完成具体而广泛的下游任务。预训练大模型由于其性能的优越性使生成式人工智能技术赋能各个行业并仍展现出巨大的潜力。未来，生成式人工智能技术及其应用有望继续推动发展与进步，并在更多领域发挥重要作用。

图18 生成式人工智能技术核心发展历程

图19 不同技术革命简介[11]

图19是华金证券AIGC行业深度分析报告[11]总结的工业革命历程，“每一次工业革命的到来，背后都有一个通用目的的技术，而每一个通用技术都会赋能千行百业，创造很多商业机会，推动产业的变革发展。”分析报告在给出变革本质后也指出基于人工智能尤其是AIGC技术的第四次工业技术革命对全球经济产生深远的影响，GDP、投资、消费、就业、贸易、通货膨胀等宏观变量几乎都会受其影响。主要可以归结于两个方面：1）生产效率方面：当前世界技术和创新正处于拐点，第四次工业革命将很快推动生产效率的大幅上升，加速经济增长。2）对就业的影响：一方面，技术对就业是有破坏效应的，因为技术带来的颠覆和自动化会让资本取代人工，从而导致工人失业，或者把他们的技能用到其他地方；另一方面，这样的破坏效应也伴随着资本化效应：对新商品和新服务需求的增加，会催生全新职业、业务，甚至是全新行业。故面对AIGC对每个人、每个国家带来的深刻影响，如何应对、如何在高速的发展中革新与适应是一个核心议题。（参考[11]）

回到我们的论文综述，针对上面的议题，我们来多角度辨析一下生成式人工智能技术对社会的深远影响及应对策略。我们从影响的效果来分别叙述，首先是生成式人工智能技术带来的机会与积极影响，以及我们应该如何把握AIGC发展趋势的讨论。根据1.2节对于其发展现状的趋势我们可以观察到一个明显的现象，基于生成式人工智能技术的生态技术系统逐渐趋于完善且拥有广泛的应用场景，通过“基础-中间-应用”三层架构向不同背景情况的用户提供多端优质服务。具体而言上文图5与图6分别概览了AIGC目前在不同领域的应用现状，同时展示了在赋能不同场景时的无限潜力。从现象回到影响，基于生成式人工智能技术在不同方面的积极影响总结如表2。影响背后的核心原理如图20所示，即AIGC本身的优质服务，给用户带来了良好体验，创造了新的经济增长机会和商业机会，使市场焕发新的活力，从而吸引更多领域的企业接入相关技术，正循环地促进个性化与定制化服务的方案策划。而侧面带动了技术与应用本身的发展，而由于应用的广泛性，大量正向案例出现促进社会价值与道德教育和知识传播。

表2 基于生成式人工智能技术在不同方面的积极影响

影响层面

意义

具体操作

消费服务

牵引数字内容领域的全新变革

用户侧：通过大量多维个性化推荐和定制化服务，改变/优化了传统的用户体验市场侧，通过数据分析，增加消费额，拓展了潜在的消费者群体，增加了市场的活力

产业发展

牵动未来，助力产业创新与发展

产业价值：通过人机协作，实现企业价值的爆发增长，提升结构的抗风险性产业模型：提高了生产效率和质量，催生了新的产业模式和商业机会

社会价值

助力可持续社会价值与进步

元价值：创造力解放与内容（如艺术）领域革新衍生引导价值：对于社会行为与人群思想的正向影响与引导

图20 生成式人工智能技术积极影响原理架构

而面对生成式人工智能带来如此多的便利与机遇，我们应该如何把握呢？针对不同的人群，应该采用不同的策略。1）个人角度：对于个人而言，了解新技术的发展趋势，深度参与实践生成式人工智能技术及其应用是最重要的。技术服务于人，对于便利的技术我们要跟上时代的步伐，学会不同场景下的使用。同时，个性化、定制化是AIGC的一大特点与优势，我们应该利用生成式人工智能技术的优势，探索个人的创新和创造力，发展个人品牌和专业能力。2）企业角度：对于企业而言，基于新技术赋能革新生产模式，创造商业价值拓展市场是最重要的。落后就要挨打，企业应积极应用生成式人工智能技术改进生产流程、提高产品质量和服务水平，以增强竞争力。同时基于AIGC的数据分析能力，从海量数据中获取有价值的信息支持决策制定和业务发展。另外，积极参与产业合作，建立技术生态系统，与其他企业、技术供应商和学术机构合作，共同推动生成式人工智能技术的发展和应用。3）国家角度：对于国家而言，如何把握新技术带来的变化趋势，优化经济与行政形势，促进技术发展与国际影响力是最重要的。科学创新是第一生产力，目前大量前沿技术面临垄断的难题，给我国经济带来了巨大损失。为此，政府应关注生成式人工智能等技术的发展，制定相应的政策和规划，提供支持和激励措施，鼓励技术创新和应用。同时加强人才培养和教育，培养具备生成式人工智能技术专业能力的人才，提供相关的培训和教育资源。另外，应积极引导生成式人工智能技术在国内产业的应用，注重相关应用与案例对社会价值与道德发展的正面影响与引导，并同步提升国家的创新能力和国际竞争力。综上，对于生成式人工智能技术机遇的把握不是一蹴而就的，也不是针对某个群体的。个人、企业和国家应共同努力，把握生成式人工智能技术的机遇，积极应用和推动技术的发展，以实现个人成长、企业发展和国家进步。

然而，任何技术都是一把双刃剑，生成式人工智能技术快速发展的背后，是知识产权纠纷与隐私泄露伪造等计算机犯罪案件的增长频发，是经济结构变革导致的破坏性失业与无尽焦虑，以及数不清的伦理问题与道德挑战。面对AIGC对社会带来的负面影响，对其风险认知、应对策略研究刻不容缓。故接下来我们继续讨论生成式人工智能技术带来的挑战与消极影响，以及我们应该如何在“沼泽”中脱身，即如何应对AIGC可能带来的低潮。结合第二章五个小节及《计算机伦理学》的相关知识，生成式人工智能技术引发伦理问题，给社会带来消极影响的原因是复杂且动态的，主要可以归结为是1）数据获取、筛选与保护方式的不合理，2）相关技术与应用的用户使用不当，3）犯罪成本低，影响范围大，且获取利益高。4）IT开发人员职业素养不高，且存在不良引导。5）相关法律与规定不明晰。具体来说，生成式人工智能技术带来不同方面的伦理问题及应对策略总结于表3。

表3 基于生成式人工智能技术在不同方面产生的伦理问题及应对策略

影响层面

问题来源/简介

应对策略

知识产权

训练数据版权生成/创造内容的版权归属创意灵感和相似性

4、演绎与改编

1、合法数据采集

2、数据清洗和筛选l

3、明确版权归属

4、创新保护和监管

隐私保护

数据收集、使用、处理、存储方式内容安全与技术滥用公平与偏见数据共享与合作隐私政策与技术规范完善伦理说明合作方案优化法律法规制定

计算机犯罪

版权与隐私伦理道德色情、诽谤、骚扰强人工智能带来的安全问题合规性监管内容过滤与举报机制数字鉴定技术监管与防范加强