AIGC：一种生产（chǎn）力的变革

面对（duì）互（hù）联网内容生产效率提（tí）升的迫切需求，是否能够利用人（rén）工智能去辅助内容生产（chǎn）？这种（zhǒng）继（jì）专业（yè）生（shēng）产内容（PGC）、用户生（shēng）成内容（UGC）之后形成的、完全（quán）由人工智能生成（chéng）内容的创作形（xíng）式被称为AIGC。最初（chū）的AIGC通常基于小模型展开，这（zhè）类模（mó）型一（yī）般需要特殊的标注数（shù）据训练，以（yǐ）解决特（tè）定的场景任务，通（tōng）用性（xìng）较差，很难被迁移，而且高度依赖人工调参。后来，这种形式的AIGC逐渐被基于大数据量（liàng）、大参数（shù）量、强算法的大模型取代，这种（zhǒng）形式的AIGC无须（xū）经过（guò）调整或只经过少量微调就可以（yǐ）迁移到多（duō）种生成（chéng）任务（wù）。

2014年诞生的生成对抗网络（GAN）是AIGC早期（qī）转（zhuǎn）向大模型（xíng）的重要尝试，它利用生成器和判（pàn）别器的相互对抗并结合其他技术（shù）模块，可以（yǐ）实（shí）现各种模态内容（róng）的生成。而到了2017年，变换器（ Transformer）架构（gòu）的提出，使得深度学习模型参（cān）数（shù）在（zài）后续的发展中得以突破1亿大关（guān）。2022年11月30日，开（kāi）放人工智（zhì）能研究实（shí）验室（OpenAI）发布（bù）了名为ChatGPT的超级人（rén）工（gōng）智能（AI）对话模型（xíng）。ChatGPT不仅（jǐn）可以清（qīng）晰地理解用户的问题，还能如（rú）同人类一般流畅地回（huí）答用户的问题，并完成一（yī）些复杂任务（wù），包括按照（zhào）特定文风撰（zhuàn）写诗歌、假扮（bàn）特定角色对话、修改错误代码等。此外，ChatGPT还表现出一些（xiē）人（rén）类特质，例（lì）如承（chéng）认自己的错误，按照设定的道德准则拒绝不怀好意的请求（qiú）等。ChatGPT一上线，就引发网民争相体验，但（dàn）也有不（bú）少（shǎo）人对此（cǐ）表示担忧，担心作家、画家（jiā）、程序员等职业在未（wèi）来都将被人工智能所取代（dài）。

虽然存在这些（xiē）担忧，但人类的（de）创造物终究（jiū）会帮助人类自身的（de）发展，AIGC无（wú）疑是一种（zhǒng）生产力的变（biàn）革，将世界送入（rù）智能（néng）创（chuàng）作时代。在智（zhì）能创作时代，创作者生产力（lì）的提升主要（yào）表（biǎo）现（xiàn）为（wéi）三（sān）个方面：一是（shì）代替创作中（zhōng）的重复环节，提升（shēng）创作效率；二是将（jiāng）创意（yì）与创作相分（fèn）离，内（nèi）容创作者（zhě）可以从人（rén）工智能的（de）生（shēng）成（chéng）作（zuò）品中找寻灵感（gǎn）与思路（lù）；三是综合海量预（yù）训练的数据（jù）和模（mó）型中引入的（de）随机性（xìng），有利于拓（tuò）展创新的（de）边界，创作者可以生产出过去无法（fǎ）想（xiǎng）出的杰出创（chuàng）意（yì）。

技术伦理成为发展（zhǎn）的重要（yào）关注点

AIGC技（jì）术的发展无疑是革命（mìng）性的（de）。它可以改善我们的日常生活，提高生产力，但也面临着诸多技术（shù）伦理方（fāng）面的（de）挑战。

一（yī）个（gè）典型的AIGC技术伦理（lǐ）问（wèn）题是AI所生成内容的危险性。科学（xué）家正尝试（shì）运用一些（xiē）技术手（shǒu）段避免这些具有潜在风险的事件（jiàn）发生（shēng）。通（tōng）过改善数据集，增（zēng）加更多的限制性条（tiáo）件以及对模型（xíng）进行微（wēi）调，可以使得人工（gōng）智能减少对于有害内容的学习，从而（ér）降（jiàng）低人工智能本身的危险性。甚至我们可（kě）以（yǐ）“教会”人工（gōng）智能如何更尊重他人，减少判断（duàn）当中的偏见，更好地和人类相（xiàng）处（chù）。借鉴强化学习（xí）思想（xiǎng）（RLHF）方法就是减少人（rén）工智能生成危害（hài）性内容的典型措（cuò）施，ChatGPT就是（shì）采用这种方式训练的。在RLHF的框架下（xià），开发人员会在人工智（zhì）能做出符合人类（lèi）预期回答（dá）时给予奖励，而在做出有害内（nèi）容的回（huí）答时施加（jiā）惩罚，这种根据人类（lèi）反馈信号直接优化语言模型的（de）方法可以给予AI积极的引导。然而，即便采用这种方式，AI生（shēng）成的内容也有可能在刻意诱导的情况下（xià）具有危害性（xìng）。以ChatGPT为（wéi）例，在一位（wèi）工程师的诱导下，它写出了步（bù）骤（zhòu）详（xiáng）细（xì）的毁灭人（rén）类计划书，详细到入（rù）侵（qīn）各国（guó）计算机（jī）系统、控（kòng）制武器、破坏通讯和交通系统（tǒng）等。还有（yǒu）一些人表达了对RLHF这类安全预防（fáng）性（xìng）技术（shù）措施的质疑，他们担忧（yōu）足够聪明的人工智（zhì）能可能会通过模仿人类（lèi）的伪装行为来绕过惩罚，在被监（jiān）视的时候假装是好人，等待时机，等（děng）到没（méi）有监视（shì）的时候（hòu）再做坏（huài）事。

除了从（cóng）训练角度对AIGC潜在技（jì）术伦理问题进行预防外，在使（shǐ）用（yòng）上（shàng）及（jí）时告警停用的技术措（cuò）施更显必要。AIGC产品应该对生成的内容（róng）进行一系列合理检测（cè），确（què）保其创作内容不被用于有害或非法目的（de），一旦（dàn）发现（xiàn）此类用（yòng）途（tú），人（rén）工智能应该可（kě）以（yǐ）立刻识别，停止提供服（fú）务，并且给出警告（gào）甚（shèn）至（zhì）联系相（xiàng）关监管或者执（zhí）法机构。

监管法律（lǜ）正待完善

随着全球范围（wéi）内（nèi）的（de）相关法律（lǜ）法规（guī）的不断完善，无（wú）论是赋（fù）能产（chǎn）业升级还是自（zì）主释放价值，AIGC都将（jiāng）在健康有序的（de）发展中（zhōng）得到推进。标准规范为AIGC生态构建了一个技术、内容、应用、服（fú）务和监管的全过程一体化标（biāo）准体系，促进AIGC在（zài）合理、合规和合法的框架下进行（háng）良性发展。

以美国为例，虽然美国在AIGC技术领域起（qǐ）步较早，且（qiě）技术布局（jú）一直处于全球（qiú）领先地（dì）位，但迄今为止还没有关于AIGC的（de）全面联邦立法。考虑到AIGC所涉及（jí）的（de）风险以及滥用（yòng）可能造成（chéng）的严重后果，美国正在加速检查和制定（dìng）AIGC标准的进程。例如美（měi）国国家标准（zhǔn）与技术（shù）研究院（NIST）与公共（gòng）和私营部门就（jiù）联（lián）邦标（biāo）准的（de）制定进行了讨论，以创建可靠、健全和（hé）值得信赖（lài）的人工（gōng）智能系统的基础。与此（cǐ）同时（shí），州立（lì）法者也在考虑AIGC的好处和挑（tiāo）战。根（gēn）据不完全统计，2022年（nián），至少有17个州提出了AIGC相关的法案（àn）或决议（yì），并在（zài）科罗拉多（duō）州（zhōu）、伊（yī）利诺（nuò）伊州、佛蒙特州和（hé）华盛（shèng）顿州颁布（bù）。

目前，白宫科技政策办公室（shì）已经颁布了（le）10条关于（yú）人（rén）工智（zhì）能法律（lǜ）法规的原则，为制定AIGC开发和使用的监管和（hé）非（fēi）监管方法（fǎ）提供参（cān）考，包括建立公众对人工智能的信任；鼓励公众（zhòng）参（cān）与并提高公（gōng）众（zhòng）对（duì）人工（gōng）智能（néng）标准和技术的认识；将高标准的科学完整性（xìng）和（hé）信息（xī）质量（liàng）应用于AI和AI决策；以跨学科的方式使用透明的风险评（píng）估和风险（xiǎn）管理方法；在考虑（lǜ）人工智能的开发（fā）和部（bù）署时评估全部社会（huì）成本、收益（yì）和其他（tā）外部因素；追（zhuī）求基于性能的灵活（huó）方法，以适应人（rén）工（gōng）智能快速变化的性质；评估人工智能应用中（zhōng）的公平和非歧视问题；确定适（shì）当的透明度和披露（lù）水平以增加公众信任（rèn）；保（bǎo）持控制以确保AI数（shù）据的机密性、完整性（xìng）和可用性，从而使开发（fā）的AI安全可（kě）靠；鼓励机构间协调，以帮助确保人（rén）工智能（néng）政（zhèng）策的一致（zhì）性和可预（yù）测（cè）性。根（gēn）据（jù）上述原则框架（jià）以及（jí）AIGC领域后续发展中的监管实（shí）践，在（zài）不远（yuǎn）的（de）未来，将会有更（gèng）多具体的监管条例落地。