无法隐藏“AI制造”的时代到来 欧盟新规则对日本企业和网红的影响

2026年8月2日，可能改变互联网信息呈现方式的规则在欧盟开始实施。根据欧盟全面的人工智能法规“AI法”，对生成AI制作的内容以及代替人类响应的AI系统的透明度义务开始适用。

受影响的对象不仅仅是所谓的深度伪造。生成AI制作的图像、视频、音频、文章、企业的聊天机器人、AI化身、语音代理等，涉及人类可能误认为真实的广泛内容和服务。

仅从新闻标题来看，容易理解为“在欧盟，所有AI制作的东西都必须贴上显眼的标签”。然而，实际制度要复杂一些。规则大致分为“提供AI系统的一方”和“在业务中使用AI系统的一方”。

不是对所有生成物贴上同样的标签

首先，提供ChatGPT、Gemini、图像生成服务等AI系统的企业需要确保生成物是由AI创建或加工的，并且机器能够识别。

具体来说，通过结合元数据、电子签名、可检测的水印等，即使图像或视频被转载到其他网站，也能确认其人工来源。这不仅意味着始终向人类显示大警告，而是要在文件或内容中留下机器可读取的标记。

此外，对于直接与用户对话的聊天机器人或AI代理，必须设计得让对方知道不是在与人类交谈。即使在询问窗口收到自然的文本回复，也需要避免用户误以为是在与人类代表对话。

另一方面，使用AI制作和发布广告、文章、视频等的企业或经营者，有义务以人类可识别的形式显示特定内容。

尤其重要的是深度伪造，即使AI制作或加工的图像和音频可能被误认为是实际拍摄或录音的内容，要求在用户首次接触时进行易于理解的显示。

政治、行政、司法、公共安全、公共卫生、环境、经济、金融、科学、文化等影响社会讨论的文章也可能成为对象。如果在没有充分人类确认或编辑的情况下发布AI生成或加工的文章，必须明确这一点。

相反，如果有具备专业知识的人类确认内容、验证信息来源、修正或停止发布的编辑体制在运作，即使是公共性高的文章也可能成为显示义务的例外。然而，仅修正错别字或语法检查不被视为实质性的人类审查。

也就是说，问题不仅仅是“是否使用过AI一次”。重要的是AI在多大程度上制作了内容，人类在多大程度上负责验证，以及用户是否可能误解为真实。

网红也不一定“因为是个人而不受影响”

根据欧盟的规则，出于个人且非职业目的使用AI的一般个人原则上不受经营者义务的约束。

例如，将作为爱好生成的图像发布到个人账户的行为通常不被视为商业活动。然而，通过广告收入、企业项目、商品销售、会员服务、持续的打赏等获得经济利益的情况，可能被判断为职业或商业活动。

不仅仅取决于粉丝数量的多寡。持续获得收益的网红、视频博主、联盟营销者、自由创作者等，可能被视为在业务中使用AI的“导入者”。

如果让类似真实人物的AI模型出现在广告中，或者用AI语音描述本人未曾讲述的产品说明，可能需要明确的显示。

另一方面，对于明显不现实的幻想图像或观众理解为虚构的作品，并不总是需要贴上大警告。关于艺术、创作、讽刺、虚构，允许不妨碍作品欣赏的显示方法。

这一点对日本的广告公司和内容制作公司来说很重要。在制作面向欧盟的活动时，不应仅仅因为“使用了AI图像”这一事实而一刀切，而是需要整理真实性、误认可能性、使用目的、目标观众。

为什么欧盟强制显示

背景是生成AI使得“看似真实的假货”可以低成本大量制造的现实。

以前的合成视频和音频需要高级编辑技术和设备。然而，现在一般用户也能在短时间内制作出政治家未曾发表的演讲、名人虚构的产品推荐、不存在的专家解说、虚假的灾害视频等。

在企业广告中，也可以让不存在的医生、研究人员、消费者、网红出现，强调产品的效果或受欢迎程度。如果用户不知道是AI生成物，可能会被当作真实的体验或专家推荐。

欧盟试图保护的不仅仅是版权或个人信息。消费者在选择商品时的判断、关于选举和政策的决策、对新闻的信任、人类之间的沟通本身都是目标。

“不是禁止假货”，而是“减少隐藏人工制造的事实并作为真实流通的行为”，这是透明性规则的基本思想。

社交媒体上欢迎与疑问交织

围绕新规则，欧洲的科技社区以及LinkedIn、Reddit等平台上展开了热烈讨论。社交媒体上的帖子不是民意调查，不能代表整个社会，但可以作为了解用户和从业者疑问的线索。

引人注目的是，“至少应该告知是AI还是人类”的欢迎声音。

特别是关于客户服务和电话窗口，不知道对方是AI还是人类的不满很强烈。有意见认为“希望不仅是图像和视频，还要显示对话对象是AI”，对本次规则将聊天机器人和语音代理纳入对象的反应是积极的。

由于政治性假视频和名人假广告的增加，也有帖子认为“美国等其他地区也需要类似的制度”。不少用户将欧盟的应对视为法律追赶技术变化的尝试，并给予肯定。

另一方面，也有声音对显示方法的模糊性感到不安。

“标签的大小到什么程度才算足够”“仅在屏幕角落小小显示是否可以”“是否需要让从视频中途开始观看的人也能明白”等疑问。欧盟准备了标签用的图标，但使用并非强制，企业可以选择其他方法。

虽然有灵活性，但也有指出不清楚到何种程度才被视为“明确显示”。对于小规模制作公司或个人创作者来说，理解法律、设计、技术的负担不小。

另一个显著的担忧是“会不会重蹈Cookie横幅的覆辙”。

如果像每次打开网站时显示的Cookie同意画面那样，AI标签无处不在，用户可能会反射性地忽视内容而不去确认。过多的警告可能导致真正危险的深度伪造和仅仅是背景图像的生成被同等对待，重要度的差异消失。

仅显示“使用AI”，无法分辨是完全合成人物的面孔，还是仅仅调整了照片的亮度。标签的存在与用户正确理解内容并不相同。

对执行效果的质疑也根深蒂固。如何追踪在欧盟境外制作并通过匿名账户传播的内容是个问题。元数据可能因图像压缩、截图、再发布等而丢失，恶意用户可能故意删除。

社交媒体上也有反应称“如何应对国外制作的大量内容”“只有遵循显示的企业承担负担，而恶意发布者无视”。

有标签就不会被骗吗

AI显示很重要，但这并不意味着假信息问题就能解决。

以往的研究表明，看到AI生成的显示后，用户倾向于对信息评价较低，但说服力和分享行为并不一定大幅下降。

此外，用户可能过于相信“未显示为AI生成的就是本物”。对人类拍摄的真实图像附加虚假说明的行为或人类制作的假信息，AI标签无法防止。

错误标签的可能性也是个问题。如果实际照片被判定为AI生成，摄影师或新闻机构的信誉将受损。反之，如果无法检测到巧妙的生成物，标签制度本身的信任度将下降。

因此，AI标签应被视为“判断制作过程的附加信息”，而不是“保证真伪的标记”。最终的可靠性需要综合判断信息来源、编辑责任、验证方法、发布者的真实性等。

日本选择了与欧盟不同的道路

在日本，2025年通过了首部专注于AI的法律“人工智能相关技术的研究开发及利用促进法”，并于同年9月全面施行。

日本的AI法也强调确保透明性以进行适当的研究开发和利用。然而，比较现行制度结构，与欧盟那种横跨生成内容的显示方法和对象、在违规时施加高额罚款的监管性质不同。

日本在促进AI的研究开发和利用的同时，通过政府的指引、信息收集、调查、对企业的指导和建议，以及结合现有法律来应对风险。

如果说欧盟对企业施加具体义务是“监管型”，那么日本则更接近于重视官民合作和指导方针的“促进·协作型”。

这种差异并不是简单的哪个更正确的问题。严格的监管有助于保护消费者和确保信任，但可能增加应对成本，抑制中小企业和新兴企业的活动。灵活的制度虽然易于推进技术开发，但对恶意深度伪造和假广告的应对容易依赖于企业。

对日本来说，重要的是不只看国内制度来判断。日本企业向欧盟消费者销售商品，运营面向欧盟的网站和广告，通过当地法人或代理商提供AI服务时，无法与欧盟的规则无关。

日本企业需要的五项应对措施

首先，需要掌握公司内部在哪些地方使用了生成AI。

广告图像、产品说明、社交媒体发布、招聘视频、询问应对、翻译、旁白等，生成AI通常在多个部门单独引入。如果公司未能意识到“现场使用”，就无法判断显示义务。

第二，需要确认AI提供商在生成物上附加了什么标记。

即使生成时附加了元数据，通过图像编辑软件、广告投放系统、CMS、上传到社交媒体可能会被删除。必须验证从制作到发布的过程中，AI来源的信息是否被保留。

第三，需要在公司内部定义人类确认的意义。

仅仅因为负责人读了一遍文章就被视为“人类已确认”可能不够。明确事实确认、信息来源验证、法律·广告审查、修正权限、发布责任人，并记录谁承担最终责任很重要。

第四，需要重新审视与广告代理商、制作公司、自由职业者的合同。

需要条款确认交付物中是否使用了AI、使用了哪些工具、是否模仿了真实人物或地点、是否保留了必要的标签或元数据。即使委托方制作，广告主或委托企业的责任也不一定消失。

第五，将显示设计为不仅仅是法律负担，而是作为展示信任的手段。

比起仅显示“使用AI”，更具体地显示“背景图像由AI生成”“合成语音”“文章草案由AI生成并经编辑部事实确认”等，可能更有助于消费者理解。

显示的目的不是为使用AI道歉，而是解释人工制作的部分和人类负责的部分。

媒体需要的是“人类负责的编辑”

对于新闻网站和信息媒体来说，此次规则具有特别重要的意义。

如果利用生成AI大量制作文章，仅由人类确认标题和错别字后发布，可能被判断为对公共性高的文章未进行充分的编辑管理。

重要的不是避免使用AI本身。关键在于是否有确认信息来源、比较不同立场、修正错误、判断是否公开的人类存在。

即使AI协助调查、翻译、构成、摘要，只要有负责最终内容的编辑者在运作，就能兼顾透明性和效率化。反之，仅形式上放置人名，实质上由AI自动发布的状态，难以获得读者信任。

对于日本媒体来说，“是否使用AI”不如“谁对信息负责”更能成为今后的竞争力。

围绕世界标准的竞争开始

欧盟的监管可能不仅限于域内。

对于全球平台和AI企业来说，与其在每个地区运营不同的系统，不如采用最严格市场的标准作为全球通用规格更为高效。过去，欧盟的个人信息保护法规影响了各国企业的隐私应对，AI生成物的显示也可能成为事实上的国际标准。

在中国和韩国，AI生成内容和AI广告的显示制度也在推进，显示AI来源已成为全球政策课题。

日本今后需要考虑的，不仅是是否直接引入与欧盟相同的法律。还需在国际框架内整备日本企业在国内外通用的显示方法、机器可读信息的保存、平台间的兼容性、对恶意标签删除的应对等。