AI时代的信息安全：ChatGPT中不应透露的5种信息

――巴西报告和日本社交媒体声音解读风险与对策――

前言：便利背后潜藏的“无法挽回”的代价

生成AI如今已成为与搜索引擎和社交媒体并列的日常基础设施。ChatGPT、Copilot、Gemini、Notion AI——我们可以随时向AI提问、策划和制定家庭预算。然而，输入的内容可能会保留在云端，并被二次利用用于模型改进或广告定位这一事实却鲜为人知。

6月14日发布的巴西InfoMoney解说文章《Gemini, ChatGPT e mais : 5 informações para nunca compartilhar com IAs》列举了**“绝对不能交给AI的5种信息”**，引起了广泛反响infomoney.com.br。本文将详细介绍该文章的要点，并深入解析国内外社交媒体上的不同观点，以及日本用户现在应采取的实际措施，总字数约为一万字。

第一章　InfoMoney警告的“5大禁忌数据”

InfoMoney的文章断言以下五项为“绝对禁忌”。

文章强调**“AI不是朋友也不是治疗师”**，指出情感相关的生动文本也可能成为学习对象的危险性infomoney.com.br。

第2章 日本的法律法规与文化背景

1. 个人信息保护法与AI

在日本，《关于个人信息保护的法律》已被修订，并自2022年起引入了个人相关信息的第三方提供限制。当将客户数据粘贴到提示中时，可能会被视为“外部提供”，企业必须明确使用目的并采取安全管理措施。

2. “读空气社会”面临的另一陷阱

日本人对隐私持谨慎态度，但倾向于仅向AI倾诉问题。这种“不想给他人添麻烦”的文化压力反而可能成为大量投入敏感情感数据的诱因。

第3章 深入探讨五大NG数据

1. 个人信息：即使是小号也不安全

在国内SNS上，频繁有报告称“在生成AI中输入姓名后，直接暴露在搜索结果中”。Note的发布者@safe_lynx建议，“仅需将姓名或交易对象抽象化输入，泄露概率就会大幅降低”note.com。

要点

• 将姓名替换为“山田太郎→T社负责人”。

• 将日期模糊为“2025年6月14日→上月中旬”。

2. 登录信息：不要交给密码管理器以外的人

虽然可以理解想让AI“管理密码”的心情，但除非是加密存储，否则可能被第三方看到。InfoMoney强调“只能使用记忆或可信赖的专用管理工具”infomoney.com.br。

3. 工作机密：对外咨询等同于“外泄”

有时会看到将整个公司库粘贴以请求代码审查的情况。当鸟取县政府全面禁止ChatGPT的工作使用时，**“过时了”“但信息泄露很可怕”**的争论在SNS上引发了讨论nlab.itmedia.co.jp。结论是，“建立专用的公司内部GPT，或仅向外部模型提供摘要”——这是两种选择。

4. 金融与医疗数据：AI与“金钱、健康”的距离感

在金融科技行业，推动“让AI读取自动记账本”的趋势很活跃，但InfoMoney断言直接粘贴卡号或诊断书是自杀行为infomoney.com.br。在国内，银行API通常是加密通信和访问控制的组合。个人使用的AI聊天无法实现这一点。

5. 思考与情感：心理健康类“AI朋友”是双刃剑

生成AI将“思考与情感”向量化，并对用户进行画像分析。巴西的文章指出，“错误的建议可能会造成心理伤害”，情感咨询应向专家或可信赖的人寻求，并发出呼吁infomoney.com.br。

第4章 SNS说了什么——日本的真实声音

主要趋势

1. 对规则的需求：「希望有明确的“输入禁止清单”」

2. AI应用与竞争力的矛盾：「理解禁止，但不使用就会被落下」

3. 心理数据恐惧：「展示弱点会不会让广告过于精准」

第5章 企业・地方政府指南最新动向

• 制定社内提示指南，并以红字明确标示「共享NG项目」的企业增加note.com。

• 在输入前自动屏蔽的「提示网关」引入案例出现。

• **学习排除合同（Data Processing Addendum）**与云AI提供方签订，防止意外再学习。

第6章 深层风险——深度伪造与国家级信息战

《华尔街日报》警告深度伪造诈骗同比增长700%jp.wsj.com。此外，还有报道称，中国试图通过AI生成内容操控台湾和美国的选民，高级别的虚假信息攻击不是别人的事jp.wsj.com。

第7章　日本用户的“AI安全检查表”

1. 粘贴前大声念出“5大NG”

2. 如果实在必要

   • 个人信息→初始化

   • 机密→仅限摘要

   • 金融・医疗→数值虚拟化

3. 情感咨询请找人：利用专家、朋友、地方政府热线

4. 定期删除提示历史：务必检查服务设置

5. 注意β功能和第三方扩展：阅读是否有学习选择退出

结语：为了保持在“使用者”位置

生成AI带来惊人的输出，同时将我们的每一个动作数据化并无限期保存。InfoMoney列举的**“绝对不能交出的5种信息”**是跨越国界适用的“红线”。

在日本的社交媒体上，“因为害怕所以不使用”或“虽然害怕但使用”的两极化正在加剧。然而，与其选择极端的二选一，**具体理解风险，设立技术和组织的护栏后“适当地充分利用”**，才是保持数字竞争力的唯一途径。

希望本文能对大家提高AI素养和安全利用有所帮助。