如今用生成式AI 来伪造一张图片，视频，文件，交谈记录，正变得不可思议的方便。 而这使得过去的“眼见为实”变得越来越不成立。
前一段时间，我圈子有好几个人收到攻击者发的各种威胁“小视频”，他们不但没有被威胁到，反而post出来作为笑话，大家早知道 Deepfake的能力。
我做了一些 AI 的实现，发现可以给Agent 一个非常具体的人设特性，就能让这个Agent 完成各种风格的对话、故事。 可以模拟是两个人互相发短信，可以模拟两人互相发email， 也可以模拟在twitter 上互动, 这些互动的过程惟妙惟俏，很难分辨真假。
另一个类似的问题是如果自己赖以记录的 AI 知识库被攻击者用AI 篡改了，也可能是未来心的挑战。 现在有时候我们太依赖于笔记和知识库了， 有的时候看看自己的笔记，才发现自己的记忆和想象有多么大的偏差（自己的记忆会欺骗自己）， 但如果你的笔记可能被 AI 修改成歪曲的样子，那是多么可怕？
基于数字签名技术的可验证性将前所未有地重要，某种角度区块链、DID/VC这些技术放佛是来自未来的技术，如果不是生成式AI的普及，也许这些技术的价值不会体现得如此重要。