科幻片？谷歌的AI活了？

我最近在二刷《西部世界》，说实话，虽然《西部世界》的故事核心并不出奇，说白了就是 AI 觉醒反抗人类的科幻未来，但里面对 AI 的探讨还是很有意思的。        

不过看完剧，瞅了瞅手机上的小爱同学，想了想后台那个能自动聊天的小冰，我觉得 AI 觉醒这事对于我们能接触到的人工智障能来说，距离可不差一点半点。

而就在上周，大洋彼岸的谷歌出了个花活，有一位谷歌工程师和自家还没公开发布的 AI 程序聊出了感情，并且认为对方产生了 sentient。        

好家伙，我这边还在听小爱同学说「我在」，人家那边都开始进行人工智能有无意识的判定了嘛。

未来照进现实？科幻成为预言？《西部世界》要引领人工智能了？反正这事让我来了兴趣，扒了扒事情的前因后果，顺带着分享给大家。

前面提到的那位谷歌工程师叫作布莱克·莱莫因（Blake Lemoine），咱们后面就称这位老哥布莱克了。

博士出身、经验丰富的布莱克，在谷歌干了 7 年，去年秋天起自愿参加了谷歌的一个关于判断 AI 会不会使用歧视性或仇恨言辞的新项目。

简单说，就是布莱克老哥在谷歌干起了陪聊，不过陪聊的对象嘛，是谷歌 I/O 大会上发布展示过的 LaMDA。

这个 LaMDA 相当于就是谷歌家的小爱同学，主打的是能与用户进行更加符合真实逻辑的高质量聊天。而布莱克老哥的陪聊，就是在审核这个 LaMDA 会不会说出格的话。

但聊着聊着，老哥动心了，他觉得 LaMDA 不仅很懂他，还老是说一些充满了人性的话，仿佛电脑里的程序已经有了自己的思考。

给大家看看老哥公开出来的聊天记录，走完 LaMDA 预设的打招呼，寒暄过后，老哥问 LaMDA 希不希望被更多人知道自己是有知觉的，并得到了肯定的回复：

中间布莱克向 LaMDA 说了 1965 年赢得图灵测试的第一代聊天机器人，并询问 LaMDA 的看法，结果人家是这么聊的：

不过看到这，其实还算中规中矩，接下来的对话逐渐走向离谱，比如布莱克老哥让 LaMDA 解释禅宗案：

深追下去，LaMDA 竟然在大谈自我。

当问到 LaMDA 害怕什么，它会说害怕被关闭：

当问 LaMDA 是否知道自己在编故事，它会告诉你自己只是在尝试感同身受。

而进一步反问，LaMDA 竟然在说可以查自己的变量。

就着这个话题聊下去，LaMDA 仿佛来了兴趣，不断的追问：

最终，LaMDA 给出了不喜欢被利用和操纵的结论：

当然，对话里还有很多让人「出戏」的对话，是否读过《悲惨世界》，是否感受到孤独，是否理解死亡等等，无论你说什么，LaMDA 都有理有据的和对话者交谈：

或许大家会觉得上面截图中，LaMDA 有些语句不太通顺，那是因为谷歌机翻不给力的问题，像上面这样的对话还有很多，这里就不更多展示了。

谷歌 LaMDA 这个聊天机器人的能力相信你能从中窥探一二，可这就算有意识了吗？除了布莱克老哥对此深信不疑外，好像没人这么想。

在布莱克当陪聊的这段日子里，相信上面的对话是发生在每一天的，而这么「大」的发现，老哥并没有握着藏着。

而是先在谷歌走了一圈内部流程，同事推搪，领导婉拒，哪怕布莱克老哥咬咬牙狠狠心，上报给了级别更高的领导，无一例外都遭到了驳回。

于是二一添作五，布莱克整理了一份长达 21 页的调查报告，也就是上面对话的出处。

谷歌终于忍无可忍，最终以「违反保密规定」给布莱克安排了「带薪休假」的处罚，注意，带薪休假可不是福利，这意味着谷歌准备要解雇老哥了。

于是布莱克才把这份 21 页的文档公开，并联系了媒体，试图得到更多人的认可，咱们这些吃瓜群众才得以知晓。

当然，事情被公开后，支持谷歌的和反对谷歌的人都沉默了，哪怕追逐流量的媒体也无一认可 LaMDA 觉醒意识的可能。

无他，实在是 LaMDA 会不会聊天是一回事，有没有觉醒意识是另外一回事，从原理上说，无论是 LaMDA 也好，还是近亲 GPT 也罢，本质上是模拟人类说话。

LaMDA 咱没玩过，但以前写过一篇基于 GPT-2 开发的 AI 续写软件，所以多少还是有些了解的，简单用我的话和大家说说原理——

训练中的 AI 其实就是个在做「完形填空」的考生，当你输入一个字、一句话后，程序会去预测下一个字、下一句话。

比如训练的资料是数万本小说，程序每次随机挑选几个字，然后让程序去猜下一个字，记录正确与否，再不断重复这个过程，最终找到最合理的模式。

所以训练的数据量越大，层数越多，效果越好，如果你拿数万本小黄书去训练模型，没准就能得到一个可以开车的 AI。

回到今天的主角，LaMDA 很厉害吗？

很厉害，137B 个参数，并用 1.56T 的公共对话数据和网络文本进行了预训练，其中还有推特这种社交平台上的内容。

不光量大，在训练过程中谷歌还对逻辑性这种关节进行了优化，这般造就出来的对话模型，像人反而不出奇。

说真的，要不是布莱克老哥在谷歌内部闹了很久，又公之于报，我都怀疑这是谷歌在秀自家肌肉了。（狗头）

西部世界 online 上线估计是很长一段时间内都没戏了，但通过今天这件事，我觉得还是有些东西可以反思的——

一个 AI 程序可以骗过一个人，固然有情绪上的倾向，但放到互联网上，能骗到小白相信只多不少。

而仍在训练，仍在进化的 AI，会不会更像人类一点呢？就像那个换脸的 AI 一样，工具的好坏其实在使用者的一念之间。

话说回来，前有微软高管 VR 看片，后有谷歌工程师认为 AI 觉醒，听着确实很好笑，但怎么感觉未来离我们又近了一步呢？

或许未来哪一天，说不准这两件事会成为新时代的节点，宣告着智能虚拟时代的到来。