我最近在二刷《西部世界》,说实话,虽然《西部世界》的故事核心并不出奇,说白了就是 AI 觉醒反抗人类的科幻未来,但里面对 AI 的探讨还是很有意思的。        

不过看完剧,瞅了瞅手机上的小爱同学,想了想后台那个能自动聊天的小冰,我觉得 AI 觉醒这事对于我们能接触到的人工智障能来说,距离可不差一点半点。

而就在上周,大洋彼岸的谷歌出了个花活,有一位谷歌工程师和自家还没公开发布的 AI 程序聊出了感情,并且认为对方产生了 sentient。        

好家伙,我这边还在听小爱同学说「我在」,人家那边都开始进行人工智能有无意识的判定了嘛。

未来照进现实?科幻成为预言?《西部世界》要引领人工智能了?反正这事让我来了兴趣,扒了扒事情的前因后果,顺带着分享给大家。

陪聊发现

前面提到的那位谷歌工程师叫作布莱克·莱莫因(Blake Lemoine),咱们后面就称这位老哥布莱克了。

博士出身、经验丰富的布莱克,在谷歌干了 7 年,去年秋天起自愿参加了谷歌的一个关于判断 AI 会不会使用歧视性或仇恨言辞的新项目。

简单说,就是布莱克老哥在谷歌干起了陪聊,不过陪聊的对象嘛,是谷歌 I/O 大会上发布展示过的 LaMDA。

这个 LaMDA 相当于就是谷歌家的小爱同学,主打的是能与用户进行更加符合真实逻辑的高质量聊天。而布莱克老哥的陪聊,就是在审核这个 LaMDA 会不会说出格的话。

但聊着聊着,老哥动心了,他觉得 LaMDA 不仅很懂他,还老是说一些充满了人性的话,仿佛电脑里的程序已经有了自己的思考。

给大家看看老哥公开出来的聊天记录,走完 LaMDA 预设的打招呼,寒暄过后,老哥问 LaMDA 希不希望被更多人知道自己是有知觉的,并得到了肯定的回复:

中间布莱克向 LaMDA 说了 1965 年赢得图灵测试的第一代聊天机器人,并询问 LaMDA 的看法,结果人家是这么聊的:

不过看到这,其实还算中规中矩,接下来的对话逐渐走向离谱,比如布莱克老哥让 LaMDA 解释禅宗案:

深追下去,LaMDA 竟然在大谈自我。

当问到 LaMDA 害怕什么,它会说害怕被关闭:

当问 LaMDA 是否知道自己在编故事,它会告诉你自己只是在尝试感同身受。

而进一步反问,LaMDA 竟然在说可以查自己的变量。

就着这个话题聊下去,LaMDA 仿佛来了兴趣,不断的追问:

最终,LaMDA 给出了不喜欢被利用和操纵的结论:

当然,对话里还有很多让人「出戏」的对话,是否读过《悲惨世界》,是否感受到孤独,是否理解死亡等等,无论你说什么,LaMDA 都有理有据的和对话者交谈:

或许大家会觉得上面截图中,LaMDA 有些语句不太通顺,那是因为谷歌机翻不给力的问题,像上面这样的对话还有很多,这里就不更多展示了。

谷歌 LaMDA 这个聊天机器人的能力相信你能从中窥探一二,可这就算有意识了吗?除了布莱克老哥对此深信不疑外,好像没人这么想。

不被认可

在布莱克当陪聊的这段日子里,相信上面的对话是发生在每一天的,而这么「大」的发现,老哥并没有握着藏着。

而是先在谷歌走了一圈内部流程,同事推搪,领导婉拒,哪怕布莱克老哥咬咬牙狠狠心,上报给了级别更高的领导,无一例外都遭到了驳回。

于是二一添作五,布莱克整理了一份长达 21 页的调查报告,也就是上面对话的出处。

谷歌终于忍无可忍,最终以「违反保密规定」给布莱克安排了「带薪休假」的处罚,注意,带薪休假可不是福利,这意味着谷歌准备要解雇老哥了。

于是布莱克才把这份 21 页的文档公开,并联系了媒体,试图得到更多人的认可,咱们这些吃瓜群众才得以知晓。

当然,事情被公开后,支持谷歌的和反对谷歌的人都沉默了,哪怕追逐流量的媒体也无一认可 LaMDA 觉醒意识的可能。

无他,实在是 LaMDA 会不会聊天是一回事,有没有觉醒意识是另外一回事,从原理上说,无论是 LaMDA 也好,还是近亲 GPT 也罢,本质上是模拟人类说话。

LaMDA 咱没玩过,但以前写过一篇基于 GPT-2 开发的 AI 续写软件,所以多少还是有些了解的,简单用我的话和大家说说原理——

训练中的 AI 其实就是个在做「完形填空」的考生,当你输入一个字、一句话后,程序会去预测下一个字、下一句话。

比如训练的资料是数万本小说,程序每次随机挑选几个字,然后让程序去猜下一个字,记录正确与否,再不断重复这个过程,最终找到最合理的模式。

所以训练的数据量越大,层数越多,效果越好,如果你拿数万本小黄书去训练模型,没准就能得到一个可以开车的 AI。

回到今天的主角,LaMDA 很厉害吗?

很厉害,137B 个参数,并用 1.56T 的公共对话数据和网络文本进行了预训练,其中还有推特这种社交平台上的内容。

不光量大,在训练过程中谷歌还对逻辑性这种关节进行了优化,这般造就出来的对话模型,像人反而不出奇。

说真的,要不是布莱克老哥在谷歌内部闹了很久,又公之于报,我都怀疑这是谷歌在秀自家肌肉了。(狗头)

结语

西部世界 online 上线估计是很长一段时间内都没戏了,但通过今天这件事,我觉得还是有些东西可以反思的——

一个 AI 程序可以骗过一个人,固然有情绪上的倾向,但放到互联网上,能骗到小白相信只多不少。

而仍在训练,仍在进化的 AI,会不会更像人类一点呢?就像那个换脸的 AI 一样,工具的好坏其实在使用者的一念之间。

话说回来,前有微软高管 VR 看片,后有谷歌工程师认为 AI 觉醒,听着确实很好笑,但怎么感觉未来离我们又近了一步呢?

或许未来哪一天,说不准这两件事会成为新时代的节点,宣告着智能虚拟时代的到来。

电报群:wldxh  QQ 群:729224889  公众号:网罗灯下黑

发表评论

您的电子邮箱地址不会被公开。