ChatGPT会开启人工智能统治时代吗

由OpenAI公司开发的人工智能产品ChatGPT最近爆火,给雷慢这类文字工作者带来极大的危机。

ChatGPT说白话点,是一个能系统地回答你所提出问题的AI虚拟聊天软件,它不同于Google、百度这类将一堆搜索结果呈现给你的产品,它能系统地处理所搜索到的结果,然后富有逻辑地搜集资料、整合知识,再将自我组织语言将答案以对话的方式告诉你。

简单来说,它和搜索引擎最大的区别在于“总结”,这也是人工智能的体现。

许多人第一时间想到的是,它将干死搜索引擎。虽然OpenAI的CEO sam Aitman表示它不会取代搜索引擎,但认为将来人工智能系统能做到。而人们更关注它背后的语言处理模型,是它取代搜索引擎的关键。因为它的答案由它自己组织语言总结出来的。已经有大量的学生用它写论文,只要向它提问,然后将回答的答案复制进论文就可以了。

还有广告公司用ChatGPT给出的销售文案交给合作的公司,轻松搞定甲方。有的文字岗的员工,已经开始用它写文章。

ChatGPT总结能力背后是它高度人工智能的一种体现。

有人已经惊呼它标志着真正人工智能时代的到来,并担忧由此一发不可收拾。

埃隆·马斯克近日也表示,ChatGPT好得吓人,我们离强大到危险的人工智能不远了。

而他正是开发了ChatGPT产品的OpenAI公司创始人之一。

他在最近的一次采访中称,人工智能是我们最值得担忧的,他做了一个非常形象的比喻,

“如果一个蚁穴刚好在人类要修的公路上,人类会怎么做?这正像人工智能机器人在面对人类时可能做的。”

那么人工智能能统治人类吗?讨论这个问题,要慢慢说来。

去年11月,欧盟的《人工智能法案 (AIA)》正在讨论限制通用开源 AI (GPAI) 的使用、共享和分发。说白了,就是不让AI技术开源,其他企业不能随意使用已有的AI技术。它将大大降低AI技术的迭代速度和传播广度。这一拟出台的法案条文引起了正反两派极大的争论。

欧洲的社会科学界一直是对现代文明反省最猛的,那种批评之猛烈就像英剧《黑镜》中的首相X猪。

2018年,欧盟最最早在数据法规中开始防止现代技术的过度侵犯人权。这一年,欧盟颁布了一道了不起的法规——《一般数据保护条例》(GDPR)》。这则法令最重要的原则在于:最大限度地保护个人隐私,严格限定企业、政府对个人信息数据的使用条件,影响涉及27个欧盟国家。

雷慢当时称这个数据法的原则为:牺牲技术创新的速度与效率,以保护个人权利。

前年开始,欧盟又开始限制人工智能发展。

2021年,欧盟发布《关于“欧洲议会和理事会条例:制定人工智能的统一规则(人工智能法案)并修订某些联盟立法”的提案》。提案拟对人工智能的使用进行限制,如限制警方在公共场合使用人脸识别软件、禁止诸如自动驾驶汽车、招聘决策、银行贷款、大学生招生决策和考试评分等类别的人工智能系统。

一年后的2022年10月底,欧盟人工智能法案 (AIA) 拟限制通用开源 AI (GPAI) 的使用、共享和分发。

根据欧盟的“人工智能法案”草案,新规将给通用人工智能系统研发制定了法律责任。即便是开源开发者也必须遵守风险管理、数据治理、技术文档和透明度、以及准确性和网络安全标准等方面的指导方针。

这些拟立法的规定并不是纯粹的反对人工智能的一切,而是在某些方面的应用,比如人脸识别在强化统治驯化人民上的应用,在隐私窃取方面的强化。

这些都涉及了一个问题,技术对既有社会规范和道德伦理的侵犯。

广告业和信息业是技术奴役人的两个典型行业。

我们称互联网时代为喂养时代,这是由于人们信息获取的方式变了。500多年前机器印刷发明后引发的书本读物兴起,改变了课堂上口语交流的形式,书写、文字表达逐渐成为主流,今天,用电脑书写、表达、思考首先在职场人群和大学生群体中代替了书写,中国只有中小学生还保留了传统书写的方式。

可是,电脑学习的方式比书写、口语交流更注重个人学习、独立解决问题,它改变了众人思想碰撞、思辨的沟通方式。所以,技术创新的提供者,如今用算法逻辑,给每个人推荐自己爱看的,无论谣言、暴力、煽动言论。它带来的一种负面影响是,容易让每个人更狭隘、自负、排他。从口耳相传言传身教到书写学习再到互联网的信息泛滥,信息获取从主动学习变成了被动喂养。

美国学者尼克·波斯曼《技术垄断:文化向技术投降》里说,比如互联网时代,个人信息更容易被盗取,个人踪迹被搜寻,个体更容易被控制,这是我们在从互联网上获取便利而付出的代价。他说,技术垄断只追求效率、利益和经济进步,它没有道德感,却追求无极限的增长,无责任的权力和无代价的技术。

另一个典型的例子,是我们称广告刺激的消费欲望为物欲时代。

广告、信息和机器驱使,这些可以用康德哲学的一个词来概括:他律。

在康德哲学中,道德是非常复杂的,包含自律行为、他律行为,和意图、义务等等因子构成的辩证关系。

康德认为,假如一个人是经验性存在,那么他是不自由的,即他的每个行为都由“他律”驱动,每一次意志的运用,都受到某些目的或利益的制约。现代人的经验性行为,每次都受指令或算法程序的制约,欲望的刺激或机器的驱使。

广告驱使人消费,首先建立在工作伦理上,工业革命后,资本主义建立了一套工作伦理,即人要工作,不工作会被周遭人排斥、摒弃,然后是消费美学的驯化,人要消费,不消费或没有消费能力的人也会被排斥与嫌弃,这是工作与消费的“闭环”驯化,是资本主义秩序之一。这中间起巨大作用的就是“技术”。

我们习以为常的技术形态如互联网、电信、手机和电脑等,都是技术嵌套的工具,它们是维持当代社会驯化的工具。

海德格尔曾说过,不是我们在支配技术,而是技术在支配我们。到今天我们如果还认为技术是中性的,就有些执迷不悟了。

技术支配人的最鲜明的例子是,越到当代,“自然”越是不再是为人所用的资源,而是人成为了被技术榨取的资源,一系列社会规则下建立的运行体系,所诞生的资本制度,将人称为“人力资源”,人本身成为技术进步所需要榨取的资源。

还有一个重要的例子是,按马克思的理论,劳动是人的本质。实际上,是劳动的过程,诞生了人,区别了人和其他动物。但今天技术突飞猛进,人往往只得到结果,而没有参与劳动过程。今天许多孩子已经不再知道生产的过程。这一变化的结果,造成了“感知的贫瘠”。一旦这种贫瘠加重,人就会越来越像今天所说的“元宇宙”中的角色——只知其然,不知其所以然。

这一观点和歌德的“他律”相似。即认为人的所做的决定是欲望、规则和社会风俗等因素的产物,与之对应的就是“自律”,从自我义务、道德的角度出发的行为。

生产参与的丧失,享受结果的强化,也就是康德哲学中“自律”的退化,和“他律”的强化。

物质社会越是发达,这种“他律”越是强烈,基于技术铺天盖地的“暗示”构成了庞大的欲望链和枷锁链,这些都可以视为哲学家居伊·德波的“景观社会”的景观(符号)之种种。

最后问题是,机器会不会通过技术而支配人?机器执行命令,成为生产的参与者,而人只是结果的享受者,逐渐退化成“猪”一样的角色?

还记得动画片《机器人总动员》里的人类吗,它们整天躺在躺椅上,吃、喝享受,打游戏,肥胖而迟钝,生活在元宇宙里。而机器成为了一切生产、劳动行为的主角,尽管人还是机器的”主宰“,但这样的主宰还算是主角吗?

写完上面的文字后,我去问了一款基于ChatGPT技术开发聊天软件一个问题:人工智能会统治人类吗。它告诉我说,

“根据我们对人工智能的了解,它最终不会统治人类,人工智能不是一个“生命体”,它不具备类似人类的意识、思考和情感等能力,然而,如果技术的发展超过人类预期,很可能带来新的技术风险。”

和我的思路基本一样。