算法生产社会智能的喜与忧

郑渝川 |2023-08-28
收藏

意大利社会学家、德国比勒菲尔德大学和意大利博洛尼亚大学的社会学教授埃琳娜·埃斯波西托所著的《人工沟通与法:算法如何生产社会智能》一书,主要探讨算法如何生产社会智能。

书作者埃琳娜·埃斯波西托认为,机器学习等数字技术不是人工智能,而是“人工沟通”。这个解释能够更好地定义机器学习等技术及其应用的贡献和局限,也就是说人类学会了如何与这些技术及其应用进行沟通,从而在算法在社会生活的各个领域广泛应用中,创造出可观的应用价值。相反,算法本身的思考功能,这本身就存在较大的争议——如果这是智能的体现,那反而体现出很低的智能水平,就是不那么智能。

全书开篇指出,算法而今广泛参与沟通,可以给人类创作者、操作者提供各种辅助,还能广泛自动生成大量的内容。很多新闻媒体而今已经采用算法自动撰写的新闻。许许多多用户已经习惯了通过聊天机器人来操控自己的手机以及智能家居。

书作者认为,上述表现其实只是沟通的人工形式,使得算法成为了沟通伙伴,但这跟科幻电影里描述的智能伙伴完全是两回事。甚至可以说,算法之所以能成为沟通伙伴,恰恰就是因为开发者放弃了过去的开发思路,也就是使之尽可能精准地模仿人类智能。

一方面,迄今为止,人类对于自己大脑的运作机制知之甚少,那些所谓深度学习之所以有效就在于模仿了人脑结构的观点,也不过是猜想而已。另一方面,从前面提到的很多算法应用来看,其效用并没有以获得和应用智能为前提,仅仅是复制了人类的部分沟通能力,再将人类沟通框架和内容部分地引入模型。所以,算法在不懂中文的情况下,可以从中文中翻译文本,相应开发的程序员也不需要懂中文(换成其他任何一门语言都可以实现)。

书作者埃琳娜·埃斯波西托在书中引入其导师尼古拉斯·卢曼的社会系统理论,指出沟通的关键在于接收者理解对方说了什么时发生,这其中的理解方式就是沟通方式。举例来说,100年前、200年前出版的文学经典著作,我们从作品中获得的信息其实与创作者的考虑完全可能是不同的,所以,“沟通成为一个无穷无尽的、令人着迷的发现过程”。

算法不同于此前的机器,其具有自学习能力,可以产生针对人类用户请求的答案。正是因为如此,机器人就开始具备一些的沟通能力,比如适老化的服务机器人就能够与老人互动,益智机器人能够与孩子“玩耍”。

书作者以2016年“阿尔法狗”机器人与人类围棋选手李世石的对弈为例指出。“阿尔法狗”本身没有思想,其依托算法打败了李世石。但李世石通过复盘,从“阿尔法狗”的下法中重新思考了对弈策略,从而大大改进了自己的下法,进而在第四场对决中创造了著名的神来之笔,并最终赢得了该回合的胜利。这展现了人类通过与算法的沟通获得提升的可能性。

人类社会的组织和发展,很大程度上依赖于编制列表、评级、排名。追溯人类文明史可以发现,列表是一种以有限的抽象能力惯例复杂性的有效方法。算法引入应用后,对数据进行排序并发现模式,也无需掌握排序的意义所在——即如算法支持的搜索结果和新闻网站中的新闻列表一样,算法不需要理解搜索意义和新闻本身,却可以很好地按照人类用户的需求进行排序,甚至可以为具体的、每个的用户定制搜索和新闻列表。当然,这也引发了算法是否导致人们越来越愚蠢的争论。

《人工沟通与法:算法如何生产社会智能》书中还谈到了图像如何在数字语境中实现可视化的解析、分析解释。正如书作者所指出的那样,这种解析和分析解释其实并没有建基于人类习惯的阅读方式、理解方式,而是建基于数据分析,但仍然可以得出比较良好的结果。

这也意味着,从文字、图像到视频,人们通过数字方式越来越便捷地获得越来越多的信息以及相关的背景信息、分析研判,这实际上是与算法进行沟通,但人们通常误认为自己在与某种智能进行沟通——这种误解的广泛存在,就使得人们希望能够在“智能”(算法)出错时像追究人类责任者那样追究其责任(或者追究程序员,或者追究机器、算法所有者、购买者,或者是机器、算法的开发机构)。

书中提及,21世纪初,随着互联网的高速发展,当时的很多专家以及大众网民都倾向于乐观地估量未来将造就一个宽泛的参与式网络,信息的生产者和接收者之间没有了鸿沟。但20年过去了,现在的情况显然不是当初人们预期的那样,今天的新闻媒体相比之前更加分散化、个性化,但舆论场中的话语权仍主要集中于极少数头部机构、政经精英、网红个人。更清晰的变化在于,大众不仅没有成为真正意义上有价值的信息生产者,而且所接收的信息也主要来源于算法的裁量,换言之,根据用户个人的喜好、价值取向以及阶层完成密闭式的推送。

算法所具有的沟通功能,建基于广泛掌握数据以及有效模型,所以算法记忆天然就排斥遗忘、删除。但也因此保留了大量误导性、虚假性、模糊性的信息和数据,哪怕个人并不希望保留的灰暗记忆、伤害记忆、有害信息也很难得到清除。

各行各业而今都依托于算法来进行预测——算法依托数据,但前面提到了,数据和信息本身存在很多误导性、虚假性、模糊性的信息,这就使得预测的准确度会下降,有时会带来人们始料未及的结果。然后,人与算法的沟通,人依赖算法给出的预测展开行动,也就不可避免带来严峻后果,这同样就涉及风险、代价、分摊的问题。

360截图20230826194522057

书名:《人工沟通与法:算法如何生产社会智能》

作者:(意)埃琳娜·埃斯波西托

译者:翁壮壮

出版社:上海交通大学出版社

出版日期:2023年7月





所有评论( {{total}}
查看更多评论
热点快讯
+86
{{btntext}}
我已阅读并同意 《用户注册协议》
+86
{{btntext}}
Baidu
map