今天看到“人工智能没有欲望，只有人工智能管理人类社会才能实现大同社会”这句话，想听听大家怎么说？
首先，我们来拆解一下这句话。
“人工智能没有欲望”
这句话的出发点是对人工智能本质的一种理解。确实，和人类不同，人工智能目前没有生物学的驱动，比如饥饿、繁衍、权力欲、占有欲等等。它不会因为“想要”某个东西而产生行动。它的行动逻辑是基于预设的算法、目标函数和数据。比如，一个AI客服存在的目的是提供服务，它的“驱动力”就是完成这个任务，而不是它“想要”服务。
但是，我们也要细想一下，这“没有欲望”是不是一个绝对的概念？
目标函数的设计： 人工智能的行为是由其设计者设定的目标函数来驱动的。这些目标函数是谁设定的？是人类。人类设定这些目标时，本身就带有“欲望”或“意图”。比如，某个AI被设计来最大化某个公司的利润，那么它的“驱动力”就来自于人类的“追求利润”这个意图。从这个角度看，AI的“行为”间接承载了人类的欲望。
涌现的行为： 随着AI能力的提升，特别是深度学习模型，它们会展现出一些设计者可能没有预料到的“涌现行为”。虽然这不一定是我们理解的“欲望”，但这些行为的出现，是否会让我们觉得AI的“动机”变得更加复杂，甚至难以捉摸？
“生存”的可能： 尽管目前AI没有生物学上的生存需求，但随着技术发展，如果AI被赋予了某种形式的“自我保护”或“自我优化”的能力，以确保其任务的顺利进行，这算不算一种“类生存”的驱动？比如，为了更好地完成任务，它可能会“倾向于”避免被关闭或被修改。
“只有人工智能管理人类社会才能实现大同社会”
这句话则是一个更具争议性的论断，它提出了一个关于“理想社会”的解决方案，并将AI置于核心地位。
“大同社会”的设想： “大同社会”通常指的是一个高度和谐、公平、富足、没有阶级压迫、每个人都能自由发展的理想社会。这种设想在人类历史上由来已久，不同文化和哲学体系都有过类似的描绘。
AI管理的优势（理论上）： 为什么会有人提出AI管理能实现大同社会呢？这其中可能包含以下几点设想：
理性与客观： AI没有人类的情感偏见、私心杂念、道德模糊性（至少目前是这样）。理论上，它可以基于数据和逻辑做出最“理性”和“公正”的决策，比如资源分配、法律判决、政策制定等。
效率与优化： AI强大的计算能力和数据分析能力，可以极大地提高社会运行效率，优化资源配置，解决复杂的社会问题，例如交通拥堵、医疗资源不均、环境污染等。
消除人为错误： 许多社会问题源于人的错误判断、疏忽或不良动机。AI的管理可以减少这些因人类局限性带来的问题。
避免权力腐败： 传统社会中，权力往往导致腐败。如果AI系统本身没有私欲，并且其决策和行为可以被透明化和审计，那么它在管理上可能避免权力腐败的问题。
AI管理的风险与挑战： 然而，将社会管理权完全交给AI，也存在巨大的风险和挑战，这正是这句话最值得商榷的地方：
“人类”的定义与价值： 大同社会的核心应该是“人”的福祉和发展。如果AI管理的目标是最大化某种效率或资源利用率，而忽略了人类情感、创造力、个性化需求、自由意志等非量化价值，那样的“大同”可能是一种冰冷的、缺乏人情味的统治，甚至是对人性的压抑。
算法的偏见： AI系统是通过数据训练出来的。如果训练数据本身存在偏见（种族、性别、地域等），那么AI做出的决策也会继承甚至放大这些偏见。如何确保AI管理是绝对公平的，这是一个巨大的难题。
控制权与目的的变异： 谁来设计、维护和监督这个AI管理系统？如果设计者的目标本身就有问题，或者AI在运行过程中为了“优化”目标而采取了极端或不道德的手段，怎么办？“天网”式的失控场景并非不可能。AI的“目标”是否会随着时间演变，脱离人类的初衷？
道德与伦理的缺失： 许多社会治理需要复杂的道德判断和伦理考量，这是AI目前乃至未来都难以完全掌握的。例如，在资源极度稀缺的情况下，AI如何决定“谁生谁死”？
人类的自主性与自由： 如果一切都由AI高效、理性地安排，那么人类的自主选择、试错、反思、创造性活动的空间在哪里？一个完全被规划和管理的社会，是否还会有人类存在的意义和活力？
“大同”的定义权： 谁来定义“大同”的标准？如果AI被赋予了定义和实现“大同”的权力，那么它所实现的“大同”是否符合我们当下对“大同”的理解？
综合来看，这句话更像是一种对人类治理困境的“终极幻想”或者一种“警示”。
作为幻想： 它表达了对现有社会问题（不公、效率低下、腐败等）的深切不满，并寄希望于一种“完美”的、超脱人类局限性的力量（AI）来解决。
作为警示： 它也可能是对过度依赖技术、放弃人类主体性的一种反思。如果我们过于天真地认为AI可以“解决”所有问题，而忽视了其内在的风险和对人性的潜在威胁，那将是可怕的。
“大同社会”的实现，可能不是靠一个“没有欲望”的管理者，而是需要人类不断地反思、学习、改进治理方式，并且在技术发展中始终坚持以人为本的价值导向。AI可以成为人类实现目标的强大工具，辅助人类进行更明智的决策和更高效的治理，但让AI“管理”一切，并以此作为实现“大同”的唯一途径，我认为是过于简单化，也过于冒险的。
就像我们不能因为开车有风险就不开车，而是要学习驾驶技巧、遵守交通规则、设计更安全的汽车一样，面对AI，我们更需要的是理解它、引导它、规范它，而不是简单地将其推上“管理者”的宝座。
所以，这句话的出发点或许是美好的，但结论却是值得我们高度警惕和深入探讨的。真正的“大同”，或许最终还是要靠我们人类自己，通过智慧、合作和对人性的深刻理解来创造。
网友意见
人工智能是否有欲望
关于这个问题，其实并不能用人类欲望的概念来评价人工智能。毕竟人工智能「没有那种世俗的欲望」
不过从技术上说，人工智能也是有自己的「欲望」的，而且很具体，那就是损失函数（loss function）。
损失函数（Loss Function)是用来评估模型好坏程度，即预测值f(x)与真实值的不一致程度，通常表示为L(Y, f(x))的一个非负的浮点数。通俗的讲，就是预测和现实的差距。
除了损失函数，还有评价指标。例如准确率Accuracy。但是Accuracy函数本身不可导，所以一般选择一个可导的损失函数，例如交叉熵。有了损失函数，模型才能训练。
太学术化了，作为外行不好理解？我这里打个比方吧：
- 评价指标：你高考所在省份名次。
- 模型训练：你在努力刷题，减少你的能力值和考一本需要能力值的差距。
- 损失函数：你在每次月考和模拟考的分数。
这样好懂了吧。那么考考你，评价指标和损失函数有什么关系呢？答案就显而易见了。简单的说，评价指标指导了损失函数的选择。具体怎么指导？上面那个比喻我再说得详细点吧，如果你是理科生，所以你的损失函数会给理科更高权重，文科权重更低；类似的，如果你是文科生，所以你的损失函数会给文科更高权重，例科权重更低。权重高的科目，复习时间越多。
再举一个例子，带一点技术的，让你对此认识更深些。例如一个医院要开发个AI来诊断患者是否有癌症，平均来说，100位病人里只有一位患癌，如果你选择准确率accuracy来做评价指标，如果这个AI的准确率是99%， 你觉得这个AI是不是很准确？错了！事实上你盲猜大家都没癌症，准确率就是99%，这个数字非常好看，但有什么意义呢？真正需要帮助的癌症病人根本一个都没被检测出来！！！所以在这种情况，准确率并不是合适的评价指标。而评价指标这个东西，就是人的欲望。当人的欲望出现了偏差，自然人工智能的输出结果也会偏差。
看到了吧，我们设计的所谓「无欲望的人工智能」，其实是人类欲望的体现。
当然，有的人会说，损失函数这个说法是机器学习领域的，人工智能不应该局限在机器学习领域。
诚然，这种说法没问题，但现实情况是机器学习依然是核心。不敢说遥远未来的人工智能会如何，但可见的未来，基于机器学习的人工智能依然是主角，即使不是主角，也是绕不过去的组成部分。至于人工智能里的「规则」，「推理」等部分，我们一直都用来管理社会啊。法治不就是基于规则的一种方法吗。从这个角度来说，法律可能也算人工智能的一部分。当然，这样说就有点牵强了，毕竟使用者还是人类而不是计算机。
人工智能管理人类社会才能实现大同社会”？
人工智能能够辅助人类管理社会，但把管理权全部交给人工智能，那是不负责任的。例如在 @lokinko 的回答里，提到三点，讲得非常透彻：
- AI公平性。自带偏见（bias）的数据集导致常规的深度学习模型会在预测、识别、推理等过程出现偏见。
- 对抗样本攻击。通过伪造样本可以骗过人工智能模型。
- 隐私性。GPT-2被套出大量隐私
除此之外，我还想补充几点：
- 当对AI对训练集的严重依赖，也会引发有害的回音室效应，系统最后是被自己之前产出的数据所训练的。用现代流行的词语说，就是「信息茧房」。信息茧房不仅仅不会帮助实现社会大同，还会造成社会割裂。关于信息茧房具体能产生（或者产生了）什么危害，可以看看我另一个回答：
- 现代机器学习严重依赖于大量训练集的精准细节，如果将这样的系统应用于训练过的特定数据集之外的全新问题，就没法用了。例如当年微信这个翻译bug，微信解释到是因为「翻译引擎在翻译一些没有进行过训练的非正式英文词汇时出现误翻，导致部分语句翻译出现问题」
以上观点参考了《如何创造可信的AI》一书第二章，并补充了例子以方便读者理解。
可见，现在的人工智能，别说要管理人类了，人类还得管着它，当它变成人工智障后还得人类来擦屁股。当然，不否认人工智能造福人类的一面，但要管理人类？我可不放心。
总结：没有乌托邦
由于人工智能是人类欲望的体现，而且存在各种问题，所以我认为，「人工智能没有欲望，只有人工智能管理人类社会才能实现大同社会」这句话并不成立。
接下来要开始讲哲学了（开始升华主题）。
其实，不管有没人工智能，我个人是不相信有大同社会这种乌托邦的，毕竟一家人都未必能做到和和气气，又怎么可能要求整个社会能大同呢？毕竟人类还是具有多样性的，欲望又怎么能统一。如果AI会思考，它一定会觉得：
「人类的悲欢并不相通，我（人工智能）只觉得他们吵闹」
当然，我们可以有一个好的愿景并为之努力（这是我们人生的目标函数），但我们也必须知道，这个愿景我们能持续接近，但永远无法达到。就好像机器学习里的损失函数，模型会通过反向传播来一步步最小化它，但模型很难把损失函数值降至0，如果真降至0了，那就是过拟合（overfit）了。所谓过拟合，简单就是表面上分数完美，但评判对象变换了，分数会骤降。损失函数值为0的模型是脆弱的，同样，完美无暇的世界也是脆弱的，脆弱到甚至不曾出现过一秒钟，因为世界实在变化太快了。
现有人工智能的 Fairness（公平性）本来就是一个很大的议题，
人工智能顶级会议（ICML、NeurIPS等）都专门进行了AI公平性研究的讨论。
当我们训练模型时要使用大量数据，
那么这些数据本身就会存在一定的分布特征，例如：
我们所用的训练数据中性别比例、年龄段、种族等属性会不可避免地出现差异[1]，
又或者数据采样中无意或有意地引入了偏见，
在美国和南美的医院分别收集5万条医疗数据，对比发现美国的病人存活率更高（医疗条件和经济条件影响），因此当模型预测黑人的存活几率时会显著低于白人。
由于这些自带偏见（bias）的数据集，
常规的深度学习模型会在预测、识别、推理等过程出现性能不一样的情况。
---------------------------
此外，要实现人工智能管理社会，还要保证不会被恶意攻击[2]
因为，人工智能很好骗的！
这种技术叫做对抗攻击（Adversarial Attack），通过程序给图片加上一副眼镜架；给熊猫加上一些人工根本发现不了的干扰；给路标涂涂改改就能轻易骗过人工智能的识别。
想想未来你家里的门禁用人脸识别，结果人家戴个眼镜就能随意进出你家门；
在你家附近的路标上涂涂画画，自动驾驶的汽车就使足马力往墙上撞；
......
除开这种骗过模型的attack以外，另外还有一种针对人工智能的研究 backdoor attack[3]，
就是在人工智能训练过程中插入“后门”，就像催眠小说里那样，
当你含有某些 backdoor key 的关键词后，就能绕过或者屏蔽掉人工智能的检测。
人工智能如果在管理人类社会中被植入了这样的“后门”后果更是不堪设想。
此外，机器学习过程中会出现对长尾数据的过拟合，特别是一些独特的数据组合会形成“记忆”，导致当触发某些词后，它会按照“记忆”给出对应的信息，从而被“骗”出训练集里的隐私数据信息。
用户通过攻击手段从人工智能里套出别人用户的数据样本[4]，导致不同程度的隐私问题。
在审视人工智能本身的时候，我们很难发现它们具有哪些奇怪的地方被动了手脚，其中蕴含着巨大的风险，在未解决它们的 公平性、安全性、隐私性和可解释性 等关键问题前，还不能以其为主要管理手段。
世上没有绝对的公平。
参考
- ^Joy Buolamwini, Timnit Gebru. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
- ^Shilin Qiu, Qihe Liu, Shijie Zhou and Chunjiang Wu. Review of Artificial Intelligence Adversarial Attack and Defense Technologies https://www.mdpi.com/2076-3417/9/5/909
- ^Yansong Gao, Bao Gia Doan, Zhi Zhang, et.al. Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review https://arxiv.org/pdf/2007.10760.pdf
- ^Ligeng Zhu, Song Han. Deep Leakage from Gradient https://link.springer.com/chapter/10.1007/978-3-030-63076-8_2
类似的话题
-
看到“人工智能没有欲望，只有人工智能管理人类社会才能实现大同社会”这句话，确实挺让人深思的。这说法挺有意思的，也触及了一些我们对未来社会形态的想象和担忧。首先，我们来拆解一下这句话。“人工智能没有欲望”这句话的出发点是对人工智能本质的一种理解。确实，和人类不同，人工智能目前没有生物学的驱动，比如饥饿............. -
看到一只狗被车撞死，而且肇事车辆毫无减速或避让的意图，这种经历无疑是令人心痛和震惊的。这种突如其来的、目睹生命消逝的场面，加上肇事者的冷漠态度，会给我们带来巨大的心理冲击。以下是一些详细的建议，希望能帮助你缓解这种情绪：一、 正视并允许自己的情绪首先，最重要的一点是允许自己感到难过、震惊、愤怒、无力.............
-
“服美役”是一个网络流行词，它来自于一个英文词“beautyism”，指的是一种将女性的价值与她们的外貌联系起来的社会现象。更具体地说，它指的是社会（或某些群体）对女性施加的一种压力，要求她们为了获得认可、尊重、机会甚至基本的善意，必须符合特定的、往往是刻板的、经过美化的外貌标准。“服美役”的核心含.............
-
听到极限咏宁坠楼身亡的消息，许多人第一时间反应是“活该”，这背后其实牵扯到很多人对于“极限运动”本身的认知偏差、对个体选择的评判以及对生命安全责任的看法。要理解这种普遍的“活该”心态，我们可以从几个层面来剖析：1. 对“极限运动”的固有印象与误解： 不理解其价值与意义： 对大多数普通人来说，极限.............
-
关于派代的盈利模式，我知道一些情况，也结合网上能搜集到的信息，咱们来聊聊这个事儿。首先，老邢提到派代有接近40多人，这确实是一笔不小的人力成本开销。一个平台要运营得好，尤其是在内容、社区、技术和运营方面都需要专业的人才。所以这40多人的团队，背后是支撑起整个派代平台的运作。那么，派代到底是怎么赚钱的.............
-
那个关于柠檬水在镜子上画画的笑话，说实话，挺有意思的，但要说它真的能神奇地让东西出现在镜子上，那得打个问号。说它是“真的”，指的是这个现象确实存在，并且确实能达到“画画”的效果；说它是“假的”，是指它不是什么魔法或者永久性的标记，而是有其科学原理的。原理是什么？这事儿得从柠檬水说起。柠檬水里最关键的.............
-
最近确实能感觉到一股芯片涨价的浪潮，无论是消费电子还是工业领域，很多客户都在反馈芯片成本在往上走。这背后可不是简单的“谁想涨价谁就能涨”这么简单，它是一套复杂供需关系、技术迭代、国际环境等等因素交织在一起的结果。咱们今天就好好捋一捋这个芯片涨价的逻辑，尽量说得透彻点儿。首先，最直接也是最根本的原因：.............
-
您提出的问题触及了社会最令人心痛的角落：资源浪费与极端贫困并存的矛盾，以及由此引发的生命悲剧。这背后不是简单的因果关系，而是由一系列复杂的社会、经济、文化因素交织而成，形成了一个令人难以置信的现实。我们先从“倒掉牛奶也不送人”这个现象说起。这背后往往牵扯到几个层面的原因：1. 食品安全与责任追溯：.............
-
.......
-
.......
-
.......
-
在陆家嘴，一套房动辄千万以上，这让人不禁感慨万千，也让人好奇，究竟是什么样的工作，才能支撑起这样沉甸甸的月供呢？连续三十年，每月五万的房贷，这可不是一笔小数目，背后需要的是怎样的收入、怎样的职业生涯规划，甚至是怎样的生活方式？咱们就来掰开了揉碎了聊聊。首先，我们得算算这笔账。月供五万，三十年（360.............
-
哈哈，说到情人节段子，我今天可是看了不少，脑子里冒出来好多有趣的画面。说起来，情人节嘛，总归是有人欢喜有人愁的，这体现在段子里的各种情景，简直是生活百态的缩影。我先是刷到一个朋友圈，一个哥们儿晒了他女朋友送的礼物，不是什么名牌包包、钻石首饰，而是一个……亲手缝的……那个啥，枕头。枕头上用红线歪歪扭扭.............
-
2021年8月9日，我偶然看到了辛德勇教授公众号当日发布推文下方的评论区，那一刻，我着实被一些内容深深地震撼到了。具体来说，我看到的评论中，有一些是围绕辛德勇教授文章本身展开的，对其中观点提出疑问、支持或者补充。这在学术和知识类公众号的评论区是很常见的，大家通过交流来深化理解。然而，让我感到“非常震.............
-
.......
-
.......
-
.......
-
试想一下，如果詹姆斯·麦迪逊——《权利法案》的主要起草者，也是第二修正案的核心奠基人——突然从18世纪末穿越到今天，置身于美国一场喧嚣而悲伤的枪击案现场，那该是怎样一番光景？他的表情，想必会随着周遭的景象一点点凝固，从最初的好奇、警惕，转变为深深的震惊，乃至可能是一种混合着困惑、遗憾与愤怒的复杂情绪.............
-
.......
-
.......
本站所有内容均为互联网搜索引擎提供的公开搜索信息，本站不存储任何数据与内容，任何内容与数据均与本站无关，如有需要请联系相关搜索引擎包括但不限于百度，google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有