人工智能要有自主意识有创造力，才能全面超越人类，这个时候人工智能才可怕，这话对吗？ 第1页

这话不对。目前看来“自主意识”对人工智能没有用，对人有什么用也是未知的^[1]。现存的弱人工智能已经显示出它们在许多方面比人类更有创造力^[2]。在那之前，“人工智能要全面超越人类，才可怕”作为一个命题缺少基本的逻辑性。

• 如果“人工智能围棋比赢人类首先要人类会下围棋”成立，
• 和其同样结构的“人工智能‘杀人’比赢人类，首先要人类会杀人”“人工智能‘背叛/奴役/虐待他人’比赢人类，首先要人类会背叛/奴役/虐待他人”“人工智能‘发动战争’比赢人类，首先要人类会发动战争”显然也可以成立。
• 人类会不会杀人、会不会背叛/奴役/虐待他人、会不会发动战争呢？
• 显然是会的。
• 那么按照你的逻辑，人工智能在杀人、背叛/奴役/虐待他人、发动战争上都可以胜过人类。

你还如何推导出“人工智能只能是人类的工具”呢。

况且，核武器也是人类的工具，你看害怕核武器的人少么。

美国辛辛那提大学2016年试验性训练的空战AI^[3]，掌握一个机型的花费约15000美元，运行它需要的硬件约值500美元，指令反应速度1毫秒级，在模拟空战中用性能更差的有人机完胜美国空军退役上校飞行员，无预警机的AI四机编队可以胜过人指挥的有预警机在远处支援的四机编队——AI得到的是模拟器生成的己方数据、信号噪声、硬件故障等仿真内容，和人类战士在模拟器或真实的飞机上得到的信息没有区别。这就是说，弱人工智能在这类战术和小队指挥上已经超越了人。

这还没有考虑现实的无人机的过载限制远比有人机高、可以使用更加极端的造型和控制系统等因素，AI可以在短时间内量产、可以不断改进，飞机方面既可以对有人机进行改装也可以专门设计无人机。AI可以高效地控制成队的无人战斗机在复杂的环境和天气条件下作战，而且在现阶段就能完成并没有训练过的任务^[4]。

参考

1. ^ 人工智能可以产生自主意识吗？ - 赵泠的回答 - 知乎 https://www.zhihu.com/question/372639666/answer/1338676807
2. ^ 如果把每个人的思想通过脑机接口上传网络，让AI分析加工创作，能否极大丰富文艺宇宙，加速技术奇点到来? - 赵泠的回答 - 知乎 https://www.zhihu.com/question/405601963/answer/1651717420
3. ^ https://magazine.uc.edu/editors_picks/recent_features/alpha.html
4. ^ https://doi.org/10.1142/S2301385015500120