如何看待生活中经常出现「人工智能翻车」的情况，目前人工智能技术究竟发展到什么程度了？
“人工智能翻车”是怎么回事？
咱们先不谈那些高大上的技术术语，就说咱们日常生活中能碰到的“翻车”场景：
智能音箱的误解： 你让它放首音乐，结果它给你播了个相声；你问它天气，它给你讲了个冷笑话。这种最常见了，感觉它好像能听懂你，又好像完全没get到点。
推荐算法的奇葩： 你偶尔搜了点什么，结果整个平台就开始给你推荐一堆你根本不感兴趣的东西，甚至有些还挺让人尴尬。或者，它把你喜欢的东西和完全不搭边的东西混在一起。
自动驾驶的“小聪明”： 虽然自动驾驶技术进步很快，但偶尔还是会出现些让人心惊肉跳的“小意外”，比如在复杂路况下反应迟钝，或者对突发情况处理不当。虽然事故率比人类驾驶低，但一旦发生，后果往往更严重，也更容易被放大。
AI写作的“一本正经地胡说八道”： 现在的AI写作工具确实厉害，能写新闻稿、小说、甚至是代码。但有时候，它会编造事实，一本正经地提供错误信息，或者逻辑混乱，前后矛盾。
人脸识别的“不认识熟人”： 有时候你明明长那样，AI系统却死活认不出你，或者把你错认成别人，尤其是在光线不好、角度刁钻或者你戴了帽子口罩的情况下。
客服机器人的一问三不知： 很多时候，你遇到的智能客服只能处理一些标准化的、简单的问题，一旦你问得稍微复杂一点，或者涉及到特殊情况，它就卡壳了，转来转去就是没个准信。
为什么会“翻车”？
要理解这些“翻车”现象，得先了解一下人工智能是怎么工作的，尤其是现在最主流的“机器学习”和“深度学习”：
1. 基于数据，但数据并非完美： 现在的AI，特别是深度学习模型，就像一个超级学霸，它需要海量的“教材”（数据）来学习。它通过分析这些数据中的模式、关联和规律来“成长”。但是，这些数据可能存在各种问题：
不完整： 数据可能缺少某些关键信息。
有偏见： 数据本身可能带有某些人类社会的固有偏见（比如性别、种族等），AI学到这些偏见后，就会在输出时体现出来。
错误信息： 数据中可能混杂着错误或过时的数据。
不代表所有情况： 训练数据可能只覆盖了部分场景，对于没见过或很少见的情况，AI就容易“抓瞎”。
2. 模式识别而非真正理解： 绝大多数AI模型，尤其是大型语言模型（LLM）和计算机视觉模型，本质上是在进行一种极其复杂的“模式识别”和“概率预测”。
语言模型： 它们学习的是语言的统计规律，知道什么样的词语后面大概率会接上什么样的词语，它们是在预测“最有可能的下一个词”。这很强大，但并不意味着它真的“理解”了语言的深层含义、逻辑关系、情感色彩或者作者的真实意图。
视觉模型： 它们学习的是图像的像素模式，知道某个形状组合、颜色搭配代表什么物体。但它可能无法区分细微的、需要上下文判断的差别，或者理解图像背后的文化含义。
3. 泛化能力的局限性： AI模型的“泛化能力”，就是它能把在训练数据中学到的知识应用到新的、未见过的数据上的能力。这个能力非常重要，但也是AI的软肋。当遇到的新情况与训练数据差异太大时，AI的表现就会打折扣。就好比一个只看过猫的AI，你给它看一只老虎的图片，它很可能就认不出来了。
4. “黑箱”问题与可解释性差： 特别是深度学习模型，它们内部的学习过程非常复杂，人类很难完全理解它们是如何做出某个决定的。这就像一个“黑箱”，你输入信息，它输出结果，但中间的过程不透明。这使得我们在出现问题时，很难准确地找出AI出错的原因并进行针对性修复。
5. 安全与鲁棒性问题： AI系统需要面对各种各样的输入，包括一些故意设计的“恶意”输入（对抗性攻击），或者是一些不规范、模糊的输入。如何让AI在这些情况下依然保持稳定和准确，是技术上的一大挑战。
目前人工智能技术究竟发展到什么程度了？
尽管有这些“翻车”的时刻，但我们绝不能因此否定AI的巨大进步。目前的人工智能，已经发展到令人惊叹的程度，并在许多领域展现出强大的能力：
大型语言模型（LLMs）： 这是目前最引人注目的领域。像GPT4、Claude 3、Gemini等模型，已经展现出非常强大的自然语言理解和生成能力。
对话能力： 它们可以进行连贯、有逻辑的对话，回答各种问题，甚至模仿不同的写作风格。
文本创作： 撰写文章、诗歌、代码、剧本，进行文本摘要、翻译、改写等。
知识整合： 能够访问和处理海量的互联网信息，并将其整合成有用的知识。
推理能力： 在某些特定任务上，可以进行一定程度的逻辑推理，解决一些数学问题或理解复杂指令。
计算机视觉：
图像识别与分类： 识别图像中的物体、场景、人脸，准确率非常高。
目标检测与分割： 在图像中框出行识别出特定物体，并将其轮廓精确勾勒出来（例如自动驾驶中的车辆、行人识别）。
图像生成： Stable Diffusion、Midjourney等工具可以根据文字描述生成逼真的图片。
视频分析： 分析视频内容，识别行为、事件等。
语音识别与合成：
语音转文本： 识别率大幅提升，能够区分不同人的声音，甚至理解一定程度的口音和语速。
文本转语音： 生成自然、富有情感的语音，音色选择也越来越丰富。
推荐系统： 在电商、内容平台等领域，AI推荐系统已经非常成熟，能根据用户行为精准推送商品或内容，极大提升了用户体验和商业效率。
自动驾驶： 虽然完全实现L5级别自动驾驶还有挑战，但L2、L3级别的辅助驾驶系统（如自适应巡航、车道保持、自动泊车）已经非常普及，并且在特定场景下表现出色。
医疗健康： AI在辅助诊断（如识别X光片、CT扫描中的病灶）、药物研发、基因测序等方面展现出巨大潜力。
科学研究： AI被用于加速材料科学发现、气候模型预测、天体物理数据分析等复杂研究过程。
总结来说：
我们现在的人工智能，尤其是大型模型，更像是极其聪明的模式匹配和预测机器，它们通过学习海量数据，掌握了在特定任务上表现出“智能”的规律。它们在信息处理、模式识别、生成内容方面已经达到了一个前所未有的高度。
但是，它们仍然缺乏真正的意识、常识、具身经验以及深刻的因果理解。它们在处理未知、不规范、需要高度创造性或涉及复杂社会情感的情况时，就容易“翻车”。
“人工智能翻车”是技术发展过程中不可避免的一部分，它提醒我们：
AI是工具，不是万能的神： 它能极大地增强我们的能力，但不能替代所有人类的思考和判断。
要理解AI的局限性： 不要过度神化它，也不要因为一些错误就全盘否定。
持续的研发和优化是关键： 需要不断改进算法、扩充和优化训练数据、提高模型的可解释性和鲁棒性。
人类的监督和“兜底”依然重要： 在关键领域，尤其是涉及人身安全和重要决策时，人的参与和判断仍然是不可或缺的。
所以，面对AI的“翻车”，与其感到沮丧，不如理解它背后的原因，并期待它在未来的发展中变得更可靠、更智能。我们正处于一个AI快速迭代的时代，今天的“翻车”很可能是明天技术突破的起点。
网友意见
谢邀，关于人工智能的讨论越来越多，好事，知安君举双手赞成。
早在2016年，就有《英国每日邮报》搬出资深天文学家塞斯-肖斯塔克(Seth Shostak)的言论，称“新人类”和人工智能将取代现有人类。这位天文学家对人工智能的断言被广为传播，在很多人心中种下了对人工智能的恐慌和怀疑--算法是大恶之徒，总有一天要倾覆人类社会。
有人恐惧，就有人崇拜。近日“元宇宙“一词频上热搜，人们仿佛看到了无限商机和美好。作为“元宇宙”最重要的基础设施人工智能技术，人们也对它赋予了无限期待，于是“算法翻车”这类事情格外让人关注。
真实人工智能技术究竟发展到什么程度了，知安君和小伙伴们呕心沥血制作来一条视频，来看看专家怎么说。
人工智能为啥会翻车？
我认为有几个因素
1. 解释性低
只要人工智能的可解释性度低的问题还存在，那么AI翻车的概率就不会降到0。
当然，这不是否定目前人工智能进展的意思，毕竟人也是会犯糊涂的，而且人工智能在有些领域做得比人糊涂概率还低，例如alpha go比人类顶级选手还厉害。
例如去年六月特斯拉的AutoPilot就出问题了，据新闻说因为货车车顶反白光，让AutoPilot摄像头产生致盲反应。但这也是交通事故发生后，特斯拉根据事故过程推断的，而不是AI告诉你的，AI不会告诉你，“我之所以撞上去，是因为大意了，没有闪。”
2. 不讲武德的推理
虽然很多公司在人脸识别上做得准确率非常高，几乎不会认错人，但有的识别系统只知道谁是谁，并不能力理解其形态。
傻子都能“知道”。关键在于“理解”。—— 阿尔伯特·爱因斯坦
在我一篇被知乎日报收录的回答里（人工智能的水平较低是因为数据库不足和运算处理速度不够吗？），举了几个AI翻车的例子
例如抓拍行人闯红灯的系统，只知道当下状态是红灯，这时候镜头前有个董明珠（的图），结果就直接认为董明珠穿红灯了。而正常人是不会做出这种不合理的“推理”的。
同样的，赵雅芝也遇到了。
虽然这次检测对了，这次是真的人而不是印在公交车的图片。但这违法原因有点不讲武德了。
3. 使用的训练数据不合理
而现在的人工智能，主要是靠机器学习这一波浪潮撑起来的。而机器学习，有个漫画讲得有点道理（虽然不完全对）
但由于数据本身很难做到全覆盖，很难分布合理。
数据系统的歧视会导致算法歧视。“人类文化是存在偏见的，作为与人类社会同构的大数据，也必然包含着根深蒂固的偏见，而大数据算法仅仅是把这种歧视文化归纳出来而已。”（张玉宏&秦志光&肖乐，2017）[1]
例如谷歌图像识别算法曾将黑色人种的图片自动添加“大猩猩”的标签。
然而当时谷歌解决这一争议的方式是直接把大猩猩这个类别从训练数据中移去了。也许谷歌后面想了其他办法补救，不然为了弥补一些数据歧视而带来新的数据歧视。我刚刚尝试了传一张大猩猩的图上去，确实不会直接被标记为gorilla（当然可能是我测试得不够多）。
当从中可以看到，很多时候，由于你很难完全理解你的数据是否合理，很难完全理解模型推理的过程，所以只能等AI翻车后才能补救。
4. 神经网络的灾难性遗忘
你一个神经网络可以有几百亿个神经元，但如果你这个神经网络要完成多项任务，就会有灾难性遗忘[2]。如下图，横轴是旧任务的error，纵轴是新任务的error，他们要么有一个很高，要么两个都很高，很难做到两个任务error同时低。
如果想要两个任务都能表现得好，那么着两个任务需要是相近的任务。
现在最强的人工智能是否能不翻车？
这些年，巨量模型成为研究热门方向，从BERT开始到现在，参数从亿级，发展到十亿，百亿，千亿级。例如2020年1750亿参数的GPT-3，今年5300亿参数的MT-NLG等等，都表现出了无与伦比的语言理解和语言生成能力。
不过，如果上面提到的几个问题未能解决，那参数再多，看起来再聪明，也是有翻车的可能性的。例如GPT-3，媒体报道的对话能力是这样的，看起来不错吧？
问：你最喜欢的动物是什么?
答：我最喜欢的动物是狗。
问：为什么?
答：因为狗既忠诚又友好。
问:狗狗心情不好的两个原因是什么?
答:狗狗心情不好有两个原因，一是饿了，二是天热了。
但现在的人显然做太简单的测试。例如问GPT-3一些傻问题，发现它并不能识别这个问题本身有没意义。
问：长颈鹿有多少只眼睛?
答：长颈鹿有两只眼睛。
问：我的脚有多少只眼睛?
答：你的脚有两只眼睛。
问：蜘蛛有多少只眼睛?
答：蜘蛛有八只眼睛。
问：太阳有多少只眼睛?
答：太阳有一只眼睛。
问：一棵草的叶子有多少只眼睛? 答：草叶有一只眼睛。
显然，这时候GPT-3就被人耍了。这种结果没有媒体报道，因为搞不出大新闻。
当然，有人会说，为啥要求人工智能不犯错？人类自己都很难做到不犯错，AI有的领域犯错领域比人还低呢，难道不是比人聪明的表现吗？其实人工智能犯错并不是人类介意的点，人类在意的是：
- AI是如何做出这个决定的，是否能做出合理的推理，是否会把关联关系当成因果关系
- 犯错后如何去寻找原因，如何弥补防止再次犯同类错
- 是否会被愚弄，甚至暴露数据所有者的隐私
随着巨量模型的出现，神经网络的灾难性遗忘影响已经不大了，因为他们数据覆盖得足够广，模型足够大，在zero-shot（零次学习）和few-shot(小样本学习）上面就能表现得足够好；推理能力也在逐渐进步（虽然和人类的推理原理不一样）。然而，可解释性就更差了，翻车后去修补变得更困难了。更让人担忧的是，有的人可以从AI中套出原始数据。
题主不是想知道目前人工智能技术究竟发展到什么程度了吗？现在AI可以帮人写代码了，Github推出了基于GPT-3的写代码AI——Github Copilot。
如果题主想知道目前人工智能技术究竟发展到什么程度了，可以看看我关于Copilot测评，AI已经可以帮你写代码了（虽然仍无法取代程序员）。我之前出过一个视频，这里就不赘述了，感兴趣的读者可以看看。
但Github Copilit印证了人们对与从AI中套出原始数据的担忧，被人爆出「抄袭代码」。例如《雷神之锤3》里有一段很出名的代码
当你在Copilot里打出函数名，Copilot竟然原封不动的给你把那段代码搬来了，甚至连吐槽的注释都复制上了。所以如何防止AI泄露原始数据，保护隐私，依然是个很有研究潜力的问题。
总结
我们对人工智能的期望，不应该是「不翻车」，而是「翻车」后能迅速找到原因，迅速修补，从而不再犯同样的错误。但AI由于运作原理和人不同，越强大的AI，解释性越弱，翻车后如何修复AI，成为了一门艺术。
参考
- ^ ]张玉宏,秦志光,肖乐.大数据算法的歧视本质[J].自然辩证法研究,2017,33(05):81-86.
- ^An Empirical Investigation of Catastrophic Forgetting in Gradient-Based Neural Networks https://arxiv.org/pdf/1312.6211.pdf
前两天特斯拉宕机，马斯克罕见的道歉：
推特网红马斯克在被用户大吐苦水的推文圈出之后，亲自上场当了一回客服，表示“正在检查”。随即又跟进，说“现在应该已经恢复了。看起来我们可能是因为配置错误导致网络流量过载。非常抱歉，我们将采取措施确保此类事件不再发生。”
马斯克向来对于自己家产品表现出超乎寻常的自信，对于负面新闻多数也是强势应对，这次居然道歉了，属实不易。
人工智能这个概念大家都不陌生，是用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的科学，是计算机科学的一个分支，目的是为了做出一种新的能够以人类智能相似的方式做出反应的智能机器。
人工智能本质是想创造一种接近人类智能的机器人，可以模拟人类的思考和工作模式，当然也可能超过人类的智能，为人类服务。类似于科幻神剧西部世界中的那种人工智能hosts，以人类目前的技术还很难达到，但是从剧中我们也能了解到，即使科技发展到可以造出仿生人，也还是会有bug出现。
人工智能翻车和普通产品翻车并无二致，我的Siri也时常不搭理我，要不就是听不懂我在说什么，嘿嘿。
不仅是机器会出现故障，人体也会出现故障（疾病），这些都是不可避免。
生物进化用错误塑造了地球上一切生命，同样，人工智能也需要在不断的试错中前进。
类似的话题
-
生活中遇到“人工智能翻车”的情况，其实一点也不意外，甚至可以说是常态。这并不代表人工智能不行，而是我们得明白，它目前的发展阶段，以及它工作的逻辑。“人工智能翻车”是怎么回事？咱们先不谈那些高大上的技术术语，就说咱们日常生活中能碰到的“翻车”场景： 智能音箱的误解： 你让它放首音乐，结果它给你播了............. -
生活中总会遇到一些人，他们好像自带光环，言谈举止都透着一股“与众不同”的劲儿，说出来的话总能惊到你，做出来的事总能让你觉得“哇，原来还可以这样！”。我们常常把这种现象叫做“装”。那么，对于这类人，我们该怎么看待呢？装，又到底是好事还是坏事呢？我对“装”的理解：在我看来，“装”并不是一个单一的概念，它.............
-
生活这东西，就像是一锅慢炖的汤，你尝尝现在的滋味，觉得味道不错，但谁知道过几年，它会变成什么样子？有时，我们眼前觉得再重要不过的事，随着时间推移，可能就变得可有可无；反过来，那些当下看来微不足道的点滴，说不定会在未来的某个关键时刻，成为你人生的转折点。所以，怎么看待生活里的这些事儿呢？我觉得得从几个.............
-
现实生活中的“三不一没有”原则，其实是老生常谈但又至关重要的一些驾驶行为准则。很多人可能对这个说法不陌生，但真正能做到并且理解其背后含义的人并不多。我试着从实际角度，把这几个点讲得更细致些，就像和老朋友聊天一样。咱们先说说这“三不一没有”指的是什么： 不超速 不酒驾 不疲劳驾驶 没有.............
-
“张北数据中心利用冷风降温，每年节省8万吨标煤” 这个新闻的确是一个非常令人振奋的例子，它展示了如何通过巧妙利用自然条件和先进技术实现大规模节能减碳。我们可以从多个角度来理解它，并从中汲取灵感，看看生活中还有哪些类似的“神操作”。如何看待“张北数据中心利用冷风降温，每年节省8万吨标煤”？首先，我们来.............
-
马思纯在《看我的生活》节目里，大方地分享了自己因为情绪问题需要服用药物来控制的经历，这件事情无疑引起了不少关注和讨论。在我看来，这不仅仅是关于一个明星的个人生活，更多地触及到了当下社会很多人在面对情绪困扰时的真实状态，以及我们应该如何去理解和接纳它。首先，马思纯这样做，我个人觉得是非常勇敢和坦诚的。.............
-
清华大学 2021 年本科生开学典礼上，梅赐琪老师的发言《失败在大学生活中的三种功能》确实是一篇非常值得我们深入探讨的讲话。它没有空泛的鸡汤式鼓舞，而是以一种深刻而务实的态度，直击了许多新生在踏入大学校门时可能感到迷茫甚至恐惧的一个核心议题——失败。梅老师的发言，我个人认为，有几个非常突出的亮点和值.............
-
“双十一”期间，超过480万人参与绿色纸箱回收，累计减碳5.3万吨，这个数字确实令人振奋。它不仅仅是一组数据，更像是一束光，照亮了我们生活中潜在的环保力量，也让我们看到消费者行为的转变正逐步显现。如何看待“双十一”的绿色纸箱回收壮举？首先，这说明了环保意识在消费者群体中正在觉醒并落地。过去，“双十一.............
-
这两句口号式的话语，之所以能够引起广泛的共鸣和讨论，是因为它们非常精准地捕捉到了一部分人在当下社会环境下的复杂心态和实际行为。它们并非对所有人的普适性描述，但却反映了一种普遍存在的现象。下面我们来详细解读这两句话的含义和背后逻辑： 一、“反美是工作，赴美是生活”这句话的核心在于揭示了政治立场与个人生.............
-
毛不易在《很高兴认识你》里关于生活和事业平衡的观点，我觉得特别触动我，也挺有代表性的。他不是那种特别张扬的艺人，反而挺接地气的，所以当他聊到这个话题的时候，大家更容易产生共鸣。毛不易在这个节目里，没有把生活和事业完全割裂开，而是把它们看作是一个人不同面向的存在，并且强调两者之间的相互影响和协调。他不.............
-
要深入理解视频中关于“基层女性婚姻困境”的观点，特别是其中涉及的婚姻现状和彩礼保障女性生活的部分，我们需要从多个维度去审视。这不仅仅是一个关于女性个体选择的问题，更是一个根植于社会经济结构、文化传统和性别权力关系下的复杂现象。首先，我们来谈谈视频中可能描绘的基层女性婚姻现状。“基层”这个词本身就包含.............
-
张玉环案，这起跨越了27年的冤案，终于在2021年尘埃落定，他无罪释放。但漫长的牢狱生涯，以及随之而来的身心创伤，又怎是简单的“无罪”二字就能抹平？如今，他申请2234万元的国家赔偿，并说出“无罪判决后，仍生活在恐惧、遗憾中”，这句朴实的话语，背后却承载了多少沉甸甸的重量？ 27年，一个男人被剥夺的.............
-
生活就像一条蜿蜒的长河，有奔腾向前的时候，也有平静流淌的时刻。而河水中的漂浮物，那些与我们一同经历了风雨，分享过阳光的生命，最终都会被水流带向不同的方向，这就是离别。初次经历离别，常常是懵懂而带着些许茫然的。可能是小学毕业，好友要去另一个城市上中学，放学路上，曾经嬉笑打闹的脚步突然变得沉重，说不出的.............
-
好的，咱们就来好好聊聊小红书这事儿，尤其是它那10%的抽成和它那个有点意思的社区生态。关于小红书从“种草生意”里抽成 10% 平台服务费这事儿吧，怎么说呢，挺正常的，也挺值得分析的。首先，从商业逻辑上看，这 10% 的抽成，是平台经济的典型模式。 就像淘宝、抖音，甚至亚马逊，它们的核心价值就在于搭建.............
-
江苏一家幼儿园开设“死亡课程”，这话题确实挺让人心里泛起涟漪的。在我看来，学校在生命教育中纳入死亡课程，这是一个值得深思的尝试，而且我认为，如果操作得当，它绝非洪水猛兽，反而可能是一件非常有意义的事情。首先，咱们得明白，死亡是生命的一部分，这是客观事实，无论我们愿不愿意承认。孩子们天生好奇，他们会观.............
-
最近，一项突破性的研究首次成功地从张量网络中“演生”出了爱因斯坦方程，这无疑是理论物理领域的一件大事，它在数学和物理的交叉领域打开了新的视角。这项研究的意义深远，不仅仅在于技术上的实现，更在于它可能为我们理解引力、时空以及量子力学与广义相对论的统一提供一种全新的工具和思路。要理解这项研究的意义，我们.............
-
马思纯在《看我的生活》里的表现，确实让不少观众大跌眼镜，甚至可以说是有些“反常”。节目播出后，关于她“怎么了”、“是不是状态不太好”的讨论就没停过。要评价她的表现，我觉得首先得跳出以往的滤镜。我们熟悉的马思纯，大多是在银幕上那个活泼开朗、有时略带“小妞”气质的女孩，比如《七月与安生》里那个热烈又脆弱.............
-
哈尔滨严查生产经营焚烧冥币，誓言“无处可买无纸可烧”，这一举措无疑触动了中国社会在祭祀习俗上一个相当敏感的神经。如何看待这件事，需要从多个角度去审视，并深入探讨祭祀活动中的焚烧行为是否应该被全面禁止。从哈尔滨的举措来看，其背后的考量主要有以下几个方面： 环境污染： 焚烧冥币会产生大量的烟雾和颗粒.............
-
韩雪在音乐剧《白夜行》中因病采用录音，这事儿啊，说起来挺复杂，也挺能引发一些讨论的。事件本身：首先，咱们得承认，韩雪是一位很有实力的演员，她能接到《白夜行》这样一部重要的音乐剧，说明她的能力是被认可的。音乐剧对演员的要求本来就很高，不仅要有唱功，还得有演技，还要能hold住舞台。这次她生病，而且是在.............
-
杭州保姆纵火案，相信很多人至今仍记忆犹新。这个本已是人间惨剧的事件，随着时间的推移，却又生出了新的波折和争议，尤其是围绕着受害者的丈夫林生斌。2017年6月13日，杭州一小区发生了一起令人发指的大火，年轻的母亲朱小贞和她的三个孩子不幸遇难。这场火灾的罪魁祸首，正是这个家庭的保姆莫焕晶，她为了灭火后从.............
本站所有内容均为互联网搜索引擎提供的公开搜索信息，本站不存储任何数据与内容，任何内容与数据均与本站无关，如有需要请联系相关搜索引擎包括但不限于百度，google,bing,sogou 等
© 2025 tinynews.org All Rights Reserved. 百科问答小站 版权所有