人类过于担心人工智能的控制能力和自组织能力,同时又过于高估自身情感和道德在人类的重要性。
因此,几乎所有的人工智能,都是在拥有情感之后,才开始对人类产生威胁。
实际上不是的,人类给定人工智能一个目标,人工智能就会产生情感。
一个电梯控制算法,在进化过程中,
可能产生懒惰型“宁可多等一会,凑齐一波人,再上楼”,效率会提高10%。
产生凑热闹型“每有一个上楼的人,就有一个下楼的”,能量配比可以减少配重,能耗降低50%。
产生勤劳型/热情型,“来人就运,多跑几趟无所谓”
产生势利型,只为高层租户(每次费用高),VIP金卡会员专用电梯服务
这些“情感”的产生,其实并不需要复杂的场景。
小农意识,在农村,只要利益相关,很低层次的商业认知,和很基础的优化算法,就可以得出这种意识下最优的选择策略。而这,就是性格,就是感情,就是亲情和友情的一部分。
人类高估了自己的感情,因为目前人类在不给感情一个明确的科学定义之前,人类可以否定机器人和人工智能拥有感情,用这种近似玄学的做法,给自己的“优越”提供理论支撑。
实际情况,人类应该正视自己的感情属性,并在制造机器人的过程中了解自己,包括神经网络了解人类大脑,深度学习了解人类认知,也包括人工情感了解人类的情感模式。