谢邀,
恭喜答主发现这个世界的本质了。
抖个激灵。
目前微软已经开放了一个以minecraft为载体的人工智能测试/训练项目——Malmo的源代码,供开发者使用。
如果题主对minecraft与人工智能感兴趣的话可以关注一下相关的内容。
————————————————————
当玩家玩minecraft的时候,会基于自身经验了解游戏,比如饥饿会也许导致死亡,怪物攻击玩家会掉血,血掉光就会死亡,种菜需要种子,获得铁需要挖矿,游戏的基本目标是保持存活等,这些内容是从生活常识以及其他的游戏经验里获得的。
正是因为玩家处于“存活”的这一目的下进行游戏,才会去了解游戏的机制,并发明出各种游戏技巧。
一个没有目的的AI的行为就会接近于一个没有智能的东西——饿了不会吃,不会避免死亡,当然也无从谈起进一步的了解游戏机制和发明游戏技巧。
所以一个AI应当有一个基本的目的以确保AI的发展方向是有意义的。
当AI了解了游戏的原理后,它也许会考虑“缸中之脑”的问题。但它可能不会轻易质疑游戏的真实性。
就像人类认为光速是能达到的最快的速度一样,AI也许会坚定不移的相信某个特性是一条他所处的世界的基本规律。
而关于AI是否能改变游戏源码本身,我认为这有些难,除非告诉AI如何写代码,并且给它minecraft的源代码。