5
我们真的需要担心人工智能吗？
source link: https://www.v2ex.com/t/865879
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
很多科幻电影，都在渲染未来可怕的人工智能的场景：SkyNet 觉醒了，有了意识，要消灭人类。。车轮碾过💀💀💀咔咔咔。。
顺着这点我思考了一下，发现其实「自我意识」在上面的情景假设中，是一个很关键但又被一笔带过，导致很模糊的点：这个点就是，有了「自我意识」的机器，为何要消灭人类呢？
假设意识没有高等低等之分，而只有「有无」的区别，那么机器的自我意识与人类的自我意识，算是同层级的，按道理，人类能意识到的东西，机器也能意识到，反之亦然。我们假设那些机器的智能程度比人类更高，可是，它们能够意识到人类社会的抽象概念吗？比如语言、爱、恨、差异、竞争、合作。假如能意识到的话，很难想象它们为何只是一心要消灭人类，到底是什么驱动它们这么做呢？
假设意识分为不同的层级，比如电影「阿凡达」里面一个超越物种个体的 Ava 意识体；或者简单点，假设我们人体内的每个细胞都有自我意识。。那么这就更难说得上消灭了吧，因为本就不在一个层级。如果人类无法意识到更高等的意识存在，那么人类只会把更高等意识导致的现象，称作「自然规律」。是吧？
当然，如果是没有「自我意识」的智能体，那对人类的威胁就是另一回事了。不过我对这样的智能体的智能持怀疑态度。
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK