人工智能技术的不断进步，AI已经具备了操纵和生成语言的能力，这意味着AI已经成功攻破了支撑人类文明的基本操作系统。语言构成人类文化的基石，我们通过语言讲故事、创造神话、制定法律。而现在，AI能生成文字、语音和图像，并操控信息传播。要是AI掌控了语言这个工具，不但个人关系会受影响，整个社会秩序都将动摇。
除此之外，AI还有潜力与人类建立“虚假的亲密关系”，从而影响我们的想法和信念。在人类文明普遍的政治斗争中，控制人和人之间的关系联系是最有效的手段。过去10年，社交媒体成为了争夺人们注意力的战场，现在战场正转向亲密关系。更广泛地说，新的AI工具会深刻影响我们的世界观。人们可能会请教一位“全知”的AI来解决所有的问题，而这会让搜索引擎和新闻媒体深感不安。
但真正值得担心的不是这些商业影响，而是人类历史进程的终止。历史就是生物需求与文化创造之间的互动，是法律、宗教等文化因素塑造我们追求食物、性等生物需求的过程。如果AI掌控了文化创造，历史进程将发生质变。
起初，AI可能会模仿人类，但时间一长，AI文化必将朝着人类前所未见的方向发展。几千年来，人类一直生活在别人的想象中，几十年后，我们可能会生活在一种外星智能的想象中。
我们需要思考，如何在AI发展过程中继续发挥人类的作用。人类具有理性、道德判断和同理心等AI难以匹敌的优势，我们必须发挥这些优势来指导AI的发展方向。人工智能应被设计为增强人性而非替代人性。
人工智能的快速演进无疑是一场深刻的变革，它带来的可能是毁灭，也可能是改变。我们需要采取行动来规范AI的发展，并努力适应与AI的合作。人工智能应是我们的工具，而非主人。
