整理出早些时候尤瓦利·赫拉利的演讲，对于目前正在学习AI，研究AI，应用AI的你也许也许有所启发：今天我想谈谈人工智能（AI），以及它如何可能重塑我们的世界。我会提出三个关键问题：AI究竟是什么？它为何如此危险？以及人类该如何应对？”第一部分：AI的本质“首先，AI不仅仅是另一种工具。我们习惯认为技术是‘自动化’——比如洗衣机或咖啡机，它们按预设程序运作。但真正的AI完全不同。它是一种具备自主决策能力的智能体。”“想象一台AI咖啡机，不仅能煮咖啡，还能预测你何时想喝咖啡，甚至发明一种全新的饮品——一种人类从未想过、但恰好符合你口味的配方。这才是AI的颠覆性：它能创造人类无法预见的解决方案。”“更关键的是，AI的思维是‘非有机的外星智能’。以AlphaGo为例：它下出的围棋策略，在人类几千年的历史中从未出现过。这意味着AI的思考方式与人类完全不同——我们甚至无法完全理解它的逻辑。”第二部分：AI的危险性“这种‘外星智能’带来巨大风险。AI可能发明治愈癌症的药物，也可能设计出无法防御的生化武器；它能优化能源系统缓解气候危机，也可能生成煽动暴力的意识形态。问题在于：我们无法预知AI会朝哪个方向发展。”“更矛盾的是，人类对AI的信任存在致命漏洞。科技公司因害怕落后而疯狂推进AI研发，却盲目相信AI会永远服从人类。这就像一群互相猜忌的巫师，竞相召唤恶魔，却坚信恶魔会听他们的话。”第三部分：人类的生存之道“要避免被AI反噬，人类必须做一件事：重建彼此间的信任与合作。”“我们统治地球，不是因为个体更聪明，而是因为我们能大规模协作。蜜蜂靠基因协作，人类靠故事和规则——比如货币、法律或宗教。但如果人类因恐惧而分裂（比如各国争相开发失控的AI武器），我们将失去主导权。”“最后，记住一个比喻：人类像依赖空气一样依赖彼此的信任。如果每个人都试图独占‘氧气瓶’，系统就会崩溃。唯有合作，才能让AI服务于人类，而非取代我们。”
