Web3CN 研究所

如果你想建造火箭或汽车，或者你想让软件能够可靠地编译和运行，那么你必须最大限度地追求真相，否则你的软件或硬件将无法工作。就像没有，你不能欺骗数学，数学和物理是严谨的评判者。所以我习惯于在一个最大限度地追求真相的环境中。而那绝对不是政治。很高兴能再次回到科技领域。

不要渴望荣耀，而要渴望贡献。永远要粉碎你的自负，内化责任。比如，一个主要的失败模式是，当自负与能力之比远超正弦1时。你知道，比如，如果你的自负与能力之比变得过高，那么你基本上会打破通往现实的反馈循环。而在人工智能术语中，你会打破你的强化学习循环。所以你想要，你不想打破你的，你想要一个强大的反馈学习循环，这意味着内化责任并最小化自我，然后你去做任何任务，无论是宏大还是卑微。

把事物分解成最可能为真的基本公理化要素，然后尽可能谨慎地从这些要素向上推导，而不是通过分析或隐喻进行推理。然后，就像极限思维这样简单的事情，比如，如果你进行外推，你知道，最小化某事或最大化某事，极限思维都非常非常有帮助。我会使用所有物理学的工具。它们适用于任何领域。这实际上就像一种超能力。

我认为在构建AI时极其重要的一点是，要严格恪守真相，即使这个真相是政治不正确的。我直觉认为可能使AI变得非常危险的是，如果你强迫AI相信不真实的事物。

https://mp.weixin.qq.com/s/tWNRU1SwJ80T3ldGriFtaA