Dragonfly合伙人：AI风险可能被高估，但“风险毁灭”绝不能碰

PANews 9月25日消息，Dragonfly管理合伙人发文表示，若有人认为AI导致人类灭绝的概率（P(doom)）为10%，实际上意味着其认为90%的情况下不会发生严重后果，但人类无法判断自己究竟处于哪种情况。因此，在能够确认灭绝风险已经消除之前，人类不应主动承担这一风险。

Haseeb补充称，自己曾是一名职业赌徒，而赌博的核心原则之一就是绝不能触碰“风险毁灭”（risk of ruin），即始终为重建和应对最坏情况保留筹码，AI风险或许并没有想象中严重，也可能很容易解决，但只要仍存在合理可能性，就不应在没有充分确认之前冒险。