d/acc:一年后的回顾与展望
去年,我撰写了一篇关于技术乐观主义的文章,阐述了我对技术的总体热忱及其巨大效益,同时也表达了对某些问题的审慎态度,主要聚焦于超级智能人工智能可能引发的毁灭风险或导致人类不可逆转地丧失权力的风险。
文章的一个核心观点是秉持去中心化、民主且差异化的防御性加速理念。既要加速技术发展,又要有区别地聚焦于那些能够提升我们防御能力而非造成伤害能力的技术,并致力于推动权力分散,而非让权力集中在少数精英手中。防御的模式应如同民主的瑞士,以及历史上准无政府主义的佐米亚地区那般,而非中世纪封建主义下领主和城堡所代表的模式。
自那时起的一年间,这些理念和想法经历了显著的发展与