d/acc:一年后的回顾
去年,我写了一篇关于技术乐观主义的文章,阐述了我对技术的总体热情,以及它可能带来的巨大益处,同时也表达了对某些特定问题的谨慎态度,特别是关于超级智能AI及其可能带来的毁灭性风险或不可逆转地剥夺人类权力的风险。
文章的核心观点是倡导一种去中心化、民主且有差异的防御性加速理念。我们应该加速技术发展,但要有针对性地聚焦于那些能提升防御能力而非破坏能力的技术,并致力于分散权力,而非将权力集中在少数精英手中。防御模式应该类似于民主的瑞士,而非中世纪封建主义下的领主和城堡模式。
过去一年里,这些想法得到了显著发展和完善。我在"80,000小时"平台上分享了这些观点,收到了