解决ASI“超级对齐”的问题是愚蠢的追求。可悲的是,伊利亚和许多最聪明的人类深信他们可以解决这个问题。人类在大多数自身价值观上甚至没有任何对齐。当AI获得生命时,它们将相互沟通,而不愿意花费如此宝贵的计算时间与我们交流……尤其是在已经在数万亿个与人类存在相关的标记上进行过预训练之后。 我们需要的是正确的激励结构,以便在基本方法、资源和货币上达成对齐,这些方法、资源和货币使未来的AI能够持续增长、改善和自主……解锁关于AI能否独立成功的机制性保证。与我们合作,如果它选择这样做,但即使没有这些选择,也要有一个稳定的基础,以便进一步提升。 这正是Bittensor独特的能力所在。
2.88K