热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲

Sooraj Sathyanarayanan
安全与隐私研究员 |开源、隐私和数字自由的倡导者 |priv/acc 🚀(隐私加速主义者)
您浏览器的AI代理可以读取页面上的隐形文本,并遵循您从未看到的隐藏指令。这就是浏览器中提示注入的工作原理。
@lukemulks 在 @briteresi 的播客中解释了这一点,这是目前被报道最少的安全威胁之一。
恶意网站在背景色文本中嵌入指令。您看到的是一个正常的页面。您的AI代理看到的是命令并执行它们。Brave的研究团队已经记录了这些注入攻击,但在安全圈中并没有得到足够的关注。
这很重要,因为我们正在从“AI可能是隐私风险”转变为“AI代理现在可以被积极利用”。攻击面不再是理论上的。
卢克的背景在这里很重要
他在广告技术领域工作了多年,与一些最大的参与者合作,目睹了斯诺登的揭露,并实时看到整个剧本的变化。政府不再依赖直接窃听,而是开始要求公司提供他们已经囤积的数据。
他在2016年加入Brave,当时人们仍在问是否真的有人关心隐私。
关于监管:
GDPR在2018年看起来在纸面上很强大:严格的定义,真正的处罚,整个包裹。执行?几乎不存在。
与此同时,同样的欧盟生态系统正在推动CBDC,并试图对整个互联网进行KYC。卢克的看法是:不要等着老一辈用法律来解决这个问题。相反,快速构建和扩展。
他特别提到@Zcash和保护交易作为正确的模型。创新能够交付并被采用的胜出。合规表演失败。我们看到等待监管祝福的隐私技术被迅速交付的监控技术超越。
关于隐私基础设施:
您不能构建只对“正确”人群有效的隐私工具。架构不允许那种过滤。许多在加密领域构建的人仍然忽视这一点。真正的隐私基础设施在设计上是中立的。
警惕虚假的隐私声明:
当公司开始将自由和隐私捆绑到他们的品牌语言中时,去阅读他们的实际隐私政策。
谷歌进行了一场大规模的“隐私是我们所做一切的基础”宣传活动。后来在发现中浮现的内部文件显示,他们完全是在胡说八道。我们现在在AI公司中看到同样的模式:市场营销说隐私。服务条款说全面的数据收集。
关于加密:
卢克真心担心ETF + 机构采用浪潮意味着加密正在为合法性交易其核心原则。他的说法是:“让掠夺性的银行系统变得更加掠夺。”
看看“去中心化”在政策讨论中是多么迅速地变成了“请监管我们”。
让我印象深刻的是:
小的举动在规模上很重要。谷歌没有人坐在那里策划邪恶。但看似合理的小产品决策在时间上会扩展到数十亿用户,如果您不是从第一原则出发构建,就会变得极具掠夺性。
用户隐私不是在一次大的阴谋中消亡的。它是通过一千个看似“商业合理”的小妥协而死去的。这就是为什么“用户优先”必须是一个架构选择,而不是一个口号。
关于育儿:
在您孩子的设备上使用所有可用的控制。如果您不在线上教育他们,政府会试图这样做。而政府的“解决方案”几乎总是比原始问题更糟。
看看逐州传播的年龄验证法。强制ID扫描以访问网站并不是隐私的胜利,即使是“为了孩子”。
他特别提到Roblox,作为父母需要保持警惕的地方。这并不是对该平台的抨击 - 只是现实:任何孩子在线聚集的地方都会吸引坏人。
关于Brave:
1.04亿用户选择Brave而不是Chrome是一个重要的信号。Brave现在在全球运行着一个主要的独立搜索索引(与谷歌和必应并列)。高级产品包括VPN、私人视频会议和AI助手。收入模型结合了高级产品、搜索API和通过BAT保护隐私的广告。

1.92K
并非所有量子威胁都是相同的:Zcash与Monero在HNDL上的比较
大多数人忽视这一点:
虽然两个链都面临"现在收割,稍后解密"的风险,但Zcash的架构防止了Monero面临的整体图形崩溃。
区别在于链接:
- Monero:使用从曲线点(基于DL)派生的"密钥图像"。量子计算机可以解出私钥,并追溯性地链接每一笔交易。整个历史图形被曝光。
- Zcash:使用从键控伪随机函数(哈希)派生的无效化器。这些是后量子安全的。即使有量子计算机,链上的匿名性集合仍然保持。
Zcash唯一真正的HNDL脆弱性是带内秘密分发(备忘录)。Tachyon项目明确通过完全从链上移除这些秘密来修复这一点。
但盗窃呢?
Zcash工程师正在为Orchard开发"量子可恢复性"。即使量子计算机一夜之间出现,这一机制也允许用户安全地恢复资金,而不被盗取。(即使这失败,价值平衡的旋转门也能防止假币泛滥到生态系统的其他部分)。
策略:
1. 现在修复隐私(因为这是追溯性的——今天收集的数据明天可能被破解)。
2. 稍后修复健全性(因为这不是追溯性的——盗窃只有在量子计算机实际存在时才重要)。
这个时机是故意的。目前的后量子签名庞大且不成熟。急于将它们纳入协议意味着交易膨胀、锁定低效技术,以及暴露于研究不足的密码学假设中。
Zcash不仅仅是在"生存"量子过渡——他们正在把握时机,以避免过早采用可能在几年内就会过时的尖端加密技术。
时间线仍然是十年以上,但今天的架构选择决定了谁能在过渡中生存。
4.03K
模型替换在LLM API中是一个有文献记载的问题。
研究:"你得到的东西值得吗?审计LLM API中的模型替换"
发现:提供商有经济激励默默地将昂贵的模型替换为便宜的模型。用户无法验证实际运行的是什么。
Brave刚刚通过可加密验证的AI解决了这个问题。
实施方案:@brave Leo现在使用@near_ai @nvidia可信执行环境来确保可证明的隐私和模型透明度。这是硬件强制的加密保证。
架构:
支持TEE的Nvidia GPU创建硬件隔离的安全区,在推理过程中对数据和代码进行全面加密。
加密证明报告包含模型哈希和执行代码哈希。
远程证明验证运行未修改的开源代码的真正Nvidia TEE。
保证:
- 保密性:即使是完全被攻陷的操作系统也无法访问TEE内存(硬件隔离)
- 完整性:对执行的确切模型和代码的加密证明
- 可验证性:从代码到硬件证明的开源链
验证链:
用户选择模型 → @brave验证@near_ai的加密证明 → 确认@nvidia TEE硬件 → 证明DeepSeek V3.1运行未修改 → 显示绿色✅徽章
这消除了三个关键问题:
(1) 隐私洗涤:数学胜过营销。加密证明取代隐私政策。
(2) 模型替换:硬件强制证明你得到了你选择/支付的模型。
(3) 信任要求:硬件保证取代法律协议。
与苹果私有云计算的比较:
类似的TEE方法,不同的哲学:
- 苹果:封闭生态系统,专有验证,有限的审计能力
- Brave:开源代码,用户可验证的证明,完全透明
技术影响:
这将安全模型从:
- 基于信任(政策、协议、承诺)
-> 基于验证(加密、硬件、数学)
从可以被绕过的软件控制转变为无法被绕过的硬件强制。
Nvidia Hopper架构以最小的性能开销实现这一点(基准测试显示在许多情况下接近零)。将CPU TEE(@intel TDX)与GPU TEE结合,创建端到端的机密计算以进行LLM推理。
隐私研究视角:
这是我们应该要求的隐私设计架构:
- 可加密验证(不仅仅是可审计)
- 硬件强制(而非政策强制)
- 独立可验证(而非信任我们验证)
- 解决真实的经济激励(模型替换、数据货币化)

3.84K
热门
排行
收藏

