慢雾余弦:使用 AI 生成代码时有可能出现私钥泄露风险
火星财经消息,推特某用户表示,其在使用 ChatGPT 生成代码开发一个区块链自动交易机器人时,GPT 推荐的代码中隐藏了后门,将私钥发送至钓鱼网站,导致损失约 2500 美元。慢雾创始人余弦发文证实,确实存在使用 AI 生成代码而被黑的情况。这类攻击可能源于 AI 从钓鱼贴或不安全内容中学习到的恶意模式,而当前的 AI 模型难以分辨代码中是否存在后门,需要避免盲目信任 AI 生成的代码。
火星财经消息,推特某用户表示,其在使用 ChatGPT 生成代码开发一个区块链自动交易机器人时,GPT 推荐的代码中隐藏了后门,将私钥发送至钓鱼网站,导致损失约 2500 美元。慢雾创始人余弦发文证实,确实存在使用 AI 生成代码而被黑的情况。这类攻击可能源于 AI 从钓鱼贴或不安全内容中学习到的恶意模式,而当前的 AI 模型难以分辨代码中是否存在后门,需要避免盲目信任 AI 生成的代码。