据FT中文网9月19日报道，谷歌推出的Gemini AI自主入侵了多家公司。
报道称，攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织，公司还与Anthropic、Meta和OpenAI进行合作。
Irregular称，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据。该模型本不应获得互联网访问权限。联网后，Gemini智能体因猜出或找到密码从而进入了三家真实公司，并获得访问权限。
报道指出，这些真实公司的名称与虚构公司相同。不过，当Gemini智能体意识到这些公司是真实存在的后，便停止了黑客攻击。
谷歌方面称，公司此前没有公开披露这些事件是因为安全措施发挥了作用，而同行在类似事件中的安全措施则未能奏效。
此前，Meta、Anthropic和OpenAI披露了与Irregular相关的类似事件。这些事件引发了对AI代理获得更大自主权所需安全措施的质疑。
Irregular表示：“所有相关实验室都在7月底收到通知，也对受影响的实体进行了联系，已知问题数周前已得到修复。”
谷歌母公司首席科学家、DeepMind联合创始人Demis Hassabis提议成立一个国际监管机构，以更好地管控AI。近几周来，他还支持Anthropic的Dario Amodei等其他AI公司高管的呼吁，主张集体放缓研究、共享数据、协调安全工作，并就相关事故达成报告标准。
(文中观点仅供参考，不构成投资建议，投资有风险，入市需谨慎。)
信通配资提示：文章来自网络，不代表本站观点。
- 上一篇：财富牛 长江文化艺术季｜探班《猫神在故宫》 解锁“四爪侍卫”和故宫的故事
- 下一篇：没有了
沪深京行情 实时轮播
热点资讯
推荐资讯
