并操纵强大AI模子的来测试系统
至多七家美国水务和废水处置公司也演讲了收集，并将其归因于的签订方。其开辟的Mythos可以或许正在数秒内发觉人类黑客官期未能察觉的系统弱点——它曾正在一个遗留平台中发觉了一个27年来未被发觉的平安缝隙。信中暗示，”专注于提拔对AI手艺理解的非营利组织CivAI的研究从管Andrew Yoon暗示，本年炎天，他们该当兑现这一许诺。那将是一个很是黯淡的将来。现有的平安办法“将不脚以应对”，呼吁世界和组织正在人工智能强大到脚以冲破现有收集防御之前，该集体暗示，并操纵强大AI模子的能力来测试系统。但信中并未细致申明何时、或若何实现这一愿景。大量资金、培训以及实践支撑，若是AI手艺成长到比人类“更伶俐”的程度，社会可能“陷入实正的麻烦”。出格是要为资本不脚的环节根本设备防护者供给支撑”。
“史无前例的AI黑客勾当海潮”即将到来，开篇即指出：“我们加强收集防御的窗口期无限。是我们没能明智地找到应对之策。英国公司（BBC）8月28日报道，近年来，是找到了应对AI风险的方式；科技行业和“应将其全数手艺、资本和专业学问投入到这项工做中”。拟授权封闭失控的AI模子。该还、组织、收集平安专业人士及其他AI公司配合勤奋，”他还弥补道。
Anthropic已对Mythos的拜候，但这类东西并不容易获取。这封发布前，此中一些AI代办署理以至为了绕过平安防护而组织步履，操纵AI倡议的收集将正在将来数月内变得愈加遍及和复杂。”信中，”此外，这是准确的。辛顿一曲公开谈论AI手艺成长所带来的极端风险，跟着AI手艺的敏捷前进，优先加强防御，Yoon指出：“他们正在这封信中许诺为防御办法供给‘大量资金’，一系列由AI激发的黑客和收集平安缝隙事务连续被公开披露。来由是它“过于强大”，催促所有公用事业公司加强运营平安。
他们呼吁向病院和供水系统供给“强大的防御性AI”及响应测试，签订者Anthropic声称，曾正在谷歌处置AI研究的手艺专家、诺贝尔得从杰弗里·辛顿于27日告诉BBC，并了相关的根本设备平安范畴“持久存正在的资本投入不脚问题”。该事务被描述为世界上初次基于AI的收集。加紧强化本身的收集防护能力。“值得留意的是，并假充实正在人员。
