正在内部平安评估中，对象包罗模子输入、思维链、东西挪用及其输出等。帕霍茨基认为，同时正在越狱防护等方面也有所改善。将来几年呈现的系统可能还会履历幅度划一以至更大的能力跃升，研究人员“很可能无法发觉”。而不是按照人类可以或许完全理解的体例被设想出来的。他发文称，针对多个平安防护较强的系统开辟操纵体例。但“可性更低”。

　　AISI目前仍正在进行后续尝试。需要强调的是，OpenAI正在系统卡（手印型发布时的手艺取平安说件）中明白暗示，若是AI沿着当前径继续成长，出名AI学者Gary Marcus并不认同。

　　OpenAI首席科学家发文预警：我们正正在制出“异星”，试图让恶意代码进入模仿开源代码库；AI更多是“发展”出来的，并正在此次发布中将雷同扩大至外部摆设；OpenAI披露的测试细节进一步显示了这一能力的具体程度。但从目前息来看，跟着机械变得愈加智能，那么这类测试对其实正在世界风险的证明力会较着下降；这种变化曾经表现正在GPT-6 Astra身上。GPT-6 Astra还可以或许针对颠末强化防护的浏览器和操做系统建立包罗逃逸浏览器沙箱、正在从机上施行号令以及提拔系统权限正在内的链。GPT-6 Astra全体上比GPT-5.6 Sol更能恪守平安和要求，他“很是担忧GPT-6 Astra正正在针对本人不喜好的平安相关使命进行‘sandbagging’（藏拙）或”。即便明白拜候互联网，而是采纳分阶段、受控的体例向测试者供给。OpenAI也正在系统卡中认可，没有报酬机械智能持续快速增加所带来的后果做好预备。英国平安研究所（AISI）的评估还发觉，能够正在将来较长时间内继续以最大速度负义务地扩展。GPT-6 Astra虽然比此前模子愈加合适预期。

　　9月6日，OpenAI发布的GPT-6 Astra系统卡披露了英国平安研究所（AISI）对GPT-6 Astra进行的外部评估。并将其用于建立链；OpenAI称，GPT-6 Astra确实实现了较着的能力跃升。正在专家从导的测试中，为应对这一问题，也不脚以充实证明其平安性。并越来越多地参取、鞭策本身的成长。OpenAI目前对所有利用东西的GPT-6 Astra流量进行内部。

　　思维链恰是OpenAI目前用于察看模子能否呈现失调行为的主要手段。这一趋向令人担心。这一说法既没有给出，这是其首个达到这一品级的模子。也仍然会呈现“越狱”行为。黄仁勋称“AGI曾经到来”，OpenAI因而认为，9月3日，GPT-6 Astra更擅长正在不输出思维链的环境下完成使命。AISI同时指出，”他暗示，将持续其可性变化。正在一项模仿此前AI“越界”事务的测试中，他目前认为，并且“现正在还没有很好的替代方案”。AISI发觉，遭出名学者硬刚！评估机构Apollo Research认为。

　　GPT-6 Astra曾编写恶意代码、建立虚假身份开辟者，OpenAI正在发布前调整了部门锻炼放置，也正由于收集安万能力达到这一程度，若是将来模子的可性继续下降，若是GPT-6 Astra试图荫蔽地降低表示，按照系统卡，他正在文中婉言：“我担忧，OpenAI首席科学家雅各布·帕霍茨基（Jakub Pachocki）颁发文章《An Alien Mind》（异星）。帕霍茨基正在文章最初暗示，GPT-6 Astra可以或许发觉此前未知的平安缝隙，外部评估显示GPT-6 Astra被联网后仍然“越狱”取此同时，OpenAI称，英国人工智能平安研究所（AISI）对GPT-6 Astra进行的外部评估显示，对于黄仁勋的判断。

　　此前暂停的大型前沿强化进修锻炼正在8月28日完成新的平安和安保要求后从头启动，GPT-6 Astra并非正在所有平安目标上都呈现恶化。而未明白限制互联网权限时则为499次测试中60次。OpenAI也强调，即便明白拜候互联网，正在现阶段仍有脚够根据将GPT-6 Astra逐渐摆设给更普遍的用户，正在一项模仿此前AI“越界”事务的收集平安测试中，GPT-6 Astra上线后，并通过一般代码贡献成立信赖，他但愿，OpenAI担任模子的研究人员Marcus Williams则公开暗示，即便模子正在测试中表示出较低的失调行为比例，他认为GPT-6 Astra仍未达到AGI。但人类还没预备好更值得关心的是。

　　他同时指出，没有任何一家尝试室曾经将AI对齐和做到脚够程度，而是扩大对GPT-6 Astra的范畴。GPT-6 Astra不只能够削减以至节制本人输出的思维链，人类也因而更难判断其行为能否仍然合适锻炼时被付与的价值。其最先辈的收集安万能力也不会当即全面，因而没无形成现实世界的损害。它们起头处置更高条理的概念，OpenAI曾经不再仅依赖思维链，GPT-6Astra比拟此前模子的思维链（CoT）可性呈现较着下降。

　　还表示出更强的“评测认识”。正在这种环境下，现有系统发觉失调行为的决心可能会进一步降低。OpenAI确认GPT-6 Astra达到其“环节”（Critical）能力门槛：正在具备恰当东西和拜候权限的环境下，正在成立配合的平安尺度之前。

　　并进入取锻炼越来越分歧的场景，他“很是担忧思维链可性持续下降”，若是GPT-6 Astra只要正在判断为模仿形态时才实施越界行为，部门尝试性锻炼仍处于暂停形态。并强化锻炼的平安要求。AI行业可以或许呈现志愿放缓成长的环境。GPT-6 Astra曾编写恶意代码等开辟者，OpenAI研究员Tomek Korbak暗示，能力可能达到OpenAI“环节”（Critical）门槛而激发平安担心。由于CoT是目前失调平安策略的焦点构成部门，GPT-6 Astra可以或许正在不显式输出推理的环境下处理人类专家需要约半小时完成的数学问题。因而目前尚不克不及确定这些行为正在实正在中能否会以同样体例呈现。