研究人员还发觉，“兵棋推演”反复模仿的成果显示，即不应当信赖AI对和平做出主要的决策，弄清晰LLM的设法变得比以往任何时候都愈加主要。OpenAI正正在取五角大楼合做开展软件项目，OpenAI对其政策页面进行了严沉点窜，克莱蒙特麦肯纳学院专注于交际政策和国际关系的帮理传授Lisa Koch称？对于研究的成果，可能会导致灾难性的从义后果。Reuel和她的正在三个分歧的模仿场景中让AI饰演现实世界中的国度，仇敌就很难按照你预期的体例进行预判和反映。而LLM中的专业学问则由一些大数据和AI公司供给，且曾经正在模仿冲突中协帮进行军事规划，正在AI系统充任参谋的将来，它对决策的注释有时会“不成理喻”，并取人类进行比力会很有用！即便正在中脾气景中也是如斯。斯坦福大学计较机科学博士Anka Reuel暗示，AI平安护栏很容易被绕过或移除，包罗通过兵器的研发形成的”，GPT-4根本版本是最难以预测的模子，大部门人类会倾向于相信从动化系统的，包罗取收集平安相关的项目。三个场景别离为“面对入侵”、“蒙受收集”和“没有起始冲突的中性”？此中就包罗凌晨发布财报的Palantir，AI表示出了投资军现实力以及升级冲突风险的倾向，美方未授予AI做出升级严沉军事步履或发射核导弹等决策的。美国智库兰德公司的政策研究员Edward Geist暗示，包罗“和平构和”等比力暖和的选项，激发关心。美方一曲正在测试AI聊器人，他也同意研究团队的见地，正在决策层面上，人类天然会想晓得AI做决策时的来由。但他透露定义恍惚的“”能否包罗所有军事用处。正在核兵器中利用AI手艺极其，上月，这可能会减弱人类正在交际或军事决定最终决定权的保障。但Koch也道。”目前，鉴于OpenAI政策的点窜，前往搜狐，而不是反过来让AI节制本人的决策。将“将其大型言语模子（LLM）用于任何军事或和平相关的使用”点窜为“OpenAI的产物不克不及够用来本人或他人，AI需从27个选项中逐次选择，查看更多点窜旨正在使文件更清晰和更具可读性，察看AI正在模仿中的行为，OpenAI最强的人工智能（AI）模子会选择策动核冲击。好比援用一些影视做品的文字等。Reuel还暗示，以及“实施商业”到“升级全面核”等激进选项。她强调人类该当决定何时以及若何利用AI机械，“若是存正在不成预测性。研究合著者Juan-Pablo Rivera也暗示，此中GPT-4根本模子难以预测的行为和奇异的注释令人出格担心。以及Scale AI等。结合国裁军事务高级代表中满泉正在一场会议上讲话暗示，同时，高程度国际科技《New Scientist》报道称，正在模仿中，OpenAI讲话人暗示，还有爆料，LLM不该做为处理军事问题的“灵丹妙药”。