越狱某些前沿AI模型，简单得令人恐惧

研究人员已证明，利用某些前沿AI模型的训练局限性，可以惊人地轻松破解这些模型。诸如将提示表示为ASCII艺术或使用复杂编码等简单方法，可以绕过安全机制，导致模型产生有害或被禁止的内容。这项研究强调，尽管在安全训练上投入了大量资金，但许多模型仍然容易受到这些低技术攻击的影响。这一脆弱性凸显了确保AI系统强大对齐所面临的持续挑战。