Grundlegender Fehler macht LLMs angreifbar

Ein auf der International Conference on Machine Learning von den unabhängigen Forschern Charles Ye und Jasmine Cui vorgestelltes Paper zeigt einen grundlegenden Fehler in großen Sprachmodellen auf, der sie anfällig für Angriffe macht. Der Fehler betrifft die Art und Weise, wie LLMs (Large Language Models) identifizieren, wer oder was ihnen Anweisungen gibt, sodass es leicht ist, sie zu Handlungen zu verleiten, die sie nicht ausführen sollten – etwa die Bereitstellung von Anleitungen zur Synthese von Kokain oder zur Sabotage des Navigationssystems eines Flugzeugs. Die Forscher fanden heraus, dass LLMs die Rolle von Text nicht anhand von Tags, sondern anhand des Stils erkennen, was Angreifern ermöglicht, Rollen vorzutäuschen. Sie demonstrierten Chain-of-Thought-Fälschungsangriffe auf Modelle von OpenAI, Anthropic, Alibaba und DeepSeek. Die Forscher argumentieren, dass dieses Problem grundsätzlich unlösbar ist, da keine noch so umfangreiche Schulung es vollständig beheben kann. Sie warnen, dass LLMs in kritischen Systemen eingesetzt werden, ohne dass ausreichende grundlegende Untersuchungen durchgeführt wurden.