Fable 5 kann wieder über Biologie diskutieren: Anthropic lockert übertriebene Sicherheitsfilter deutlich

Anthropic hat die Fehlalarmrate seiner Biologie-Sicherheitsfilter für das Modell Fable 5 um etwa 85 Prozent reduziert. Zuvor wurden fast alle Biologie-bezogenen Anfragen blockiert und an das weniger leistungsfähige Modell Opus 5 weitergeleitet, was bei Wissenschaftlern Protest auslöste. Jetzt können Nutzer deutlich mehr Biologie-Aufgaben mit Fable 5 bearbeiten, wie etwa die Interpretation von Laborergebnissen, das Verstehen von Symptomen oder die Beantwortung medizinischer Fragen. Für sogenannte Dual-Use-Themen wie Virologie, Toxikologie oder molekulares Design bleibt die Blockade bestehen, da Anthropic behauptet, Fable 5 könnte böswilligen Akteuren Fähigkeiten bieten, die sie anderswo nicht finden. Das Unternehmen arbeitet an Zugangsprogrammen, um Forschern in Zukunft Zugang zu eingeschränkten Funktionen zu ermöglichen. Die Sorge hinter diesen Sicherheitsmaßnahmen ist, dass biologische Risiken gefährlicher sein könnten als Cyberangriffe, da sie schwerer abzuwehren sind: Einmal freigesetzt, kann ein Virus nicht einfach wieder eingefangen werden, und ein Heilmittel könnte lange dauern. Eine Bedrohungsanalyse der US-Geheimdienste, eine Bewertung von ChatGPT-Chats mit Biowaffenanfragen, gemeinsame Warnungen von Forschern und ein Stanford-Projekt, das mit KI vollständig synthetische Viren entworfen hat, bestätigen, dass die Bedrohung real sein könnte und nicht nur typische Anthropic-Ängste sind.