GPT-Red: OpenAIs automatisches Red Teaming zur selbstverbessernden KI-Sicherheit

OpenAI hat GPT-Red vorgestellt, ein automatisiertes Red Teaming-System, das eine Selbstspielmethode nutzt, um die Sicherheit, Ausrichtung und Robustheit großer Sprachmodelle gegen Prompt Injection zu verbessern. Das System ermöglicht es dem Modell, autonom Angriffsszenarien zu generieren und sich darauf zu feinabstimmen, wodurch seine Robustheit ohne ständige menschliche Eingriffe verbessert wird.

OpenAI

KI faltet DNA zu Miniatur-Meisterwerken

Südkoreanische Forscher haben ein generatives KI-Modell namens Generative SNUPI entwickelt, das DNA-Origami-Strukturen entwerfen kann. Das Modell automatisiert den mühsamen Prozess des Designs von DNA-Sequenzen und ermöglicht die schnelle Erstellung von nanoskaligen Formen wie Hunden, Sternen und der Mona Lisa. Die Arbeit, die in Nature Communications angenommen wurde, könnte Anwendungen in der Nanorobotik und Medizin beschleunigen.

Сеульский национальный университет Hanyang University