Sicherheitslücke in KI-Chatbots: Forscher umgehen Schutzmechanismen | t3n

Forschenden ist es gelungen, mit einer automatisierten Methode KI-Sprachmodelle dazu zu bringen, schädliche Antworten zu geben. Bisher gibt es keine Lösung für die Sicherheitslücke. US-Wissenschaftler:innen der Carnegie Mellon University haben am Donnerstag ein Paper veröffentlicht, in dem sie ein Verfahren zeigen, mit dem die Sicherheitsleitplanken verschiedener Large-Language-Modelle (LLM) wie ChatGPT außer Kraft gesetzt werden können. […]