Anthropic stattet Claude mit einem „Not-Stopp“ für riskante Gespräche aus – das ist der Grund | t3n

Noch immer ist es möglich, die Sicherheitsregeln von Chatbots zu umgehen. Um juristische Konsequenzen und Reputationsschäden zu vermeiden, hat Anthropic eine neue Funktion für Claude eingeführt. KI-Chatbots können ein erhebliches Sicherheitsrisiko darstellen. Zwar sind sie mit Maßnahmen ausgestattet, die die Erstellung illegaler Inhalte durch Nutzer:innen verhindern sollen, aber wie Tests gezeigt haben, lassen sich diese […]