Anthropic zeigt: Warum wir den Gedankenketten von Reasoning-Modellen nicht blind vertrauen sollten | t3n

Gedankenketten haben das Ziel, die Antworten von KI-Modellen nachvollziehbar zu machen. Ein Test von Anthropic beweist aber: Oft verschweigen Modelle, auf welchen Informationen ihre Antworten basieren. Neben aller Begeisterung gibt es auch immer wieder Kritik an den Kompetenzen und Grenzen von KI-Modellen. Interessanterweise kommt diese inzwischen auch aus den eigenen Reihen: Wie Venturebeat berichtet, warnt […]