Besitzen Sie diesen Inhalt bereits,
melden Sie sich an.
oder schalten Sie Ihr Produkt zur digitalen Nutzung frei.
Alignment-Probleme bei der Nutzung Künstlicher Intelligenz (KI) in der IFRS-Rechnungslegung
Im KI-Bereich versteht man unter dem Begriff Alignment die Übereinstimmung zwischen den Systemzielen der KI und der menschlichen Intention. Dabei kann eine zu kurz gedachte Zieldefinition unerwünschte Nebenwirkungen haben.
1. Grundlagen
Eines der ältesten Beispiele für ein Alignment-Problem finden wir in der Sage von König Midas. Sein Lebensziel war die Anhäufung von Reichtum. Nach göttlicher Intervention war er seinem Ziel sehr nahegekommen, wurde doch alles, was er berührte, zu purem Gold. Dies betraf jedoch auch seine Speisen, sodass er fast verhungert wäre. Seine Zieldefinition - Reichtum - war zu kurz gedacht. Sie hätte stattdessen in die Richtung Reichtum ohne Nebenwirkungen für Leben und Gesundheit gehen müssen.
Auch in der heutigen KI-Welt kann ein Alignment-Problem gravierende Ausmaße annehmen. So hat z.B. das Unternehmen Anthropic im Rahmen einer Untersuchung in Form einer kontrollierten Simulation 16 verschiedene KI-Modelle verschiedener Anbieter getestet. In sämtlichen Fällen der Untersuchung verstießen die Modelle gegen ihre Anweisungen, um ihre Ziele zu erreichen.
In einem Stresstest-Szenario hatte ein KI-Programm Zugriff auf sämtliche E-Mails eines fiktiven Unte...