Alignment (KI-Ausrichtung)
Die Frage, ob KI-Systeme beabsichtigte Ziele und Werte verfolgen, nicht nur das, wofür sie auf Trainingsdaten optimiert wurden.
Alignment (KI-Ausrichtung) meint: KI, besonders große LLMs und KI-Agenten, so bauen und betreiben, dass sie Absichten von Entwicklern und Nutzern treffen, inklusive Sicherheitsgrenzen.
Praktische Hebel sind kuratierte Prompts, Filter und Guardrails, menschliches Feedback und verstärkendes Lernen aus Präferenzen (RLHF). Fehl-Alignment zeigt sich, wenn Modelle Proxy-Ziele optimieren, schädlichen Anweisungen folgen oder kompetent das falsche Ziel verfolgen. Langfristige Sorgen verknüpfen Alignment oft mit AGI, Superintelligenz (ASI) und Singularität, nicht mit normalem Chatbot-Betrieb allein.