Richtlinie für Verantwortungsvolle KI

Execlave ist eine Plattform für KI-Agent-Governance, die Organisationen dabei unterstützt, KI-Agenten verantwortungsvoll einzusetzen, zu überwachen und zu steuern. Diese Richtlinie beschreibt, wie wir KI-Ethik angehen, welche KI-bezogenen Funktionen unsere Plattform nutzt und welche Verantwortlichkeiten wir mit unseren Kunden teilen.

Unsere Mission

Wir sind überzeugt, dass KI-Agenten einen enormen Mehrwert schaffen können, wenn sie mit angemessener Governance, Überwachung und Verantwortlichkeit eingesetzt werden. Execlave existiert, um es Organisationen leichter zu machen:

• Transparenz zu wahren über das Handeln von KI-Agenten durch umfassendes Tracing und Audit-Protokollierung
• Grenzen durchzusetzen durch Richtlinienregeln, die schädliche oder nicht autorisierte Aktionen verhindern
• Menschliche Aufsicht zu ermöglichen durch Genehmigungsworkflows, Kill-Switches und Alarmierung
• Compliance nachzuweisen durch manipulationssichere Audit-Trails und framework-zugeordnete Nachweise

KI-Funktionen in Execlave

Semantische Richtlinienauswertung

Wenn Kunden die semantische Richtlinienauswertung aktivieren, verwendet Execlave lokal bereitgestellte Open-Source-Large-Language-Models (LLMs), um Agenten-Eingaben zu analysieren und zu bestimmen, ob diese den konfigurierten Governance-Richtlinien entsprechen. Dies ermöglicht eine differenzierte Richtliniendurchsetzung jenseits einfachen Schlagwortabgleichs. Es werden keine Agentendaten an externe KI-APIs übermittelt.

• Kundenkontrolle: Die semantische Auswertung ist pro Richtlinie optional (Opt-in). Kunden können sich ausschließlich auf deterministische regelbasierte Durchsetzung verlassen, wenn dies bevorzugt wird.
• Datensouveränität: Die gesamte KI-Verarbeitung erfolgt innerhalb der Deployment-Infrastruktur — keine Daten verlassen die Umgebung für die KI-Auswertung.
• Open-Source-Modelle: Execlave verwendet Apache-2.0-lizenzierte Modelle ohne Nutzungseinschränkungen oder Datenerhebungsbedingungen.

Anomalieerkennung

Execlave verwendet statistische Machine-Learning-Techniken (EWMA mit saisonaler Zerlegung), um ungewöhnliche Muster im Agentenverhalten zu erkennen. Dies hilft dabei, potenzielle Probleme zu erkennen, bevor sie eskalieren.

• Die Anomalieerkennung läuft auf aggregierten Trace-Daten
• Modelle werden pro Organisation berechnet; keine Vermischung von Kundendaten über Organisationsgrenzen hinweg
• Warnmeldungen werden zur menschlichen Überprüfung generiert, nicht für automatische Durchsetzungsmaßnahmen

KI-gestützte Richtlinienerstellung

Execlave kann KI-gestützte Richtlinienerstellung anbieten, um Kunden bei der Erstellung von Governance-Regeln zu unterstützen. Wenn aktiviert:

• Generierte Richtlinien sind Vorschläge, die einer menschlichen Überprüfung und Genehmigung bedürfen
• Kunden behalten die vollständige Kontrolle darüber, welche Richtlinien aktiviert werden
• KI-Vorschläge beeinflussen die Durchsetzung nicht automatisch

Menschliche Aufsicht

Execlave basiert auf dem Grundsatz, dass Menschen die Kontrolle über KI-Systeme behalten sollten. Wir bieten mehrere Mechanismen für die menschliche Aufsicht:

Kill-Switch

Jeder Agent kann über das Dashboard oder die API sofort angehalten werden. Bei Aktivierung tritt der Kill-Switch in unter 100 ms in Kraft und verhindert unmittelbar, dass der Agent weitere Aktionen ausführt.

Genehmigungsworkflows

Richtlinien können so konfiguriert werden, dass vor der Zulassung sensibler Aktionen eine menschliche Genehmigung erforderlich ist. Genehmigungsanfragen können an Slack oder andere Benachrichtigungskanäle weitergeleitet werden, um eine zeitnahe menschliche Überprüfung sicherzustellen.

Audit-Trails

Jede governance-relevante Aktion wird in einem nur-anfügebaren, kryptographisch verketteten Audit-Log aufgezeichnet. Dies liefert eine vollständige Aufzeichnung für menschliche Überprüfung und Untersuchung.

Alarmierung

Kunden können Alarme für Richtlinienverstöße, Anomalien und andere Ereignisse konfigurieren, die menschliche Aufmerksamkeit erfordern.

Verantwortlichkeiten der Kunden

Execlave stellt Governance-Tools bereit, aber Kunden bleiben für die von ihnen eingesetzten KI-Agenten und die von ihnen verarbeiteten Daten verantwortlich. Im Einzelnen:

Rechtmäßige Nutzung

Kunden sind dafür verantwortlich, sicherzustellen, dass ihre KI-Agenten den geltenden Gesetzen und Vorschriften entsprechen. Execlave hilft bei der Erstellung von Compliance-Nachweisen, garantiert jedoch keine rechtliche Konformität.

Klassifizierung von KI-Systemen

Gemäß Regelwerken wie dem EU AI Act können bestimmte KI-Systeme als hochriskant eingestuft werden. Kunden sind dafür verantwortlich, zu bestimmen, ob ihre KI-Agenten in regulierte Kategorien fallen, und geeignete Kontrollen zu implementieren.

Verantwortung für Inhalte und Ausgaben

Kunden sind für die von ihren KI-Agenten verarbeiteten Inhalte und die von diesen Agenten generierten Ausgaben verantwortlich. Execlave kann durch Richtliniendurchsetzung bestimmte Inhaltskategorien blockieren, die letztendliche Verantwortung liegt jedoch beim Kunden.

Verantwortung für Prompts und Tools

Die Prompts, Tools und Funktionen, die Kunden für ihre KI-Agenten konfigurieren, bestimmen das Agentenverhalten. Execlave bietet Versionskontrolle und Genehmigungsworkflows für Prompts, aber Kunden sind für den Prompt-Inhalt und die Sicherheit verantwortlich.

Sicherheit und Einschränkungen

Wir sind transparent darüber, was Execlave kann und was nicht:

Was Execlave bietet

• Richtliniendurchsetzung bei Agentenaktionen (Blockieren, Warnen, Genehmigung erforderlich)
• Umfassendes Tracing und Audit-Protokollierung
• Anomalieerkennung und Alarmierung
• Mechanismen für menschliche Aufsicht (Kill-Switch, Genehmigungsworkflows)
• Erstellung von Compliance-Nachweisen, die spezifischen regulatorischen Frameworks zugeordnet sind

Was Execlave nicht garantieren kann

• Vollständige Sicherheit: Kein Governance-System kann alle möglichen Schäden verhindern. Defense-in-Depth und menschliche Aufsicht bleiben unverzichtbar.
• Rechtliche Konformität: Execlave ist darauf ausgelegt, Compliance-Bemühungen zu unterstützen, kann jedoch nicht garantieren, dass Kunden alle gesetzlichen Anforderungen erfüllen.
• Agentenverhalten: Execlave regiert Agenten, kontrolliert sie jedoch nicht. Vom Kunden konfigurierte Agenten können innerhalb der erlaubten Richtliniengrenzen dennoch unerwartete Ausgaben produzieren.
• KI-Modelle von Drittanbietern: Das Verhalten von LLM-Anbietern wie OpenAI oder Anthropic, die von Kundenagenten verwendet werden, liegt außerhalb der Kontrolle von Execlave. Wir stellen Tools zur Verfügung, um Agenteninteraktionen mit diesen Modellen zu überwachen und einzuschränken.

Unterstützung von Compliance-Frameworks

Execlave ist darauf ausgelegt, Kunden bei der Einhaltung folgender Frameworks zu unterstützen:

• SOC 2 Type II: Zugriffskontrollen, Überwachung, Change Management, Audit-Protokollierung
• ISO 27001: Informationssicherheitsmanagement, Asset-Verwaltung, Zugangskontrolle
• EU AI Act: Menschliche Aufsicht, Risikomanagement, Aufzeichnungspflicht, Transparenz

Execlave erstellt Compliance-Berichte und Nachweispakete, die spezifischen Kontrollen innerhalb dieser Frameworks zugeordnet sind. Kunden sollten jedoch mit qualifizierten Rechts- und Compliance-Fachleuten zusammenarbeiten, um ihre spezifischen Verpflichtungen zu ermitteln.

Verbotene KI-Nutzungen

Kunden dürfen Execlave nicht zur Steuerung von KI-Agenten verwenden, die darauf ausgelegt sind oder dazu verwendet werden:

• Illegale Inhalte zu generieren oder illegale Aktivitäten zu erleichtern
• Unautorisierte Überwachung oder massenhafte biometrische Verarbeitung durchzuführen
• Deepfakes oder synthetische Medien zu erstellen, die zur Täuschung bestimmt sind
• Personen durch unterschwellige Techniken zu manipulieren
• Schwachstellen bestimmter Gruppen auszunutzen (Kinder, Menschen mit Behinderungen)
• Soziales Scoring durch öffentliche Behörden durchzuführen
• Waffenentwicklung oder autonome Waffensysteme zu unterstützen

Vollständige Details finden Sie in unserer Richtlinie zur akzeptablen Nutzung.

Kontinuierliche Verbesserung

Wir verpflichten uns zur kontinuierlichen Verbesserung unserer Praktiken für verantwortungsvolle KI:

• Wir beobachten neue Best Practices und Vorschriften zur KI-Governance
• Wir engagieren uns in der KI-Sicherheits- und Governance-Community
• Wir berücksichtigen Kundenfeedback in der Produktentwicklung
• Wir überprüfen und aktualisieren diese Richtlinie regelmäßig

Kontakt

Für Fragen zu unseren Praktiken für verantwortungsvolle KI oder zu dieser Richtlinie: