https://mavai.ch/de/regulations/Recent content in Regulierungsnachrichten on Mavai SchweizHugodehttps://mavai.ch/de/regulations/finma/Mon, 01 Jan 0001 00:00:00 +0000https://mavai.ch/de/regulations/finma/<p>Die Eidgenössische Finanzmarktaufsicht (FINMA) beaufsichtigt Banken, Versicherungen und andere Finanzinstitute in der Schweiz. Mit der zunehmenden KI-Einführung im Sektor haben die Erwartungen der FINMA an Modellrisikomanagement, operationelle Resilienz und Governance erhebliche Auswirkungen darauf, wie Organisationen KI-Systeme einsetzen und überwachen.</p> <h2 id="was-die-finma-erwartet">Was die FINMA erwartet</h2> <p>Die FINMA hat noch keine KI-spezifische Regulierung, aber ihr bestehendes Aufsichtsrahmenwerk — insbesondere in Bezug auf Modellrisiko und operationelles Risiko — gilt direkt für KI-Systeme:</p> <ul> <li><strong>Modellvalidierung</strong> — Institute müssen Modelle vor dem Einsatz und laufend validieren und nachweisen, dass sie innerhalb akzeptabler Parameter funktionieren</li> <li><strong>Operationelles Risikomanagement</strong> — KI-Systeme müssen denselben operationellen Risikokontrollen unterliegen wie jedes kritische System, einschliesslich Überwachung, Incident Management und Business Continuity</li> <li><strong>Governance und Verantwortlichkeit</strong> — klare Zuständigkeit und Verantwortlichkeit für KI-Systeme mit dokumentierten Entscheidungsprozessen</li> <li><strong>Prüfbarkeit</strong> — die Fähigkeit, zu erklären und nachzuweisen, wie KI-Systeme zu ihren Ergebnissen gelangen</li> </ul> <h2 id="warum-probabilistisches-testen-wichtig-ist">Warum probabilistisches Testen wichtig ist</h2> <p>Traditionelles Software-Testing fragt: «Liefert diese Funktion die korrekte Ausgabe?» Bei KI-Systemen lautet die Frage: «Funktioniert dieses System innerhalb akzeptabler statistischer Grenzen, konsistent, über die Zeit?»</p>https://mavai.ch/de/regulations/iso-42001/Mon, 01 Jan 0001 00:00:00 +0000https://mavai.ch/de/regulations/iso-42001/<p>ISO/IEC 42001 ist der erste internationale Standard für KI-Managementsysteme (AIMS). Er wurde 2023 veröffentlicht und bietet einen Rahmen für Organisationen, um ihre KI-Nutzung verantwortungsvoll einzurichten, umzusetzen, aufrechtzuerhalten und kontinuierlich zu verbessern.</p> <h2 id="was-er-umfasst">Was er umfasst</h2> <p>ISO 42001 ist ein Managementsystem-Standard — er definiert, <em>wie</em> eine Organisation KI steuern soll, nicht <em>welche</em> spezifische Technologie einzusetzen ist. Wesentliche Anforderungen umfassen:</p> <ul> <li><strong>Risikobewertung</strong> — Identifizierung und Bewertung von Risiken im Zusammenhang mit KI-Systemen, einschliesslich unbeabsichtigter Verhaltensweisen, Verzerrungen und Leistungsverschlechterung</li> <li><strong>Leistungsmessung</strong> — Festlegung von Zielen und Kennzahlen für die KI-Systemleistung mit Prozessen zur Überwachung und Messung</li> <li><strong>Kontinuierliche Verbesserung</strong> — Aufrechterhaltung von Prozessen zur Erkennung, Reaktion und zum Lernen aus KI-Systemausfällen oder Leistungsabweichungen</li> <li><strong>Dokumentation und Nachweise</strong> — Führung prüfbarer Aufzeichnungen, die belegen, dass KI-Systeme die festgelegten Ziele erfüllen</li> </ul> <h2 id="die-implikation-für-das-testen">Die Implikation für das Testen</h2> <p>Klausel für Klausel kehrt ISO 42001 zum selben Thema zurück: Organisationen müssen <strong>messbare, evidenzbasierte</strong> Gewissheit haben, dass ihre KI-Systeme wie vorgesehen funktionieren.</p>