Source: People’s Republic of China – State Council News in German
China hat seinen ersten internationalen Standard für die Sicherheit Künstlicher Intelligenz (KI) im Automobilbereich auf den Weg gebracht. Die Projektinitiierung wurde von der Standardisierungsverwaltung Chinas (SAC) offiziell genehmigt.
Das richtungsweisende Projekt markiert das erste Mal, dass China die Federführung bei der Entwicklung eines internationalen Standards im Bereich der KI-Sicherheit im Automobilbereich übernimmt.
Der Standard wird gemeinsam von Experten aus China und den USA geleitet, die als gemeinsame Projektleiter fungieren. Darüber hinaus beteiligen sich Fachleute aus Deutschland, Frankreich, Japan und anderen Ländern an seiner Entwicklung.
KI fungiert als das „digitale Gehirn“ intelligenter vernetzter Fahrzeuge (ICVs) und beeinflusst unmittelbar deren Betriebssicherheit. Die derzeit geltenden internationalen Standards zur KI-Sicherheit im Automobilbereich enthalten lediglich allgemeine Prinzipien und Leitlinien. Ihnen fehlen detaillierte Umsetzungsregeln, die speziell auf intelligente vernetzte Fahrzeuge und insbesondere auf Szenarien des autonomen Fahrens zugeschnitten sind. Daher werden sie den spezifischen Sicherheitsherausforderungen der Branche bislang nicht gerecht.
Li Bo, leitender Forscher am Chinesischen Forschungsinstitut für Automobilstandards, erklärte, der neue Standard solle allgemeine Sicherheitsprinzipien in messbare Maßstäbe und praktische Schutzmaßnahmen für das autonome Fahren übersetzen.
„Das Hauptziel dieses Standards besteht darin, quantitative Indikatoren für die KI-Sicherheit sowie umfassende Maßnahmen zur Risikokontrolle für den gesamten Prozess zu etablieren – von der Sicherheitsanalyse und Testvalidierung bis hin zur Betriebsüberwachung. Eine der wichtigsten Kennzahlen für das autonome Fahren ist bekanntlich die Ausfallrate: Sie darf höchstens einen Vorfall pro 10.000 Betriebsstunden betragen. Auf Grundlage dieses quantitativen Indikators muss dieser Wert weiter aufgeschlüsselt und auf KI-Subsysteme in unterschiedlichen Szenarien verteilt werden“, sagte Li.
Der Standard befasst sich systematisch mit den branchenweiten Sicherheitsherausforderungen, die durch große KI-Modelle entstehen, etwa deren mangelnde Interpretierbarkeit und inhärente Unsicherheit. Er analysiert Fehlermodi und Gefährdungsmechanismen entlang der gesamten Prozesskette über den gesamten Lebenszyklus hinweg und übersetzt diese Erkenntnisse in konkrete Anforderungen an die KI-Systemarchitektur, das Modelldesign, die Hardwaresicherheit und die Entwicklung von Datensätzen.
Darüber hinaus führt der Standard ein mehrstufiges KI-Diagnosesystem und mehrdimensionale Redundanzkonzepte ein, um robuste Sicherheitsebenen zu schaffen.
„Mit der Entwicklung dieses Standards sollen Leitlinien für das Risikomanagement über den gesamten Lebenszyklus der KI-Sicherheit in intelligenten vernetzten Fahrzeugen bereitgestellt werden – von Design, Entwicklung und Tests bis hin zur Betriebsüberwachung. Ziel ist es, Sicherheitsrisiken systematisch zu adressieren, die durch Systemausfälle und eine unzureichende Leistungsfähigkeit der KI entstehen können. Diese können unter anderem auf KI-Systemmodelle, Daten, Rechenleistung, Algorithmen sowie Prozesse zur Modellweiterentwicklung zurückzuführen sein“, sagte Li.