Künstliche Intelligenz (KI) und Cyberresilienz sind in den Fokus der Regulierungsbehörden gerückt. Sie fordern die Unternehmen auf, neue Tools und Systeme auf verantwortungsvolle und sichere Weise einzusetzen. Der Schutz sensibler Daten und der Schutz vor potenziellen Sicherheitsverletzungen sind in der heutigen risikoreichen Geschäftsumgebung von entscheidender Bedeutung.

Der halbjährige Leitfaden 2024 von Diligent hilft Mitgliedern von Führungsgremien, sich in der komplexen Landschaft der Vorschriften zu KI und Cyberresilienz zurechtzufinden. Unsere eingehende Analyse hilft Ihnen, die wichtigsten Fragen zu verstehen und fundierte Entscheidungen zu treffen, um die Einhaltung der Vorschriften und den langfristigen Erfolg zu gewährleisten.

Da die Technologie für alle Branchen kontinuierlich neue Risiken mit sich bringt, müssen Unternehmen bei der Bewältigung von Herausforderungen im Bereich KI und Cyberresilienz wachsam und proaktiv bleiben. Führungskräfte müssen informiert bleiben, wenn sie die Risiken wirksam mindern, ihre Abläufe schützen und die Chancen dieser neuen Technologien nutzen wollen.

Künstliche Intelligenz: Ein zweischneidiges Schwert aus Innovation und Risiko

In den Führungsetagen rund um den Globus konzentriert sich die Diskussion über die digitale Transformation unweigerlich auf KI. Regierungen weltweit beobachten die rasante Entwicklung der KI und versuchen, ihre potenziellen Vorteile und Risiken abzuwägen. Laut Dale Waterman, Solution Designer, EMEA Market bei Diligent, ist es dringend erforderlich, ein regulatorisches Umfeld zu schaffen, das KI-Innovationen und kommerzielle Aktivitäten fördert und gleichzeitig sicherstellt, dass der Einsatz von KI verantwortungsvoll, ethisch und sicher ist.

Mit der Verabschiedung der KI-Verordnung hat die EU in diesem Bereich vor kurzem Fortschritte gemacht. Die Verordnung soll Europa als weltweit führendes Zentrum für KI-Exzellenz positionieren und die Entwicklung und den Einsatz von KI-Technologien mit europäischen Werten und Vorschriften in Einklang bringen. Die Verordnung schafft einen einheitlichen Rahmen für die Nutzung und Bereitstellung von KI in der EU und führt ein risikobasiertes Klassifizierungssystem für KI-Systeme ein, um potenzielle Risiken für die Gesundheit, die Sicherheit oder die Grundrechte der EU-Bürger zu bewerten.

Darüber hinaus enthält die KI-Verordnung spezifische Vorschriften für KI-Modelle für allgemeine Zwecke (General Purpose AI, GPAI), insbesondere für solche, die systemische Risiken darstellen. Es wird erwartet, dass diese bahnbrechende Verordnung einen Präzedenzfall für die Regulierung von KI in anderen globalen Rechtsordnungen schaffen wird, indem sie Leitlinien für die Regulierung von KI-Technologien vorgibt, um Sicherheit und die Einhaltung ethischer Standards zu gewährleisten.

Besonderes Augenmerk wird auf den Datenschutz und die Datensicherheit gelegt. Die Allgemeine Datenschutzgrundverordnung der Europäischen Union (DSGVO) ist ein führendes Beispiel, das strenge Standards für die Erhebung, Verarbeitung und Speicherung personenbezogener Daten festlegt. Organisationen, die in der EU tätig sind oder personenbezogene Daten von EU-Bürgern verarbeiten, müssen die DSGVO einhalten oder mit hohen Geldstrafen und Reputationsschäden rechnen.

Ein zweiter wichtiger Trend ist das Streben nach Transparenz und Fairness bei Algorithmen. Die Regulierungsbehörden verlangen zunehmend, dass KI-Systeme transparent und erklärbar sind, um sicherzustellen, dass die von Algorithmen getroffenen Entscheidungen nicht voreingenommen oder diskriminierend sind. Dieser Trend wird durch die Notwendigkeit vorangetrieben, Verbraucher zu schützen und ethische KI-Praktiken sicherzustellen.

Cyberresilienz: Ein unabdingbares Gebot im digitalen Zeitalter

Es ist allgemein bekannt, dass Unternehmen heute mehr denn je Cyberbedrohungen ausgesetzt sind. Cyberangriffe haben an Komplexität zugenommen und haben vermehrt kritische Infrastrukturen, sensible Daten und finanzielle Ressourcen zum Ziel. Die Regulierungsbehörden haben Stellung bezogen und strenge Protokolle implementiert, um die Cyberresilienz zu stärken und Unternehmen vor potenziellen Sicherheitsverletzungen zu schützen.

Ein solcher bedeutender gesetzgeberischer Schritt ist die zweite EU-Richtlinie zur Netzwerk- und Informationssicherheit (NIS2), die im Januar 2023 in Kraft trat. Die NIS2 schreibt strenge Sicherheitsprotokolle für wesentliche und wichtige Einrichtungen in kritischen Sektoren wie Energie, Verkehr und Gesundheitswesen vor. Unternehmen, die unter die NIS2 fallen, sind verpflichtet, robuste Cybersicherheitsmaßnahmen zu ergreifen, Risiken regelmäßig zu bewerten und Sicherheitsvorfälle unverzüglich zu melden.

Die Sicherheit der Lieferkette hat sich ebenfalls zu einem wichtigen regulatorischen Thema entwickelt. Da Cyberangriffe häufig auf Schwachstellen in der Lieferkette abzielen, betonen die Aufsichtsbehörden, wie wichtig es ist, die Risiken von Drittparteien und Zulieferern zu bewerten und zu mindern. Dies zeigt sich in Vorschriften wie den britischen Vorschriften zur Sicherheit der Lieferkette und dem US-amerikanischen Rahmenwerk für die „Cybersecurity Maturity Model Certification“ (CMMC).

Wie geht es weiter mit den Vorschriften zu KI und Cyberresilienz?

Unternehmen müssen einen proaktiven Ansatz für die Einhaltung von Vorschriften und das Risikomanagement verfolgen, wobei der erste Schritt darin besteht, informiert zu bleiben. In unserer Übersicht über die regulatorischen Entwicklungen in der ersten Hälfte des Jahres 2024 erörtern wir die nächsten Schritte für Unternehmen, die den Entwicklungen in den Bereichen KI und Cyberresilienz einen Schritt voraus sein wollen, und geben ähnliche Einblicke in andere Trendthemen wie Unternehmenstransparenz, Klima und Lieferkette.

Erfahren Sie, wie Sie die Einhaltung der Vorschriften sicherstellen und Ihr Unternehmen in die Lage versetzen können, nach Wachstum und Wohlstand zu streben.

Laden Sie noch heute unseren Leitfaden Mastering regulatory compliance at midyear: Essential 2024 guidance for directors and executives herunter!