Generative KI im öffentlichen Sektor - und die Rolle der biometrischen Gesichtserkennung

Weltweit richten Regierungen, politische Entscheidungsträger und Regulierungsbehörden ihre Aufmerksamkeit auf das Thema generative künstliche Intelligenz (KI). Diese Technologie senkt die technologischen Hürden für die Erstellung hochrealistischer gefälschter Bilder, Videos und Audios erheblich.

Mit der Entwicklung der generativen KI wird es immer schwieriger, zwischen echten und manipulierten Inhalten zu unterscheiden, was zu Fehlinformationen, Propaganda und Täuschung im großen Stil führt. Dies droht, das Vertrauen zu untergraben und die Grenzen zwischen Realität und Fiktion zu verwischen, was letztlich die Funktion einer effektiven Zivilgesellschaft in Frage stellt.

In diesem Artikel erörtern wir das Thema generative KI sowie die Tools, Methoden und Technologien, die zur Bekämpfung dieser wachsenden Bedrohung zur Verfügung stehen.

Warum stellt die generative KI eine wachsende Bedrohung dar?

KI ist nicht per se schädlich - es gibt viele nützliche und positive Anwendungen. Allerdings gibt es eine Reihe von Faktoren, die zu wachsender Besorgnis über die enormen Möglichkeiten der KI für ruchlose Zwecke führen:

• Das Volumen der durch KI-Technologien ausgelösten Angriffe auf die Cybersicherheit nimmt in alarmierendem Maße zu: So hat iProov beispielsweise herausgefunden, dass Face-Swap-Angriffe immer häufiger werden: Unser Biometric Threat Intelligence Report zeigt, dass Face-Swaps von H1 auf H2 2022 um 295 % gestiegen sind.
• KI-gesteuerte Cyberkriminalität ist viel leichter zugänglich und skalierbar geworden: Gering qualifizierte Kriminelle erhalten Zugang zu den erforderlichen Ressourcen, um ausgeklügelte Angriffe zu geringen Kosten oder sogar kostenlos online durchzuführen. Dadurch wird es für böswillige Akteure einfacher, in den Informations- und Cybersicherheitssystemen von Unternehmen Fuß zu fassen. Ebenso kann die Zugänglichkeit dieser Technologie es Betrügern erleichtern, Personen davon zu überzeugen, dass sie mit einer authentischen Person interagieren, was Cyberkriminalität und Betrug weiter begünstigt.
• Die generative KI wird immer ausgefeilter, und die Menschen können Deepfakes nicht mehr erkennen: Synthetische Medien haben ein Stadium erreicht, in dem esunmöglich ist, mit dem menschlichen Auge zu unterscheiden, was gefälscht und was echt ist - eine manuelle Prüfung ist also keine praktikable Lösung. Auch Ansätze, die den Menschen die Verantwortung aufbürden, synthetische Medien zu erkennen, werden nur eine begrenzte Wirkung haben.

• Wachstum von Crime-as-a-Service: Generative künstliche Intelligenz (KI) stärkt böse Akteure, und die Verfügbarkeit von Online-Tools beschleunigt die Entwicklung der Bedrohungslandschaft. Dies ermöglicht es Kriminellen, fortschrittliche Angriffe schneller und in größerem Umfang durchzuführen. Wenn Angriffe erfolgreich sind, nehmen sie rasch an Umfang und Häufigkeit zu, da sie in etablierten Crime-as-a-Service-Netzwerken oder im Darkweb verbreitet werden, wodurch sich das Risiko eines schweren Schadens erhöht.
• Öffentliche Wahrnehmung und Desinformation: Generative KI bedroht nicht nur einzelne Organisationen oder Regierungen, sondern auch das Informationsökosystem und die Wirtschaft selbst. Dies hat bereits Auswirkungen in der realen Welt: So sorgte kürzlich ein von KI generiertes Bild einer Explosion im Pentagon für einen kurzen Einbruch an der Börse.

Die Auswirkungen generativer KI auf die Gesellschaft sind endlos: Sozialleistungsbetrug, Betrug mit neuen Konten, synthetische Identität, Betrug, Wahlbetrug, Desinformation, betrügerische Social Media Bots, Robocalls und vieles mehr.

Die Gefahren, die sich aus der Kombination verschiedener Arten von KI ergeben - z. B. Bilder, Sprache und Text -, stellen eine synergetische Bedrohung durch sich schnell entwickelnde Technologien dar, die zusammen eingesetzt werden können und massive Auswirkungen haben. Hier erfahren Sie mehr über die kritischen und dringenden Risiken von Sprach-Spoofs im Speziellen.

Der besorgniserregende Trend der generativen KI hat die Aufmerksamkeit von Regierungen und politischen Entscheidungsträgern weltweit auf sich gezogen

Betrachten wir ein paar Beispiele:

• Die Erklärung des Gemeinsamen Handels- und Technologierats USA-EU vom Mai 2023 konzentrierte sich stark auf die Auswirkungen der künstlichen Intelligenz und verwies auf das "rasante Tempo der technologischen Entwicklungen" sowie auf die gemeinsame Verpflichtung zur Vertiefung der Zusammenarbeit in Fragen der künstlichen Intelligenz und versprach, die "Herausforderungen, die sie für die universellen Menschenrechte und die gemeinsamen demokratischen Werte darstellen", zu begrenzen.
• Die risikobasierte EU-Verordnung zum KI-Gesetz klassifiziert KI-Systeme auf der Grundlage ihrer Risikostufen, verbietet letztlich Systeme mit hohem Risiko, schreibt anderen Systemen Vorschriften vor und verlangt Transparenz für Systeme mit geringerem Risiko.
• PCAST-Arbeitsgruppe für generative KI: Der US President's Council of Advisors on Science and Technology (PCAST) hat eine Arbeitsgruppe eingerichtet, die sicherstellen soll, dass KI-Technologien so entwickelt und eingesetzt werden, dass sie für die gesamte Gesellschaft von Nutzen sind.
• Die australische Regierung hat mit einem Diskussionspapier zur Förderung verantwortungsvoller KI eine Debatte angestoßen .
• Die APAC-Staaten drängen darauf, umstrittene Anwendungen von KI zu regulieren.
• Das Vereinigte Königreich hat das britische KI-Weißbuch über einen innovationsfreundlichen Ansatz für die KI-Regulierung veröffentlicht.
• Brasilien hat einen Entwurf für ein Gesetz über künstliche Intelligenz veröffentlicht und Peru hat ein Gesetz über künstliche Intelligenz veröffentlicht.

Letztlich findet jetzt ein Wettrüsten zwischen den zerstörerischen Anwendungen der generativen KI und den Instrumenten statt, die wir zu ihrer Abwehr haben. Das mögliche Ergebnis ist eine Identitätskrise im digitalen Zeitalter, in der die Öffentlichkeit weder den Medien noch den Amtsträgern vertrauen kann.

iProovs Antwort auf den Schutz vor generativen KI-Bedrohungen

Für Regierungen, Unternehmen, Journalisten und die breite Öffentlichkeit wird es immer schwieriger, Betrug, Desinformation und Internetkriminalität zu bekämpfen oder zu erkennen. Dies ist besonders wichtig, da viele wichtige politische Wahlen auf der ganzen Welt bevorstehen.

Was können Regierungen und politische Entscheidungsträger also tatsächlich tun? Welche Regelungen und Technologien gibt es? Zusammengefasst:

• Die biometrische Identitätsüberprüfung des Gesichts mit Liveness und aktiver Bedrohungsüberwachung ist von entscheidender Bedeutung: In einer Zeit, in der herkömmliche Technologien und das menschliche Auge die Echtheit einer Person nicht mehr aus der Ferne überprüfen können, ist eine biometrische Identitätsüberprüfung erforderlich, um sicherzustellen, dass eine Person der wahre Inhaber ihrer Identität, ihres Inhalts und ihrer Position ist. Die effektivsten Lösungen umfassen eine geschäftskritische Liveness-Technologie mit einem einmaligen biometrischen Merkmal und einem aktiven Bedrohungsmanagement, mit dem festgestellt werden kann, ob es sich bei dem vorgelegten Bild um eine echte Person handelt und ob die Person zum Zeitpunkt der Erfassung der Informationen tatsächlich anwesend ist.
• Remote-Onboarding und -Authentifizierung sollten weiter abgesichert werden: Die biometrische Gesichtsüberprüfung hat sich als die sicherste und bequemste Methode zur Online-Identitätsüberprüfung erwiesen, da herkömmliche Methoden wie Passwörter und Einmalcodes versagt haben. Bei der Konfrontation mit generativer KI ist es jedoch von entscheidender Bedeutung, dass die Liveness-Fähigkeiten gründlich bewertet werden. Gut ist nicht gut genug; die Sicherheit muss für Unternehmen an erster Stelle stehen.
• Die Regulierung muss Leitplanken für die moralische Mehrheit setzen: Es ist von entscheidender Bedeutung, rechtliche Rahmenbedingungen zu schaffen, um die ethischen und sozialen Auswirkungen von generativer KI und synthetischen Medien zu berücksichtigen. Dies ermöglicht es den Strafverfolgungsbehörden, die Bösewichte mit klaren Richtlinien ins Visier zu nehmen und gleichzeitig kommerzielle Anreize für Plattformen zu schaffen. iProov hat seine PCAST-Antwort zu diesem Thema verschiedenen Regierungen und politischen Entscheidungsträgern auf der ganzen Welt vorgelegt.

Der Ansatz von Regierungen und politischen Entscheidungsträgern zu AI: Eine Zusammenfassung

Letztlich stellt die generative KI ein erhebliches Risiko für die Gesellschaft dar. Eine klare Politik und Regulierung ist dringend erforderlich, um die Leitplanken zu setzen, die moralische Mehrheit auszurichten und die Reaktion der Unternehmen zu lenken.

Biometrische und Identitätsüberprüfungs-Technologien sind ein entscheidender Rettungsanker für Regierungen und andere Organisationen, die im Zeitalter synthetischer und gefälschter Bilder und Informationen sicherstellen müssen, dass die Menschen auch wirklich die sind, für die sie sich ausgeben.

Aber nicht jede Verifizierungstechnologie ist ausreichend. Mit den Fortschritten der generativen KI müssen auch die Verteidigungssysteme Schritt halten: Unternehmenskritische Lösungen, die sich ständig weiterentwickeln, sind unverzichtbar.

iProov hat seinen Bericht "Identitätskrise im digitalen Zeitalter: Einsatz wissenschaftlich fundierter Biometrie zur Bekämpfung generativer KI" veröffentlicht . Darin untersuchen wir die kriminelle Seite der generativen KI, erörtern das "Vertrauensdefizit", das die Fähigkeit der Staaten, die Ziele der nachhaltigen Entwicklung zu erreichen, zu untergraben droht, und geben Ratschläge zu den Technologien und Verfahren, die zur Bekämpfung dieser Bedrohung erforderlich sind.

Oder buchen Sie noch heute eine Demo der iProov-Lösung hier.