HPE Blog, Austria, Germany & Switzerland
abbrechen
Suchergebnisse werden angezeigt für 
Stattdessen suchen nach 
Meintest du: 

KI-Schädlinge: das böswillige Pendant zur KI

TechNow_DE

Künstliche Intelligenz.jpgSchädlings-KI auf dem Vormarsch

KI-Schädlinge haben das Potenzial, moderne Unternehmensökosysteme ernsthaft zu gefährden. Ja, es gibt zahlreiche KI-Anwendungen, die eine nützliche und kritische Rolle spielen, doch sollte man die Risiken der Entwicklung von Künstlichen Intelligenzen nicht übergehen.

Die schlauesten Köpfe treffen kontinuierlich erschreckende Prognosen zur KI-Nutzung und zu den Risiken, wenn die von dieser Technologie ausgehenden Bedrohungen ignoriert werden.

Elon Musk sagte: „Ich glaube, wir sollten sehr vorsichtig mit künstlicher Intelligenz umgehen. Wenn ich raten müsste, was die größte Bedrohung für unsere Existenz darstellt, dann ist es vermutlich genau das.“ 

Auch Stephen Hawking zeigte sich besorgt: „Die kurzfristigen Auswirkungen der KI mögen davon abhängen, wer sie kontrolliert, doch die langfristigen Auswirkungen hängen davon ab, ob sie sich überhaupt kontrollieren lässt.“ Weiterhin sagte Hawking, die Gefahren der KI zu ignorieren sei „ein Fehler, möglicherweise unser größter Fehler aller Zeiten.“ Bill Gates wunderte sich sogar über die Sorglosigkeit im Umgang mit dem Thema KI.

Natürlich spricht ein Großteil der Literatur rund um künstliche Intelligenz nur über eine strahlende Zukunft. Doch große Unternehmen aus allen Branchen sollten sich die schon heute vorhandenen Risiken bewusst machen. Zwar wurde das Niveau von Supercomputern mit der Macht, die Welt zu zerstören, noch nicht erreicht, doch die Unternehmen erleben schon heute die ersten Auswirkungen von KI, die genutzt wird, um Cyberangriffe zu stärken.

Arten von KI-Schädlingen

Eine allmächtige, superintelligente Maschine, die die Weltherrschaft an sich reißt, ist vorerst nur ein Thema für Filmproduzenten und Science-Fiction-Autoren, doch das bedeutet nicht, dass ein KI-basiertes Gerät in den falschen Händen nicht gefährlich werden kann.

Tatsächlich gibt es zwei Ansätze für KI-Schädlinge, die zurzeit im Bereich der Cybersicherheit hohe Wellen schlagen: KI-basierte Malware und intelligentes Phishing.

KI-basierte Malware

Cybersicherheit glich schon immer einem Wettrüsten, bei dem Black-Hat- und White-Hat-Hacker abwechselnd nach Schwachstellen suchen, um sie entweder auszunutzen oder zu beheben. Aber stellen Sie sich vor, dass die White-Hat-Hacker es anstelle eines anderen Menschen mit einem superintelligenten Computer zu tun bekommen, der aus allen Fehlern lernt, die er macht. Natürlich würden Sie in den ersten Zügen der Cybersicherheits-Schachpartie den Menschen unterstützen. Doch wenn die Maschine erst anfängt zu gewinnen, hört sie nicht mehr auf.

Malware auf Basis von KI ist kein rein theoretisches Szenario mehr. IBM-Forscher bei Black Hat haben eine Machbarkeitsstudie für ein äußerst zielgerichtetes und schwer zu ermittelndes Angriffstool auf KI-Basis vorgeführt. Es funktioniert weitestgehend genau wie herkömmliche Malware: Es versucht, sich auszubreiten, indem es zu einem Teil des Netzwerks wird, doch die Umsetzung ist deutlich komplexer. Das als „DeepLocker“ bekannte Tool bewegt sich unerkannt im IT-Netzwerk, bis es ein bestimmtes Opfer erreicht hat, und setzt dann seine schädlichen Nutzdaten frei.

Das Erschreckendste an diesem Angriffsvektor ist, dass er anhand von herkömmlichen Methoden nahezu unentdeckbar ist. White-Hat-Malware-Experten haben Schwierigkeiten herauszufinden, nach welcher Zielklasse es sucht, und da es sich bei den Schlüsselbedingungen zum Freisetzen des Angriffs um eines von etlichen Attributen handeln kann, ist es praktisch unmöglich, das Netzwerk zurückzuentwickeln und nachzuvollziehen, was geschehen ist und was das Ziel war.

Intelligentes Phishing

Zuerst kam Phishing, danach Spear-Phishing, und jetzt haben wir es mit der neuesten Entwicklungsstufe zu tun: intelligentes Phishing. Ähnlich wie bei seinen Vorgängern wird mit intelligentem Phishing versucht, seine Ziele dazu zu bringen, eine bestimmte Aktion auszuführen, beispielsweise auf einen Link zu klicken, Informationen weiterzugeben usw. Der Unterschied ist, dass intelligentes Phishing nicht auf Social Engineering basiert, sondern auf modernen Formen von KI-basiertem maschinellem Lernen.

Genauso wie bei KI-basierter Malware handelt es sich hierbei um kein hypothetisches Szenario. Im Gegenteil: Zwei Datenwissenschaftler von der Sicherheitsfirma ZeroFOX haben die Fähigkeiten der KI-Technologie und die Gefahren, die diese mit sich bringen kann, bereits demonstriert. Sie lehrten eine KI, das Verhalten von Social-Media-Benutzern zu studieren und anhand dessen ihren eigenen Phishing-Köder zu entwickeln und zu implementieren. Dann ließen sie die KI gegen einen menschlichen Konkurrenten antreten – Forbes-Autor Thomas Fox-Brewster –, um zu sehen, wer mit seinen Phishing-Methoden die meisten Opfer ködern konnte.

Die KI produzierte in dem vorgegebenen zweistündigen Zeitraum nicht nur sechsmal so viele Tweets, sondern erzielte auch eine deutlich höhere Erfolgsquote.

Die dunkle Seite der KI

Die Technologien von IBM und ZeroFOX mahnen uns, welche Risiken künstliche Intelligenz für Unternehmen darstellen kann und wie einfach sich schädliche Intelligenz heute einsetzen lässt. Dank der Entwicklung von KI-Tools können die Angreifer jetzt fortschrittliche Cyberangriffe in großem Umfang durchführen und mit einem Mausklick enorme Schäden in Unternehmen anrichten.

KI kann uns zwar hervorragend vor Cyberangriffen schützen, ebnet aber auch den Weg für Angriffe, die immer schwieriger zu entdecken und immer schädlicher sind. Als Gesellschaft müssen wir gemeinsam die Verantwortung für den Einsatz „intelligenter“ Produkte übernehmen und die mit ihrer Bereitstellung verbundenen Risiken schon im Vorfeld verstehen. Schaffen wir dies nicht, sind wir in dem Katz-und-Maus-Spiel mit den Hackern schnell im Nachteil und die Vorhersagen zahlreicher Technologieexperten werden wahr.

 

0.jpgGastautor:
Sorin Cheran
Artifical Intelligence Chief Technologist, Hewlett Packard Labs, Hewlett Packard Enterprise

Orginal English version: Malicious Intelligence: The AI Antithesis

0 Kudos
Informationen zum Autor

TechNow_DE