Microsoft hat in einem Bericht publik gemacht, dass es cyberkriminelle Gruppen in mehreren Fällen beim Missbrauch von KI-Diensten ertappt habe.
Der bekannte US-amerikanische Experte für Cyber-Sicherheit Bruce Schneier sieht darin einen Beweis, dass Microsoft und OpenAI ihre Nutzer ausspähen, wie er in einem Blogbeitrag angibt.
Laut dem Microsoft-Bericht wurden verschiedene kriminelle Teams identifiziert, die Dienste von Microsoft und OpenAI genutzt haben. So hätten Gruppen aus China, Iran, Russland und Nordkorea, die zum Teil auch mit den jeweiligen Regierungen in Verbindung stehen, ihre KI-Dienste missbraucht. Dabei ging es etwa darum, Spionageziele zu finden, Satelliten und Radartechnologien zu erforschen und Hacking-Fähigkeiten zu verbessern.
Microsoft-Bericht: Cyberkriminelle nutzen KI für Spionage und Hacking
Die von Microsoft preisgegebenen Informationen sind dabei recht spezifisch. Geht es nach Bruce Schneier, hätte Microsoft nur durch die Spionage von Chatbot-Sitzungen an diese Kenntnisse gelangen können. Das sei dabei nicht überraschend und wohl auch durch die Nutzungsbedingungen der Tools erlaubt, so der Sicherheitsexperte.
In der Tat macht Microsoft kein Geheimnis daraus, dass Nutzerinhalte in KI-Diensten überprüft werden – auch durch Menschen. Bei seinen Azure-OpenAI-Diensten spricht der Konzern etwa von "Missbrauchsüberwachung". Dabei würden zunächst Algorithmen und Heuristiken eingesetzt, um schädliche Inhalte und potenziellen Missbrauch zu erkennen und nach dem Schweregrad einzustufen.
Wenn bestimmte Äußerungen der Nutzer durch die Systeme gekennzeichnet werden, könne es auch zur Überprüfung durch autorisierte Microsoft-Mitarbeiter kommen. Bei Fällen innerhalb des Europäischen Wirtschaftsraums müssen sich auch die Mitarbeiter im EWR befinden, so das Unternehmen. Kunden würden per E-Mail im Falle eines Verstoßes informiert. Azure-Kunden, die mit sensiblen Daten innerhalb der Dienste arbeiten, können der Missbrauchsüberwachung außerdem per Online-Formular widersprechen.
