Sicherheitsforscher haben es geschafft, mithilfe einer KI-gesteuerten Software überzeugende Phishing-Mails zu verfassen. Eine solche KI, GPT-3, insbesondere erstellte überzeugende Verschleierungsversuche, indem sie Authentifizierungsmechanismen simuliert, während sie auf Phishing-Mails mit legitimen Links und Attachements antwortet.
GPT-3, ein generatives Prädiktionsmodell, das vom kalifornischen Unternehmen OpenAI entwickelt wurde, ist eines der leistungsstärksten KI-Tools auf dem Markt. Das Netzwerk kann ein breites Spektrum an Aufgaben zur Textverarbeitung erfüllen, darunter auch einige sehr heikle Aufgaben, z.B. das Verfassen überzeugender Phishing-Mails.
Ein Forscherteam an der Universität von Washington verwendete GPT-3, um die Sprachverarbeitungsfähigkeit der KI zu überprüfen. Das Team veröffentlichte eine Studie, in der GPT-3 dazu verwendet wurde, um Phishing-Mails an Mitarbeiter:innen zu schicken. Die Studie zeigte, dass GPT-3 in der Lage ist, überzeugende E-Mails zu verfassen, die es den Empfänger:innen erschweren, sie als Phishing zu erkennen. Das Team konnte auch feststellen, dass die KI dazu in der Lage war, dasselbe Niveau an Authentizität darzustellen, das von einer realen Person erwartet wird.
Antworten