Drei französische Austauschstudierende haben am Fachbereich Informatik und Medien einen Prototyp für einen "Email-Checker" entwickelt, der mit Hilfe eines Sprachmodells eine Email in Zimbra auf Anzeichen von Phishing überprüft. Der E-Mail-Text wird mit einem speziell entwickelten Prompt, der teilweise durch einen genetischen Algorithmus optimiert ist, mit dem Sprachmodell GPT-3.5 klassifiziert. Dabei soll GPT bestimmte psychologische Aspekte berücksichtigen und kann dann auch erklären, warum die E-Mail als Phishing erkannt wurde. Die Erkennungsrate auf einer Datenmenge von Kaggle (=größte Data-Science-Community mit leistungsstarken Tools und Ressourcen) war relativ hoch: fast 90% der Testemails wurden korrekt als "Safe Email" oder "Phishing Email" eingeordnet. Wir wollten mehr dazu wissen und haben bei den Studierenden nachgefragt:
- In welchem Semester studieren Sie welchen Studiengang und in welchem Kurs/Projekt haben Sie sich mit diesem Thema befasst?
Wir studieren im Wintersemester des THB-Masterstudiengangs Informatik als Erasmus-Austauschstudierende. In Frankreich sind wir Studierende im letzten Jahr "d'École d'ingénieurs" in der Fachrichtung Cybersecurity. Wir haben dieses Projekt im Rahmen des Moduls "Master-Projekt Künstliche Intelligenz" durchgeführt, das von Prof. Dr. Merz und Herrn Boersch betreut wurde. In diesem Modul geht es um die Künstliche Intelligenz.
- Was genau war Ihre Aufgabe?
Das Thema des Projekts lautete "GPT in Aktion" und wir hatten die Aufgabe, die Fähigkeiten von GPT (einem LLM der Firma OpenAI) zu erforschen und dann ein Thema für ein Experiment auszuwählen, um einen wissenschaftlichen Artikel zu schreiben. Im Laufe des Projekts wurden mehrere Treffen mit den verschiedenen Gruppen organisiert, um den Fortschritt des Projekts zu präsentieren und Feedback von den verschiedenen Teilnehmern des Moduls zu erhalten.
- Wie sind Sie vorgegangen und was haben Sie erreicht?
Um Phishing-E-Mails zu erkennen, haben wir das sogenannte "Prompt-Engineering" eingesetzt und auch einen Ansatz realisiert, der "einen genetischen Algorithmus" beinhaltet. Die erste Technik bestand darin, GPT "das Sprechen beizubringen", um die besten Ergebnisse zu erzielen. Im zweiten Schritt wurden biologische Konzepte wie Mutation und (natürliche) Selektion in ein Computerprogramm implementiert, wodurch wir in der Lage waren, noch bessere Ergebnisse zu erreichen. Unsere Ergebnisse sind recht vielversprechend, da wir mithilfe der Methode des "Prompt-Engineering" eine maximale Genauigkeit von 91% erreichen konnten, die wir aus einer Stichprobe von 600 E-Mails erhalten haben.
- Wie hat ChatGPT Ihnen geholfen?
ChatGPT hat uns in vielerlei Hinsicht geholfen: Zunächst einmal ist es das wichtigste Werkzeug in unserem Kampf gegen die Mailflut, da GPT-3.5-turbo bestimmt, ob es sich um eine Phishing-Mail handelt oder nicht. Unsere Aufgabe war es, ChatGPT mit Anweisungen zu versehen, die es am besten in die Lage versetzen, Phishing-Mails korrekt zu erkennen.
- Wie geht es für Sie weiter? Ist das Thema für Sie abgeschlossen oder werden Sie sich weiter damit beschäftigen?
Wir drei werden nun ein sechsmonatiges Praktikum im Bereich Cybersicherheit in Frankreich beginnen, das den Abschluss unseres Ingenieurstudiums bilden wird.
Was das Projekt zur Erkennung von Phishing-E-Mails betrifft, so ist es für uns leider beendet, da wir die THB in wenigen Wochen verlassen werden. Dennoch haben wir noch viele Ideen für das Projekt. Denn obwohl wir erste Ergebnisse erzielt haben, möchten wir Tests mit größeren Stichproben durchführen. Außerdem möchten wir unsere Implementierung des genetischen Algorithmus korrigieren und verbessern. Wir hoffen, dass dieses Projekt von anderen Studierenden fortgesetzt wird oder weitere ähnliche Projekte inspiriert.
- Wie haben Sie sich an der THB und in Deutschland gefühlt? Was sind Ihre Pläne für die Zukunft?
Wir haben das Leben an der THB sehr genossen, es war sehr angenehm und wir konnten uns entspannt unserem Studium widmen, andere Studierende kennenlernen und verschiedene Orte in Deutschland besuchen. Unsere Zukunftspläne sehen vor, zunächst unser Praktikum im Bereich Cybersecurity bei großen französischen Konzernen absolvieren. Wir hoffen, dass wir uns dort beweisen können und unserem beruflichen Ziel, einen ersten unbefristeten Arbeitsvertrag im September 2024 zu unterschreiben, nichts im Wege steht.
Vielen Dank für das Interview und alles Gute für Eure Zukunft!