LLMs zur Detektion von Phishing-Emails

Im Rahmen des Masterprojekts "Künstliche Intelligenz - ChatGPT in AKtion" im WS23/24 wurde von drei Erasmus-Studierenden ein Prototyp für einen Email-Checker entwickelt, der mit Hilfe eines Sprachmodells eine Email in Zimbra mit einem Chrome-Plugin auf Anzeichen von Phishing überprüft

Das Prinzip besteht darin, dass der Emailtext mit einem speziell entwickelten Prompt, der teilweise durch einen genetischen Algorithmus optimiert wurde, mit GPT-3.5 klassifiziert wird. Dabei berücksichtigt GPT bestimmte psychologische Aspekte [SMG22] und kann bei Bedarf auch erklären, warum die Email als Phishing erkannt wurde. Die Erkennungsrate auf einem Datensatz von Kaggle [Cha23] ist relativ hoch, fast 90% der Testmails werden korrekt als "Safe Email" oder "Phishing Email" klassifiziert. Das beste Modell hatte eine FP-Rate von knapp 7%. Das System soll Emails nicht aussortieren, sondern nur einen Warnhinweis in Form einer Ampel einblenden.

Diese Forschung trägt zum Verständnis bei, wie LLMs Cybersicherheits-Tools zum Erfolg verhelfen können. Die Bilder zeigen eine Phishing-Email und die Reaktion auf diese Email mit einer Ampel und einer Erklärung. Die Erklärung erläutert in einfachen Worten, welche Anzeichen von Phishing diese Email aufweist.

[Cha23] Chakraborty, Subhadeep: Phishing Email Detection. http://dx.doi.org/10.34740/KAGGLE/DSV/6090437. Version: 2023. https://www.kaggle.com/datasets/subhajournal/phishingemails/data

[SMG22] Shahriar, Sadat ; Mukherjee, Arjun ; Gnawali, Omprakash: Improving Phishing Detection Via Psychological Trait Scoring. 2022

Vortrag: 15.01.2024

Betreuer: Prof. Dr. Georg Merz, Dipl.-Inform. Ingo Boersch

Categories: Maschinelles Lernen

Pizzabote 2024 - Breitensuche praktisch

In diesem Bachelorprojekt geht es um die Konstruktion und Programmierung eines Roboters, der Pizzas einzeln an Kunden ausliefert. Die Welt ist formalisiert, nicht wirklich essbar und dennoch real und physisch:

"Ihr Roboter erhält den Auftrag, eine oder mehrere Pizzen auszuliefern. Das Streckennetz ist ein einfaches Gitter, in dem es jedoch zu Störungen und damit zu unpassierbaren Kreuzungen kommen kann. Die gute Nachricht ist, dass Sie über globales Wissen verfügen und die aktuelle Karte der befahrbaren Wege dem Roboter kurz vor dem Start zur Verfügung gestellt wird."

Das ist auf einem Mikrocontroller in C mit einer Breitensuche möglich, wenn man sie denn implementieren kann, alle Sonderfälle berücksichtigt und mit 7000 Byte(!) Speicher ohne Heap auskommt. Der Aktionsplan muss dann "nur" noch ausgeführt werden. Das Acoustic Vehicle Alerting System (AVAS) darf natürlich nicht fehlen.

Die Aufgabe wurde in diesem Projekt von den 4 Teams hervorragend gelöst. Bei vier Runden und drei Lieferadressen sind theoretisch 124 Punkte für ein Team möglich, wenn alle Lieferungen funktionieren und kein anderer Roboter die Adresse zuerst beliefert, wie z.B. im Finale. Die Punktetabelle zeigt, wie nahe die Teams der optimalen Punktzahl gekommen sind.

Die Roboter

Wettbewerb am 17. Januar 2024

Es traten 5 Roboter zum Wettbewerb an: PizzaPronto, Form Follows Function, Name1 und driveReal(Fast).

Nach erfolgreichen Einzeldemonstrationen und den ersten drei Runden qualifizierten sich Form Follows Function und PizzaPronto punktgleich für das Finale. Im Finale waren insgesamt drei Pizzen zu liefern, wobei die entscheidende Frage war, wer die dritte Pizza liefern kann. PizzaPronto war durch eine strategisch bessere Wegplanung (siehe Video) in der Lage abzukürzen, die Pizza schneller als der gleich schnelle Gegener zu liefern und zu verteidigen.

Creative Commons Lizenz

Categories: AKSEN, AMS-Projekte, RobotBuildingLab