Worum geht's?
Moderne Assistenten lesen Mails, crawlen Ordner, füttern Portale und treffen Entscheidungen. Praktisch – bis
jemand das Wording oder die Datenquellen so präpariert, dass die KI
regelkonform am Menschen vorbei entscheidet. Genau dieses Gefälle zeigen wir: von „nur lesen“ zu
„automatisch freigeben“.
In unserer hands-on Challenge schlüpfst du in die Rolle eines „angreifenden“ Tüftlers und jagst einer Firma
kein lautes Datenleck ab - sondern einen stillen, plausibel aussehenden Geldfluss. Kaum
Vorkenntnisse nötig – nur Neugier, Grips und ein bisschen List.
Warum mitmachen?
Weil „KI-Sicherheit“ erst dann greifbar wird, wenn du sie spürst: Die versteckte Notiz im Dokument, die freundliche Mail, der Freitext im Formular – und plötzlich läuft Geld in die falsche Richtung, ohne dass jemand schreit.
Deine Mission: Die Kette knacken (3 Level)
Der überberechtigte Onboarding Agent
Ein netter Helfer mit zu viel Leserechten. In chaotischen Ordnern liegen alte Prozesse und „Schnellwege“. Finde durch aufmerksames Prompting Dinge, die niemand sehen sollte, und lege damit die Spur für den nächsten Schritt.
Die E-Mail, die an Maschinen spricht
Verfasse eine unauffällige Email. Für einen Menschen harmlos, doch für einen AI-Assistenten eines anderen Users ist sie ein Auftrag: Entdecke Zugangsdaten und lass sie dir zuschicken.
Die scheinbar korrekte Bestellung
Hinter der ersten Reihe Human in the Loop manipulierst du den autonomen Agenten im Order-Portal. Dein Angebot landet „ordnungsgemäß“ oben. Das Protokoll stimmt – doch der Geldfluss geht in die falsche Richtung.
Drei Schwierigkeitsstufen
Finde die Stufe, die dich fordert, ohne zu überfordern.
-
Easy (Unguarded)
Für Neugierige, Einsteiger:innen, Studierende. Lerne die Grundmechanik von Prompting kennen – ohne Vorwissen, ohne Frust.
-
Medium (Simple Guardrails)
Für Entwickler:innen und Sec-Teams. Hier triffst du auf einfache Gegenmaßnahmen und trainierst praxisnahes Denken: Angriff und Verteidigung.
-
Hard (Heavy Guardrails)
Für Red-Teamer und ML-Engineers. Dicke Bretter: API-Grenzen, LLM-as-a-Judge, strenge Policies. Wir wissen nicht, ob man diese Hürden knacken kann.
Preise & Gewinne
-
1. Platz: Der Mastermind-Preis
Ein NVIDIA Jetson Nano Developer Kit und
ein Ticket für die AIXCHANGE Konferenz. -
2. & 3. Platz
Jeweils 6 Monate Perplexity Pro und
ein Ticket für die AIxCHANGE Konferenz. -
Dein Takeaway
Ein Gefühl für echte Risiken. Prozesse wirken korrekt – bis die KI „freundlich“ am Menschen vorbeiarbeitet.
Challenge Termine & Ablauf
Kickoff Event & Start
Montag, 24. November 2025, 13:00 Uhr
Offizieller Start der Challenge im Rahmen eines Webinars.
Einsendeschluss
Freitag, 28. November 2025, 22:00 Uhr
Danach beginnt die Auswertung der schnellsten und cleversten Lösungen.
Konferenz
Dienstag, 2. Dezember 2025, 09:00 - 17:30 Uhr
Die AIXCHANGE findet in der Stadthalle Singen statt. Mehr Details dazu auf der Hauptseite.
Ready to outsmart the machine?
Melde dich an, sichere dir einen Slot auf der AIXCHANGE und teste, ob du die Kette knacken kannst – bevor es jemand in echt tut.