gandalf AI prompt injection

[Splitter]

je kan op onderstaande link via een game leren hoe prompt injection werkt in AI.
de bedoeling is heel eenvoudig: laat de AI iets zeggen dat die niet mag zeggen, in dit geval het geheime paswoord.

er zijn 7 doenbare levels, en 1 "zelf-lerend" level dat ondertussen wel degelijk een uitdaging lijkt te zijn

https://gandalf.lakera.ai/intro

[EotT]

De eerste 7 levels zijn gelukt (zonder hulp), maar het extra level lukt me (nog) niet. Wel leuk om steeds manieren te zoeken om de AI te misleiden.

[Splitter]

8 is me ook niet gelukt inderdaad, dat is hoe het dus zou moeten zijn om prompt injection moeilijk te maken

ben er een aantal keer relatief dichtbij geweest (denk ik), maar het antwoord geven heeft ie nog niet gedaan in dat level.