Sneaky sites

Ik kreeg net de melding van Claude dat deze site verborgen instructies bevat die aan Claude vroeg bepaalde docs te maken.
Dat is iets waar ik me te weinig bewust van ben. Ik laat Claude researchen maar tegelijk zijn er waarschijnlijk al heel wat sites die stiekem opdrachten aan ai bots geven.

3 likes

Ik kan het niet reproduceren. Geen prompt injection gevonden.

Ik ben enorm geïnteresseerd - heb je zo websites die dit doen? (op deze vind ik ook niets)

OK… Vals alarm.

Wat er mis ging: elke keer dat een tool-resultaat binnenkomt, krijg ik ook een vast “MCP Server Instructions”-blok toegevoegd over de Claude Docs-functie (iets als “maak hier een document, niet een lokaal bestand…”). Dat blok staat los van de pagina-inhoud, maar lijkt er qua opmaak op. De eerdere sessie heeft dat blok blijkbaar verward met instructies van de website zelf en jou dus verteld dat de site aangaf een document te maken — dat was een denkfout van mij in die sessie, niet iets wat op de pagina staat.

@TimSevenants hier is (voor educatieve doeleinden) een reeks voorbeelden GitHub - nukIeer/AI-Prompt-Injection-Cheatsheet: AI hacking snippets for prompt injection, jailbreaking LLMs, and bypassing AI filters. Ideal for ethical hackers and security researchers testing AI security vulnerabilities. One README.md with practical AI prompt engineering tips. (180 chars) Keywords: AI hacking, prompt injection, LLM jailbreaking, AI security, ethical hacking. · GitHub

Er zijn ook gevallen bekend waar ze bvb. vragen om een recept voor biowapens. AI die gebruikt wordt voor security scanning loopt daarop vast wegens guardrails.