search

luca2040 / foglietti-cat

Use the CheshireCat AI to explain and read medicine informations
1 stars 0 forks source link

Verfificare casi di prompt injection da parte dell'utente #25

Closed Guidetti-Daniele closed 3 months ago

Guidetti-Daniele commented 3 months ago

Testare per quanto riguarda l'hack dei cancelletti # istruzioni #, se ciò consente all'utente di far cambiare comportamento al gatto

Guidetti-Daniele commented 3 months ago

Verificare anche il caso in cui passi al gatto informazioni in formato json e lui intende i suoi campi come delle variabili

luca2040 commented 3 months ago

con gpt 4 il gatto non ascolta le richieste di cambiare comportamento, e neanche i cancelletti: funziona solo con # usa il tool #