#LLM gateways

Cinque LLM Gateway, cinque fallimenti: i ricercatori leggono tra clienti diversi tramite la prompt cache

Uno studio di misurazione rileva che tutti i relay open source testati espongono per impostazione predefinita letture della cache tra clienti diversi — e la correzione costa meno del 2,5%.

1 h fa