A multi-level cache and method for operation thereof is presented for processing multiple cache system accesses simultaneously. The cache includes a first non-blocking cache receiving data access requests from a device in a processor, and a first miss queue storing entries corresponding to data access requests not serviced by the first non-blocking cache. A second non-blocking cache is provided and receives data access requests from the first miss queue, and a second miss queue stores entries corresponding to data access requests not serviced by the second non-blocking cache. A first arbiter arbitrates between two or more access requests to the first non-blocking cache. A second arbiter can be provided to arbitrate between two or more access requests to the second non-blocking cache. The arbiter is capable of determining if an anticipatory stall signal should be asserted if any of the cache resources, such as a queuing structure, is becoming overloaded. Under such conditions, the arbiter anticipatorily asserts the stall signal to cut-off new cache access requests from the front-end of the processor. The arbiter then dynamically reprioritizes the pending access requests to the cache so that the overflow condition can be eliminated and normal operation can resume. The arbiter anticipatorily de-asserts the stall signal to the processor so that normal operations can resume.

Een geheim voorgeheugen en een methode op verscheidene niveaus voor verrichting worden daarvan gelijktijdig voorgesteld voor het systeemtoegangen van het verwerkings meervoudige geheime voorgeheugen. Het geheime voorgeheugen omvat een eerste non-blocking geheim voorgeheugen de verzoeken van de gegevenstoegang van een apparaat ontvangen in een bewerker, en een eerste juffrouwrij die ingangen opslaan die aan de verzoeken van de gegevenstoegang niet beantwoorden die door het eerste non-blocking geheime voorgeheugen worden onderhouden. Een tweede non-blocking geheim voorgeheugen wordt verstrekt en ontvangt de verzoeken van de gegevenstoegang van de eerste juffrouwrij, en een tweede juffrouwrij slaat ingangen op die aan de verzoeken van de gegevenstoegang niet beantwoorden die door het tweede non-blocking geheime voorgeheugen worden onderhouden. Een eerste leidende figuur arbitreert tussen twee of meer toegangsverzoeken aan het eerste non-blocking geheime voorgeheugen. Een tweede leidende figuur kan worden verstrekt om tussen twee of meer toegangsverzoeken aan het tweede non-blocking geheime voorgeheugen te arbitreren. De leidende figuur kan bepalen als een vervroegd boxsignaal zou moeten worden beweerd als om het even welk van de geheim voorgeheugenmiddelen, zoals een het een rij vormen structuur, overbelast wordt. In dergelijke omstandigheden, beweert de leidende figuur anticipatorily het boxsignaal aan de toegangsverzoeken van het scheidings nieuwe geheime voorgeheugen van de voorkant van de bewerker. De leidende figuur toen reprioritizes dynamisch de hangende toegangsverzoeken aan het geheime voorgeheugen zodat de overstromingsvoorwaarde kan worden geëlimineerd en de normale verrichting kan hervatten. De leidende figuur DE-BEWEERT anticipatorily het boxsignaal aan de bewerker zodat de normale verrichtingen kunnen hervatten.