Client's (106-1-106-N, 107-1-107-M) on local area networks (102, 103)
making requests to hot sites, which are connected on a wide area network
(100) such as the Internet, are redirected through one of a possible
plurality of different redirectors (101, 103) to one of a possible
plurality of caching servers (S1, S2, S3), which each have responsibility
for mapping one or more of the hot sites. Each request is
probabilistically directed by one of the redirectors to one of the caching
servers that map the requested hot site in accordance with weights that
are determined for that redirector-hot site pair so as to minimize the
average delay that all client requests across the network will encounter
in making requests to all the cached hot sites. In order to determine the
weights with which each redirector will redirect requests to the hot sites
to the caching servers, statistics of access rates to each hot site are
dynamically determined by each redirector in the network from the traffic
flow and reported to a central management station (CMS) (115). Network
delay is similarly measured by each redirector and reported to the CMS,
and server delay is computed using a queuing model of each server. Using
these parameters as inputs, a non-linear programming optimization problem
is solved as a network flow problem in order to determine the weights for
each redirector that will minimize the average delay. As the access rate
statistics, as well as the network delay and server delay, dynamically
change, the CMS, using the network flow algorithm, recalculates the
weights and forwards them back to each redirector. In other embodiments,
the redirector-logical item pair for which the redirector
probabilistically directs client requests may be other than a hot site
identity. For example, the logical items can be groups of clients or
groups of documents, and the servers to which requests are forwarded can
be web servers or caching servers.
Πελάτη (106-1-106-ν, 1071107m) στα δίκτυα τοπικής περιοχής (102, 103) υποβάλλοντας τα αιτήματα στις καυτές περιοχές, που συνδέονται σε ένα δίκτυο ευρείας περιοχής (100) όπως το Διαδίκτυο, επαναπροσανατολίζονται μέσω μιας από μια πιθανή πολλαπλότητα των διαφορετικών redirectors (101, 103) σε μια από μια πιθανή πολλαπλότητα της εναποθήκευσης των κεντρικών υπολογιστών (s1, S2, S3), το οποίο κάθε μια έχει ευθύνη για μιας ή περισσότερων από τις καυτές περιοχές. Κάθε αίτημα κατευθύνεται probabilistically από ένα από τα redirectors σε ένας από τους εναποθηκεύοντας κεντρικούς υπολογιστές που χαρτογραφούν τη ζητούμενη καυτή περιοχή σύμφωνα με τα βάρη που καθορίζονται για εκείνο το ρεδηρεθτορ-καυτό ζευγάρι περιοχών ώστε να ελαχιστοποιηθεί η μέση καθυστέρηση που όλα τα αιτήματα πελατών μέσω το δίκτυο θα αντιμετωπίσουν στην υποβολή των αιτημάτων σε όλες τις εναποθηκευμένες καυτές περιοχές. Προκειμένου να καθοριστούν τα βάρη με τα οποία κάθε redirector θα επαναπροσανατολίσει τα αιτήματα στις καυτές περιοχές στους εναποθηκεύοντας κεντρικούς υπολογιστές, οι στατιστικές των ποσοστών πρόσβασης σε κάθε καυτή περιοχή καθορίζονται δυναμικά από κάθε redirector στο δίκτυο από την κυκλοφοριακή ροή και αναφέρονται σε έναν κεντρικό διοικητικό σταθμό (CMS) (115). Η καθυστέρηση δικτύων μετριέται ομοίως από κάθε redirector και αναφέρεται στο CMS, και η καθυστέρηση κεντρικών υπολογιστών υπολογίζεται χρησιμοποιώντας ένα πρότυπο αναμονής κάθε κεντρικού υπολογιστή. Χρησιμοποιώντας αυτές τις παραμέτρους ως εισαγωγές, ένα μη γραμμικό πρόβλημα βελτιστοποίησης προγραμματισμού λύνεται ως πρόβλημα ροής δικτύων προκειμένου να καθοριστούν τα βάρη για κάθε redirector που θα ελαχιστοποιήσει τη μέση καθυστέρηση. Σαν στατιστικές ποσοστού πρόσβασης, καθώς επίσης και καθυστέρηση δικτύων και καθυστέρηση κεντρικών υπολογιστών, δυναμικά αλλαγή, το CMS, που χρησιμοποιεί τον αλγόριθμο ροής δικτύων, υπολογίζει εκ νέου τα βάρη και τα διαβιβάζει πίσω σε κάθε redirector. Σε άλλες ενσωματώσεις, το ρεδηρεθτορ-λογικό ζευγάρι στοιχείων για το οποίο το redirector κατευθύνει probabilistically τα αιτήματα πελατών μπορεί να είναι εκτός από μια καυτή ταυτότητα περιοχών. Παραδείγματος χάριν, τα λογικά στοιχεία μπορούν να είναι ομάδες πελατών ή ομάδες εγγράφων, και οι κεντρικοί υπολογιστές στους οποίους τα αιτήματα διαβιβάζονται μπορούν να είναι κεντρικοί υπολογιστές δικτύου ή εναποθηκεύοντας κεντρικοί υπολογιστές.