Optimisation entropique des systèmes de détection distribuée parallèle
Entropy based optimisation for the distributed detection problem
OPEN ACCESS
The optimisation of a parallel distributed detection system with N sensors always leads to a set of 2N + N non linear equations, which is only solved in particular cases, assuming statistical independence of the local observations and for systems constituted by very few sensors. Usually, the number of equations to solve increases very quickly with the number of sensors. The computations become unfeasible.
In this paper, a selection procedure of sensors relevant for the decision process based on the use of Shannon's conditional entropy is developed. Then, these systems are optimized via en entropy based method. This one determines the local thresholds and constructs a decision tree which minimises the decision error probability. This approach allows to avoid the fusion operator choice problem. Moreover, this approach is very simple and operational in computations terms.
Due to the fact that the performances of distributed systems are lower than the centralised ones, the previous optimisation techniques can be applied in the distributed quantification problem taking into account a compromise between the information flow to broadcast to the fusion center, and the performances of the decision system.
Résumé
L'optimisation d'un système de détection distribuée parallèle comprenant N capteurs aboutit toujours à un système de 2N + N équations non linéaires couplées, qui n'est résolu pour l'instant que pour des cas particuliers (en supposant par exemple l'indépendance des observations locales) et pour des systèmes comportant peu de capteurs. Le nombre d'équations à résoudre simultanément augmente très rapidement avec le nombre de capteurs. Les calculs nécessaires à la résolution de ces équations deviennent alors très vite inextricables.
Dans cette contribution, une procédure de sélection de capteurs pertinents pour le processus de décision basée sur l'utilisation de l'entropie conditionnelle de Shannon est développée. Puis, ces systèmes sont optimisés via une méthode entropique. Celle-ci détermine les seuils locaux et construit un arbre de décision (qui représente l'opérateur de fusion) permettant de minimiser la probabilité d'erreur de décision. Les intérêts de cette approche sont de pallier le problème du choix de l'opérateur de fusion, d'être très simple à implémenter, et d'être très peu coûteuse en termes de calculs.
Les performances des systèmes distribués parallèles étant moins bonnes que celles des systèmes centralisés, les techniques d'optimisation précédentes seront étendues au problème de la quantification répartie afin d'obtenir un compromis entre la quantité d'information à envoyer à l'opérateur de fusion et les performances souhaitées du système de décision.
distributed detection, Shannon's entropy, decision tree, distributed quantification
Mots clés
détection distribuée parallèle, entropie de Shannon, arbre de décision, quantification répartie
[1] K.J. Hintz, « A Measure of the Information Gain Attrbutable to Cueing », IEEE Transactions on Systems, Man, and Cybernetics, vol. 21, pp. 434-442, March/April 1991.
[2] K. Kastella, « Event-Averaged Maximum Likelihood Estimation and MeanField Theory in Multitarget Tracking », IEEE Transactions on Automatic Control, vol. 40, no. 6, pp. 1070-1074, June 1995.
[3] A. Wald, « Sequentiel Analysis », Joh Wiley & Sons, New-York, 1947.
[4] P.M. Frank « General Solution of the Robustness Problem in Linear Fault Detection Filters », European Control Conference 91, pp. 1407-1412, édition Hermès, Grenoble, France, July 2-5, 1991..
[5] R.R. Teney and N.R. Sandell, « Detection with Distributed Sensors », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-17, n° 4, pp. 98-101, July 1981.
[6] F.A. Sadjadi, « Hypotheses Testing in a Distributed Environment », IEEE Trans. on Aerospace Electronics Systems, vol. AES, n° 2, pp. 134-137, March 1986.
[7] P.F. Swaszek, « On the Performance of Serial Networks in Distributed Detection », IEEE Trans. on Aerospace Electronics Systems, vol. 29, n° 1 pp. 254-260, Jan. 1993.
[8] Z.B. Tang, K.R. Pattipati, and D.L. Kleinman, « A Algorithm for Determining the Decision Thresholds in a Distributed Detection Problem », IEEE Transactions on Systems, Man, and Cybernetics, vol. SMC-21, pp. 231-237, Jan-Fev. 19912.
[9] Z.B. Tang, K.R. Pattipati, and D.L. Kleinman, « Optimisation of Detection Networks : Part I-Tandem Structures », IEEE Transactions on Systems, Man, and Cybernetics, vol. SMC-21, n° 5, pp. 1044-1059, Sept-Oct. 1991.
[10]Z.B. Tang, « Optimisation of Detction Networks », Ph.D. Dissertation, University of Connecticut, 1990.
[11] P.K. Varshney, « Distributed Detection and Data Fusion », Springer Verlag, New-York, 1997.
[12] Z. Chair and P.K. Varshney, « Optimal Data Fusion in Multiple Sensor Decision Systems », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-22, n°1, pp. 98-101, 1986.
[13] A.R. Reibman and L.W. Nolte, « Optimal Detection and Performance of Distributed Sensor System », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-23, n°1, pp. 24-30, Jan. 1987.
[14] I.Y. Hoballah and P.K. Varshney, « Distributed Bayesian Signal Detection », IEEE T. on Information Theory, vol. IT-35, n° 5, pp. 995-1000, Sept. 1989.
[15] R. Srinivan, « A Theory of Distributed Detection », Signal Processing, 11, pp. 319-327, 1986.
[16] R. Srinivasan, « Distributed Radar Detection Theory », IEEE Proc., vol. 133, part F, pp. 55-60, Inst of Electrical Engineers, England, UK, Feb. 1983.
[17] S.C.A. Thomopoulos, R. Viswanathan, and D.K. Bougoulias, « Optimal Decision Fusion in Multiple Sensor Systems », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-23, n°5, pp. 644-653, Sept. 1987.
[18] S.C.A. Thomopoulos, R. Viswanathan, and D.K. Bougoulias, « Optimal Distributed Decision Fusion », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-25, n°5, pp. 761-765, Sept. 1989.
[19] E. Drakopoulos and C.C. Lee, « Optinimum Multisensor Fusion of Correlated Local Decisions », IEEE Trans. on Aerospace and Electronic Systems, vol. AES-27, n°4, pp. 593-605, July. 1991.
[20] M.P. Carton, D. Pomorski, M. Staroswiecki, « Sélection des capteurs pour systèmes de détection décentralisée par un algorithme d’apprentissage basé sur l’entropie », Quinzième Colloque sur le Traitement du Signal et des Images (GRETSI), tome 2, pp. 917-920, 18-21 septembre 1995, Juanles-Pins, France.
[21] D. Middleton, « Statistical Communication Theory », McGraw-Hill, NewYork, 1960.
[22] T.L. Gabrielle, « Information Criteria for Thresold Determination », IEEE T. on Information Theory, vol. 6, pp. 484-486, Oct. 1966.
[23] I.Y. Hoballah and P.K. Varshney, « An Information Theoretic Approach to the Distributed Detection Problem », IEEE T. on Information Theory, vol. IT-35, n°5, pp. 988-994, Sept. 1989.
[24] D. Warren, P. Willet, and R. Rampertab, « Shannon’s Information in Decetralized Signal Detection », Proc. 23 rd Conf. on Info. Sciences and Systems, Baltimore , Maryland, March 1989.
[25] C. Desrousseaux, « Utilisation d’un critère entropique dans les systèmes de détection », thèse de l’université Lille I, décembre 1998, numéro d’ordre :2381.
[26] D.A. Huffman, « A Method for the Construction of Minimum-Redundancy Codes », in W. Jackson ed., Communication Theory, pp. 102-110, Butterworths Scientific Publications, London, 1953.
[27] J.R. Quinlan, « Learning Efficient Classification Procedures an their Application to Chess and Games », in R.S. Michalski, J.G. Carbonell, and T.M. Mitchell editors, Machine Learning : an Artificial Intelligence Approach, pp. 463-482, Tioga Publishing Company, 1983.
[28] C. Desrousseaux, D. Pomorski, « Optimisation entropiques des systèmes de détection distribuée », Traitement du Signal, volume 16, n°4, pp. 275- 293, septembre 1999.
[29] V.M. Toro Cordoba, « Contribution à l’analyse structurale des systèmes complexes à l’aide de l’entropie et ses généralisations », thèse de l’université de Lille I, mars 1982.