Entropy Optimisation for Distributed Detection Systems. Optimisation Entropique des Systèmes de Détection Distribuée

Entropy Optimisation for Distributed Detection Systems

Optimisation Entropique des Systèmes de Détection Distribuée

Christophe Desrousseaux Denis Pomorski 

Laboratoire d'Automatique et d'Informatrique Industrielle de Life, UPRES A 8021 , Université des Sciences etTechnologies de Lille, Cité Scientifique, Bâtiment P2 59655 Villeneuve d'Ascq cedex, France

Page: 
275-293
|
Received: 
11 March 1999
|
Accepted: 
N/A
|
Published: 
31 August 1999
| Citation

OPEN ACCESS

Abstract: 

In the general framework of data fusion, detection theory allows to distinguish a finite set of situations from observations. Bayes and Neyman-Pearson criteria are generally used in order to develop optimal detection rules. Nevertheless, in some applications (in particular when the a priori probabilities Pjj = 0, 1 of the hypotheses are uncertain or when one of them is near zero), it could be interesting to consider the optimisation of the quantity of information which is relevant for the detection problem. This approach could be used in digital communication problems where the information quantity sent is more interesting than the information itself. For such systems, an entropy based criterion seems to be of interest . Using such a criterion, we recall the entropy optimisation results for centralised detection networks . Within the framework of parallel distributed detection, we suggest to optimise the local detectors without taking into account the fusion problem, that we optimize separately. The main interest of this approach is that its implementation is simple. We recall then the results of the simultaneous optimisation of the local detectors and of the fusion operator. We also use an informational criterion for the optimisation of serial distributed networks. Finally, the different optimisation results are compared on an illustrative example. This allows to underline the very interesting robustness properties with respect to rare events of the informational approach, as opposed to the classical one . 

Résumé 

Dans le contexte général de la fusion de données, la théorie de la détection permet de discriminer de façon optimale, à partir d'observations, un nombre fini de situations. Classiquement, les critères de Bayes et de Neyman-Pearson sont utilisés dans la littérature. Pourtant, dans certaines applications (en particulier lorsque les probabilités a priori Pjj = 0, 1 des hypothèses sont mal connues, ou si l'une d'entre elles est proche de zéro), il pourrait s'avérer intéressant de baser le problème d'optimisation sur la quantité d'information pertinente pour le problème de détection. Cette approche pourrait notamment s'adapter aux problèmes de communication numérique où l'on s'intéresse davantage à la quantité d'information transmise, plutôt qu'à l'information elle-même. Pour de tels systèmes, un critère entropique peut être intéressant. En utilisant un tel critère, nous rappelons les résultats de l'optimisation entropique des architectures de détection centralisée. Dans le cadre de la détection décentralisée parallèle, nous proposons d'optimiser les détecteurs locaux sans prendre en compte le problème de la fusion, que nous optimisons séparément . L'intérêt principal de cette approche est qu'elle offre une solution simple à mettre en oeuvre. Nous rappelons alors les résultats de l'optimisation simultanée des détecteurs locaux et de l'opérateur de fusion. Nous proposons également d'utiliser le critère informationnel dans le cadre de l'optimisation d'une architecture décentralisée série. Enfin, une comparaison des résultats de l'optimisation de toutes ces architectures sur un exemple illustratif nous permet de mettre en évidence des propriétés très intéressantes de robustesse vis-à-vis d'événements rares de l'approche informationnelle, contrairementà l'approche classique. 

Keywords: 

Data fusion, distributed detection, optimisation, Shannon's entropy.

Mots clés 

Fusion de données, détection décentralisée, optimisation, entropie de Shannon

1. Introduction
2. Utilisation d'un Critère Entropique dans le Cadre de la Détection Centralisée
3. Utilisation d'un Critère Entropique dans le Cadre de la Détection Décentralisée Parallèle
4. Utilisation d'un Critère Entropique dans le Cadre de la Détection Décentralisée Série
5. Exemple Illustratif
6. Conclusions
Annexe 1
Annexe 2: Fonctions de Fusion Monotones
Annexe 3
  References

[1] P.K. Varshney, Distributed Detection and Data Fusion , Springer Verlag, New-York, 1997. 

[2] D. Middleton, Statistical Communication Theory, McGraw-Hill, New-York, 1960.

[3] T.L. Gabrielle, «Information Criteria, for Threshold Determination », IEEE Trans. on Information Theory, vol.6, October 1966, pp.484-486.

[4] LY. Hoballah and P.K. Varshney, «An Information Theoretic Approach to the Distributed Detection Problem », IEEE Trans. on Information Theory, vol.IT-35, n°5, September 1989, pp.988-994.

[5] D. Warren, P. Willet, and R. Rampertab, « Shannon's Information in Decentralized Signal Detection », Proc. 23rdConference on Info. Sciences and Systems, Baltimore, March 1989.

[6] H. Ventsel, Théoriedesprobabilités, Ed, MirMoscou, 1973. 

[7] R. Ash, Information Theory, John Wiley and Sons, 1965. 

[8] R.R. Tenney and N.R. Sandell, « Detection with Distributed Sensors », IEEE Trans. on Aerospace and Electronic Systems, vol.AES-17, n°4, July 1981, pp.98-101. 

[9] F.A. Sadjadi, « Hypotheses Testing in a Distributed Environment >>, IEEE Trans. on Aerospace and Electronic Systems, vol.AES-22, n°2, March 1986, pp. 134-137. 

[10] Z. Chair and P.K. Varshney, « Optimal Data Fusion in Multiple Sensor Detection Systems >>, IEEE Trans. on Aerospace and Electronic Systems, vol.AES-22, n° 1, January 1986, pp.98-101. 

[11] S.C.A. Thomopoulos, R. Viswanathan, and D.K. Bougoulias, « Optimal Decision Fusion in Multiple Sensor Systems », IEEE Trans. on Aerospace and Electronic Systems, vol.AES-23, n°5, September 1987, pp.644-653. 

[12] S.C.A. Thomopoulos, R. Viswanathan, and D.K. Bougoulias, «Optimal Distributed Decision Fusion », IEEE Trans. on Aerospace and Electronic Systems,vol.AES-25, n°5, September 1989, pp.761-765.

[13] A..R. Reibman and L.W. Nolte, « Optimal Detection and Performance of Distributed Sensor System », IEEE Trans. on Aerospace and Electronic Systems,vol.AES-23, n° 1, January 1987, pp.24-30.

[14] LY Hoballah, On the Design and Optimisation of Distributed Signal Detection and Parameter Estimation Systems, Ph.D. Dissertation, Syracuse University, November 1986. 

[15] I.Y. Hoballah and P.K. Varshney, « Distributed Bayesian Signal Detection », IEEETrans.on Information Theory,vol.IT35, n°5, September 1989, pp.9951000. 

[16] Z.B. Tang, Optimisation of Detection Networks, Ph.D. Dissertation,University of Connecticut, 1990. 

[17] R. Srinivasan, « Distributed Radar Detection Theory >>, IEEEProc.,vol.133, Part F, Inst. of Electrical Engineers, England, UK, February 1986, pp .55-60. 

[18] E. Drakopoulos and C.C. Lee, « OptimumMultisensorFusion of Correlated Local Decisions », IEEE Trans. on Aerospace and Electronic Systems, vol.AES-27, n°4, July 1991, pp.593-605. 

[19] P.F. Swaszek, « On the Performance of Serial Networks in Distributed Detection », IEEE Trans. on Aerospace and Electronic Systems, vol.AES29, n°1, January 1993, pp.254-260. 

[20] Z.B. Tang, K.R. Pattipati, and D.L. Kleinman, « Optimisation of Detection Networks:Part I- Tandem Structures », IEEETrans. on Systems, Man, and Cybernetics, vol.SMC-21, n°5, Sept.-Oct. 1991, pp. 1044-1059.