Otimização de entropia: implementação computacional dos princípios MaxEnt e MinxEnt



Document title: Otimização de entropia: implementação computacional dos princípios MaxEnt e MinxEnt
Journal: Pesquisa operacional
Database: PERIÓDICA
System number: 000313024
ISSN: 0101-7438
Authors: 1
2
Institutions: 1Universidade Federal de Juiz de Fora, Departamento de Analise Economica, Juiz de Fora, Minas Gerais. Brasil
2Pontificia Universidade Catolica do Rio de Janeiro, Departamento de Engenharia Eletrica, Rio de Janeiro. Brasil
Year:
Season: Ene-Jun
Volumen: 22
Number: 1
Pages: 37-59
Country: Brasil
Language: Portugués
Document type: Artículo
Approach: Analítico, descriptivo
English abstract The entropy optimization principles MaxEnt of Jaynes (1957a,b) and MinxEnt of Kullback (1959) can be applied in a variety of scientific fields. Both involve the constrained optimization of entropy measures, which are intrinsically non-linear functions of probabilities. Since each is a non-linear programming problem, their solution depend on iterative search algorithms, and, in addition, the constraints that probabilities are non-negative and sum up to one restrict in a particular way the solution space. The paper presents in detail (with the aid of two flowcharts) a computer efficient implementation of those two principles in the linearly constrained case that makes a prior check for the existence of solution to the optimization problems. The authors also make available easy-to-use MatLab codes
Portuguese abstract Os princípios de otimização de entropia MaxEnt de Jaynes (1957a,b) e MinxEnt de Kullback (1959) encontram aplicações em várias áreas de investigação científica. Ambos envolvem a otimização condicionada de medidas de entropia que são funções intrinsecamente não-lineares de probabilidades. Como constituem problemas de programação não-linear, suas soluções demandam algoritmos de busca iterativa e, além disso, as condições de não-negatividade e de soma um para as probabilidades restringem de modo particular o espaço de soluções. O artigo apresenta em detalhe (com a ajuda de dois fluxogramas) uma implementação computacional eficiente desses dois princípios no caso de restrições lineares com verificação prévia de existência de solução dos problemas de otimização. Os autores também disponibilizam rotinas de fácil uso desenvolvidas em linguagem MatLab
Disciplines: Matemáticas,
Ciencias de la computación
Keyword: Matemáticas aplicadas,
Computación,
Entropía,
Optimización,
Medida de Shannon,
Medida de Kullback,
Modelo Maxent
Keyword: Mathematics,
Computer science,
Applied mathematics,
Computing,
Entropy,
Optimization,
Shannon's measure,
Kullback's measure,
Maxent model
Full text: Texto completo (Ver HTML)