sábado, 4 de junio de 2011

TEORÍA DE DECISIONES







En la vida cotidiana, nos vemos obligados a tomar decisiones sobre dos o mas alternativas, cada una de las cuales trae diferentes consecuencias, la experiencia nos dice que no sabremos si una decisión es buena o mala solo después de decidir. Por ello nadie tiene la certeza sobre lo que se esta decidiendo, sin embargo la naturaleza se encarga de darnos poco a poco señales que nos sirven para enfrentar las situaciones y tomar la decisión que mejor nos conviene.

La teoría de decisiones proporciona una manera útil de clasificar modelos para la toma de decisiones. Se supondrá que se ha definido el problema, que se tienen todos los datos y que se han identificado los cursos de acción alternativos. La tarea es entonces seleccionar la mejor alternativa. la teoría de decisiones dice que esta tarea de hacer una selección caerá en una de las cuatro categorías generales dependiendo de la habilidad personal para predecir las consecuencias de cada alternativa.

CERTIDUMBRE

RIESGO

INCERTIDUMBRE


Ejemplo. Vendedor de periódico
Un vendedor de periódico tiene las alternativas de comprar de 6 a 10 periódicos, por lo tanto tendra la posibilidad de vender entre 6 a 10 periódicos. cada periódico cuesta $20 y lo vende a  $25.
La matriz de pago se obtiene por la ecuación
Ingresos = (Cantidad vendida* $5)- (Inventario* $20)

a) Criterio maxi-min
Escoger lo mejor de lo peor, comprar 6 periódicos ya que minimiza el riesgo de perdidas.

b) Criterio Min-max
Escoger lo mejor de lo mejor, comprar los 10 periódicos, ya que se obtienen ingresos mayores si se venden todos

.c) Arrepentimiento Min-Max
Lo primero que debemos hacer para encontrar la matriz de costos es buscar en la columna el ingreso mayor de las alternativas de inversión, y luego restarle el valor correspondiente a cada una de las alternativas.
Según el análisis, la mejores opciones son la 6 y 7, ya que representan el menor arrepentimiento


d) Valor esperado

El valor esperado se calcula con la suma producto del vector probabilidad por el vector que representa los ingresos por alternativas así.



La mejor opción son las 6 y 7 ya que al escoger estas opciones se espera mayores ingresos.


e) VEIPER 



Para nuestro ejercicio el VEIPER es de:


VEIPER = (30*0,2) + ( 35*0,2) +( 40*0,2) + (45 *0,2) + (50*0,2) = 40

 Es el valor dispuesto a pagar por un estudio de mercado

viernes, 3 de junio de 2011

TEORIA DE JUEGOS


John von Neumann


John von Neumann (su nombre en húngaro es Margittai Neumann János Lajos) es un matemático húngaro considerado por muchos como la mente más genial del siglo XX, comparable solo a la de Albert Einstein.


Nació en Budapest, Hungría, hijo de un rico banquero judío. Tuvo una educación esmerada. Se doctoró en matemáticas por la Universidad de Budapest y en químicas por la Universidad de Zurich. En 1927 empezó a trabajar en la Universidad de Berlín. En 1932 se traslada a los Estados Unidos donde trabajará en el Instituto de Estudios Avanzados de Princeton.
Sus aportaciones a la ciencia económica se centran en dos campos:

Es el creador del campo de la Teoria de juegos. En 1928 publica el primer artículo sobre este tema. En 1944, en colaboración con Oskar Morgenstern, publica la Theory of Games and Economic Behavior.  La teoría de juegos es un campo en el que trabajan actualmente miles de economistas y se publican a diario cientos de páginas. Pero además, las formulaciones matemáticas descritas en este libro han influido en muchos otros campos de la economía. Por ejemplo, Kenneth Arrow y Gerald Debreu se basaron en su axiomatización de la teoría de la utilidad para resolver problemas del Equilibrio General.

Oskar Morgenstern


Nacido en Gorlitz, Silesia, estudia en las universidades de Viena, Harvard y New York. Miembro de la Escuela Austriaca y avezado matemático, participa en los famosos  "Coloquios de Viena" organizados por Karl Menger (hijo de Carl Menger) que pusieron en contacto científicos de diversas disciplinas, de cuya sinergia se sabe que surgieron multitud de nuevas ideas e incluso nuevos campos científicos.
Emigra a Estados Unidos durante la segunda guerra mundial ejerciendo la docencia en Princeton. Publica en 1944, conjuntamente con John von Neuman, la "Theory of Games and Economic Behavior

TEORÍA DE JUEGOS


Los psicólogos destacan la importancia del juego en la infancia como medio de formar la personalidad y de aprender de forma experimental a relacionarse en sociedad, a resolver problemas y situaciones conflictivas.Todos los juegos, de niños y de adultos, juegos de mesa o juegos deportivos, son modelos de situaciones conflictivas y cooperativas en las que podemos reconocer situaciones y pautas que se repiten con frecuencia en el mundo real. 
El estudio de los juegos ha inspirado a científicos de todos los tiempos para el desarrollo de teorías y modelos matemáticos. La estadística es una rama de las matemáticas que surgió precisamente de los cálculos para diseñar estrategias vencedoras en juegos de azar. Conceptos tales como probabilidad, media ponderada y distribución o desviación estándar, son términos acuñados por la estadística matemática y que tienen aplicación en el análisis de juegos de azar o en las frecuentes situaciones sociales y económicas en las que hay que adoptar decisiones y asumir riesgos ante componentes aleatorios.



Conceptos básicos

Matriz de pago 

En teoría de juegos, la matriz de pagos (a veces también llamada matriz de recompensas) es una matriz que resume la información dada por las funciones de pago en un juego rectangular o en un juego extensivo en su forma normal.


Matriz de pagos par juegos bipersonales de suma cero

Sea (N,Dj,φj) un juego rectangular, bipersonal y de suma cero (es decir, aquel en que la ganancia de un jugador es igual la perdida del otro). Si n y m denotan la cantidad de estrategias del jugador 1 y 2 respectivamente, entonces la matriz de pagos del juego, de tamaño nxm se define entrada a entrada como:

Esto es, la entrada i,j representará el pago que resulta para el jugador 1 cuando éste siguió su estrategia i y el jugador 2 por su parte usó la estrategia j. Para éste tipo de juegos conocer los pagos del jugador 1 es suficiente para conocer los pagos del jugador 2, de modo que la matriz resume toda la información necesaria para calcular dichos pagos.

Ejemplo.

Consideremos el juego piedra, papel o tijera, donde el perdedor debe pagar una unidad monetaria al ganador y en caso de empate no hay pago para ninguno. La siguiente tabla puede considerarse una matriz de pagos para el juego:
Piedra
Papel
Tijera
Piedra
0
-1
+1
Papel
+1
0
-1
Tijera
-1
+1
0
Si numeramos las estrategias piedra, papel y tijera como 1, 2 y 3 respectivamente, la matriz de pagos será por definición:


Matriz de pagos para juegos bipersonales
En general no es posible saber cual es el pago para el jugador 2 conociendo solamente los pagos del jugador 1. Cuando el juego no es de suma cero una matriz con entradas unidimensionales no puede mostrar toda la información sobre los pagos; para lograrlo es necesario introducir un vector bidimensional (que representará el pago para el jugador 1 y 2 respectivamente) en cada entrada de la matriz. En fórmulas, esto quiere decir que la matriz de pagos para un juego bipersonal en general está dada por:

Esto es, la entrada i,j será el vector (a,b), donde a es el pago para el jugador 1 y b es el pago para el jugador 2 cuando el jugador 1 elige la estrategia i y el jugador 2 por su parte elige la estrategia j.

 

Ejemplo.

En el juego de piedra papel o tijera se pueden cambiar los pagos para hacerlo un juego de suma distinta de cero. Supongamos que una persona externa al juego paga una unidad monetaria al ganador, mientras que el perdedor no paga nada. En caso de empate, ninguno de los dos gana nada. Si volvemos a numerar las estrategias piedra, papel y tijera con 1, 2 y 3 respectivamente entonces la matriz de pagos del juego esta dada por:
Desde luego, la matriz de pagos de cualquier juego de suma cero puede expresarse del mismo modo, pero en esos casos habrá información duplicada. En el primer ejemplo la matriz de pago general para juegos bipersonales resultaría:
 Notese que al ser de suma cero la segunda entrada de cada vector es justamente el inverso aditivo de la primera entrada. De ahi que para juegos de suma cero sea suficiente conocer una sola de las componentes y que se elimine la otra.
Punto silla

Un punto de silla es un pago que es simultáneamente un mínimo de su renglón y un máximo de su columna. Para encontrar puntos de silla, Encierre en círculo los mínimos de todos los renglones y meta en caja los máximas de todas las columnas. Los puntos de silla son aquellas entradas que son simultáneamente en círculo y en caja. 
Al paraboloide hiperbólico también se lo denomina silla de montar por su gráfica. Tiene la peculiaridad de contener rectas en su superficie.

Juegos no estrictamente determinado.
Esta clase de juegos tiene más de una alternativa de juego por la que los jugadores podrian ganar, por lo que no están obligados a siempre jugar con la misma estrategia, no presentan un punto silla por que el número menor de todos los máximos de las columnas no es igual al número mayor de los menores de los renglones, dando como resultado un juego no estrictamente determinado.
ESTRATEGIA ALEATORIA:


Es aquella en donde el jugador renglón elige un renglón al azar, de acuerdo con cierta distribución de probabilidad. Por ejemplo, el jugador renglón podría la siguiente distribución de probabilidad:

RESULTADO
PROBABILIDAD
Renglón1
2/3
Renglón 2
1/3



Si el jugador renglón utiliza esta distribución de forma predecible, como cuando selecciona repetidamente el renglón 1 dos veces y luego el renglón 2 una vez, el jugador columna podría descubrir la estrategia de responder con el fin de reducir al mínimo su eficacia. Por lo tanto, el jugador renglón debe emplear algún dispositivo aleatorio, como la rueda giratoria que se mostro anteriormente (ruleta de pueblo), con el cual elegiría 1  dos terceras partes del tiempo.
Los juegos de punta de silla están estrictamente determinados; es decir, los jugadores adoptan estrategias pura, y el curso del juego se determina por adelantado (suponiendo que los jugadores son agresivos y capaces). Los juegos sin punto de silla no están estrictamente determinados; si un jugador emplea una estrategia aleatoria, el curso del juego estará sujeto al azar, y todo puede suceder. No hay valor fijo para el juego; solo hay un valor muy probable o esperado.


Estrategias aleatorias y puras

Si un jugador renglón adopta una estrategia aleatoria, el jugador columna puede responder con una estrategia pura o con una aleatorizada.
Una estrategia pura es un término empleado para designar un tipo de estrategias en teoría de juegos. Cada jugador tiene a su disposición un conjunto de estrategias. Si un jugador elige una acción con probabilidad 1 entonces está jugando una estrategia pura. Esto la diferencia de la estrategia mezclada, donde jugadores individuales eligen una distribución de probabilidad sobre muchas acciones.

Criterio Minimax

Sucede cuando el jugador escoge una estrategia aquella, que entre las estrategias posibles, minimiza el costo de la mejor contra-estrategia del otro jugador. 

Criterio Maximin


Sucede cuando el jugador escoge una estrategia que, entre las estrategias posibles, maximiza el ingreso de las estrategias mas débiles del jugador oponente. En otras palabras, el criterio maximin  selecciona del mayor de los valores mínimos  que pueden resultar cada estrategia.


Estrategias
En teoría de juegos, la estrategia de un jugador es un plan de acción completo para cualquier situación que pueda acaecer; determina completamente la conducta del jugador. La estrategia de un jugador determinará la acción que tomará el jugador en cualquier momento del juego, para cualquier secuencia de acontecimientos hasta ese punto. Un perfil de estrategia es un conjunto de estrategias para cada jugador que especifica completamente todas las acciones en un juego. Un perfil de estrategia debe incluir solamente una estrategia para cada jugador.



Ejemplo para encontrar el valor del juego utilizando los criterios anteriormente explicados




ESTRATEGIA DOMINANTE Y REDUCCIÓN DEL JUEGO


En la primera tabla eliminamos la estrategia C del jugador renglon, ya que la estrategia A del jugador renglon domina dicha estrategia


En la segunda tabla eliminamos la estrategia C del jugador columna, ya que la estrategia B del jugador columna domina dicha estrategia C-
En la siguiente tabla eliminamos la estrategia E del jugador columna, ya que ya estrategia B del jugador columna, domina dicha estrategia E
En la tabla anterior eliminamos la estrategia D del jugador columna, ya que la estrategia B del jugador columna domina dicha estrategia.


En la siguiente tabla eliminamos la estrategia F del jugador columna, ya que la estrategia B del jugador columna domina dicha estrategia.


En la tabla anterior eliminamos la estrategia B del jugador renglón, ya que es dominada por la estrategia A del jugador renglon.


La matriz resultante es
Mostramos los valores maximin y minimax


Como vemos  todas las estrategias en este punto son admisibles.
Se redujo el juego de una matriz 4x6 a un juego 2x2.

EJERCICIO 2
La matriz de pagos de un juego con dos alternativas es la siguiente

Jugador Columna
I
II
Jugador renglón
I  (3/4)
3
-2
II (1/4)
-1
5

La probabilidad de que el jugador renglón juegue con la estrategia I es de ¾ y la probabilidad de que utilice la estrategia II entonces es de ¼

Valor esperado para el jugador Renglon si el jugador columna mantiene la estrategia I


Valor esperado para el jugador Renglon si el jugador columna mantiene la estrategia II


Podemos deducir que el valor esperado a ganar si el jugardor columna juega con la estrategia I es 2, y cuando juega con la estrategia II es de 1/4


La importancia de la Teoría de Juegos esta en jugar de tal manera que el valor esperado obtenido sea el máximo.


Buscamos las probabilidades con las que debe jugar el jugador Renglon para obtener su máximo valor esperado 
De las ecuaciones anteriores, resulta un sistema de ecuaciones lineales asi.


P1+P2 =1

(3)*( P1)+(-1)P2= Vesperado (jugador renglon-estrategia I)

(-2)*(P1)+(5)*(P2) =Vesperado( jugador renglo -estrategia II)

Como P2 = (1-P1), Reemplazamos en la segunda ecuación y tercera ecuación tenemos:

(3)*(P1) + (-1)*(1-P1) = Vesperado (jugador renglón-estrategia I)

(-2)*(P1) + (5)*(1-P1) =Vesperado ( jugador renglo -estrategia II)


Para obtener  probabilidades que me maximicen el valor esperado , utilizaremos el método grafico, para gráficar las funciones le damos valores de P1(0) y  P1(1).

Vesperado(jugador renglon-estrategia I)  

Si P1(0)                                    (3)*(0) + (-1)*(1-0) = -1
Si P1(1)                                    (3)*(1) + (-1)*(1-1)  =3    

Vesperado ( jugador renglo -estrategia II)
Si P1(0)                                    (-2)*(0) + (5)*(1-0) = 5
Si P1(1)                                    (-2)*(1) + (5)*(1-1) = -2

Debemos calcular el valor del punto de intersección entre las resctas ya que en ese punto se encuentra el valor esperado maximo

(3)*(P1) + (-1)*(1-P1)  = (3*P1) -1+ P1   =  4*P1-1
(-2)*(P1) + (5)*(1-P1)  = (-2*P1) +5-(5*P1) = -7*P1+5

Con las dos ultimas ecuaciones hallamos el valor de P1 

(4*P1)-1= (-7*P1)+5
(7*P1)+(4*P1)=5+1

11*P1=6
P1 =6/11
entonces si P1  es 6/11, P2= 5/11

Entonces el valor del juego es de 

(-2)*(6/11)+(5)*(5/11) = 13/11

EUMED.NET, Enciclopedia virtual, Grandes economistas<http://www.eumed.net/cursecon/economistas/neumann.htm>
INVESTIGACION DE OPERACIONES II, Conceptos <http://modelosdeproduccion2.crearblog.com/?p=20>

CADENAS DE MÁRKOV

Andréi Márcov

Andréi Andréyevich Márkov (Андре́й Андре́евич Ма́рков) ( 14 de junio de 1856-20 julio de 1922) fue un matemático ruso conocido por sus trabajos en la teoría de los números y la teoría de probabilidades.
Márkov nació en Riazan. Rusia. Antes de los 10 años su padre, un funcionario estatal, fue trasladado a 
San Petersburgo donde Andréi entró a estudiar en un instituto de la ciudad. Desde el principio mostró cierto talento para las matemáticas y cuando se graduó en 1874 ya conocía a varios matemáticos de la Universidad de San Petersburgo donde ingresó tras su graduación.
Su trabajo teórico en el campo de los procesos en los que están involucrados componentes aleatorios (procesos estocásticos) darían fruto en un instrumento matemático que actualmente se conoce como cadenas de Márkov : secuencias de valores de una variable aleatoria en las que el valor de la variable en el futuro depende del valor de la variable en el presente, pero es independiente de la historia de dicha variable. Cadenas de Márkov hoy día, se consideran una herramienta esencial en disciplinas como la economía, la ingeniería, la investigación de operaciones y muchas otras.




CADENAS DE MÁRCOV 


En la teoría de la probabilidad, se conoce como cadena de Márkov a un tipo especial de proceso estocástico discreto en el que la probabilidad de que ocurra un evento depende del evento inmediatamente anterior. En efecto, las cadenas de este tipo tienen memoria. "Recuerdan" el último evento y esto condiciona las posibilidades de los eventos futuros. Esta dependencia del evento anterior distingue a las cadenas de Márkov de las series de eventos independientes, como tirar una moneda al aire o un dado.

Matriz de transición

 Si pij es la probabilidad de transición del estado i al estado j , ( 0<= i, j <=M)





Se denomina matriz de transición o matriz de probabilidades de transición de un paso 
 Propiedad:
Las filas de la matriz de transición suman 1.
S


Es una matriz cuadrada


Los números que componen la matriz van de 0 a 1, ya que son probabilidades.


Ejemplo:



SOLUCIÓN:


Los estados de la cadena los denotaremos por { 0, 1 , 2} haciendo
corresponder el 0 al bajo y 1 y 2 al primer y segundo piso respectivamente.
Las probabilidades de transición son:
p00 = P(Rn=0 / Rn-1=0), esto es la probabilidad de que el ascensor se encuentre en
la planta baja si en la etapa anterior estaba en la planta baja. Obviamente es 0,
porque se supone que de etapa a etapa el ascensor se mueve.
p01 = P(Rn=1 / Rn-1=0), esto es la probabilidad de que el ascensor se encuentre en
la planta primera si en la etapa anterior estaba en la planta baja. Obviamente es
½. Basta leer el enunciado.
Y así sucesivamente vamos obteniendo las distintas probabilidades de transición
cuya matriz es:




Probabilidad de transicion en K pasos. Teorema Chapman- Kolmogorov

puesto que las probabilidades de transicion son estables en el tiempo, podemos interezarnos en conocer las probabilidades de transicion despues de k pasos, definidas formalmente como:  

Esto es la probabilidad de que el proceso se encuentre en el estado j si k estapas antes se encontraba el estado i.
Si conocemos pij, podemos calcular las pij^(k) haciendo el siguiente razonamiento :si al cabo de m< k pasos nos encontramos en el estado e, la probabilidad de alcanzar el estado j despues de k-e pasos sera:

Como el estado intermedio e puede ser cualquiera, podemos determinar una expresion para la probabilidad de transicion de k pasos:


Haciendo m = 1, m=k-1 obtenemos las ecuaciones de Chapman - Kolmogorov, que permiten obtener las expresiones de las propiedades de transicion en el estado k a partir de las k-1


Lo que indica las ecuaciones es que pueden obtenerse matrices P^(k) de transicion de k pasos a partir de las potencias de la matriz P.


Es decir, que las sucesivas potencias de la matriz P indican las probabilidades de transicion en tantas transicones como se indica en el indice. Esto puede generalizarse aun mas observando que la P^(1) representa la probabilidad de una transicion y que P^(0) = I es la probabilidad en cero transiciones: si no ha habido transicion, el estado es el mismo y por lo tanto la matriz que representa la no.transicion es la matriz identidad.

EJEMPLO


La siguiente matriz de transición muestra las probabilidades de transición de un estado actual, a un estado posterior
Dicha matriz muestra el comportamiento de transición de los clientes de telefonía movil, de las comañias Tigo, Comcel y Movistar.
Con base a la matriz de probabilidad actuales, calcular la matriz de probabilidad de los estados 
P1,P2,P3,P4 Y P5








Cadenas Absorbentes- Matriz Absorbente.


Una cadena de Markov con espacio de estados finito se dice absorbente si se cumplen las dos condiciones siguientes:
1. La cadena tiene al menos un estado absorbente.
2. De cualquier estado no absorbente se accede a algún estado absorbente.
Si denotamos como A al conjunto de todos los estados absorbentes y a su complemento como D, tenemos los siguientes resultados:
Su matriz de transición siempre se puede llevar a una de la forma
P =
   \begin{pmatrix}
      Q & R \\
      0 & I
   \end{pmatrix}
donde la submatriz Q corresponde a los estados del conjunto D, I es la matriz identidad, 0 es la matriz nula y R alguna submatriz.
P_x(T_A < \mathcal{1} \,) = 1 , esto es, no importa en donde se encuentre la cadena, eventualmente terminará en un estado absorbente.
Ejemplo resuelto:

Ingecosmos vende partes decamiones, cuando una empresa compra a ingecosmos, le dan tres meses para pagar si la cuenta no se salda en ese periodo, ingecosmoscancela la cuenta y la remite a una cuenta de cobranza, y da por terminada, por tanto ingecosmo clasifica las cuentas nuevas, con un mes de retraso, con dos meses de retraso, tres meses de retraso, pagadas o incobrables, ingecosmos estudio sus antiguos registros y descubrio que.
a) El 70% de las cuentas nuevas se pagan en un mes, el 60% de las cuentas con un mes de retraso se pagan al final de mes.
b) el 50% de las cuentas con dos meses de retraso se pagan al final del ultimo mes
c) el 60% de las cuentas con tres meses de retraso se remiten a una cuenta de cobranzas

1) Forme la matriz de transición
2) Cual es la probabilidad de que una nueva cuenta se liquide
3) Cual es la probabilidad de que una cuenta de un mes de retraso se vuelva incobrable
4) Si las ventas de ingecosmos son en promedio $ 125 000 al mes, cuanto dinero se aasentara como deuda incobrable

1) Matriz de transición, los estados son, cuentas nuevas , con 1 me, 2 meses y 3 meses de retraso, cuentas pagadas e incobrables.





2) Para calcular la probabilidad que una nueva cuenta se liquide, debemos seguir los siguentes pasos

1 Encontrar la matriz fundamental X
La matriz I 


La matriz (I-N)
Ahora la matriz fundamental es 
2do paso es multiplicar la matriz fundamental por la matriz A absorbente 






Rta//  la probabilidad que una nueva cuenta se liquide es de 0,964

3) la probabilidad de que una cuenta de un mes de retraso se vuelva incobrable, también es posible identificarla en la ultima tabla de potabilidades y es de 0,12

4) Debido a que la probabilidad de que una cuenta nueva se vuelva incobrable es de 0,036 . Entonces si multiplicamos $ 125 000 * 0,036 =  $ 4 500, tenemos la cantidad que se asentara como incobrable mensualmente , para calcular la cantidad al año multiplicamos $ 4500 * 12 = $ 54 000 y aquí tenemos la cantidad que se asentara como incobrable en el año.

Matriz Ergodica
Una cadena de Markov es ergodica si todos sus estados son no nulos, no periodicos y
recurrentes.

Propiedad: Las cadenas de Markov ergodicas cumplen la siguiente propiedad: El limite



ij
Las probabilidades lımites πj se denominan probabilidades de estado estable.

Propiedad: Si los lımites anteriores existen, entonces


Cadenas recurrentes

Una cadena de Markov se dice positivo-recurrente si todos sus estados son positivo-recurrentes. Si la cadena es además irreducible es posible demostrar que existe un único vector de probabilidad invariante y está dado por:
\pi_x = 1/\mu_x \,
 Cadenas regulares

Una cadena de Markov se dice regular (también primitiva o ergódica) si existe alguna potencia positiva de la matriz de transición cuyas entradas sean todas estrictamente mayores que cero.
Cuando el espacio de estados E es finito, si P denota la matriz de transición de la cadena se tiene que:

\lim_{n \to  \mathcal{1} \,}P^n= W
donde W es una matriz con todos sus renglones iguales a un mismo vector de probabilidad w, que resulta ser el vector de probabilidad invariante de la cadena. En el caso de cadenas regulares, éste vector invariante es único.

Estado estable

Las probabilidades de estado estable πj satisfacen las ecuaciones de estado estable


Son, en total, M+2 ecuaciones con M+1 incognitas. Una de las primeras M+1 ecuaciones
depende de las otras.

Propiedad: Las probabilidades de estado estable se relacionan con los tiempos medios de retorno


de la siguiente manera:


existe y es independiente del estado inicial i. Lo denominaremos πj :



Fuente.


WIKIPEDIA, Andreì Markov<http://es.wikipedia.org/wiki/Andr%C3%A9i_M%C3%A1rkov>

F. Hillier - G. Lieberman: Introducción a la investigación de operaciones. Sexta
edición. Ed. Mc-Graw Hill.
Formulario cadenas de Markov <http://www.jorgegalbiati.cl/enero_07/Markov.pdf>