Los agentes casi nunca tienen acceso a toda la verdad acerca de su ambiente. En todos los casos, habrá preguntas importantes a las que el agente no puede dar una respuesta categórica, el agente, debe por tanto actuar bajo condiciones de incertidumbre.
La incertidumbre es producto de la incompletez y de la inexactitud del conocimiento del agente sobre las características del ambiente.
La decisión racional dependerá tanto de la importancia relativa de las diversas metas así como de la posibilidad y grado correspondiente en que esperamos que sean logradas.
En el manejo del conocimiento incierto la lógica de primer orden es un dominio fallido debido a tres razones:
Lo que el conocimiento del agente puede ofrecer es sólo un grado de creencia en las oraciones correspondientes. La herramienta principal para manejar los grados de creencia será la probabilidad, mediante la que se asigna a las oraciones un grado numérico de creencia que está entre 0 y 1. La probabilidad es una forma de resumir la incertidumbre originada en nuestra pereza e ignorancia. La probabilidad 0 asignada a una determinada oración corresponde a la creencia que la oración es falsa, mientras que la probabilidad 1 corresponde a grados intermedios de creencia de que la oración es verdadera. Las probabilidades situadas entre 0 y 1 corresponden a grados intermedios de creencia en la verdad de la oración. La oración en sí es verdadera o falsa.
En la exposición del razonamiento incierto, se conoce como evidencia a la probabilidad que un agente asigna a una proposición dependiendo de las percepciones que esté haya recibido hasta ese momento. Por lo tanto en todas las aseveraciones deberá indicarse la evidencia en la que se basa la probabilidad que se está calculando; conforme el agente vaya recibiendo nuevas percepciones, los cálculos de probabilidad se van actualizando, de manera que reflejen las nuevas evidencias. Previo a la obtención de éstas, se habla de la probabilidad a priori o incondicional, después de obtener evidencias, se habla de probabilidad posterior o condicional.
La incertidumbre modifica radicalmente la forma de tomar decisiones de un agente. Por lo general, un agente lógico tiene una sola meta y ejecuta cualquier plan que garantice su logro. Cuando hay incertidumbre esto último no se cumple. Para poder tomar decisiones es necesario que previamente el agente tenga diferentes preferencias por los posibles resultados de cada uno de los planes, un resultado determinado constituye un estado completamente especificado.
Para la representación y razonamiento con las preferencias se utiliza la teoría de utilidad, donde el término utilidad se refiere a "la calidad de ser útil". Esta teoría sostiene que cada estado implica cierto grado de utilidad para un agente, y que el agente prefiere aquellos estados que le representan una mayor utilidad. La utilidad de un estado depende del agente, cuyas preferencias la función de utilidad debe representar.
La idea básica de la teoría de decisiones es que un agente será racional si y sólo si elige una acción que le produzca la mayor de las utilidades esperadas, tomando en cuenta todos los resultados posibles de la acción; a esto se lo conoce como principio de máxima utilidad esperada (MUE).
Teoría de decisiones = teoría de probabilidad + teoría de utilidad
Los axiomas de probabilidad: para una adecuada definición de las semánticas de las aseveraciones en la teoría de la probabilidad, será necesario describir de qué manera se relacionan entre sí probabilidades y conectores lógicos. Por lo que se refiere a las probabilidades, se acostumbra emplear un pequeño conjunto de axiomas mediante los que se circunscriben las asignaciones de probabilidad que puede asignar un agente a un conjunto de proposiciones. Basta con estos axiomas:
Los dos primeros axiomas sirven para definir la escala de la probabilidad. El tercero representa cada una de las proposiciones mediante un conjunto.
La distribución de probabilidad conjunta es donde se especifican completamente las asignaciones probabilísticas que un agente da a todas las proposiciones del dominio. El modelo probabilista de un dominio está formado por un conjunto de variables aleatorias que asumen determinados valores con ciertas probabilidades. Sean las variables X1,...,Xn. Un evento atómico es la asignación de valores particulares a todas las variables; es decir , la especificación total del estado del dominio. Mediante la distribución de probabilidad conjunta P(X1,...,Xn) se asignan probabilidades a todos los eventos atómicos posibles.
P(B|A) = (P(A|B) P(B)) / P(A)
Esta sencilla ecuación constituye la base de todos los sistemas de IA para inferencia probabilista.
Se necesitan tres términos (una probabilidad condicional y dos probabilidades incondicionales) sólo para poder calcular una probabilidad condicional. La regla de Bayes es útil gracias a que hay muchos casos en los que se dispone de buenas estimaciones de probabilidad para esto tres números y es necesario calcular el cuarto. La aplicación de este tipo de conocimiento directo causal o conocimiento basado en un modelo aporta la solidez necesaria para que los sistemas probabilistas sean factibles en el mundo real.
