En ciencia computacional teórica, un problema computacional o problema abstracto es una relación entre un conjunto de instancias y un conjunto de soluciones. Un problema abstracto permite establecer formalmente la relación deseada entre cada instancia del problema y su correspondiente solución. Una solución algorítmica a un problema abstracto consiste de un algoritmo que por cada instancia del problema calcula al menos una solución correspondiente –en caso de haberla– o expide un certificado de que no existe solución alguna. Un problema abstracto se convierte en un problema concreto cuando las instancias y soluciones están codificadas en forma de lenguajes formales.

Los problemas abstractos suelen definirse en dos partes: en la primera se describe al conjunto de instancias y en la segunda se describe la solución esperada para cada instancia. Por ejemplo, el problema de ordenación de números enteros se suele definir como sigue:

Instancia: Una sucesión finita de números enteros ${\displaystyle \left(a_{1},a_{2},\ldots ,a_{n}\right)}$

Solución: Una permutación ${\displaystyle \left(a_{1}^{\prime },a_{2}^{\prime },\ldots ,a_{n}^{\prime }\right)}$ de la sucesión de entrada tal que ${\displaystyle a_{1}^{\prime }\leq a_{2}^{\prime }\leq \cdots \leq a_{n}^{\prime }}$

Aquí tanto el conjunto de instancias y el de soluciones es el mismo, pues se trata del conjunto de todas las sucesiones finitas de números enteros. La relación que hay entre ellos asigna a cada sucesión ${\displaystyle \left(a_{1},a_{2},\ldots ,a_{n}\right)}$ la única permutación ${\displaystyle \left(a_{1}^{\prime },a_{2}^{\prime },\ldots ,a_{n}^{\prime }\right)}$ tal que ${\displaystyle a_{1}^{\prime }\leq a_{2}^{\prime }\leq \cdots \leq a_{n}^{\prime }}$. Por ejemplo, ${\displaystyle \left(6,9,4,5\right)}$ tiene como solución a ${\displaystyle \left(4,5,6,9\right)}$. Una solución algorítmica al problema de ordenamiento es el ordenamiento de burbuja porque este algoritmo produce una solución como salida cada vez que se le suministra una instancia como entrada.

En un problema de decisión cada instancia tiene asociada exactamente una solución "sí" o "no". Los problemas de decisión quedan completamente determinados por el conjunto ${\displaystyle Y}$ de instancias que tienen asociada la solución "sí". Por ejemplo, el problema de decidir si una gráfica tiene o no un ciclo Hamiltoniano queda completamente determinado su conjunto de soluciones "sí":

${\displaystyle \mathrm {HAM} =\left\{G\mid G{\text{ es una gráfica hamiltoniana}}\right\}}$

Con esta representación el problema equivale a preguntar si una instancia ${\displaystyle i}$ pertenece o no al conjunto ${\displaystyle \mathrm {HAM} }$. En general, los problemas de decisión siempre equivalen a decidir la proposición ${\displaystyle i\in Y}$ donde ${\displaystyle Y}$ es el conjunto de instancias con solución "sí". Una solución algorítmica para un problema de decisión es un algoritmo que calcula la función característica de ${\displaystyle Y}$ o equivalente:

${\displaystyle \chi _{Y}(i)={\begin{cases}1&{\text{si }}i\in Y\\0&{\text{si }}i\notin Y\end{cases}}}$

En los problemas de búsqueda la relación entre el conjunto de instancias y el de soluciones queda determinado por un predicado lógico ${\displaystyle P(i,s)}$ que determina si ${\displaystyle s}$ es una solución de ${\displaystyle i}$. Dada una instancia ${\displaystyle i}$ el problema consiste en encontrar, si es que existe, una solución ${\displaystyle s}$ de ${\displaystyle i}$. Es decir, buscar el elemento ${\displaystyle s}$ que haga verdadera la proposición ${\displaystyle \exists s\in S.P(i,s)}$. Cuando se fija el valor de ${\displaystyle i}$ y la solución es única, se dice que es un problema matemático. Por ejemplo, el problema de factorización de un número entero ${\displaystyle n}$ consiste en encontrar un factor no trivial de ${\displaystyle n}$; es decir, número entero ${\displaystyle m}$ diferente de 1 y de ${\displaystyle n}$ tal que ${\displaystyle m}$ divida exactamente a ${\displaystyle n}$. En símbolos

${\displaystyle \exists m\in \mathbf {Z} .m\neq 1\wedge m\neq n\wedge {\frac {n}{m}}\in \mathbf {Z} }$

Esta fórmula simplemente está preguntando la existencia de un factor no trivial de ${\displaystyle n}$. Una solución algorítmica a un problema de búsqueda viene dador por un algoritmo ${\displaystyle f}$ tal que ${\displaystyle P\left(i,f(i)\right)}$ es verdadera siempre y cuando exista solución para ${\displaystyle i}$, es decir, ${\displaystyle f}$ siempre calcula una solución si es que esta existe. En el caso del problema de la factorización de enteros se cuenta con el algoritmo de la división por tentativa.

En un problema de optimización no solo se busca una solución, sino que se busca "la mejor" de todas. Cada problema de optimización puede concebirse como un problema de búsqueda y una función ${\displaystyle g}$, comúnmente conocida como función objetivo, que determina la calidad de las soluciones. El problema de optimización (que a su vez es de búsqueda) consiste en encontrar la solución maximice o minimice el valor de ${\displaystyle g}$. Por ejemplo, el problema del viajante no solamente exige determinar si una gráfica tiene o no un ciclo hamiltoniano, sino que además pregunta cuál es el ciclo hamiltoniano más corto. En este caso el problema de búsqueda subyacente es encontrar un ciclo hamiltoniano cualquiera y la función objetivo mide la distancia recorrida por ese ciclo.

• Cormen, Thomas; Leiserson, Charles; Rivest, Ronald; Stein, Clifford (2009). Introduction to algorithms (3 edición). Cambridge, Massachusetts: The MIT Press. ISBN 978-0-262-53305-8. 
• S. Dasgupta, C.H. Papadimitriou, & U.V. Vazirani (2006). Algorithms. McGraw-Hill Science/Engineering/Math. ISBN 978-0073523408. 
• Gómez Navas Lozano, Ricardo Iván, Gómez Navas Chapa Leonardo, Introducción a las Ciencias Sociales, McGraw Hill, China, 2011