Éticas falibles para máquinas (in)falibles

Abstract

Los códigos éticos humanos no son coherentes en su diseño ni tampoco tienen una distribución universal. Por lo tanto, la imposible universalidad ni completitud de los sistemas éticos para la inteligencia artificial (IA) es algo evidente que tan sólo fue apuntado someramente por el estudio reciente del MIT (Moral Machine). Al tener toda ética un matiz cultural inequívoco, y también incluir grados de interpretación en sus principios (como el derecho universal a la vivienda, evidente si bien ninguna institución vela por su cumplimiento, algo que una máquina no entendería). Al mismo tiempo se produce un problema formal: un sistema de IA no siempre cuenta con suficientes datos ni tiempo óptimo para procesar una situación, por lo que un factor de azar ético debe tenerse en cuenta en el diseño de tales sistemas.