Skip to content Go to main navigation Go to language selector
Cyber security

Segundo capítulo de nuestro podcast Zero Pressure

4 min read

Sistemas autónomos y automáticos, robots inteligentes, inteligencia artificial, automóviles que se conducen a sí mismos y los parámetros de lo que está correcto y lo que no.  En este segundo capítulo de nuestro podcast Zero Presure, la anfitriona Helen Sharman conversa con dos expertas sobre sistemas autónomos, y la ética que rodea su uso y desarrollo. 

Se anticipa que el mercado de vehículos autónomos tendrá un valor total de USD 172 billones para 2030 a nivel global, y de USD 917 billones para 2035. Los sistemas autónomos están evolucionando en tipo y en alcance, pasando de tomar decisiones sencillas y cotidianas, a tomar decisiones más complejas y cruciales. Esto conduce a un debate sobre cuestiones tales como ¿cuáles son los dilemas éticos a considerar cuando se autonomiza la toma de decisiones? ¿Cuál podría ser el impacto de estas decisiones sobre la sociedad? ¿Existe algún peligro al implementar las decisiones autónomas?

Las invitadas de este episodio son Virginia Dignum, profesora del Departamento de Ciencias de la Computación en la Universidad de Umeå, Suecia, y Denise García, profesora asociada de Ciencias Políticas y Asuntos Internacionales en la Universidad Northeastern, Estados Unidos.

Lee también: Zero Pressure, nuestro nuevo podcast

Virginia Dignum define los sistemas autónomos como aquellos que toman decisiones sin interferencia humana. Comenta que este tipo de sistemas han estado presentes en nuestras vidas desde hace bastante tiempo y un gran ejemplo de ello es el sistema central de aire acondicionado, cuyo termostato "decide" cuándo encender el sistema para mantener la casa a cierta temperatura.

Este sistema es sencillo pero a medida que evoluciona la tecnología, evolucionan también los sistemas autónomos y nos enfrentamos a una realidad en la que estos toman grandes decisiones sobre nuestas vidas como el acceso a crédito e hipoteca, qué información se nos presenta en las redes sociales y qué noticias vemos al ingresar a la versión digital de periódicos y revistas. Sin embargo, afirma Virginia que pese a todas estas complejidades, estos sistemas le pueden ayudar a la humanidad a resolver diferentes reto y mejorar las capacidades de respuesta frente a los mismos.

En referencia al tema de vehículos autónomos, Virginia comenta que predice que en sólo 10 años vamos a ver un uso generalizado de automóviles que se conducen a sí mismos. Esto traerá un nuevo conjunto de complejidades y de distyuntivas filosóficas del tipo Dilema del tranvía y sobre esto, Virginia afirma que es importante partir de la base que la responsabilidad de cualquier error de un sistema autónomo no recae sobre el sistema, sino sobre los desarrolladores y productores del mismo. Menciona también que los creadores de políticas públicas jugarán un rol crucial en el avance y la introducción de estos sistemas a nuestra vida diaria.

Lee también: Una nueva realidad

Por su parte, Denise García comenta que los humanos hemos utilizado sistemas automáticos en el sector defensa por varios años. Para este sector la discusión ética y moral gira entorno a un riesgo mayor, ya que si alguno de estos sistemas presenta alguna falla, podría conducir a afectar la integridad o el bienestar de civiles que no están involucrados en el conflicto.

Para esto, y sobre la base del Derecho Internacional Humanitario, desde 2014 se abordan discusiones en las Naciones Unidas para definir el marco regulatorio para el uso de armamento autónomo, con el objetivo principal de salvaguardar los derechos humanos y proteger a los civiles en un contexto de conflicto. Comenta también que desde su investigación y el seguimiento a estas conversaciones, ella puede afirmar que existe una motivación positiva a nivel global para implementar regulaciones internacionales sobre este tema. Este tipo de consensos han sido exitosos en el pasado y un ejemplo de ello es la Convención sobre las armas químicas.

Te invitamos a escuchar esta interesante discusión en el segundo episodio de nuestro podcast Zero Pressure