Robots Asesinos

Este mes se llevó a cabo en Ginebra una conferencia de las Naciones Unidas dedicada al tema de las Armas Letales Autónomas (Lethal Autonomous Weapons, o LAWS, por sus siglas en inglés). A estas armas que todavía no existen se les llaman también “robots asesinos”. El director de la oficina de la ONU en Ginebra declaró que todavía existe la oportunidad de que “la decisión para terminar vidas permanezca firmemente bajo el control de los humanos”, y no de las máquinas.

Los futuros robots asesinos son parte de la evolución natural de la tecnología que ahora permite que los ataques militares aéreos puedan ser con aviones sin tripulación (drones). Aunque por el momento estos se manejan a control remoto por equipos de humanos, cada vez son más autónomos.

El hecho que se discutan las consecuencias de la llegada de tecnologías que todavía no existen no nos debe asombrar porque los cambios actuales son vertiginosos. No hay duda de que habrá máquinas autónomas en un futuro no muy lejano. ¿Cómo puede tomar decisiones una máquina? La manera más sencilla de explicarlo es que las decisiones se basan en las instrucciones del programa de computadora que escribió un equipo de programadores humanos. Si fuera así de sencillo, el programa podría prohibir ciertas acciones. Por ejemplo, “Robot: Si tienes que matar, primero pide autorización a un humano”. La realidad es diferente. Lo que los hace atractivos como armas es que puedan tomar decisiones de acuerdo a criterios complejos y que puedan utilizar información de sus entornos para emprender acciones que el programa no puede predecir con precisión.

Muchas figuras prominentes, incluyendo al Arzobispo Desmond Tutu de Sudáfrica, Lech Walesa y la organización Human Rights Watch están pidiendo que se prohíba el desarrollo de este tipo de armas. Hay un sitio de Internet llamado Campaña para Parar a los Robots Asesinos que incluye información muy amplia de los motivos por los cuales muchos no quieren que existan.

Hay algo inherentemente extraño en esta polémica que me hace sentir incómodo. Lo que están pidiendo es que solamente los humanos podamos matarnos unos a los otros. No queremos que haya máquinas que nos ayuden con este trabajo, aunque quizás lo pudieran hacer con mayor eficiencia que nosotros y sin violar las reglas.

¿Qué es lo que hace un soldado o un policía? Seguir un reglamento detallado que considera protocolos para las posibles situaciones que se presentan en las cuales tenga que tomarse la decisión de terminar una vida. Estas reglas se afirman por medio de entrenamientos antes de entrar en acción. Sin embargo, todos sabemos de tragedias y atrocidades causadas por las decisiones incorrectas en las calles y los campos de batalla. Es parte de la naturaleza humana cometer errores porque nuestras decisiones no son siempre racionales

Ronald Arkin, profesor de robótica del Instituto Tecnológico de Georgia, tiene una opinión contraria. Afirma que los robots asesinos pueden reducir los daños colaterales en situaciones conflictivas, lo cual significa la pérdida de vida de inocentes. Esto es lo que declaró en el año 2007: “No creo que un sistema autónomo pueda ser perfectamente ético en un campo de batalla. Pero estoy convencido de que pueden desempeñarse con mayor ética que los soldados humanos”.

Yo creo que un robot programado con software ético por personas con una misión clara puede ser más confiable que un humano. Pero no todos los humanos son buenos. Supongo que parte de la campaña para prohibir a los robots asesinos se debe al temor de que caigan en manos de terroristas o de gobiernos que subyugan a sus ciudadanos. Siempre hay este riesgo con todas las tecnologías.

Una respuesta a “Robots Asesinos

  1. estimado Ivan;
    la miopía humana es mas fuerte de lo que parece, finalmente el robot es una extensión del humano. hacerlo inteligente es una mas de las opciones de la mente humana. (bases de datos inteligentes). Hacerlo útil es otra mas de las opciones de la legalidad humana. pero que lo usen personas extrañas al sistema judicial. eso es lo que es malo. el humano es lobo de si mismo.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *