¿Podría explicar qué entiende por «deshumanización digital» y «daño automatizado»?

La deshumanización digital es el proceso por el cual los seres humanos se reducen a datos, que luego se utilizan para tomar decisiones y/o medidas que afectan a la vida de las personas. Este proceso puede privar a las personas de su dignidad, poner en peligro su humanidad y eliminar la participación y la responsabilidad humanas, o sustituirlas por tecnología de toma de decisiones automatizada.

El daño automatizado se produce cuando estos sistemas de toma de decisiones afectan negativamente a la seguridad humana. El daño automatizado potencial derivado de las armas autónomas incluye lesiones y muerte. Por lo tanto, está claro que la deshumanización digital que estamos presenciando se encuentra en el extremo más grave de la escala de daños causados por la toma de decisiones automatizada o las tecnologías autónomas.

También ha mencionado la materialidad como otra razón para que los inversores ISR adopten una postura activa con respecto a las armas autónomas. ¿Cómo pueden estos sistemas armamentísticos generar un impacto negativo en los rendimientos ajustados al riesgo a largo plazo de los inversores ISR?

La proliferación de armas en general genera inestabilidad política y, por lo tanto, también incertidumbre económica y financiera, lo que da lugar a un mercado muy volátil. Este es precisamente el tipo de mercado que evitan los inversores ISR a largo plazo, como los fondos de pensiones, las compañías de seguros o los fondos soberanos.

Esto es aún más cierto en el caso de las armas autónomas, sobre las que los seres humanos tienen cada vez menos control, especialmente si no están debidamente reguladas por directrices aceptadas internacionalmente.

¿Cómo pueden los inversores ISR hacer frente a todos estos riesgos?

Como primer paso, para identificar las posibles fuentes de riesgo, los inversores pueden evaluar la participación de las empresas tecnológicas en las que invierten en contratos de defensa, dado su papel central en el desarrollo de estos sistemas de IA.

Y lo que es aún más importante, los inversores deben exigir a la comunidad internacional que defina legalmente los sistemas de armas autónomas y regule su uso.

Este es precisamente el objetivo de la Declaración de los inversores sobre los sistemas de armas autónomos.

Al firmar esta declaración, promovida por Etica y la campaña Stop Killer Robots, los inversores pueden instar a los líderes gubernamentales a que finalicen las negociaciones para un nuevo tratado internacional sobre sistemas de armas autónomas que garantice el control humano y prohíba los sistemas que tienen como objetivo a las personas y nos reducen a objetos, estereotipos y puntos de datos. Dicho tratado es un requisito previo esencial para fomentar la certeza del mercado sobre lo que es legalmente aceptable y lo que no lo es. Dicho tratado también constituiría una base sólida sobre la que fundamentar la actividad de gestión de los inversores ISR en este tema urgente.