Ley zero: Un robot no puede hacer daño a la Humanidad o, por inacción, permitir que la Humanidad sufra daño.

Esta es la ley zero que añadió Asimov, para reforzar las tres primeras, y así evitar conflictos entre leyes, pero, y si a pesar de todo ocurriera, Un robot mata a un humano: ¿Quién es responsable? Probablemente deberiamos limitar  el concepto “humano” quien o que es humano, y cuantificar que es “daño”.

Cuando un humano comete alguna clase de crimen o mata a otro en un accidente, tanto el derecho legal como el sentido común proporcionan una respuesta sobre quién es el culpable del hecho. Si una máquina autónoma mata a un humano, ¿de quién es la culpa? La pregunta no es, en absoluto, trivial: Si un robot mata a un humano: ¿Quién es el responsable?

En ciencia ficción las tres leyes de la robótica son un conjunto de normas escritas por Isaac Asimov, que la mayoría de los robots de sus novelas y cuentos están diseñados para cumplir. Aparecidas por primera vez en el relato Círculo Vicioso (Runaround 1942), establecen lo siguiente:

1. Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto si estas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la Primera o la Segunda Ley.

Sin embargo. Ni las leyes actuales ni la sociedad se ha planteado seriamente el tema, a pesar de la proliferación de robots de todo tipo, todos los días se hace algún avance en las tecnologías relacionadas con la robótica y la inteligencia artificial. Si bien aun estamos lejos de construir algo similar a los androides inteligentes que nos ha mostrado el cine, lo cierto que muchas máquinas actuales tienen una “inteligencia” que las hace -sin lugar a dudas- algo muy distinto a las herramientas tradicionales. Es inevitable que en el futuro cercano una de estas máquinas provoque, debido a alguna clase de error en su “línea de pensamiento”, la muerte de un humano. Cuando ocurra, seguramente querremos saber quién es el culpable de esa muerte. Pero si no comenzamos hoy mismo a discutir sobre la distribución de las responsabilidades, seguramente no tendremos una respuesta.

Visto en The Guardian