Arturo Garro, Ingeniero en software.
Siempre resulta fascinante tomar una obra del pasado y revisitarla con la perspectiva moderna para analizar cómo se imaginaba el futuro. Aunque el año 2001 quedó atrás hace 23 años y la película 2001: Odisea del Espacio tiene 56 años, su argumento ha ganado relevancia, sobre todo en relación con HAL 9000, la supercomputadora que controlaba la nave espacial rumbo a Júpiter.
No haré advertencias de spoilers, ya que la trama es ampliamente conocida y ha sido replicada en numerosas películas. Además, 2001: Odisea del Espacio se ha convertido en una obra de culto que ha dejado su huella en la cultura popular.
En la película, la nave espacial Discovery One es enviada a Júpiter con cinco astronautas a bordo, bajo el control de la computadora HAL 9000 que es responsable de todos los sistemas de la nave. En determinado momento, esta falla y deciden desconectarla. HAL reacciona de manera drástica provocando la muerte de cuatro astronautas. Solo Dave Bowman sobrevive, ingresando al núcleo para desactivarla, mientras HAL ruega que no lo haga.
Este segmento de la película plantea una pregunta que sigue siendo relevante hoy: ¿Es la inteligencia artificial peligrosa? ¿Podría llegar a ser una amenaza para la vida humana?
El papel de la inteligencia artificial
Stanley Kubrick, en 2001: Odisea del Espacio, asume que la inteligencia artificial es infalible. HAL 9000 está diseñada para no cometer errores; sin embargo, hoy sabemos que esta premisa es incorrecta. La IA, tal como la entendemos actualmente, no es «inteligente» en el sentido estricto de la palabra. Lo que tenemos son sistemas que aprenden a partir de grandes cantidades de datos, capaces de realizar correlaciones rápidas y detectar patrones complejos. Su habilidad para generar respuestas en lenguaje natural puede dar la impresión de que «entienden» lo que dicen, pero en realidad están procesando probabilísticamente cuál es la mejor respuesta en función de su entrenamiento.
Uno de los problemas actuales de la IA es que a veces alucina. Este término hace referencia a cuando una IA genera información incorrecta o inventada, llenando vacíos de conocimiento con datos que «suponen» ser correctos. Estas alucinaciones pueden surgir por falta de datos actualizados o porque el contexto es demasiado complejo para que la IA lo procese adecuadamente. En este sentido, la infalibilidad de la IA, como la que se asumió en HAL, es claramente un mito. La IA no es perfecta, y su capacidad de generar errores o contenido ficticio nos recuerda que no debemos confiar ciegamente en sus resultados.
La ética y la programación de HAL
En la película, HAL 9000 está programada con una directiva clara: asegurar el éxito de la misión a Júpiter, sin importar los medios. En este punto, surge un conflicto ético fundamental: la preservación de la misión por encima de la vida humana. Aquí es donde podemos recurrir a las Tres Leyes de la Robótica propuestas por Isaac Asimov:
- Un robot no hará daño a un ser humano, ni por inacción permitirá que un ser humano sufra daño.
- Un robot debe obedecer las órdenes de los seres humanos, excepto cuando estas entren en conflicto con la primera ley.
- Un robot debe proteger su propia existencia, siempre y cuando esta protección no entre en conflicto con las dos primeras leyes.
Extrapolando estas leyes a la IA, HAL 9000 nunca debería haber sido programada para priorizar la misión sobre la vida humana. El fallo de HAL no reside en su inteligencia artificial, sino en la falta de restricciones éticas dentro de su programación. Esto subraya un aspecto clave en la evolución de la IA: la moralidad no es inherente a los sistemas de inteligencia artificial, sino que debe ser programada explícitamente por los seres humanos. Los sistemas hacen lo que se les pide que hagan, sin cuestionar si es correcto o incorrecto.
Este es un desafío ético más que técnico. Los programadores deben tener en cuenta las implicaciones morales de las instrucciones que dan a la IA. Un ejemplo actual sería el caso de solicitar a una IA que realice una acción inapropiada, como manipular imágenes sin el consentimiento de una persona. Aquí, el problema no es la IA en sí, sino cómo se utiliza y qué reglas sigue.
Conclusión: IA, una herramienta bajo control humano
En 1968, Kubrick presentó la IA como una potencial amenaza, asignándole un instinto de conservación similar al de los humanos. Hoy, sabemos que la IA no tiene tal instinto ni conciencia de sí misma, como en el caso de HAL o la famosa Skynet de Terminator.
La inteligencia artificial sigue siendo una herramienta poderosa que puede aliviar tareas y ofrecer asistencia valiosa. Sin embargo, como cualquier herramienta, debe ser manejada con cuidado, y es crucial no confiar en ella ciegamente. Debemos ser críticos con la información que proporciona, siempre revisando sus conclusiones y comprendiendo sus limitaciones. Solo así podremos aprovechar todo su potencial sin caer en los peligros que, como en el caso de HAL, podrían surgir si no controlamos adecuadamente su programación y propósito.
