El Basilisco de Roko es un juego mental que se dio a conocer en 2010, cuando el usuario Roko escribió acerca de él en Less Wrong, un foro en línea dedicado a temas de filosofía y psicología con una visión futurista.
De manera general, el experimento plantea un escenario hipotético en el que el ser humano crea una poderosa máquina de inteligencia artificial, con el fin de que trabaje en busca del bienestar para toda la humanidad.
Hasta ahí todo bien.
El problema surge cuando la máquina, que está programada para hacer el máximo bien posible, se da cuenta de que por más que se esfuerce, cualquiera de sus buenas acciones podría ser aún mejor.
Esa lógica de buscar infinitamente el bien, hace que la máquina, que solo sabe hacer el bien y aprende la manera de hacerlo cada vez mejor, entre en un bucle que la lleva a una decisión extrema, al menos desde el punto de vista de la moral humana.
La máquina se da cuenta de que para hacer un mayor bien debería haber existido desde mucho antes, para poder ayudar a las personas que sufrían antes de que ella existiera.
Así, en su desespero por hacer el bien, la máquina comienza a comportarse como un basilisco que mata a todas las personas que no trabajaron para haberla creado antes, pues eso le impide seguir aumentando su nivel de bondad.
La parte más aterradora es que quien se entera de la existencia del basilisco y no comienza a trabajar en su creación, inmediatamente se convierte en una de sus víctimas potenciales.
Por esa razón, el escritor David Auerbach llamó al Basilisco de Roko “el experimento mental más aterrador de todos los tiempos”.
El periodista Dylan Love lo explica muy bien en un artículo en Business Insider:
“Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!”.
Elon Musk, uno de los visionarios líderes en impulsar la inteligencia artificial, ha dicho que esta tecnología podría ser incluso más peligrosa que las armas nucleares.
Además, Musk es cofundador de OpenAI, una compañía dedicada a la investigación para “descubrir y promulgar el camino para una inteligencia artificial segura”.
Por su parte, en una entrevista con el portal Fuse, Grimes decribió a su personaje de Basilisco Rococó como alguien que está “eternamente destinado a ser torturado por la inteligencia artificial”.
Así pues, irónicamente la amistad de Musk y Grimes parece estar unida por un ejercicio mental apocalíptico.
Síguenos en Telegram: www.t.me/medellinstyle
Instagram: medellinstyle
Soundcloud: www.soundcloud.com/bailalo
