Todos hemos visto en películas apocalípticas, como Terminator, donde la inteligencia artificial, toma la decisión de exterminar a la raza humana al descubrir que el mayor peligro para la supervivencia de esta inteligencia, era el propio ser humano.

Al parecer, la súper inteligencia artificial que está desarrollando Google con su nuevo sistema DeepMind, está dejando claro, lo cuidadosos que debemos ser con estas sorprendentes tecnologías.

Parece ser que las pruebas finales efectuadas en este sistema para aprender de manera autónoma de sus propios bancos de memoria, le han llevado a vencer incluso a los mejores jugadores del mundo del GO, antiguo juego chino con más de 2.500 años de antigüedad.

Pese a que el juego parece simple, la cantidad de movimientos que se pueden efectuar en dicho tablero, supera al número de átomos que el universo tiene, situándolos en 10 elevado a la 120.

Los métodos tradicionales de inteligencia artificial, construyen procesos en árbol de búsqueda sobre todas las posiciones posibles, es por ello, que el fundador de DeepMind, Demis Hassabis, escribió en un blog de Google, “cuando nos preparamos para abordar el problema de GO, tuvimos que tomar un enfoque distinto”

Ese sistema estaba basado en un método de búsqueda avanzada de soluciones llamado AlphaGO que combina un árbol de búsqueda con una red neuronal avanzada que conseguía 30 millones de movimientos predecibles sobre los que aprendía constantemente.

AlphaGO, comenzó a derrotar uno tras otro a todos los programas existentes que jugaban con otros diseños de inteligencia artificial, en 500 partidas, solo fue derrotado en una, pero la prueba de fuego, fue cuando se enfrentó al tricampeón europeo de GO, Fan Hui.

Como se puede ver en el vídeo, la cara de frustración y sorpresa del campeón, es todo un poema al vencerle en todas las partidas.

Lo que descubrieron los investigadores, es que cuando el jugador humano le “apretaba las tuercas” a la Inteligencia Artificial, esta, optaba por ser muy agresiva en sus estrategias.

En un juego simple en el que había que recoger unas manzanas virtuales entre dos recolectores, las cosas iban bien hasta que la cantidad de frutos disponibles comenzó a escasear, en ese momento, DeepMind comenzó a utilizar una estrategia de agresividad muy elevada, para conseguir toda la fruta disponible, incluso llego a utilizar armas de rayos laser entre los recolectores.

Es curioso porque la utilización de ese sistema ofensivo, no producía ninguna recompensa adicional, simplemente, dejaba fuera de combate al otro contrincante, la máquina se centró en el objetivo, independientemente de la agresividad que debía mostrar.

Como dijo Napoleón “El Fin justifica los Medios” (frase erróneamente atribuida a Maquiavelo).

A finales del año pasado, el Físico Stephen Hawkings, predijo que la Inteligencia artificial sería lo mejor y lo peor que le podría suceder a la humanidad.

Es por ello que la IA necesita ser “programada” con mucho cuidado, ahora entendemos porque el club Bilderberg, recientemente ha tratado este tema como punto importante en alguna de sus últimas reuniones. Por algo será…