¿Son la inteligencia artificial y las máquinas superinteligentes lo mejor o lo peor que le puede pasar a la humanidad? Esta es una pregunta que existe desde la década de 1940 cuando el científico informático Alan Turing se preguntó y comenzó a creer que habría un momento en que las máquinas podrían tener un impacto ilimitado en la humanidad a través de un proceso que imitaba la evolución.
El progreso ha sido muy rápido en inteligencia artificial y aprendizaje automático y profundo. La inteligencia artificial está en el discurso público, y la mayoría de los gobiernos tienen algún tipo de estrategia o hoja de ruta para abordar la IA. La IA es un poco como los niños que juegan con una bomba que podría explotar en cualquier momento.
Hay un desajuste entre nuestro nivel de madurez en términos de nuestra sabiduría, nuestra capacidad de cooperar como especie, por un lado y, por otro lado, nuestra capacidad instrumental de utilizar la tecnología para hacer grandes cambios en el mundo. Parece como si nos hubiéramos vuelto más fuertes más rápido de lo que nos hemos vuelto más sabios.
Hay todo tipo de herramientas y aplicaciones de IA emocionantes que están comenzando a afectar la economía de muchas maneras. Esto no debería verse eclipsado por el exceso en el hipotético punto futuro donde obtienes IA con las mismas habilidades generales de aprendizaje y planificación que los humanos tienen, así como las máquinas superinteligentes. Estos son dos contextos diferentes que requieren atención.
Hoy en día, la amenaza más inminente no es una superinteligencia, sino las aplicaciones útiles, aunque potencialmente peligrosas, para las que se usa actualmente la IA.
Los efectos a corto plazo son abrumadoramente positivos. El efecto a largo plazo es más una pregunta abierta y es muy difícil de predecir. Si hacemos nuestra tarea y cuanto más actuemos juntos como un mundo y una especie en cualquier momento que tengamos disponible, mejor estamos preparados para esto, mayores serán las probabilidades de un resultado favorable. En ese caso, podría ser extremadamente favorable .
La mayor amenaza es el problema a largo plazo que introduce algo radical que es súper inteligente y no logra alinearlo con los valores e intenciones humanos”. Este es un gran problema técnico. Logramos resolver el problema de capacidad antes de resolver el problema de seguridad y alineación “.