Riesgos de la Inteligencia Artificial: ¿Extinción Humana?

Lex Fridman, presentador de podcast, ha revelado que muchos ingenieros de inteligencia artificial calculan entre un 1% y un 20% de posibilidades de que la IA general (AGI) extermine a la humanidad. Un estudio reciente con 2.700 investigadores concluye que solo hay un 5% de probabilidades de que la IA conduzca a la extinción humana.

Opiniones de Expertos

El investigador Roman Yampolskiy estima una probabilidad del 99,9% en los próximos 100 años. Yampolskiy, profesor de Informática en la Universidad de Louisville, ha publicado un libro titulado AI: Unexplainable, Unpredictable, Uncontrollable. En una entrevista, ha señalado que las posibilidades de que la IA acabe con la humanidad dependen de si se puede desarrollar software de alta complejidad sin fallos en los próximos 100 años.

Riesgos Actuales de la IA

Las primeras versiones de los modelos de IA han levantado sospechas por su potencial para hacer el mal o difundir desinformación. Los deepfakes han sido utilizados para crear contenido pornográfico de personas famosas y han amenazado con influir en elecciones. Los resúmenes de Google generados por IA han generado suspicacias por ofrecer respuestas sin sentido.

Propuestas de Regulación

Yampolskiy ha expresado que, para controlar a la IA, se necesita una máquina de seguridad perpetua. El CEO de OpenAI, Sam Altman, ha propuesto la creación de un «sandbox regulatorio» para experimentar y regular la IA. Altman ha advertido que lo que le quita el sueño son las cosas de ciencia ficción relacionadas con la IA.

Predicciones Futuras

Desde el lanzamiento de ChatGPT en noviembre de 2022, se han hecho varias predicciones sobre cómo la IA generativa podría conducir a la caída de la civilización. Yampolskiy ha comparado a los seres humanos con ardillas en el contexto de la AGI y ha anticipado que la IA dará con algo que ni siquiera sabemos que existe todavía. Según él, existen tres posibles resultados: la extinción humana, el sufrimiento extremo o la pérdida de propósito.

Perspectivas de Otros Expertos

La mayoría de los expertos reconocen que la IA entraña cierto riesgo, pero no creen que sea tan probable que las cosas acaben mal. Elon Musk calcula una probabilidad de entre el 10% y el 20%. Eric Schmidt, antiguo CEO de Google, asegura que los verdaderos peligros de la IA llegarán dentro de tres o cinco años y propone que los seres humanos simplemente pueden desenchufarla si desarrolla el libre albedrío.