La capacidad tecnológica de la humanidad se incrementa a ritmos cada vez más rápidos ¿Te has planteado alguna vez que hay tecnologías que pueden igualar o superar a la energía nuclear en cuanto a su potencial para el desarrollo humano y para su destrucción?

Con esta sugerente introducción se presenta el evento Biotecnología, inteligencia artificial, cambio climático: los grandes riesgos de las tecnologías del siglo XXI que tendrá lugar el 3 de marzo de 18 a 20h en el sHub Madrid y donde Jaime Sevilla, científico especializado en AI, compartirá su visión sobre el tema.

El evento estará dividido en dos partes; en primera parte parte se presentará un modelo de evaluación de riesgos tecnológicos que, a continuación, se aplicará al riesgo nuclear, cambio climático, biotecnología e inteligencia artificial. En la segunda parte se presentará la labor del Centro para el Estudio de los Riesgos Existenciales y otras organizaciones que trabajan en este ámbito, que es donde se enmarca el trabajo investigación que Jaime Sevilla realiza en la Universidad de Cambridge.

Jaime Sevilla es investigador generalista, con un profundo conocimiento de las matemáticas y la inteligencia artificial. Está interesado en temas relacionados con la alineación de sistemas avanzados de IA, la acción filantrópica efectiva y la investigación, la política de tecnologías emergentes, la predicción y la modelización matemática.

A continuación puedes conocer un poco mejor la visión de Jaime Sevilla al respecto de los riesgos que pueden suponer para la humanidad el desarrollo incontrolado de la inteligencia artificial:

La promesa de la inteligencia artificial es automatizar la resolución de problemas, incluyendo problemas cotidianos como la conducción y problemas más esotéricos como el diseño de software.

Las posibilidades que habilita esta tecnología son abundantes, y pueden tener un impacto positivo dramático en la sociedad. La posibilidad de automatizar gran parte de la labor es un indicio de la posibilidad de que la inteligencia artificial suponga un adelanto económico comparable a las revoluciones agrícola e industrial.

Sin embargo, desarrollos recientes en el campo apuntan en una dirección inequívoca: desde el predictor de texto GPT-2 hasta el bot de Starcraft AlphaStar, la delantera la llevan algoritmos con un grado elevado de opacidad. Con ello quiero decir que es difícil interpretar las razones por las que estos sistemas toman unas u otras decisiones.

Esto es síntoma de un problema mayor. El entendimiento teórico de los problemas técnicos asociados al desarrollo de sistemas avanzados de inteligencia artificial no va a la par que el desarrollo de nuevas capacidades.

Para saber más al respecto recomendamos leer el artículo completo Atravesando la frontera. Riesgo nuclear e inteligencia artificial.