La capacidad tecnológica de la humanidad se incrementa a ritmos cada vez más rápidos ¿Te has planteado alguna vez que hay tecnologías que pueden igualar o superar a la energía nuclear en cuanto a su potencial para el desarrollo humano y para su destrucción?

Con esta sugerente introducción se presenta el evento Biotecnología, inteligencia artificial, cambio climático: los grandes riesgos de las tecnologías del siglo XXI que tendrá lugar el 3 de marzo de 18 a 20h en el sHub Madrid y donde Jaime Sevilla, científico especializado en AI, compartirá su visión sobre el tema.

El evento estará dividido en dos partes; en primera parte parte se presentará un modelo de evaluación de riesgos tecnológicos que, a continuación, se aplicará al riesgo nuclear, cambio climático, biotecnología e inteligencia artificial. En la segunda parte se presentará la labor del Centro para el Estudio de los Riesgos Existenciales y otras organizaciones que trabajan en este ámbito, que es donde se enmarca el trabajo investigación que Jaime Sevilla realiza en la Universidad de Cambridge.

Jaime Sevilla es investigador generalista, con un profundo conocimiento de las matemáticas y la inteligencia artificial. Está interesado en temas relacionados con la alineación de sistemas avanzados de IA, la acción filantrópica efectiva y la investigación, la política de tecnologías emergentes, la predicción y la modelización matemática.

A continuación puedes conocer un poco mejor la visión de Jaime Sevilla al respecto de los riesgos que pueden suponer para la humanidad el desarrollo incontrolado de la inteligencia artificial:

La promesa de la inteligencia artificial es automatizar la resolución de problemas, incluyendo problemas cotidianos como la conducción y problemas más esotéricos como el diseño de software.

Las posibilidades que habilita esta tecnología son abundantes, y pueden tener un impacto positivo dramático en la sociedad. La posibilidad de automatizar gran parte de la labor es un indicio de la posibilidad de que la inteligencia artificial suponga un adelanto económico comparable a las revoluciones agrícola e industrial.

Sin embargo, desarrollos recientes en el campo apuntan en una dirección inequívoca: desde el predictor de texto GPT-2 hasta el bot de Starcraft AlphaStar, la delantera la llevan algoritmos con un grado elevado de opacidad. Con ello quiero decir que es difícil interpretar las razones por las que estos sistemas toman unas u otras decisiones.

Esto es síntoma de un problema mayor. El entendimiento teórico de los problemas técnicos asociados al desarrollo de sistemas avanzados de inteligencia artificial no va a la par que el desarrollo de nuevas capacidades.

Para saber más al respecto recomendamos leer el artículo completo Atravesando la frontera. Riesgo nuclear e inteligencia artificial.

Etiquetas: exponencialidad, futuro, riesgos

“Estamos convencidos de que no se trata más que del frenesí tradicional de los especuladores por el miedo de los tiempos que vivimos; es decir, una situación técnica de mercado más que un reflejo de un cambio radical de las condiciones subyacentes, las que, de hecho, se mantienen relativamente estables” extracto de la carta semanal a los suscriptores de la agencia de análisis y predicción de mercado Moody´s el 28 de octubre de 1929, el «lunes negro» que marcó el comienzo de «la gran depresión» en Estados Unidos.

Predecir el futuro es imposible, si de alguna forma pudiese lograrse, tendríamos inmediatamente la solución al gran problema que supone para las personas la toma de decisiones. Aunque tampoco creo que en esa hipotética situación en la que tuviésemos la capacidad de predecir el futuro, se resolviese del todo el problema, ya que habría que contar con las consecuencias correspondientes a la toma de decisiones y si queremos ir un poco más allá, pensar en si cuando tomamos decisiones realmente estamos influyendo sobre cómo será el futuro, o por el contrario, como piensan los deterministas, todo está ya escrito. Sigue leyendo -> Cómo tomar mejores decisiones

Etiquetas: Blockchain, Brainstorming, decisiones, riesgos