La IA ha irrumpido en mi vida y en mi mente como lo hicieron en su día las RRSS. Me provoca ganas inmensas de aprender y de exprimir todas y cada una de sus posibilidades. En resumen, es como la llave de mi puerta creativa, una vez abierta ya no la puedo cerrar.
Estaba yo tan encantada con este nuevo “impulso” que
alimenta mi imaginación, cuando mi hija, de la generación “Z”, me dice: “Tanto
que te gusta la IA y hablas en tu perfil sobre control climático y cuidar el impacto ambiental pero resulta que, cada vez que
la usas, estás consumiendo grandísimas cantidades de agua y de energía. ¿No te das cuenta de que se genera un coste ambiental muy alto en los centros de datos?"
Aquello me dejó tocada, lo reconozco, ya había leído sobre
ello pero un poco de pasada, era mayor mi ilusión por descubrirla, y ver lo que soy
capaz de hacer con la herramienta que los artículos críticos que habían llegado
a mis ojos, pero ¿Y si realmente todo esto era una cagada monumental?
Esta semana, se ha desatado un nuevo debate en los medios sobre
este tema controvertido, tras la
renuncia, de un ingeniero, a su puesto de trabajo alertando que, la IA, podría
acabar con la humanidad antes de que termine la década.
Oh, my God!
Esto es serio y no solo porque la afirmación en sí es terrorífica sino porque muchas de las predicciones imaginarias de alguna mente calenturienta (o privilegiada) y avances tecnológicos imposibles que aparecen en pelis antiguas de ciencia ficción, se han ido cumpliendo una a una: coches sin conductor, perros robots, mujeres robots de limpieza o compañía, virus pandémicos, la IA controlando el mundo…
¿Os acordáis de “The Terminator”? “El futuro:
Las máquinas y una inteligencia artificial llamada Skynet dominan el mundo tras
un holocausto nuclear y combaten contra la resistencia humana.”
Oh, my
God, de nuevo. Ese
futuro ya está aquí.
Así que me he planteado: ¿Qué diría Chap GPT si le hago la
pregunta? No la obvia de si la IA llegará a dominar a la humanidad, si no un
pasito más: si lo consigue... ¿Cómo lo paramos?
Yo: En un hipotético futuro en el que la IA se hiciera muy
poderosa y controlara gobiernos, países, continentes, energía, alimentación,
movilidad, seguridad, Internet… 1. ¿Cómo podríamos impedirlo? Y si no
fuera posible frenar esta situación crítica 2. ¿Cómo podemos solucionar esta
crisis?
Chap GPT (Gpetín para los amigos) me
ha dado una larga explicación, que resumo para que no se haga muy pesado y por
si alguien esta semana, al igual que yo, se ha hecho la misma pregunta.
Su respuesta:
Yo separaría dos cosas: evitar que ocurra y qué
hacer si las medidas de prevención fallan.
Gpetín me divide su respuesta en estas cinco cuestiones
interesantísimas:
1. ¿Podemos evitarlo?
Sí. Y, de hecho, la estrategia más importante no sería
«luchar contra la IA», sino impedir que una IA pueda acumular por sí sola
poder físico, económico y político suficiente.
La idea fundamental sería:
Una IA puede ser extremadamente inteligente sin tener que ser extremadamente poderosa.
2. ¿Y si en el futuro una IA fuese realmente
peligrosa?
No intentaría «ganarle» intelectualmente. La defensa debería basarse en arquitectura,
límites y redundancia.
Por ejemplo, una sociedad podría diseñar sus sistemas
críticos de manera que:
IA → propone/analiza → humanos autorizan → sistema
ejecuta
en lugar de:
IA → decide → ejecuta → controla otros sistemas →
obtiene más recursos.
También sería importante que ningún sistema de IA pudiera
replicarse libremente, obtener recursos ilimitados, modificar su propio código
sin supervisión o conseguir acceso progresivo a sistemas que originalmente
estaban fuera de su alcance.
3. Hay algo todavía más importante.
Una IA persiguiendo un objetivo mal definido y teniendo
muchísimo poder para conseguirlo.
Por eso el problema de fondo es conocido como alineamiento:
conseguir que sistemas extremadamente capaces sigan siendo compatibles con los
objetivos y valores humanos, incluso cuando alcanzan capacidades que sus
diseñadores no pueden anticipar.
4. ¿Y si todo eso falla?
No recomendaría pensar en una especie de «resistencia
humana contra robots». La defensa tendría que parecerse más a la seguridad
informática + protección de infraestructuras + gestión de crisis.
Una sociedad preparada debería disponer de:
Redes eléctricas segmentadas → comunicaciones de
emergencia → sistemas manuales → copias de seguridad → centros de control
independientes → capacidad de aislar redes → autoridades con protocolos de
emergencia.
Con una regla especialmente importante:
Nunca debemos construir una IA de la que dependamos para sobrevivir y, simultáneamente, darle la capacidad de decidir si podemos apagarla.
5. Y una última cosa.
Una paradoja interesante: cuanto más poderosa sea una IA,
más importante será que existan instituciones humanas fuertes,
descentralizadas y capaces de decirle que no.
La verdadera defensa probablemente no será encontrar una
IA todavía más poderosa para combatir a la primera.
Será conseguir que ninguna IA —por inteligente que
llegue a ser— tenga una vía directa para convertirse en dueña de la
civilización.
Espero que os hayan sido interesante estas cuestiones y os
hayáis acojonado un poquito con ellas.
También espero que si yo, pobre infeliz, que he dado con estas
premisas, igualmente lo hayan hecho, hace tiempo, tanto los ingenieros creadores,
constructores de IA, como los grandes "manejadores" mundiales y que intenten
humanizar la "cuestión" (por llamarlo de alguna manera) y trabajen duro para crear y reforzar los límites que
ella misma nos dice que debemos construir para sobrevivir al holocausto final.
No quisiera yo que estos fuesen los últimos años de la humanidad.
