Un grupo de más de mil expertos y desarrolladores liderados por el icónico Elon Musk llamaron a pausar los avances en la investigación de Inteligencia Artificial (IA) porque “podría poner en riesgo a la Humanidad”.

Desde que hace unos meses se lanzó la inteligencia artificial ChatGPT, un tema del que casi nadie hablaba pasó a estar en las charlas de sobremesa y las conversaciones entre amigos. ¿Qué impacto tendría esta nueva tecnología sobre áreas tan sensibles como la educación, la automatización de nuestros trabajos o la circulación de información falsa?

Pero mientras la discusión se centraba en estos riesgos más mundanos, un grupo de más de mil expertos y desarrolladores liderados por el icónico Elon Musk llamaron a pausar los avances en la investigación de Inteligencia Artificial (IA) porque “podría poner en riesgo a la Humanidad”.

“Pará, pará, pará… No entiendo. Una cosa es que la IA pueda afectar los empleos y otra muy distinta es que ¡nos pueda matar a todos! ¿Cómo podría un simple chat ser peligroso?”.

En realidad, en los círculos de investigación en IA este no es un debate nuevo: gran parte de la comunidad especializada lleva más de una década argumentando que, aunque a nosotros pueda sonarnos absurdo, el riesgo es real: los peligros que acarrea se pueden comparar a los de la tecnología nuclear. Lo que sí es una novedad es que los protagonistas de esta comunidad científica den un golpe en la mesa y pidan “parar la pelota” por seis meses para estudiar los riesgos de los desarrollos en los que ellos mismos trabajan desde hace años.

Históricamente -y en sintonía con lo que pasa con la mayoría de los grandes temas que afectan a la Humanidad- siempre hubo dos bandos en materia de IA. Por un lado, están los “apocalípticos” liderados por Elon Musk -pero entre los que se encolumnaron también Bill Gates y Stephen Hawking- que advierten sobre los peligros extremos de estos desarrollos. En diciembre de 2014, durante una entrevista con la BBC, Hawking se adelantó a su tiempo y fue categórico sobre el posible efecto destructor de la tecnología: “El desarrollo de la IA puede terminar con la raza humana”.

En la vereda de enfrente están los “tecnoptimistas”, con Mark Zuckerberg como cara más visible. Aunque algunos creen que Elon Musk exagera en su visión tremendista, ningún análisis serio del tema debería pasar por alto algunas alarmas que se empezaron a encender.

Nos toca ser contemporáneos de un cambio copernicano: por primera vez en la historia de la Humanidad, nos acercamos a tener una Inteligencia Artificial realmente poderosa, en varios aspectos ya superior en sus capacidades a un ser humano. Pero este poder no radica en que hayamos entendido cómo funciona realmente, sino más bien en un ejercicio heurístico de prueba y error. ¿Qué pasaría si armamos una red neuronal con un billón de parámetros y le damos para que aprenda todo el descomunal volumen de texto disponible en internet? El resultado de hacer esa prueba es GPT-4, presentado la semana pasada por el laboratorio OpenAI.

Casi en simultáneo con su lanzamiento, esta semana la propia OpenAI publicó un paper titulado “Sparks of Artificial General Intelligence: Early experiments with GPT-4″ (”Destellos de Inteligencia Artificial General: primeros experimentos con GPT-4″) en el que reconoce no saber del todo por qué funciona tan bien y se muestra sorprendida por las capacidades emergentes e inesperadas de esta plataforma. La inteligencia artificial general es precisamente la quimera máxima: la creación de una máquina con inteligencia sobrehumana. La mera mención de esa expresión en el título del paper trae a la memoria de quienes están empapados en este tema todas las distopías que se ocupó siempre de explorar la ciencia ficción. Pero estamos cerca de que ya no sea solamente una idea de película. El informe concluye con una recomendación de seguir estudiando en profundidad para entender el funcionamiento de estos sistemas.

Los desarrolladores de alguna manera “juegan” con un sistema complejo que no podemos entender por completo y que está produciendo resultados impactantes. Imaginate que te regalan un juego de química con montones de tubos de ensayo con sustancias variadas y sabés que alguna de esas mezclas es potencialmente explosiva. ¿Quién jugaría livianamente a combinar materiales si supiera que podría generar una detonación? Bueno, en materia de IA estamos en esa instancia: mezclamos cosas sin todavía conocer plenamente las potencialidades ni los efectos.

Los incentivos monetarios en este tipo de desarrollos son determinantes. El primero que logre un modelo estable y prometedor va a dominar el mundo de los negocios de una forma increíble. OpenAI golpeó primero y primereó a gigantes como Google y Facebook, que venían hace años trabajando en desarrollos similares. Para OpenAI testear su sistema con cientos de millones de usuarios era un camino excelente para abreviar los tiempos de desarrollo y sacar una ventaja considerable. El CEO de Google, Sundar Pinchai, lanzó un “alerta roja” y disparó a la compañía a un apresurado lanzamiento para tratar de responder y recuperar terreno. Gran parte de la velocidad del asunto está motivada por dinero y, en general, cuando el dinero interviene en áreas delicadas de la investigación científica, los razonamientos se enturbian y aparecen las trampas.

¿Las farmacéuticas deberían estar habilitadas a lanzar drogas sin testeo previo? Si bien la vacuna de covid no siguió los mecanismos de testeo normal de una droga, existía un virus con potencialidad de diezmar a la población mundial. Al sopesar los riesgos durante la pandemia, la comunidad científica decidió que acortar excepcionalmente el proceso de testeo de la vacuna representaba el mal menor frente a un virus nuevo que amenazaba con matar a muchísimas personas y dinamitar áreas tan sensibles como la provisión de alimentos. En cambio, en materia de IA no hay una urgencia real. El apuro es meramente monetario.

Para poder entender la dimensión de los debates técnicos y éticos que abre el desarrollo de la IA se suele recurrir al desarrollo de la energía atómica. Es un razonamiento algo tramposo. La bomba atómica fue un desarrollo poderoso para destruir todo lo que existía a 3 km a la redonda y al momento en el que se tiraron, se conocían perfectamente cuánta energía se iba a liberar y qué daños iba a producir allí donde se lanzara. En el desarrollo de los sistemas complejos el riesgo se multiplica por la incertidumbre: no tenemos idea de cómo, cuándo ni dónde puede dañar.

Una vez más, lo que está en juego es la posibilidad de crear una máquina superinteligente. Mucho más inteligente que un ser humano. Un chimpancé es una criatura sumamente inteligente pero claramente está un peldaño por debajo de la capacidad humana. Jamás podría un simio interpretar el contenido de este artículo y ofrecer una opinión al respecto. Esa misma brecha insondable podría generarse entre un humano y una máquina superinteligente. Podríamos estar tan afuera de todo como un primate en una conferencia académica.

¿Cuál sería el riesgo concreto? Una forma de abordarlo, es pensar cómo nos comportamos nosotros con las criaturas de menor capacidad intelectual. Si vamos caminando y pisamos una hormiga, no nos altera el día. Si, en cambio, me molestan porque son muchas, tiro veneno. Los mosquitos, que sí me molestan, me obsesionan y los persigo hasta aplastarlos. En el extremo contrario, el panda nos cae muy simpático y hacemos denodados esfuerzos para evitar su extinción. ¿En qué lugar quedaremos nosotros respecto de las super inteligencias? Tal vez, decidan cuidarnos pero, si por alguna razón las molestamos, está el riesgo de que inventen un “veneno” para aniquilarnos. Si tuviéramos que agradar a otro para que nos deje vivir, quedaríamos en una posición de absoluta sumisión.

Cuando se evalúan los riesgos, solemos imaginar una entidad súper malvada, un villano como los de las películas. Pero no necesariamente tiene que ser así: en la naturaleza puede existir destrucción sin maldad. El proceso de la reproducción de virus y bacterias puede llegar a matarnos con su mera existencia, sin que los microbios tengan consciencia ni objetivo alguno detrás del daño que causan. Entonces, la IA podría ser algo que meramente exista de forma ontológica y que, aún sin ser portador de conciencia o maldad, se convierta en algo tremendamente nocivo.

En la Edad de Piedra no teníamos idea de qué era el fuego. Pero aún sin ese conocimiento, nuestros antepasados sabían cómo prenderlo y apagarlo, y que una vez que se prende puede ser muy útil, pero también iniciar accidentalmente un incendio incontrolable. En buena medida, somos como el hombre de la prehistoria: estamos manipulando desarrollos tecnológicos sin entender por completo su esencia. La IA es un sistema complejo, no es fuego, y puede salirse de control mucho más rápido de lo que imaginamos.

Como pasó con las armas nucleares, en el siglo XXI estamos en los albores de una nueva carrera armamentista de consecuencias más imprevisibles que la que tuvimos en el siglo XX. Desde el fin de la Segunda Guerra Mundial vivimos en un equilibrio precario donde la “destrucción mutua asegurada” nos mantuvo a salvo, pero siempre pendiendo de un hilo. Ojalá la inteligencia humana nos permita esta vez actuar con más sabiduría. Si no es así, quizás terminemos siendo víctimas de nuestro propio ingenio.