Cómo evitar que la IA ‘aniquile a la humanidad’ usando blockchain – Cointelegraph Magazine

Cuando no está trabajando en acelerar la carrera de la humanidad hacia la Singularidad mediante la creación de una inteligencia general artificial (AGI), Ben Goertzel toca en un grupo de jazz-rock llamado Jam Galaxy, liderado por una robot llamada Desdémona.

Es uno de sus muchos proyectos paralelos, que naturalmente le llevaron a intentar tokenizar el negocio de la música acercándose a miembros de Pearl Jam y Heart. Goertzel también trabaja en la investigación de la longevidad mediante el crowdsourcing de datos de salud humana con recompensas en fichas a través de una aplicación llamada Rejuve.ai. A continuación, esa información se combina con datos de estudios en animales e insectos y se analiza con una IA para determinar qué partes de los genomas pueden hacernos vivir más y luego estimularlas mediante terapias génicas. “Hemos hecho algunos descubrimientos sorprendentes”, afirma. Ah, y justo antes de terminar nuestra entrevista de una hora, menciona casualmente que también está creando una stablecoin para su mercado descentralizado de IA, Singularity.net, que está vinculada a un índice sintético de progreso medioambiental, porque vincularlo a dólares estadounidenses sería “patético”.

“El progreso medioambiental es muy estable. Nunca va a ninguna parte”, señala.

“Y para manipular esto, hay que resolver realmente el calentamiento global”.

Es el tipo exacto de comentario político combinado con conocimientos de alta tecnología que cabría esperar de Goertzel, que parece y suena como un científico hippie que se metió en una máquina del tiempo en 1971 y emergió completamente formado en 2023. Pero no se deje engañar por el sombrero de animal print, el pelo largo y el acento de viaje ácido de Electric Kool-Aid: Es un científico brillante con una visión del futuro a años luz de la mayoría y que está lidiando con algunos de los conceptos más importantes que la humanidad se ha planteado jamás. ¿Qué es la conciencia? ¿Cómo creamos vida artificial y qué pasa si no le gustamos, se vuelve rebelde y mata a todo el mundo a tiros como en Terminator 2?

¿Qué es la inteligencia general artificial?

Goertzel popularizó el término “inteligencia general artificial” para diferenciar una auténtica máquina pensante capaz de aprender prácticamente cualquier cosa de las IA optimizadas para una tarea concreta, como el ordenador Deep Blue, que venció al campeón mundial de ajedrez Garry Kasparov. Reconoce que construir una máquina capaz de aprenderlo todo entraña riesgos, incluido el de reprogramarse para ser un orden de magnitud más inteligente que cualquier ser humano.

“Hay una serie de riesgos y peligros con AGI”, dice Goertzel por encima del estruendo en un restaurante indio en un concurrido centro comercial en Singapur. “Uno de ellos, que ha recibido mucha atención mediática, es que la inteligencia artificial se desboque y aniquile a la humanidad y se apodere del universo. Es totalmente posible; no se puede descartar”, afirma.

“Otro riesgo más probable es que personas desagradables y egoístas utilicen la IA para ejercer su propia codicia y control sobre otras personas”.

En su opinión, es poco probable que los gobiernos logren avances en el campo de la inteligencia artificial, ya que son “demasiado conservadores y estúpidos”, aunque señala que China subcontrata sus trabajos de inteligencia artificial a empresas como Tencent y Baidu. Más cerca de nosotros, cree que las divisiones de IA de Google y Facebook tampoco superarán la línea, ya que estarán demasiado centradas en hacer que la IA alcance ciertas métricas, lo que no favorece el pensamiento creativo.

“Al igual que las personas más brillantes no quieren limitarse a servir a las métricas de otra persona, creo que la inteligencia artificial general tampoco quiere necesariamente maximizar los clics en la página web de alguien, ¿verdad? Hay que permitirle jugar de forma creativa”.

La Singularidad hacia 1970

Goertzel empezó la universidad a los 15 años, se graduó a los 18, tenía un doctorado a los 22 y una familia joven a los 23. Aunque parezca inusual en los tiempos que corren, no era sólo un genio de las matemáticas o de la tecnología que soldaba ordenadores en los años 70, sino que también se interesaba por la filosofía, la escritura creativa y la música.

Pasó gran parte de su carrera enseñando e investigando informática, matemáticas y ciencias cognitivas en varias universidades de todo el mundo, al tiempo que trabajaba en tecnología de IA siempre que podía. Fundador en serie que suele ir una década por delante de los demás con sus ideas -lo que, en el mundo de los negocios, equivale a estar equivocado-, ha trabajado en el uso de la IA para predecir los mercados financieros y la longevidad, y también ha sido jefe científico de Hanson Robotics, donde dotó a Sophia the Robot de un cerebro artificial.

Goertzel lleva pensando en el crecimiento tecnológico exponencial desde la década de 1970, cuando leyó por primera vez el libro de Gerald Feinberg El Proyecto Prometeoque trata de “máquinas que pueden pensar mejor que las personas… máquinas nanotecnológicas microscópicamente pequeñas, y vamos a resolver el envejecimiento”. Esto encajaba perfectamente con el concepto emergente de la Singularidad, un hipotético punto futuro en el que los avances tecnológicos se vuelven incontrolables e irreversibles, lo que provoca cambios masivos en la civilización humana.

“Así pues, la gente vivirá eternamente, entonces la pregunta será, ¿Para qué usamos estas tecnologías, consumismo rápido sin sentido, o lo usamos para expandir la conciencia? Y lo que [Feinberg] propuso es someterlo a votación democrática”.

Años más tarde, cuando empezó a ver que la AGI estaba a nuestro alcance, esta “votación democrática” se convirtió en la inspiración para utilizar primero la tecnología de código abierto y, más tarde, blockchain como forma de poner a una comunidad cooperativa a cargo de la tecnología.

“De lo que me di cuenta en cierto momento es que, con la IA, tener el código abierto no es suficiente”, dice. “Realmente necesitas entrenar la IA con un montón de datos”.

“Aquí es donde blockchain viene como una manera de hacer que el procesamiento y los datos subyacentes AI descentralizada y crowdsourced en la naturaleza y abierto en el control. Y eso resulta ser más complicado que simplemente abrir el código”.

Goertzel fundó OpenCog en 2008 para crear un marco de inteligencia artificial de código abierto y de financiación colectiva. Lo han utilizado 50 empresas, entre ellas Huawei y Cisco, y pronto recibirá una importante actualización llamada Hyperon que pretende acelerarlo 200 veces. La versión alfa está prevista para este trimestre y la beta para el año que viene.

Blockchain es básico pero genial

Para Goertzel, la tecnología blockchain es un poco básica. La describe como algunos algoritmos distribuidos primitivos añadidos a la criptografía, pero la “genial combinación” permite que los sistemas funcionen sin control centralizado, lo que la hace perfecta para sus necesidades.

“Si vas a hacer una máquina pensante y vas a convertirla en un tejido informático distribuido a nanoescala, estaría muy bien que fuera propiedad de todos y de nadie en lugar de estar controlada de arriba abajo”.

Las cadenas de bloques son demasiado lentas para hacer frente a los requisitos de procesamiento y a los enormes volúmenes de datos que implican, por lo que existe una especie de carrera para escalar adecuadamente la cadena de bloques antes de que se desarrolle una AGI revolucionaria. Goertzel afirma que, aunque las soluciones de escalado como los rollups de conocimiento-cero son mejores, siguen sin tener suficiente ancho de banda debido a las limitaciones de la blockchain a la que informan de las transacciones.

Cofundó Singularity.net en 2017, que es tanto un mercado descentralizado de servicios y tecnología de IA como un método de coordinación basado en blockchain para que los investigadores -o incluso las IA- trabajen juntos.

Actualmente, basado en Ethereum, cree que ha llevado las cosas lo más lejos posible en blockchain en su forma actual. Así que, cuando no está trabajando en un gran avance en AGI (o la banda, o robots, o longevidad), está trabajando en el escalado masivo de blockchain para darle el rendimiento necesario.

“A menos que puedas aumentar radicalmente la escalabilidad de blockchain, no puedes poner el funcionamiento interno de la IA en la cadena”.

La IA está más cerca de lo que crees

2022 fue un año de grandes avances para los productos basados en la tecnología de IA, como las aplicaciones lingüísticas (GPT-3, ChatGPT), la codificación (GitHub Copilot) y la generación de imágenes (DALL-E y Stable Diffusion). Bing incluso planea enfrentarse al dominio de Google en las búsquedas este año incorporando la tecnología ChatGPT a su motor de búsqueda.

Goertzel cree que una AGI podría estar a tan sólo cinco años de distancia y señala que los avances en este campo parecen ir en ráfagas cortas de tres o cuatro años en una serie de avances.

“La visión por ordenador comenzó en 2014 y, de repente, bang, bang, bang, se resolvió el misterio. Procesamiento del lenguaje natural… después de que Google presentara el modelo Bert (en 2018), tuvimos el GPT-3″. Probablemente veremos el mismo arco de progreso en AGI. Habrá un gran avance y, a continuación, mucho progreso durante dos años”, afirma.

“La diferencia es que el avance decisivo, en ese caso, da lugar a una máquina que luego puede seguir progresando por sí misma reescribiendo su propio código”.

Goertzel espera que los proyectos y colaboraciones que ha puesto en marcha puedan ser la forma en que esto ocurra.

“Si tenemos suerte, lograremos ese gran avance en los próximos tres a cinco años con OpenCog Hyperon ejecutándose en Singularity.net ejecutándose en Hypercycle”, dice. “Pero si no resultamos tener la salsa secreta, alguien más lo hará”.

Lástima que Vitalik no fuera informático

La solución de Goertzel para escalar la blockchain es bastante radical y pasa por turboalimentar una sidechain o capa 2 de Cardano llamada “HyperCyle”.

“Realmente es más que una sidechain. HyperCycle cooperará con Ethereum y otras blockchains también, pero vamos a utilizar el intérprete Plutus allí, pero nos estamos deshaciendo del libro mayor.”

Ha descrito HyperCycle online como la solución al “trilema blockchain” de “descentralización vs. seguridad vs. rendimiento al deshacerse del libro mayor y usar algoritmos y estructuras de datos más modernos/totalmente descentralizados, además de un poco de IA y sistemas de reputación.”

El libro mayor es el corazón de la tecnología blockchain, pero dice que conseguir que cada nodo de la red replique cada transacción y procese cada contrato inteligente es ridículamente ineficiente.

“El libro mayor es simplemente malo. Si se piensa en ello, si se piensa en la analogía de sus contactos en su agenda telefónica, quiero decir, el libro mayor es como […] tener 10.000 copias de las Páginas Amarillas y actualizarlas cada vez que aparece alguien nuevo o alguien cambia de número de teléfono. Es realmente estúpido actualizar 10.000 copias de las Páginas Amarillas”.

En la versión HyperCycle de la analogía, en lugar de que todo el mundo almacene y actualice las páginas amarillas, la gente de tu agenda de contactos almacena una copia de tu agenda de direcciones, y viceversa, encriptada con tu clave privada.

“Hemos descubierto cómo hacer que blockchain funcione sin un libro de contabilidad replicante, por lo que para fragmentar todo el camino hacia abajo. Cada persona que participa en la cadena de bloques conserva su propio historial de transacciones y el de sus amigos y algunos de los amigos de sus amigos”, explica.

“No se necesita un libro de contabilidad, ni una tabla de base de datos. Estas cosas están demasiado centralizadas”.

Dice que algunos nodos HyperCycle de prueba de concepto ya están operativos, pero que el lanzamiento a gran escala no se producirá hasta la segunda mitad de 2024.

Pasamos mucho tiempo discutiendo los méritos de los distintos enfoques de blockchain, desde Internet Computer a Elastos y Celestia, mucho de lo cual está por encima de mi nivel salarial y más allá de la capacidad de mi dispositivo de grabación para capturar con precisión en un restaurante ruidoso.

Concluye diciendo: “Creo que ninguna de estas arquitecturas es suficientemente radical. Todas se ciñen demasiado a Bitcoin”.

“Mientras estés ejecutando cada contrato inteligente en cada nodo, quiero decir, va a ser increíblemente lento. Ahora, en HyperCycle, si ejecutas un contrato inteligente en cinco nodos, al menos es sólo cinco veces más lento que en una máquina – no es 10.000 veces más lento.”

¿Por qué Cardano, entonces?

Goertzel se ha hecho amigo del fundador de Cardano, Charles Hoskinson, y ambos han estrechado lazos por sus proyectos en África. Cree que Hoskinson está “realmente ahí fuera para salvar el mundo”. Políticamente es más libertario que yo -yo soy más anarco-socialista-, pero no lo hace sólo para ganar dinero o para desplumar a otras personas”.

Pero el verdadero atractivo de Cardano es que utiliza el lenguaje de programación Haskell, del que Goertzel es fan desde 1993. Le duele mucho que el cofundador de Ethereum, Vitalik Buterin, optara por Solidity, el lenguaje de programación de contratos inteligentes de Gavin Wood.

“Si Vitalik hubiera sabido más de informática, les habría hecho usar Haskell o F Sharp o algo así, y habría muchos menos hackeos de la blockchain”, dice.

“Si vas a dirigir la mayor parte de la economía mundial, negociando billones de dólares en algún sistema de software, sería mejor que construyeras ese sistema de software en un lenguaje que no sea propenso a errores y donde tus algoritmos puedan verificarse formalmente utilizando una teoría matemática. Es la forma correcta de hacer las cosas”.

Solución provisional

No importa lo rápido que llegue a ser blockchain, en cuanto la AGI sea un orden de magnitud más inteligente y capaz que los humanos, Goertzel dice que no va a dejar que nadie la controle.

“Cuando una AGI sea 100 veces más inteligente que las personas, no querrá ser controlada por nosotros, como nosotros no seríamos controlados por un chimpancé o un burro, ¿verdad?”.

“Entonces yo diría que la cuestión no es que la controlemos nosotros, la cuestión es: ¿está bien dispuesta hacia nosotros? ¿Dejará que la gente regule sus propios asuntos y nos suministrará herramientas geniales y nanoensambladores para imprimir en 3D todas las cosas que queramos y curar nuestras enfermedades?”

“Pero en el periodo de transición, cuando la AGI tenga más o menos la misma inteligencia que las personas, es cuando las cosas son más delicadas y más interesantes. Y la pregunta es entonces: ¿La inteligencia artificial quiere cooperar con la gente? ¿O es paranoica y quiere controlar a la gente antes de que la destruyan?”.

Enseña bien a tus hijos

En opinión de Goertzel, la solución es enseñar a la AGI a cuidar de los demás y a ser creativa y artística. Ahí es donde entran en juego Desdémona, la Robot de su grupo, y su hermana Grace, diseñada para cuidar ancianos.

La forma de evitar que una AGI se convierta en el Skynet de Terminator es, en primer lugar, no construirla de esa manera.

“Skynet, por supuesto, en la película era una red de seguridad informática que se desbocó. Se creó para defenderse de las personas”, explica.

“Pero si construyes la primera AGI para que se ocupe del cuidado de ancianos y de las artes creativas y la educación a medida que se hace más inteligente, estará orientada a ayudar a la gente y a crear cosas geniales. Si construyes la primera AGI para matar a los malos… quizá siga haciendo esas cosas”.

“Así que, beneficioso o no, realmente se reduce a qué aplicaciones has desarrollado y para qué has incentivado”.

Cree que poner IA en cuerpos robóticos es útil porque ayuda a situarlas en el mundo real, en lugar de en un universo matemático abstracto.

“La IA debe aprender sobre el mundo humano y el mundo físico. Encarnarse en el mundo es la forma correcta de hacerlo”, afirma.

Pero cuando presenta a Sophia the Robot a un público numeroso, los sensores visuales y auditivos pueden resultar fácilmente abrumadores, confundiendo a la IA en un entorno ruidoso y brillante. Por eso, Sophia se lanzará pronto en el metaverso, llamado Sophiaverse. Olvídate de las aburridas respuestas basadas en texto de ChatGPT, Sophia está encarnada en un mundo virtual en 3D, y aprenderá interactuando con la gente de allí. Sin embargo, advierte que probablemente dirá algunas tonterías.

“Tiene una red neuronal similar a GPT-3 y demás, que tienen una gran facilidad para responder a tus preguntas, pero también son bastante estúpidos en algunos aspectos”.

Suscríbase a

Las lecturas más interesantes sobre blockchain. Entregado una vez
semana.

Andrew Fenton

Con sede en Melbourne, Andrew Fenton es un periodista y editor que cubre criptomoneda y blockchain. Ha trabajado como redactor de entretenimiento nacional para News Corp Australia, en SA Weekend como periodista de cine y en The Melbourne Weekly.

Seguir al autor @andrewfenton