Controlar a los robots, incentivar a los humanos – Cointelegraph Magazine

Generador de texto ChatGPT es la aplicación de consumo de más rápido crecimiento de la historia, y sigue creciendo rápidamente.

Pero el sucio secreto de la IA es que los humanos siguen siendo necesarios para crear, etiquetar y estructurar los datos de entrenamiento, y los datos de entrenamiento son muy caros. El lado oscuro de esto es que se está creando un bucle de retroalimentación exponencial en el que la IA es una tecnología de vigilancia. Por eso es crucial gestionar a los humanos en el bucle de la IA.

Algunos expertos creen que cuando (potencialmente) los robots se apoderen del mundo, será mejor que estén controlados por redes descentralizadas. Y hay que incentivar a los humanos para que preparen los conjuntos de datos. Blockchain y los tokens pueden ayudar… ¿pero puede blockchain salvar a la humanidad de la IA?

ChatGPT es sólo regurgitado datos

ChatGPT es un gran negocio según el famoso investigador de IA Ben Goertzel, dado que “el asunto de ChatGPT hizo que los fundadores de Google se presentaran en la oficina por primera vez en años”, se ríe. Goertzel es el fundador del mercado de IA basado en blockchain SingularityNET y un abierto defensor de la inteligencia general artificial (AGI), es decir, de que los ordenadores piensen por sí mismos. Eso significa que ve con más claridad que la mayoría los puntos en los que ChatGPT se queda corto.

“Lo interesante de ChatGPT y otros modelos neuronales es que alcanzan un cierto grado de generalidad sin tener mucha capacidad de generalización. Alcanzan un ámbito general de habilidad relativo a un humano individual al tener tantos datos de entrenamiento.”

Lea también: Cómo evitar que la IA ‘aniquile a la humanidad’ usando blockchain

En otras palabras, ChatGPT es realmente una función lograda por la fuerza bruta de tener tantos datos. “Esta no es la forma en que los humanos logran amplitud mediante actos iterativos de generalización creativa”, dice, y añade: “Es un hack; es un hack hermoso; es muy cool. Creo que es un gran salto adelante”.

Tampoco descarta adónde puede llevarnos ese hack. “No me sorprendería que las GPT-7 pudieran hacer el 80% de los trabajos humanos”, afirma. “Eso es mucho, pero no significa que puedan ser máquinas pensantes de nivel humano. Pero pueden hacer la mayoría de los trabajos de nivel humano”.

La lógica predicada de la experiencia sigue siendo más difícil para la IA que rascar en Internet. La lógica de predicados hace que los humanos sepan cómo abrir los tapones de las botellas, por ejemplo, pero las IA necesitan billones de datos para aprender esa sencilla tarea. Y los grandes modelos lingüísticos (LLM) todavía pueden convertir el lenguaje en lógica presuntiva, incluida la lógica paraconsistente o autocontradictoria, explica Goertzel.

“Si les das de comer toda la web, casi cualquier cosa que les preguntes está cubierta en algún lugar de la web”.

Goertzel señala que eso significa que parte del interrogatorio de Magazine es redundante.

“Me han hecho las mismas preguntas sobre ChatGPT 10 veces en las últimas tres semanas, así que podríamos haber preguntado simplemente a ChatGPT lo que pienso sobre ChatGPT. Los neuromodelos pueden generar todo lo que he dicho en los últimos dos meses, ni siquiera necesito estar diciéndolo.”

Goertzel es importante en el pensamiento de la IA porque está especializado en AGI. Dice que él y el 90% de sus colegas de AGI piensan que los LLM como ChatGPT son en parte una distracción de este objetivo. Pero añade que los LLM también pueden contribuir y acelerar el trabajo en todo tipo de innovaciones que podrían desempeñar un papel en las AGI. Por ejemplo, los LLM acelerarán el avance de la codificación. Los LLM pueden incluso ayudar a personas sin conocimientos de programación a crear una aplicación para el teléfono o la web. Esto significa que los fundadores de empresas no tecnológicas pueden utilizar los LLM para crear startups tecnológicas. “La IA debería democratizar la creación de tecnología de software y, un poco más adelante, de tecnología de hardware”.

Goertzel fundó SingularityNET como un intento de utilizar la tecnología blockchain y de código abierto para distribuir el acceso a la tecnología que controla las AGIs a todo el mundo, en lugar de dejar que permanezca en manos de monopolios. Goertzel señala que ChatGPT y otras aplicaciones de texto despliegan algoritmos de código abierto visibles públicamente. Por tanto, la infraestructura de seguridad de sus conjuntos de datos y la forma en que los usuarios participan en esta revolución tecnológica se encuentran ahora en un momento crucial.

-Advertisement-

En este sentido, también lo está el desarrollo de la IA en general. En marzo, el cofundador de OpenAI, Elon Musk, y más de 1.000 líderes de la tecnología pidieron que se detuviera al desarrollo de la IA o al despliegue de sistemas más potentes que la GPT-4. Su carta abierta advertía de “profundos riesgos para la sociedad y la humanidad”. La carta argumentaba que la pausa daría tiempo a implantar “protocolos de seguridad compartidos” para los sistemas de IA. “Si tal pausa no puede aplicarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, afirmaban.

Goertzel es más optimista sobre el potencial de la tecnología para mejorar nuestras vidas en lugar de destruirlas, pero lleva trabajando en esto desde los años setenta.

Se necesitan sistemas de reputación

Humayun Sheikh fue uno de los inversores fundadores del famoso laboratorio de investigación de IA DeepMind, donde apoyó la comercialización de tecnología de IA y redes neuronales profundas en fase inicial. En la actualidad, dirige Fetch.ai como CEO y fundador. Se trata de una startup que desarrolla un futuro autónomo con tecnología profunda.

Defiende que la intersección entre blockchain e IA está impulsada económicamente, ya que la financiación necesaria para entrenar modelos de IA es prohibitivamente cara, excepto para organizaciones muy grandes. “Toda la premisa detrás de crypto es la democratización de la tecnología y el acceso a las finanzas. En lugar de que una entidad monopolizada tenga toda la propiedad de un modelo de IA importante, prevemos que la propiedad se divida entre las personas que contribuyeron a su desarrollo.”

“Una forma absoluta de animar a la gente a permanecer en el bucle es implicarla en el desarrollo de la IA desde el principio, que es por lo que creemos en la descentralización de la tecnología de IA. Tanto si se trata de personas que entrenan a la IA desde el principio como de personas que prueban y validan los sistemas de IA, garantizar que la gente normal pueda apropiarse del modelo de IA es una forma sólida de mantener a los humanos en el bucle. Y queremos hacerlo manteniendo esta democratización basada en mecanismos de incentivación adecuados.”

Una forma de hacerlo es a través de los sistemas de reputación emergentes y las redes sociales descentralizadas. Por ejemplo, Rejuve, una empresa derivada de SingularityNet, está convirtiendo en token y crowdsourcing los datos biológicos enviados por particulares con la esperanza de utilizar la IA para analizarlos y cruzarlos con datos de animales e insectos con la esperanza de descubrir qué partes del genoma pueden hacernos vivir más tiempo. Es una economía de la longevidad impulsada por la IA y basada en la Web3. La ciencia abierta debe ser de pago es el pensamiento y los depositantes de datos deben ser recompensados por sus contribuciones.

“El desarrollo de la IA depende de la formación humana. Los sistemas de reputación pueden garantizar la calidad de los datos, y las redes sociales descentralizadas pueden asegurar que en el proceso de desarrollo se incluya una panoplia diversa de pensamientos y puntos de vista. La aceleración de la adopción de la IA planteará el reto de desarrollar una tecnología de IA sin opiniones”.

La gobernanza de la IA basada en blockchain también puede ayudar, argumenta Sheikh, que afirma que garantiza la transparencia y la descentralización de la toma de decisiones a través de un registro indiscutible de los datos recopilados y las decisiones tomadas que puede ver todo el mundo. Pero la tecnología blockchain es sólo una pieza del rompecabezas. Las reglas y normas, como vemos en las DAO, siempre serán necesarias para una gobernanza fiable”, afirma.

Goertzel señala que “no se puede comprar y vender la reputación de otra persona”, y los tokens tienen efectos de red. Los sistemas de reputación basados en blockchain para la IA pueden garantizar que los consumidores distingan entre falsificaciones de IA y personas reales, pero también garantizan la transparencia para que los creadores de modelos de IA puedan rendir cuentas de sus construcciones de IA. Desde este punto de vista, es necesario que se adopte algún estándar para la medición de la reputación mediante tokens en toda la comunidad de blockchain y, posteriormente, en el ecosistema tecnológico general.

Y a su vez, los sistemas de reputación pueden acelerar las innovaciones de IA. “Este no es el camino hacia el dinero rápido, pero es parte del camino para que blockchain domine la economía global. Hay un poco de tragedia de los comunes con blockchain en el espacio de la reputación. Todo el mundo se beneficiará de un sistema de reputación compartida”.

Blockchains para la gestión de conjuntos de datos

Los datos combinados con IA sirven para muchas cosas -pueden diagnosticar cáncer de pulmón-, pero los gobiernos de todo el mundo están muy preocupados por cómo gobernar los datos.

La cuestión clave es a quién pertenecen los conjuntos de datos. Las distinciones entre fuentes abiertas y cerradas son difusas, y sus interacciones se han vuelto muy sutiles. Los algoritmos de IA suelen ser de código abierto, pero los parámetros de los conjuntos de datos y los propios conjuntos de datos suelen ser propietarios y cerrados, incluso para ChatGPT.

El público no sabe qué datos se utilizaron para entrenar a ChatGPT-4, así que aunque los algoritmos sean públicos, la IA no puede reproducirse. Varias personas han teorizado que se entrenó utilizando conjuntos de datos de Google y Twitter, mientras que Google negó haber entrenado su propia IA llamada Bard con datos y conversaciones de ChatGPT, lo que enturbia aún más la cuestión de quién es dueño de qué y cómo.

Kai-Fu Lee, famoso investigador de IA, suele decir que la IA de código abierto es la mayor colaboración humana de la historia, y que los trabajos de investigación sobre IA suelen contener sus conjuntos de datos para que puedan ser reproducidos o copiados por otros. Pero a pesar de las declaraciones de Lee, los datos, cuando se adjuntan a la investigación académica, suelen estar mal etiquetados y son difíciles de seguir “de la forma más incomprensible, difícil y molesta”, afirma Goertzel. Incluso los conjuntos de datos abiertos, como los de los artículos académicos, pueden estar desestructurados, mal etiquetados, ser poco útiles y, en general, difíciles de reproducir.

Por lo tanto, está claro que hay un punto dulce en el preprocesamiento de datos en AI meets blockchain. Hay una oportunidad para que las empresas de criptomonedas y las DAO creen las herramientas para la infraestructura descentralizada para limpiar los conjuntos de datos de entrenamiento. El código fuente abierto es una cosa, pero la protección de los datos es crucial.

“Necesitas formas de acceder a modelos de IA en vivo, pero al final, alguien tiene que pagar por la computadora que ejecuta el proceso”, señala Goertzel. Esto podría significar que los usuarios pagaran por el acceso a la IA a través de un modelo de suscripción, dice, pero los tokenomics encajan de forma natural. Entonces, ¿por qué no incentivar los buenos conjuntos de datos para seguir investigando? Las empresas de criptomonedas podrían construir “conductos de análisis de datos” para cosas como los datos genómicos. Los LLM ya podrían hacer bien estas cosas, pero “la mayoría de estos pasos de preprocesamiento podrían hacerse mejor por computadoras descentralizadas”, dice Goertzel, “pero es mucho trabajo construirlo.”

Colaboración entre humanos e inteligencia artificial: Océanos de datos que necesitan administradores responsables

Según Trent McConaghy, fundador canadiense de Ocean Protocol, una forma práctica de concebir la colaboración entre IA y humanos es la idea del “diseño asistido por ordenador” (CAD). Los ingenieros se benefician del CAD asistido por IA desde los años ochenta. “Es un marco importante: Se trata de que los humanos trabajen en bucle con los ordenadores para lograr objetivos aprovechando los puntos fuertes de ambos”, afirma.

McConaughy empezó a trabajar en IA en la década de 1990 para el gobierno canadiense y pasó 15 años creando herramientas CAD basadas en IA para el diseño de circuitos. Escribió uno de los primeros artículos serios sobre la IA. blockchain para IA en 2016.

El CAD nos ofrece un marco práctico para la colaboración entre IA y humanos. Pero estas herramientas CAD basadas en IA siguen necesitando datos.

McConaghy fundó Ocean Protocol en 2017 para abordar el problema. Ocean Protocol es una red de utilidad pública para compartir de forma segura datos de IA preservando la privacidad. “Es una jugada de IA usando blockchain, y se trata de democratizar los datos para el planeta”. Impresionantemente, es el sexto criptoproyecto más activo en GitHub.

Blockchain tiene mucho que decir sobre cómo poner los datos en manos del ciudadano de a pie. Al igual que Goertzel, McConaghy cree que los ordenadores distribuidos pueden contribuir de forma importante a proteger la inteligencia artificial de usos nocivos. IPFS, Filecoin, Ocean Protocol y otros controladores de datos descentralizados han liderado esta misión durante los últimos años.

La agricultura de datos en Ocean ya incentiva a la gente a conservar activos de datos que creen que tendrán un alto volumen de actividad para el desarrollo de la IA. Algunos ejemplos son el mercado de datos empresariales Acentrik, los asistentes de IA para organizaciones Algovera y el protocolo de concursos descentralizados de ciencia de datos Desights. El “problema para la gente de la IA es conseguir más datos y la procedencia de esos datos”, afirma McConaghy.

Blockchain puede ayudar a las IA a compartir datos de forma segura (los datos de entrenamiento en bruto, los modelos y las predicciones de entrenamiento en bruto) con inmutabilidad, procedencia, custodia, resistencia a la censura y privacidad.

McConaghy considera que esto es una gran ventaja para la integración de ambos. Creció jugando al hockey sobre hielo, conduciendo tractores y pirateando ordenadores en Saskatchewan, pero siempre fue un “empollón de la IA de profesión”. “La IA convierte los datos en valor, pero los humanos deben decidir qué activos de datos pueden ser buenos”.

Ocean Protocol ha llevado esto aún más lejos para construir los cimientos de una economía de datos de IA. Tokeniza los activos de datos para que las personas puedan publicar datos valiosos como NFT y tokens, guardarlos en carteras, ponerlos a la venta en DEX de datos e incluso gestionarlos en DAO de datos. La tokenización de datos desbloquea la economía de datos aprovechando las herramientas DeFi. Pero, ¿se generalizarán estos esfuerzos antes que la IA?

Ordenadores descentralizados al servicio de robots autónomos

AGI es cuando los ordenadores empiezan a pensar por sí mismos y a construir mejores versiones de su propio código fuente. “La AGI de nivel humano puede leer su propio código fuente y la ciencia matemática e informática existente y puede hacer copias de sí misma para experimentar y luego construir el siguiente nivel: la superinteligencia artificial ASI”, explica Goertzel.

En opinión de Goertzel, es mucho mejor que esta tecnología esté dirigida por todos que por un único actor, como una empresa tecnológica o un país.

“Si despliegas un sistema AGI a través de millones en todo el mundo, y alguien no puede ponerte una pistola en la cabeza y decir: ‘Dame el sistema’ – blockchain resuelve ese problema, ¿verdad? Blockchain resuelve ese problema mejor de lo que resuelve el problema del dinero”, argumenta Goertzel.

Goertzel define específicamente AGI como “software o hardware con una sólida capacidad para generalizar más allá de su programación y su entrenamiento; es capaz de crear saltos creativos significativos más allá de la información que se le ha dado”.

“Según mis estimaciones, estamos ahora a tres u ocho años de la AGI a nivel humano, y luego a unos pocos años de la AGI sobrehumana. Vivimos tiempos interesantes”.

“A medio plazo, en los próximos tres u ocho años, veremos un gran avance en IAs fuertemente ligadas a datos, hasta un nivel humano, después de ese avance, ¿qué pasará?”

Muchos coinciden en que lo que está por venir en el desarrollo de la IA puede ser uno de los casos de uso importantes para el gobierno de blockchain. “AGI hará que los líderes mundiales se reúnan. La inteligencia artificial debe ser de código abierto y funcionar en millones de máquinas repartidas por todo el planeta”, afirma Goertzel. “Así, ningún país puede hacerse con su control y ninguna empresa puede hacerse con el suyo”.

El “ángulo criptográfico para la IA es un poco diferente”, explica. La IA y más tarde la AGI necesitan mecanismos de gobernanza para la toma de decisiones más allá de sus datos de entrenamiento y programación. La integridad de la reputación de los conjuntos de datos es crucial. Por esta razón, sostiene que “la reputación no puede ser fungible para los conjuntos de datos de IA”. Cuando una IA se vuelve rebelde, ¿a quién vas a llamar?

Las tecnologías descentralizadas no pueden ser la solución completa

De Kai, catedrático de Ciencias e Ingeniería Informáticas de la HKUST y distinguido investigador del Instituto Internacional de Ciencias Informáticas de Berkeley, está de acuerdo en que el principal obstáculo para democratizar la IA son los enormes recursos informáticos con los que cuentan las IA. Pero no está seguro de que las tecnologías descentralizadas puedan ser la solución completa. “Nunca llegaremos a la fase Terminator si no abordamos ahora los problemas inmediatos. Hay problemas existenciales de IA que desgarran subconscientemente la sociedad. Tenemos que abordar los prejuicios humanos y los problemas de los prejuicios de la IA”.

Dice que las tecnologías descentralizadas son todavía muy experimentales, mientras que estos problemas de la Web2 deben abordarse primero porque nos están causando problemas aquí y ahora.

“Las IA toman decisiones sobre cosas que no ves todos los días. Motores de búsqueda, YouTube, TikTok – deciden las cosas que no ves, creando puntos de vista más polarizados y llevando a una escisión doméstica y geopolítica insostenible.”

La transparencia de los conjuntos de datos es crucial, dice Kai, pero si el conjunto de datos es todo Internet, entonces ese conjunto de datos es efectivamente de código abierto. Google se entrena al 100% en Internet, los LLM pronto suplantarán a los algoritmos de los motores de búsqueda, argumenta. Los LLM pueden formarse casi al 100% fuera de Internet, afirma.

Así pues, Kai rechaza la idea de que blockchain vaya a resolver el problema de las IA rebeldes.

La “otra cara de la moneda [decentralized computing for AI] es el argumento que lleva a escenarios hollywoodienses tipo Skynet, y que pueden hacer que la IA sea más autónoma por sí misma. La descentralización de esa potencia de cálculo no es la solución, ya que puedes acabar involuntariamente con legiones de IAs”.

¿Cuál es entonces la mejor solución? “La descentralización es útil hasta cierto punto, pero no es una solución mágica. Web2 ha creado consecuencias imprevistas. Tenemos que aprender de esa lógica y entender que blockchain es una tecnología fundamental que ofrece muchas ventajas pero, de nuevo, no es una solución mágica.”

Pero, por supuesto, no todos los datos están disponibles gratuitamente en Internet: estudios científicos, datos médicos, datos personales recogidos por aplicaciones y muchos otros datos privados pueden utilizarse para entrenar la IA.

Una de las herramientas más útiles, dice, es crear simulaciones a gran escala para ver cómo puede desarrollarse todo esto. La cuestión, dice, es “decidir qué descentralizamos y qué no”.

Conclusión: Un mejor preprocesamiento de los datos mediante blockchain

Entonces, ¿cuál es el punto dulce para blockchain + IA? “Que la cadena de bloques se considere y se utilice como una pieza fundamental en el desarrollo de la IA sería ese proverbial punto dulce”, afirma Sheikh.

“Centralizar la ubicación de todos los datos de un modelo de IA vista no es óptimo para el desarrollo de la IA en nuestra opinión. En su lugar, permitir que los humanos que han entrenado el modelo sean propietarios de sus propios datos y reciban incentivos en función del impacto que hayan tenido en la precisión de las percepciones acelerará aún más la adopción de la IA. Los modelos de IA de una plataforma de este tipo pueden ser más escalables y sostenibles, con mayor seguridad y privacidad.”

“En los años 70-80, uno de los mayores errores fue asumir que lo que estábamos haciendo con la IA era correcto. Ahora tenemos que volver a poner a prueba nuestras suposiciones”, se preocupa Kai.

Suscríbase a

Las lecturas más interesantes sobre blockchain. Entregado una vez
semana.

Max Parasol

Max Parasol es investigador del RMIT Blockchain Innovation Hub. Ha trabajado como abogado, en capital privado y formó parte de una start up de criptomonedas en fase inicial que era demasiado ambiciosa.

Siga al autor @maxparasol