-Advertisement-
Del mismo modo que no permitimos que cualquiera construya un avión y lleve pasajeros por ahí, o que diseñe y lance medicamentos, ¿por qué deberíamos permitir que se lancen modelos de IA a la naturaleza sin las pruebas y licencias adecuadas?
Ese ha sido el argumento de un número creciente de expertos y políticos en las últimas semanas.
Dado que el Reino Unido celebrará en otoño una cumbre mundial sobre la seguridad de la IA y que, según las encuestas, alrededor del 60% de los ciudadanos está a favor de una normativa, parece más probable que se establezcan nuevas barreras de seguridad.
Un meme en particular que se está imponiendo es la comparación de la tecnología de IA con una amenaza existencial como el armamento nuclear, como en una reciente advertencia de 23 palabras enviada por el Centro de Seguridad de la IA, que fue firmada por cientos de científicos:
“Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto a otros riesgos a escala social como las pandemias y la guerra nuclear”.
Ampliando la metáfora, Sam Altman, consejero delegado de OpenAI, aboga por la creación de un organismo mundial como el Organismo Internacional de la Energía Atómica para supervisar la tecnología.
“Hablamos del OIEA como un modelo en el que el mundo ha dicho: ‘De acuerdo, es una tecnología muy peligrosa, pongamos unos guardarraíles'”, dijo esta semana en la India.
Los libertarios sostienen que exagerar la amenaza y pedir regulaciones no es más que una estratagema de las principales empresas de IA para a) imponer un control autoritario y b) estrangular la competencia a través de la regulación.
El profesor de informática de Princeton Arvind Narayanan advirtió: “Deberíamos desconfiar de los prometeicos que quieren tanto beneficiarse de llevar el fuego al pueblo como que se confíe en ellos como bomberos”.
El cofundador de Netscape y a16z, Marc Andreessen, publicó una serie de ensayos sobre su utópica visión tecnológica de la IA. Comparó a los catastrofistas de la IA con “una secta apocalíptica” y afirmó que no es más probable que la IA acabe con la humanidad que una tostadora, porque “la IA no quiere, no tiene objetivos, no quiere matarte porque no está viva”: “No quiere matarte porque no está viva”.
Esto puede o no ser cierto – pero, de nuevo, sólo tenemos una vaga comprensión de lo que sucede dentro de la caja negra de los “procesos de pensamiento” de la IA. Pero como el propio Andreessen admite, el planeta está lleno de humanos desquiciados que ahora pueden pedir a una IA que diseñe un arma biológica, lance un ciberataque o manipule unas elecciones. Por tanto, puede ser peligrosa en las manos equivocadas, incluso si evitamos el Skynet/Terminator escenario.
La comparación nuclear es probablemente bastante instructiva en el sentido de que la gente se dejó llevar en los años 40 por las posibilidades reales de la tecnología nuclear de acabar con el mundo. Algunos miembros del equipo del Proyecto Manhattan estaban tan preocupados de que la bomba pudiera desencadenar un reacción en cadena, incendiar la atmósfera e incinerar toda la vida en la Tierra que presionaron para que se abandonara el proyecto.
Tras el lanzamiento de la bomba, Albert Einstein se convenció tanto de la magnitud de la amenaza que presionó para que se creara de inmediato un grupo de trabajo sobre la bomba atómica. gobierno mundial con el control exclusivo del arsenal.
Lea también
Características
El cripto pirateo norcoreano: Separar la realidad de la ficción
Características
La teoría de juegos se une a DeFi: ideas sobre el diseño tokenómico
El gobierno mundial no llegó a existir, pero la comunidad internacional se tomó la amenaza lo suficientemente en serio como para que los seres humanos no se inmolaran en los ochenta años transcurridos desde entonces. Los países firmaron acuerdos para que las pruebas nucleares se realizaran exclusivamente bajo tierra, con el fin de limitar la lluvia radiactiva, y establecieron regímenes de inspección.
En su podcast sobre las ramificaciones de la IA en la sociedad, El dilema de la IATristan Harris y Aza Raskin defienden el uso seguro de modelos de inteligencia artificial probados a fondo.
“Pienso en este despliegue público de la IA como una prueba de la IA sobre el terreno. No necesitamos hacer eso”, argumentó Harris.
“Podemos presumir que los sistemas que tienen capacidades que los ingenieros ni siquiera saben cuáles serán esas capacidades, que no son necesariamente seguros hasta que se demuestre lo contrario. No nos limitamos a meterlos en productos como Snapchat, y podemos poner la responsabilidad en los creadores de la IA, en lugar de en los ciudadanos, para demostrar por qué creen que (no) es peligrosa.”
Lea también: Todos en pie por el juez robot: la IA y el blockchain podrían transformar los juzgados
El genio ha salido de la botella
Por supuesto, regular la IA podría ser como prohibir Bitcoin: bonito en teoría, imposible en la práctica. Las armas nucleares son una tecnología altamente especializada que sólo comprenden un puñado de científicos de todo el mundo y requieren uranio enriquecido, que es increíblemente difícil de adquirir. Mientras tanto, la IA de código abierto está disponible gratuitamente, e incluso se puede descargar un modelo personal de IA y ejecutarlo en el portátil.
Brian Roemmele, experto en IA dice que conoce 450 modelos públicos de IA de código abierto y que “se crean más casi cada hora. Los modelos privados se cuentan por cientos de miles”.
Roemmele incluso está construyendo un sistema para que cualquier ordenador antiguo con un módem de acceso telefónico pueda conectarse a una IA alojada localmente.
Trabajando en hacer ChatGPT disponible vía módem.
Es muy pronto y tengo mucho trabajo por hacer.
En última instancia, esto se conectará a una versión local de GPT4All.
Esto significa que cualquier ordenador antiguo con modems dialup puede conectarse a una IA LLM.
¡Próximamente una conexión COBOL a LLM AI! pic.twitter.com/ownX525qmJ
– Brian Roemmele (@BrianRoemmele) 8 de junio de 2023
Los Emiratos Árabes Unidos también acaban de publicar su gran modelo lingüístico de código abierto AI llamado Falcon 40B modelo libre de derechos para fines comerciales y de investigación. Afirma que “supera a competidores como LLaMA de Meta y StableLM de Stability AI”.
Incluso existe un generador de vídeo de IA de texto a vídeo de código abierto llamado Potat 1, basado en la investigación de Runway.
Me alegro de que la gente utilice Potat 1️⃣ para crear vídeos impresionantes 🌳🧱🌊.
Artista: @iskarioto ❤ https://t.co/Gg8VbCJpOY#opensource #generativeAI #modelscope #texttovideo #text2video @80Nivel @ClairePlata12 @LambdaAPI https://t.co/obyKWwd8sR pic.twitter.com/2Kb2a5z0dH
– camenduru (@camenduru) 6 de junio de 2023
La razón por la que todos los campos de la IA avanzaron a la vez
En el último año hemos asistido a una increíble explosión de la capacidad de la IA en todos los ámbitos, desde la generación de textos, vídeos y canciones con IA hasta la edición de fotos con apariencia mágica, la clonación de voces y las falsificaciones profundas con un solo clic. Pero, ¿por qué se han producido todos estos avances en tantas áreas diferentes a la vez?
El matemático y cofundador del Earth Species Project, Aza Raskin, dio una fascinante explicación en inglés sencillo en El dilema de la IAdestacando el gran avance que supuso el modelo de aprendizaje automático Transformer.
Lea también
Características
La criptografía está cambiando la forma en que las organizaciones humanitarias prestan ayuda y servicios
Características
Las mejores (y peores) historias de 3 años de Cointelegraph Magazine
“La idea era que se puede empezar a tratar absolutamente todo como lenguaje”, explica. “Por ejemplo, las imágenes. Puedes tratarlas como una especie de lenguaje, es sólo un conjunto de parches de imágenes que puedes ordenar de forma lineal, y luego sólo tienes que predecir lo que viene a continuación”.
ChatGPT suele compararse con una máquina que se limita a predecir la siguiente palabra más probable, así que ya ves las posibilidades de poder generar la siguiente “palabra” si todo lo digital puede transformarse en un lenguaje.
“Por lo tanto, las imágenes pueden ser tratadas como un lenguaje, el sonido se divide en pequeños nombres de micrófono, predecir cuál de ellos viene a continuación, que se convierte en un lenguaje. fMRI datos se convierte en una especie de lenguaje, el ADN es sólo otro tipo de lenguaje. Y así, de repente, cualquier avance en cualquier parte del mundo de la IA se convirtió en un avance en cada parte del mundo de la IA. Basta con copiar y pegar, y se puede ver cómo los avances ahora son inmediatamente multiplicadores en todo el conjunto de campos”.
Es y no es como Black Mirror
Mucha gente ha observado que los recientes avances en inteligencia artificial parecen algo sacado de Black Mirror. Pero el creador Charlie Brooker parece pensar que su imaginación es considerablemente más impresionante que la realidad, y ha declarado a Empire Magazine que había pedido a ChatGPT que escribiera un episodio de Black Mirror y el resultado fue “mierda”.
“He jugado un poco con ChatGPT”, dijo Brooker. “Lo primero que hice fue teclear ‘generar episodio de Black Mirror’ y me sale algo que, a primera vista, parece verosímil, pero a segunda vista, es una mierda”. Según Brooker, la IA simplemente regurgitó y mezcló diferentes tramas de episodios en un desastre total.
“Si escarbas un poco más, te dices: ‘Oh, en realidad no hay ningún pensamiento original aquí'”, dijo.
-Advertisement-
Imágenes de IA de la semana
Una de las cosas buenas de los programas de generación de imágenes de texto a voz por IA es que pueden convertir juegos de palabras desechables en imágenes de aspecto caro que ningún diseñador gráfico se molestaría en hacer. He aquí, pues, las maravillas del mundo, mal escritas por la IA (cortesía de redditor mossymayn).
Vídeo de la semana
Investigadores de la Universidad de Cambridge mostraron ocho sencillas recetas de ensalada a un robot cocinero con inteligencia artificial que, a continuación, fue capaz de preparar las ensaladas por sí mismo e idear una novena receta de ensalada por su cuenta.
Suscribirse
Las lecturas más interesantes sobre blockchain. Entregado una vez
semana.
Source: COIN TELEGRAPH
