Durante décadas, Silicon Valley anticipó el momento en que llegaría una nueva tecnología y lo cambiaría todo. Unirá al hombre y la máquina, probablemente para bien pero quizás para mal, y dividirá la historia en Antes Y Después.
El nombre de este hito: la Singularidad.
Esto puede suceder de varias maneras. Una posibilidad es que las personas agreguen el poder de procesamiento de una computadora a su propia inteligencia innata, convirtiéndose en versiones sobrealimentadas de sí mismas. O tal vez las computadoras se volverían tan complejas que realmente podrían pensar, creando un cerebro global.
En cualquier caso, los cambios resultantes serían drásticos, exponenciales e irreversibles. Una máquina sobrehumana consciente de sí misma podría diseñar sus propias mejoras más rápido que cualquier grupo de científicos, desatando una explosión de inteligencia. Siglos de progreso podrían ocurrir en años o incluso meses. The Singularity es una catapulta hacia el futuro.
La inteligencia artificial está revolucionando la tecnología, los negocios y la política como nunca antes. Escuche las afirmaciones extravagantes y las afirmaciones salvajes que emanan de Silicon Valley, y parece que el tan prometido paraíso virtual finalmente está a su alcance.
Por lo general, el discreto CEO de Google, Sundar Pichai, llama a la inteligencia artificial «más profundo que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado. Reid Hoffman, un inversionista multimillonario, dice: “El poder de lograr un cambio positivo en el mundo está a punto de recibir el mayor impulso que jamás haya tenido. y el cofundador de Microsoft, Bill Gates proclama la IA «cambiará la forma en que las personas trabajan, aprenden, viajan, obtienen atención médica y se comunican entre sí».
AI es el último despliegue de nuevos productos en Silicon Valley: trascendencia bajo demanda.
Pero hay un giro oscuro. Es como si las empresas tecnológicas introdujeran autos sin conductor con la advertencia de que podrían explotar antes de llegar a Walmart.
“El advenimiento de la inteligencia artificial general se llama la Singularidad porque es muy difícil predecir lo que sucederá después”, dijo Elon Musk, quien dirige Twitter y Tesla. le dijo a CNBC el mes pasado. Dijo que creía que daría como resultado «una era de abundancia», pero que había «una posibilidad» de que «destruiría a la humanidad».
El mayor animador de la IA en la comunidad tecnológica es Sam Altman, director ejecutivo de OpenAI, la startup que desató el frenesí actual con su chatbot ChatGPT. Dice que la IA será «la mayor fuerza para el empoderamiento económico y muchas personas se hacen ricas nunca hemos visto
Pero también dice que Musk, un crítico de IA que también fundó una empresa para desarrollar interfaces cerebro-computadora, podría tener razón.
Apocalipsis es un territorio familiar, incluso amado, para Silicon Valley. Hace unos años, parecía que todos los líderes tecnológicos tenían un búnker del fin del mundo bien abastecido en un lugar remoto pero accesible. En 2016, Altman dijo que estaba acumulando «armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras antigás de las Fuerzas de Defensa de Israel y un gran terreno en Big Sur al que puedo volar». La pandemia de coronavirus ha hecho que los preparadores tecnológicos se sientan reivindicados por un tiempo.
Ahora se están preparando para la Singularidad.
«Les gusta pensar que son personas cuerdas que hacen comentarios sabios, pero son más como monjes del año 1000 que hablan sobre el Rapto», dijo Baldur Bjarnason, autor de «La ilusión de la inteligenciauna revisión crítica de la IA «Da un poco de miedo», dice.
Las raíces de la trascendencia
Las raíces intelectuales de la Singularidad se remontan a John von Neumann, un científico informático pionero que en la década de 1950 habló de cómo «el avance cada vez más acelerado de la tecnología» produciría «una Singularidad fundamental en la historia de la raza».
Irving John Good, un matemático británico que ayudó a descifrar el dispositivo alemán Enigma en Bletchley Park durante la Segunda Guerra Mundial, también fue un defensor influyente. «La supervivencia del hombre depende de la construcción temprana de una máquina ultrainteligente», escribió en 1964. El director Stanley Kubrick consultó al Sr. Good sobre HAL, la computadora benigna que se volvió malévola en «2001: Una odisea del espacio», un ejemplo temprano de los límites porosos entre la informática y la ciencia ficción.
Hans Moravec, profesor asistente en el Instituto de Robótica de la Universidad Carnegie Mellon, pensó que la IA sería una bendición no solo para los vivos: los muertos también serían recuperados en la Singularidad. “Tendríamos la oportunidad de recrear el pasado e interactuar con él de manera real y directa”, escribe en “Mind Children: The Future of Robot and Human Intelligence”.
En los últimos años, el empresario e inventor Ray Kurzweil ha sido el mayor campeón de Singularity. El Sr. Kurzweil escribió «La era de las máquinas inteligentes» en 1990 y «La singularidad está cerca» en 2005, y ahora escribe «La singularidad está más cerca».
Para finales de la década, espera que las computadoras pasen la prueba de Turing y sean indistinguibles de los humanos. Quince años después, calcula, llegará la verdadera trascendencia: el momento en que “el cálculo será parte de nosotros mismos, y multiplicaremos por un millón nuestra inteligencia”.
Para entonces, el Sr. Kurzweil tendrá 97 años. Con la ayuda de vitaminas y suplementos, planea vivir para verlo.
Para algunos críticos de Singularity, es un intento intelectualmente dudoso de replicar el sistema de creencias de la religión organizada en el ámbito del software.
«Todos quieren la vida eterna sin tener que creer en Dios», dijo Rodney Brooks, exdirector del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del Instituto Tecnológico de Massachusetts.
La innovación que alimenta el debate actual sobre la singularidad es el Grand Language Model, el tipo de sistema de IA que impulsa a los chatbots. Inicie una conversación con uno de estos LLM y ellos pueden escupir respuestas rápidas, consistentes y, a menudo, con un buen grado de conocimiento.
«Cuando haces una pregunta, estos modelos interpretan lo que significa, descubren lo que debería significar su respuesta y luego la traducen en palabras: si esa no es una definición de inteligencia general, ¿qué es?» dijo Jerry Kaplan, empresario de inteligencia artificial desde hace mucho tiempo y autor de «Inteligencia artificial: lo que todos necesitan saber».
Kaplan dijo que se mostraba escéptico ante maravillas tan publicitadas como los autos sin conductor y las criptomonedas. Se acercó al último boom de la IA con las mismas dudas, pero dijo que estaba convencido.
«Si no es ‘la Singularidad’, ciertamente es una singularidad: un paso tecnológico transformador que acelerará enormemente una gran cantidad de arte, ciencia y conocimiento humano, y creará problemas», dijo.-declara.
Los críticos responden que incluso los impresionantes resultados de LLM están muy por debajo de la enorme inteligencia global prometida durante mucho tiempo por Singularity. Parte del problema de separar con precisión la exageración de la realidad es que los impulsores de esta tecnología se ocultan. OpenAI, que comenzó como una organización sin fines de lucro que utiliza código fuente abierto, ahora es una empresa con fines de lucro que, según los críticos, es efectivamente una caja negra. Google y Microsoft también ofrecen visibilidad limitada.
Gran parte de la investigación de IA la realizan empresas que tienen mucho que ganar con los resultados. Los investigadores de Microsoft, que han invertido 13.000 millones de dólares en OpenAI, publicó un artículo en abril concluyendo que una versión preliminar del último modelo de OpenAI «exhibe muchos rasgos de inteligencia», que incluyen «abstracción, comprensión, visión, codificación» y «comprensión de las motivaciones y emociones humanas».
Rylan Schaeffer, estudiante de doctorado en ciencias de la computación en Stanford, dijo que algunos investigadores de IA han pintado una imagen inexacta de cómo estos grandes modelos de lenguaje exhiben «habilidades emergentes», habilidades inexplicables que no eran evidentes en versiones pequeñas anteriores.
Junto con dos colegas de Stanford, Brando Miranda y Sanmi Koyejo, Schaeffer exploró el tema en un trabajo de investigación publicó el mes pasado y concluyó que las propiedades emergentes eran «un espejismo» causado por errores de medición. De hecho, los investigadores ven lo que quieren ver.
Vida eterna, beneficios eternos
En Washington, Londres y Bruselas, los legisladores se están interesando en las oportunidades y los problemas de la IA y comienzan a hablar sobre la regulación. El Sr. Altman está de gira, buscando desviar las primeras críticas y promover OpenAI como el Pastor de la Singularidad.
Esto incluye una apertura a la regulación, pero no está claro cómo se vería exactamente. En general, Silicon Valley ha sentido que el gobierno es demasiado lento y estúpido para supervisar los rápidos desarrollos tecnológicos.
«No hay nadie en el gobierno que pueda hacerlo bien», dijo Eric Schmidt, ex director ejecutivo de Google. ha dicho en una entrevista con «Meet the Press» el mes pasado, defendiendo la autorregulación de la IA. «Pero la industria prácticamente puede hacerlo bien».
La IA, como la Singularidad, ya se describe como irreversible. “Detenerlo requeriría algo así como un régimen de vigilancia global, e incluso eso no garantiza que funcione”, dijeron Altman y algunos de sus colegas. escribiendo mes pasado. Si Silicon Valley no lo logra, agregaron, otros lo harán.
Menos discutidos son los enormes beneficios que se obtienen al descargar el mundo. A pesar de todo el rumor de que la IA es una máquina generadora de riqueza ilimitada, las personas que se enriquecen son prácticamente las que ya son ricas.
Microsoft ha visto crecer su capitalización de mercado en medio billón de dólares este año. Nvidia, un fabricante de chips que ejecutan sistemas de inteligencia artificial, se convirtió recientemente en una de las empresas públicas más valiosas de Estados Unidos cuando dijo que la demanda de tales chips se había disparado.
“La IA es la tecnología con la que el mundo siempre ha soñado”, tuiteó Altman.
Definitivamente es la tecnología que el mundo tecnológico siempre ha querido, que llegue en el mejor momento posible. El año pasado, Silicon Valley se tambaleaba por los despidos y el aumento de las tasas de interés. Crypto, el auge anterior, se enredó en el fraude y el engaño.
Siga el dinero, dijo Charles Stross, coautor de la novela «The Rapture of the Nerds», una versión cómica de la singularidad, así como autor de «Accelerando», un intento más serio de describir cómo es la vida. pronto podría ser como.
“La verdadera promesa aquí es que las empresas podrán reemplazar muchas de sus subunidades de procesamiento de información humana defectuosas, costosas y lentas con software, acelerando así las cosas y reduciendo sus gastos generales”, declaró.
La Singularidad se ha imaginado durante mucho tiempo como un evento cósmico, literalmente alucinante. Y ese todavía puede ser el caso.
Pero podría manifestarse ante todo —gracias, en parte, a la obsesión actual de Silicon Valley con las ganancias— como una herramienta para reducir la cantidad de empleados en las empresas estadounidenses. Cuando se apresura a agregar billones a su capitalización de mercado, el cielo puede esperar.
