El autor de «Ai Valley» le preocupa que haya «tanto poder en manos de pocas personas»

Lionel Bonaventure/AFP a través de Getty Images

Durante décadas, los científicos han soñado con las computadoras tan sofisticadas que podrían pensar como los humanos, y preocupados por lo que podría suceder si esas máquinas comenzaran a actuar de forma independiente. En 2023, el presidente Biden emitió una orden ejecutiva que impuso algunas salvaguardas regulatorias sobre el desarrollo de la IA, pero el presidente Trump ha derogado esa orden, diciendo que el enfoque de Biden impuso un control del gobierno innecesario sobre la innovación.

El reportero de investigación ganador del Premio Pulitzer, Gary Rivlin, dice que la regulación es un componente clave para controlar cómo se usa la IA: «Personalmente, creo que la IA podría ser algo sorprendente sobre la salud, la medicina, los descubrimientos científicos, la educación, una amplia gama de cosas, siempre y cuando seamos deliberados al respecto», dice. «Y esa es mi preocupación … que no estamos siendo deliberados».

En su nuevo libro, Ai Valley: Microsoft, Google y la carrera de billones de dólares para aprovechar la inteligencia artificialRivlin escribe sobre avances dramáticos en la inteligencia artificial. Él dice que la IA de hoy podría verse como «inteligencia amplificada», una herramienta entrenada para encontrar patrones clasificando más datos que un humano podría procesar. Pero, agrega, hay otro aspecto de la tecnología, que describió como «inteligencia alienígena».

«Lo extraño de la IA es que parece saberlo todo, pero no entiende nada», dice Rivlin. «Es como un loro. Es repitiendo palabras al azar, pero realmente no entiende lo que está diciendo».

Rivlin dice que es probable que la IA tenga implicaciones positivas y negativas. Advierte los escenarios de pesadilla, por los cuales la IA se usa para crear una nueva pandemia, o los ladrones cibernéticos, lo emplean para desviar un billón de dólares del sistema monetario mundial. Pero, agrega, esta no es la primera vez que surge una nueva tecnología para cambiar la vida tal como la conocemos.

«El automóvil significaba libertad, el automóvil cambió nuestra sociedad, pero el automóvil significaba contaminación. El automóvil significa 30,000 a 40,000 muertes en los Estados Unidos al año», dice. «Y miro la IA de la misma manera. Podría ser realmente genial si somos deliberados al respecto y tome medidas para garantizar que obtengamos más de los aspectos positivos que los negativos, porque le garantizo que habrá positivos y negativos».

Ai Valleypor Gary Rivlin

Harpercollins

escondite

alternar

Harpercollins

Lo más destacado de la entrevista

Sobre el poder de que el desarrollo de la IA esté en manos de pocas personas

Lo que me asusta es que hay un movimiento en Silicon Valley, hay un movimiento en tecnología, los aceleradores. Cualquier cosa que se interponga en el camino de nuestra inteligencia artificial avanzada es malo. A menudo se pone en el contexto de competir con China. No podemos tener reglas en el camino, y esa es su agenda. Diría que su verdadera agenda es que podrían ganar mucho dinero (miles de millones, cientos de miles de millones, en última instancia billones de dólares, de esto, y no quieren que nadie se interponga en su camino. Entonces, creo que si quieres entender a Elon Musk, quieres entender a Mark Zuckerberg, quieres entender a Jeff Bezos, y acostar a Trump, por unos pocos millones de dólares no es muy costoso para ellos, podrían tener un amigo en la Casa Blanca que se asegure de que puedan hacer lo que quieran hacer sin duda. Y, de hecho, tal vez ese es mi mayor miedo sobre la IA: es mucho poder en manos de pocas personas.

En grandes empresas tecnológicas frente a nuevas empresas en la carrera para desarrollar una nueva IA

Nunca subestimes la capacidad de un gigante para tropezar con sus propios pies. Tienen capas y capas de burocracia. Tienen un enorme departamento de relaciones públicas que susurra a los CEO. No creo que sea una coincidencia que Openai, una startup fundada en 2015, fue la que desencadenó la pistola del titular en esto porque no tenían tanto como en juego. Pueden permitirse la reputación para liberar chatgpt. Podrían tomar la decisión sin 10 capas de toma de decisiones antes de hacerlo. Entonces sí, tienen una ventaja, pero Google también tiene como $ 100 mil millones de dólares en reservas, donde Operai tiene que salir y recaudar fondos. … Google, simplemente pagan por sí mismos. Microsoft, Meta, todos tienen reservas profundas, profundas y profundas de dinero. … Y no está claro cómo alguna de estas compañías va a ganar dinero. Google puede permitirse perder dinero en estas cosas durante más de cinco años. Una startup, eso es más difícil de hacer.

Sobre posibles buenos resultados de uso generalizado de AI

Siento que la IA va a provocar cosas increíbles. Creo que está siendo exagerado. Escuchas a la gente decir que va a cerrar la división entre el mundo en desarrollo y el mundo desarrollado. No creo que eso sea así, pero hay este interesante estudio que salió recientemente, la idea de un tutor de IA, un tutor en el bolsillo. … 5 mil millones de personas en todo el mundo tienen un teléfono inteligente y puede usar ese teléfono inteligente como tutor. … Y realmente pienso en la educación, en torno a la ciencia. … Creo que vamos a ver algunos avances científicos increíbles. Creación de vacunas, de mejores terapias. Hay algunos que predicen, y en realidad creo que hay mucho en eso, que la tasa de mortalidad para la mayoría de los cánceres va a bajar mucho debido a la IA. Así que realmente creo que la IA podría hacer algunas cosas increíbles. Es solo, simplemente no sé qué tan malo será el malo.

En muchas cosas que se desconocen sobre cómo funciona la IA

Hoy en día son las redes neuronales, los modelos que emulan cómo aprenden los humanos. Aprenden leyendo grandes tiendas de datos, los libros abiertos de Internet, lo que sea, y mejoran a través de la retroalimentación, la prueba y el error. Realmente no estás codificando las reglas. … No entendemos por qué dicen lo que dicen porque están tratando de emular el cerebro humano lo mejor que puedan. … y eso es parte del milagro, el gee, estas cosas son increíbles, pero es parte de lo que da miedo porque no entendemos completamente. Las personas que lo crean no entienden completamente por qué [AI] dice lo que dice.

Sam Briger y Thea Chaloner produjeron y editaron esta entrevista para la transmisión. Bridget Bentz, Molly Seavy-Nesper y Meghan Sullivan lo adaptaron para la web.