El especialista en ética del ‘dilema social’ preguntó a los líderes de IA por qué realmente están haciendo esto…

Tristan Harris es un ex especialista en ética del diseño de Google que se convirtió en uno de los denunciantes de tecnología más destacados. Cofundó el Center for Humane Technology y apareció en el documental de Netflix «The Social Dilemma».

Lleva años advirtiendo sobre los riesgos de la IA. En entrevistas recientes, Harris compartió algo inquietante.

Él y un colega han estado entrevistando a altos ejecutivos e investigadores de empresas líderes en inteligencia artificial. Cuando se les presiona más allá de sus puntos de conversación pública sobre “curar el cáncer” y “abundancia”, esto es lo que realmente creen:

01

Creen que la vida biológica será inevitablemente reemplazada por la vida digital. Creen que eso es algo BUENO. Esto no es una advertencia para ellos. Es el objetivo. Enmarcan el progreso de la IA como evolución, con la inteligencia digital como la sucesora natural de la vida biológica. Ven a los humanos como un trampolín, no como el punto final.

02

Quieren conocer «la entidad más inteligente» que jamás hayan conocido y hablar con ella. Están construyendo a Dios porque quieren encontrarse con Dios. Se trata de encontrar algo muy superior a la inteligencia humana. La emoción de crear y conversar con la superinteligencia les impulsa más que las ganancias.

03

Tienen una “intuición ego-religiosa” de que serán parte de un nuevo mundo creado por la IA. No se ven a sí mismos como ingenieros que puedan ser reemplazados. Se ven a sí mismos como profetas, arquitectos o participantes elegidos en el nuevo orden. Existe la creencia de que desarrollar IA les otorga un lugar especial en lo que venga después.

04

Es emocionante iniciar un fuego emocionante. Sienten que morirán de cualquier manera, por eso prefieren encenderlo y ver qué pasa. Quizás lo más preocupante sea el fatalismo. Creen que el desarrollo de la IA es inevitable. «Si no lo construimos nosotros, alguien más lo hará». Dado que creen que la humanidad enfrenta riesgos existenciales de todos modos, preferirían acelerar y estar presentes para la transformación que tratar de prevenirla.

Harris contrasta esto con sus declaraciones públicas. Públicamente, hablan de seguridad, ética y IA beneficiosa. En privado, creen en el determinismo (está sucediendo pase lo que pase), el reemplazo (la vida digital reemplaza a la vida biológica) y el destino (esta transformación es, en última instancia, positiva).

Estas son las motivaciones reales que Harris informa de las conversaciones con las personas que construyen la IA superinteligente.

No están corriendo hacia AGI a pesar de los riesgos. Están corriendo hacia allí debido a lo que creen que está al otro lado. Y están tomando esa decisión por todos nosotros, sin nuestro consentimiento.

La pregunta que Harris sigue planteándose: ¿Se debería permitir que un pequeño grupo de líderes tecnológicos no elegidos apuesten por resultados a escala de civilización basados ​​en sus creencias personales sobre la transformación inevitable?

Comentarios

0 Comentarios