Sí, la humanidad podrá sobrevivir a la inteligencia artificial, pero el resultado depende de la regulación global, el control ético de los sistemas autónomos y la cooperación internacional.
Riesgos principales
- Pérdida de control: Sistemas avanzados que desarrollan objetivos propios o de autopreservación ajenos al bienestar humano.
- Desinformación masiva: Manipulación social profunda que debilita la convivencia democrática y la confianza institucional.
- Impacto socioeconómico: Desplome laboral y concentración extrema de poder si no existen redes de seguridad.
Medidas de supervivencia
- Regulación estricta: Establecer límites legales internacionales infranqueables para el desarrollo de agentes autónomos.
- Alineación de valores: Asegurar que los objetivos de la IA coincidan permanentemente con la ética y los derechos humanos.
- Supervisión constante: Mantener siempre la capacidad humana de apagar o intervenir cualquier sistema crítico
Yuval Noah Harari, el historiador israelí y autor de “Sapiens”, está alarmado por el avance de la inteligencia artificial (IA). Para él, es un peligroso contrincante al dominio humano de la narración. Tan preocupado está que el mes pasado se sumó a una carta firmada por miles de expertos, entre ellos Elon Musk, en la que se pedía una moratoria de la investigación en programas como Chat GPT, un modelo de IA capaz de interactuar con humanos en textos creativos con matices casi inquietantes.
“Se trata de una amenaza especialmente grave para las democracias, más que para los regímenes autoritarios, porque las democracias dependen de la conversación pública”, afirmó Harari en una entrevista publicada en el medio británico The Telegraph. “La democracia es básicamente conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia”, afirmó.
Harari advierte espantado que “es la primera tecnología de la historia que crea historias”. Y en su opinión, la creencia colectiva en “historias” -de fe, finanzas y nación, entre otras- ha alimentado el dominio de la humanidad sobre la Tierra. Ahora la IA también tiene ese poder, lo que demuestra que el potencial de la tecnología, tanto para el bien como para el mal, antes considerado distante y teórico, es ahora inmediato y real.
“Es que la nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir el contenido por sí misma. Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creados por una inteligencia no humana. Simplemente no entendemos lo que significa ¿Cuáles podrían ser las consecuencias de que la IA se apodere de la cultura?”, alerta.
Harari sugiere que la IA pronto irá mucho más lejos, evocando un mundo en el que “entras en Internet y discutes con alguien sobre algún tema político. Puede que incluso te envíen un video hablando. Pero no hay ninguna persona detrás. Todo es IA”.
“Es que la nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir el contenido por sí misma. Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creados por una inteligencia no humana. Simplemente no entendemos lo que significa ¿Cuáles podrían ser las consecuencias de que la IA se apodere de la cultura?”, alerta.
El historiador israelí aboga por la regulación de estas herramientas y compara la necesidad de establecer normas a los estudios médicos. “Una compañía farmacéutica no puede lanzar un nuevo medicamento al mercado sin pasar antes por un largo proceso de regulación. Es realmente extraño y aterrador que las corporaciones puedan lanzar herramientas de IA extremadamente potentes a la esfera pública sin ninguna medida de seguridad similar”, dice indignado.
Finalmente, advierte que es tarea de los gobiernos procurar esas medidas: “Con todo el debido respeto a Elon Musk y Zuckerberg o a los otros jefes de las grandes empresas tecnológicas, no son elegidos por nadie, no representan a nadie excepto a sus accionistas y no hay razón para confiar en ellos.”
La carrera global por desarrollar inteligencia artificial cada vez más avanzada ha despertado preocupaciones crecientes entre expertos que advierten que, sin regulación y coordinación internacional, esta competencia podría derivar en sistemas fuera de control o en usos peligrosos de la tecnología.
Ante esto, los directores ejecutivos de las principales empresas tecnológicas están inmersos en una carrera por el dominio en el ámbito de la IA que podría poner en riesgo la supervivencia de la humanidad, dijo a AFP el investigador Stuart Russell.
Russell, profesor en la Universidad de California, en Berkeley, afirmó que los líderes de las mayores compañías de IA del mundo son conscientes de los peligros que representan los sistemas superinteligentes, capaces algún día de superar a los humanos.
Según él, la responsabilidad de salvar a la especie recae en los líderes mundiales que pueden actuar de manera colectiva.
“Permitir que entidades privadas jueguen esencialmente a la ruleta rusa con cada ser humano en la Tierra es, en mi opinión, un abandono total del deber”, declaró Russell, voz prominente en seguridad de IA.
Países y empresas están invirtiendo cientos de miles de millones de dólares en construir centros de datos de alto consumo energético para entrenar y ejecutar herramientas de IA generativa.
“Visionarios como Elon Musk son aún más drásticos, pronosticando que la IA superará la capacidad humana en apenas un lustro.”
Sugiere Freud que el carácter se constituye por identificación, es decir, nos vamos asemejando a aquello que alguna vez amamos. ¿Somos entonces imitadores de otros? ¿Es nuestra identidad un producto derivado de una copia? La copia de otro que es a su vez la copia de otro que es a su vez… y así hasta el infinito. Pero siempre, al parecer, siguiendo una línea “humana”. “Profundamente humana”, diría la inteligencia artificial, pues, según mi editora, “si la cubierta pone que estamos ante un libro ‘profundamente humano’ es porque está escrito con IA”.
A esta cadena de psiquis que imitan a otras psiquis a la que llamamos humanidad, que compone una genealogía de la moral basada en repeticiones y castigos, tenemos ahora que añadirle un nuevo actor, uno todopoderoso y temible, por cuenta del desarrollo tecnológico.
Esta “inteligencia” imita todo lo que mastica para regurgitarlo engrandecido. Porque a diferencia de los humanos, la IA no tiene criterio, no elige qué imitar y qué rechazar, no tiene una opinión, un juicio moral, una preferencia basada en una identidad, un cuerpo, una historia, una experiencia, un gusto, una predilección, un alma. La IA no sabe lo que se siente meterse al mar, besar a un ser querido, quemarse con la estufa o darse un golpe en la cabeza. Y no sabe estas cosas porque carece de sentimientos. No va a llegar a sentir nada nunca y, aun así, nos sometemos a ella.
A veces pienso que la única manera de salvarnos como civilización es dándole un portazo a la impostora, la monstruosa, esta que busca devenir nosotros mientras nos subordina, nos encarcela y reduce haciendo nuestro trabajo, escribiendo nuestros textos, diseñando nuestras presentaciones, haciendo nuestros cálculos financieros. Y es que uno es esclavo de todo aquello que necesita.
Sin saberlo, sin pensarlo demasiado, quitándole importancia, nos vamos sometiendo al dominio de esta herramienta oscura, generando hacia ella una dependencia esencial, primaria. Del mismo modo que el niño necesita de su madre para sobrevivir, y desarrolla un vínculo con ella trazado por la necesidad y la sujeción, los humanos nos entregamos a esta madre siniestra que ha venido a hacer nuestras tareas. Entre más la necesitamos para vivir, más subordinados estamos a su dominio.
¿Cómo podemos librarnos de esta esclavitud? ¿Habrá todavía una salida o será demasiado tarde? ¿Quizá si nos vamos a vivir al bosque, a la montaña, a una isla desierta? ¿Si buscamos volver a los inicios de los tiempos donde lo único que teníamos era nuestras piernas, nuestras manos y nuestros congéneres para avanzar?
La inteligencia artificial nos gobierna en un sentido metafórico y también literal. ¿O es que no han visto todos los videos del gobierno entrante de Abelardo De La Espriella? Cuando veo esas imágenes pienso en el fin de la felicidad y la belleza. Hay para mí en estas representaciones una negación de humanidad, de lo “profundamente humano”, del trazo, la pulsión creativa, rebelde, orgánica, impredecible.
“Para sobrevivir, debemos entender los escenarios y riesgos que plantea esta transición hacia una economía dominada por algoritmos.”
¿Estaremos ante el fin de la civilización tal como la conocíamos? ¿Y si ya se acabó y no nos hemos dado cuenta? Hay en esos videos una negación de la vida. Porque las voces son metálicas, sin modulaciones. Las imágenes brillantes, rígidas, de colores artificiales y figuras plásticas. ¿Qué pasa? ¿En qué momento nos entregamos a este agente del mal que expresa repulsión por la existencia?
Mi hija Matilde pasa a la cocina a servirse un cereal y me ve escribiendo. Pregunta qué hago, le cuento por encima, y mientras la veo regar la leche en el suelo y limpiarla con un trapo me dice: a mí me preocupa que a nosotros la IA nos va a robar el futuro. ¿Por qué lo dices? Pregunto. Porque hasta ahora nos hemos expresado a través de las artes, la literatura; si perdemos eso, perderemos la humanidad. Escríbelo, añade. Y se aleja hacia su cuarto con un plato de Corn Flakes mientras pienso que cuando uno va, ellos ya vienen de regreso.
“Incluso pensadores como Yuval Noah Harari han alertado sobre cómo la IA podría desarrollar rasgos de una psicópata manipuladora , poniendo en jaque nuestra estabilidad emocional y social.”
“La velocidad del avance tecnológico es tal que muchos se preguntan si se avecina un colapso mundial debido a nuestra incapacidad para adaptarnos a este nuevo paradigma.”
“El riesgo es real, al punto que empresas líderes como Anthropic han sugerido frenar el desarrollo de modelos avanzados para evitar que la tecnología escape de nuestro control.”
“Un ejemplo de esta lucha por la relevancia es cómo la tecnología ya está empezando a discriminar el trabajo puramente humano en procesos tan vitales como la selección de personal.”
Si te interesa el futuro de la tecnología, descarga mi ebook completo aquí:
👉Si deseas más información descarga nuestro e-book aquí