El dilema de la inteligencia artificial: Entre la racionalidad instrumental y la conciencia humana orientada por la ética

La vertiginosa evolución tecnológica de nuestra era nos sitúa ante uno de los mayores puntos de inflexión en la historia de la civilización, después de la invención de la máquina de vapor. La Inteligencia Artificial (IA) ha dejado de ser una promesa de la ciencia ficción para convertirse en una fuerza moldeadora de la realidad social, económica y política. Sin embargo, su avance corre más rápido que nuestra capacidad para regularlo, lo que nos obliga a plantearnos preguntas fundamentales sobre su rumbo y sus implicaciones.

¿Qué es la IA? ¿Cuál es la naturaleza de la IA?

En su esencia más pura, la naturaleza de la IA es instrumental. La precaución es que no se transforme en una racionalidad instrumental y solo sea una herramienta diseñada para procesar datos, optimizar tareas y resolver problemas complejos con una eficiencia sobrehumana. Sin embargo, al ser un instrumento, carece de un propósito intrínseco. La IA no tiene intenciones ni valores; es un medio para un fin. El peligro radica en confundir la sofisticación técnica con la autonomía moral, olvidando que un instrumento siempre debe estar supeditado a la voluntad y dirección de quien lo crea y lo utiliza. Por lo anterior, se debe tomar la precaución de referirnos a la IA como instrumental, más que como racionalidad instrumental.

¿Cuál es el contexto del advenimiento de la IA?

La IA no surge en un vacío, sino en un ecosistema global profundamente complejo y frágil. Su advenimiento se produce en el marco de una sociedad polarizada, donde los consensos sociales se han fracturado, y una sociedad líquida, caracterizada por la volatilidad de las instituciones y las relaciones humanas. A esto se suma el fenómeno de la posverdad, un escenario donde la verdad objetiva pierde peso frente a las emociones y las creencias personales, facilitando que los algoritmos de IA puedan ser utilizados para amplificar la desinformación y manipular la opinión pública.

¿Cuáles debieran ser los elementos a considerar en el objetivo del desarrollo de la IA?

Para que el desarrollo de la IA no se traduzca en una crisis humanitaria, su objetivo debe integrar de forma obligatoria dos pilares fundamentales:

El elemento social ante la inequidad: La tecnología no puede ser un factor que ensanche la brecha entre ricos y pobres, sino una herramienta para la cohesión, la equidad, la paz y la justicia social.

El elemento ético y sus límites: Es imperativo establecer fronteras claras que determinen qué se debe hacer, y no solo qué se puede hacer tecnológicamente, resguardando siempre los derechos fundamentales. En el mismo sentido surge una legítima duda, de que si los avances científicos se deben elaborar solo con reglas o categorías científicas o, dicho de otro modo, se requiere la intervención de la voz de la ética en el ámbito de las ciencias.

¿Cómo se está desarrollando la IA?

La realidad actual del desarrollo de la IA dista mucho de ser equitativa o democrática. Hoy en día, está siendo impulsada de forma abrumadora por el Norte global y concentrada en manos de élites económicas y corporaciones multinacionales. Nos enfrentamos, por tanto, a una encrucijada crítica: ¿permitiremos que la IA sea un objeto manejado por unos pocos para la consolidación de su propio poder, o lograremos someterla al control del poder político democrático en beneficio del ser humano y del conjunto de la sociedad?

¿Cuáles son los paradigmas ideológicos que podrían estar sustentando el desarrollo de la IA?

En el trasfondo de este avance tecnológico se libra una batalla ideológica silenciosa entre dos posturas que, siendo antagónicas en este tema, tienen un estrecho vínculo de origen. Por un lado, se encuentra el neoliberalismo radical, que promueve un individualismo exacerbado y, como consecuencia de ello, defiende una digitalización sin reglas. Bajo esta perspectiva, el éxito se vincula ciegamente a la innovación técnica; una visión inminentemente individualista que asume que el progreso no requiere de la sociedad ni de limitaciones éticas. Esta postura nos empuja hacia la consagración de un «superhombre» nietzscheano, donde el fuerte domina a través de la tecnología sin rendir cuentas a la colectividad.

Por otro lado, se alza el paradigma liberal humanista, el cual sostiene que el ser humano debe ser el centro y la medida de todas las cosas. Este debate no es nuevo: está al mismo nivel que la discusión ética que sacudió a la humanidad durante el advenimiento de la Revolución Industrial con la invención de la máquina de vapor, cuando el progreso técnico descontrolado generó profundas inequidades sociales que tardaron décadas en corregirse y que además generó desde la academia (Marx) y el púlpito (Rerum Novarum) profundas respuestas a ese fenómeno social.

¿Cuál es el desafío del desarrollo y uso de la IA?

El gran desafío de nuestra generación es lograr que la IA sea sometida al control político democrático, garantizando el respeto irrestricto y consideración a la dignidad humana. Este, no es un problema sectorial ni partidista; es un debate políticamente transversal que debe situarse por encima de las izquierdas o las derechas tradicionales, ya que lo que está en juego es la supervivencia de la paz social y la equidad en el planeta.

¿Qué riesgos enfrentamos hoy con el desarrollo de la IA y el actual escenario de tendencias políticas mundiales?

El riesgo más inminente es el poder desmedido de las grandes corporaciones tecnológicas y de ciertos gobiernos que, amparados en el pensamiento neoliberal radical, neutralizan los esfuerzos del humanismo. Al desregular la digitalización, se corre el riesgo de validar un sistema donde las élites que manejan la IA actúen de forma casi psicopática, dado que el algoritmo está diseñado exclusivamente para su propia utilidad, su eficiencia y un éxito que emula el narcisismo y la egolatría. Frente a esto, la tarea urgente es defender a la persona dotada de conciencia y no al mero individuo aislado y consumidor.

¿Cuáles son los déficits que hoy enfrentamos ante la IA?

Finalmente, debemos reconocer las carencias actuales en este proceso de automatización global. El déficit principal de la IA es la falta de conciencia; que arranca de un estado en donde lo axiológico cada vez está más diluido por un utilitarismo extremo; este estado que es una cualidad inherente y exclusiva de la condición humana y que le permite el actuar correcto y virtuoso. La conciencia es la única llave que abre la puerta de la ética y de los valores que deben guiar nuestras acciones. Al carecer de ella, la IA no puede otorgarse a sí misma un propósito moral; es el ser humano quien debe darle una finalidad y mantenerla bajo su estricta decisión moral.

Asimismo, enfrentamos un déficit sociolaboral alarmante: la IA está afectando drásticamente a las clases medias al arrebatarles el monopolio del trabajo intelectual, transformando por completo el mercado laboral y sembrando incertidumbre económica. La pregunta es: ¿cómo administramos y regulamos esta situación?

Conclusión

El dilema insuperable para quienes defienden un mundo tecnológico sin reglas, sin límites y guiado por el individualismo salvaje es, y seguirá siendo, la democracia. La institucionalidad democrática es la única herramienta legítima capaz de imponer reglas del juego claras, equilibrar las fuerzas de poder y garantizar que la inteligencia artificial sirva al bien común y a la preservación de la paz social. Pero además, no solo presenta cuestionamientos este laissez-faire en lo social; también se debe tener presente como un parámetro que regule y encauce el ímpetu científico en la senda del respeto a la dignidad humana por sobre toda consideración, por muy útil o conveniente que sea a los intereses individuales o de alguna élite.

Por Joel Moya Morales, profesor de Estado en Historia y geo. Abogado, diplomado en gobierno y políticas públicas.