Implicaciones éticas de la automatización: desempleo, oportunidad o
gobernanza
Ethical Implications of Automation: Unemployment,
Opportunity, or Governance
Ministerio de Educación de la
República Dominicana
pegueroandres@gmail.com
Recibido: 2024/04/01 - Publicado:
2024/11/01
CÓMO CITAR:
Peguero, A. E. (2024). Implicaciones
éticas de la automatización: desempleo, oportunidad o gobernanza. La Barca
de Teseo, 2(1), pp.45-62. https://doi.org/10.61780/bdet.v1i1.28
RESUMEN
El presente trabajo aborda las implicaciones éticas de la automatización en la sociedad y anal los efectos en el desempleo. Utilizando una metodología de análisis textual crítico basada en fuentes filosóficas y obras como "Nacimiento de la Biopolítica" de Michel Foucault, examinamos diversos aspectos éticos y sociales relacionados con la automatización y su impacto en el desempleo. En el texto argumentamos que los diseñadores y responsables políticos deben garantizar que los sistemas automatizados respeten los principios de equidad, transparencia y responsabilidad. Asimismo, abordamos la preocupación sobre cómo las organizaciones y sistemas de inteligencia artificial pueden abordar los dilemas éticos en un contexto de divergencia moral entre individuos. Se establece la relación entre la automatización y el desempleo, destacando tanto los posibles beneficios económicos como los desafíos sociales que surgen de esta transformación. Se discuten diversas perspectivas sobre cómo la automatización puede crear o destruir empleos, así como las medidas que los gobiernos, empresas y sociedad deben tomar para mitigar los efectos negativos en el empleo y promover la inclusión social. Y se discute si en verdad los efectos de la automatización son casuales o creados a propósito para ejercer el poder sobre los usuarios. En conclusión, el artículo subraya la importancia de abordar de manera responsable y ética los desafíos y oportunidades que plantea la automatización en la sociedad contemporánea. Se enfatiza la necesidad de establecer marcos éticos y legales sólidos para regular el desarrollo y la aplicación de la automatización, garantizando así su beneficio para toda la humanidad.
PALABRAS CLAVE
Automatización, inteligencia artificial,
biopolítica, ética, desempleo.
ABSTRACT
This work addresses the ethical implications of
automation in society and analyzes its effects on unemployment. Using a
critical textual analysis methodology based on philosophical sources and works
such as Michel Foucault's "Birth of Biopolitics," we examine various
ethical and social aspects related to automation and its impact on
unemployment. In the text, we argue that designers and policymakers must ensure
automated systems respect principles of equity, transparency, and
responsibility. Additionally, we address concerns about how organizations and
artificial intelligence systems can approach ethical dilemmas in a context of
moral divergence among individuals. The relationship between automation and
unemployment is established, highlighting both the potential economic benefits
and social challenges that arise from this transformation. Various perspectives
are discussed on how automation can create or destroy jobs, as well as the
measures that governments, businesses, and society must take to mitigate negative
effects on employment and promote social inclusion. The text also discusses
whether the effects of automation are casual or purposefully created to
exercise power over users. In conclusion, the article emphasizes the importance
of responsible and ethically addressing the challenges and opportunities posed
by automation in contemporary society. It stresses the need to establish solid
ethical and legal frameworks to regulate the development and application of
automation, thus ensuring its benefit for all humanity.
KEYWORDS
Automation, artificial
intelligence, biopolitics, ethics, unemployment.
introducción
Cada era de la historia de la humanidad trae sus propios avances, desafíos, temores y riesgos. En este siglo XXI y desde finales del siglo pasado, la automatización se ha convertido en una fuerza ubicua y casi obligatoria que genera y produce cambios significativos en campos muy variados de la sociedad. Desde la robótica en la fabricación hasta los algoritmos de inteligencia artificial en la toma de decisiones, el fin último de la automatización es aumentar la eficiencia, mejorar la productividad y transformar la vida cotidiana. Autores como Frey y Osborne (2017) advierten que hasta el 47% de los empleos en Estados Unidos podrían ser automatizados en las próximas décadas. De manera que, aunque convivimos con estas innovaciones, y abrazamos distintas formas de realizar tareas recurrentes, surge una pregunta fundamental: ¿cuál es el papel de la ética en la era de la automatización?
En efecto, la presente exposición pretende valorar, desde una mirada ética, las implicaciones de la automatización y, en concreto, la inteligencia artificial (IA, en lo adelante), su efecto en el desempleo y cómo se relaciona con el enfoque de la gobernanza y la biopolítica. Se hace un análisis valorativo de las herramientas automatizadas, vislumbrando si estas provocarán el aumento del desempleo, si son parte de un plan de gobernanza individual o si obedecen a un cambio de paradigma laboral a nivel mundial. Como se podrá ver en la exposición, se hace una asociación posible entre automatización, desempleo y biopolítica, explicando cómo el poder político se entrelaza con la vida biológica de los individuos y las poblaciones, y cómo se ejerce control sobre estas dimensiones de la existencia humana.
Al parecer, la idea de poder o control está basada en quién puede producir más riquezas en un menor tiempo. Este debate ha desarrollado en los humanos un deseo, cada vez con más éxito, de transferir facultades humanas a configuraciones y algoritmos virtuales.
En esencia, este no es un intento desvirtuado; es una acción que genera una aparente complacencia y eficiencia en grandes áreas de la vida social y política. La desvirtuación se produce cuando el interés primario es mantener la dominación y el control sobre los demás, o cuando el propósito es disminuir o mutilar a los grupos que no van al ritmo de la automatización. El escenario más peligroso es cuando se tiende al desempleo masivo en un momento en el mundo automatizado permea todas las áreas. Sería un intento favorable si se habla de protección de la sociedad en su conjunto; y siempre que no se atente contra la privacidad y la autonomía de las personas.
Pero ¿quiénes están enfocados en tener ese control absoluto sobre la vida de las personas, sobre su salud, la reproducción, la eugenesia, la nutrición, la medicina? ¿Es el mismo interés político o existen otros intereses mayores que controlan a los políticos? ¿Existe un poder superior al político que utiliza una forma de gubernamentalidad para lograr sus intereses? ¿Quiénes pretenden controlar el pensamiento de las personas por medio de predicciones automáticas y análisis de sus gustos e intereses obtenidos de la big data?
El estudio de la IA está ligado al de la biopolítica por tener intenciones parecidas y por afectar las mismas áreas vitales de la población. Y desde esa mirada, que nos preguntemos: ¿Cómo podemos garantizar que la automatización beneficie a toda la sociedad y no solo a una élite? ¿Cómo podemos proteger la privacidad y la autonomía de las personas en un mundo cada vez más digitalizado? ¿Qué tipo de sociedad queremos construir en un contexto de automatización y desempleo masivo?
estrategia METODOLÓGICA
Este ensayo se ha hecho en base a una metodología de
análisis textual crítico de algunas fuentes filosóficas sobre la automatización
y su enfoque ético, y, en específico, a partir de la lectura de la obra
Nacimiento de la Biopolítica de Michel Foucault, publicada en 1979. La consulta
de fuentes se hizo mediante exploración en bases de datos académicas y revistas
temáticas. Tras compilar los datos y autores, se seleccionaron los argumentos o
ideas sobre el tema para luego hacer un análisis comparativo. Algunas posturas
son coincidentes y otras presentan variaciones sustanciales una de otras. En
todo caso, se hizo una síntesis general para asumir una postura propia en
cuanto a los hallazgos extraídos.
ANÁLISIS
Filosofía de la automatización: ¿una ética focalizada o global?
A través del desarrollo de las sociedades, las revoluciones industriales están caracterizadas por avances tecnológicos y cambios significativos en la forma en que se produce y se organiza el trabajo. Cada revolución industrial ha marcado un hito en la evolución de la sociedad y la economía, transformando radicalmente la vida de las personas y las estructuras socioeconómicas. Después de grandes esfuerzos, en las primeras tres (s. XVIII, s. XIX y s. XX) se logró la mecanización de la producción a través de la introducción de maquinaria alimentada por vapor. Además, se introdujeron avances en la producción en masa, la electrificación y la industrialización de sectores como el acero, la química y la producción de petróleo. Asimismo, se conoció la informática, la electrónica y las tecnologías de la comunicación. Se produjo una mayor automatización de procesos industriales, la introducción de computadoras en la vida cotidiana y el desarrollo de la tecnología de la información y las comunicaciones.
En la actualidad, siglo XXI, se está produciendo una nueva revolución impulsada por los avances en tecnologías como la IA, el aprendizaje automático, la robótica, la nanotecnología, la biotecnología y la informática cuántica. Se prevé que esta época de la era digital tenga un impacto significativo en la forma en que vivimos, trabajamos e interactuamos. La convergencia de tecnologías disruptivas está generando cambios significativos en la economía, la sociedad y la cultura, y nuevas oportunidades y desafíos, como la economía del conocimiento, la automatización de empleos, la privacidad de datos. Pero por razones obvias, también está produciendo en el campo filosófico un debate sobre la ética de la automatización e inteligencia artificial.
El debate sobre la ética de la automatización está en constante evolución y cada vez permea más áreas sensibles de la vida en sociedad. La discusión gira en torno a cuestiones como la responsabilidad, la equidad y la integridad en el diseño y la implementación de sistemas automatizados. Por tanto, unidos a otros autores sobre el debate de estas ideas, Kearns y Roth (2019) subrayan que la automatización supone dilemas éticos complejos que requieren una reflexión cuidadosa y un enfoque deliberado para garantizar que estos sistemas sean eficientes, justos y socialmente responsables.
El diálogo sobre la automatización plantea inquietudes muy serias sobre la privacidad y la seguridad de los datos. El lenguaje computacional basado en algoritmo de aprendizaje automático puede recopilar grandes cantidades de información personal y seccionada para tomar decisiones automatizadas. Pero esto plantea preocupaciones sobre el uso indebido de datos y la discriminación algorítmica. Como advierte el experto en ética tecnológica Mittelstadt (2020) la automatización no debe socavar la privacidad y la autonomía de los individuos. Es fundamental establecer marcos éticos y legales sólidos que protejan los derechos de privacidad y eviten la discriminación algorítmica.
Sin embargo, no se ofrecen estrategias claras de cómo se podrían proteger de manera concreta estos datos. Aún hay aspectos que las leyes no pueden controlar y acciones que no se pueden juzgar. Por ejemplo, la persuasión publicitaria y el acoso promocional a los cibernautas, según los datos obtenidos de sus actividades en las redes, no hay forma de clasificarlo, hasta ahora, en ningún caso penal de delito. Los algoritmos están diseñados para rastrear de manera inteligente los gustos, intenciones, tendencias y pasiones de las personas.
En concreto, las visiones éticas pueden variar de una sociedad a otra. Si no se definen claramente los criterios y consideraciones éticas, los algoritmos y configuraciones estarán cargados de sesgos de diferentes clases. Si cada sector o clase social emplea su propia interpretación de la ética, ¿cuál será el comportamiento para tomar en cuenta como válido en los sistemas automatizados? ¿Se estaría hablando de la ética de Aristóteles desde una perspectiva teleológica, es decir, centrada en el propósito o fin (telos) de la vida humana, que busque la virtud para la felicidad? ¿O se enfocaría a una ética hedonista buscando el placer propio y la ausencia de dolor? Si se abre esta línea de discusión se vuelve al estado inicial de Filosofía.
En consecuencia, la temática sobre la automatización requiere un enfoque holístico que equilibre la innovación tecnológica con consideraciones éticas y sociales. Los diseñadores, los ingenieros y los responsables políticos tienen la responsabilidad de garantizar que los sistemas automatizados respeten los principios de equidad, transparencia y responsabilidad. Como afirma el filósofo Bostrom (2014) la ética debe ser un componente central en el desarrollo y la implementación de tecnologías automatizadas. Solo adoptando un enfoque ético podemos asegurar que la automatización beneficie a la humanidad en su conjunto.
Telkamp y Anderson (2022) abordan el desafío común de que las personas desean que las organizaciones que utilizan inteligencia artificial y los propios sistemas de IA se comporten de manera ética. Sin embargo, el concepto de comportamiento ético puede variar significativamente entre individuos, y muchos dilemas éticos requieren compromisos en los que ninguna opción se considera ética universalmente. Se plantea la pregunta sobre cómo deben abordar estas organizaciones, así como la propia IA, los dilemas éticos cuando los seres humanos no están de acuerdo sobre cuál es el curso de acción moralmente correcto.
Aunque se han propuesto diversos marcos éticos para la IA, Telkamp y Anderson argumentan que estos enfoques no abordan adecuadamente cómo las personas evalúan éticamente los sistemas de IA ni cómo incorporar los desacuerdos fundamentales que existen entre las personas en lo que respecta a lo que es y no es un comportamiento ético. Dado que las personas tienen fundamentos morales diversos, resaltan la necesidad crucial de considerar estas diferencias morales individuales en múltiples niveles de la IA.
Floridi y Cowls (2019) examinan las disposiciones más destacadas en materia de normas morales para la inteligencia artificial (IA) y exploran si estas normas conforman un conjunto coherente o divergen, generando un conflicto sobre lo que constituye la "inteligencia artificial moral". Su investigación identifica un sistema general que comprende cinco normas centrales para la IA moral. Cuatro de estas normas son similares a las utilizadas en bioética: beneficencia, no maleficencia, autonomía y justicia. Sin embargo, los autores argumentan que se requiere una quinta norma adicional: la razonabilidad, entendida como la explicabilidad. Esta explicabilidad incorpora tanto un sentido epistemológico de inteligibilidad (respuesta a la pregunta "¿cómo funciona?") como un sentido ético de responsabilidad (respuesta a la pregunta "¿quién es responsable de su funcionamiento?").
Automatización y desempleo
En la sociedad moderna, la relación entre la automatización y el desempleo es un tema de discusión y preocupación. Aunque la automatización puede mejorar la eficiencia y la productividad en diversos sectores, también implica la eliminación de empleos convencionales y la redistribución de empleados. Estas innovaciones se han observado en diversas áreas, desde la producción hasta los servicios, donde avances tecnológicos como la robótica y los algoritmos de IA se responsabilizan de tareas que antes realizaban los humanos.
Se cree que la automatización resultará en una pérdida neta de empleos, ya que las máquinas y los algoritmos pueden realizar ciertas tareas de manera más económica y eficiente que los trabajadores humanos. Por ejemplo, según un estudio del McKinsey Global Institute, hasta el 30% de las actividades laborales mundiales podrían automatizarse para 2030. Esto podría tener un impacto significativo en millones de trabajadores en todo el mundo. (McKinsey Global Institute, 2017). En no solo se trata de los trabajadores, el desempleo afecta a los directamente involucrados y tiene repercusiones en la economía y en la cohesión social.
No obstante, algunos expertos argumentan que la automatización puede ser un canal para crear nuevas oportunidades de empleo y liberar a los humanos de trabajos monótonos y peligrosos. En la voz de Schwab (2017), fundador del Foro Económico Mundial, la cuarta revolución industrial, impulsada por la automatización y la inteligencia artificial, es potencialmente efectiva y sería capaz de mejorar la calidad de vida y las relaciones de las personas, e incluso aumentar la igualdad, pero solo si se gestionan de manera ética y responsable.
Ante este planteamiento, se deduce que automatizar procesos podría desembocar en la preparación de personas que antes no pensaban en relacionarse con la tecnología. Pero indirectamente, también señala que tiene un peligro subyacente. Si no se respetan los códigos éticos, si se gestiona de manera indiscriminada, en vez de avances, se tendría un crecimiento desmedido de la brecha y la desigualdad social. Esto conllevaría un esfuerzo conjunto que no sólo dependa de la voluntad de los sujetos, sino de las condiciones y oportunidades que se puedan crear a nivel gubernamental o empresarial.
Por tanto, es importante tener en cuenta que la relación entre la automatización y el desempleo no siempre es lineal ni estática. La automatización no solo puede eliminar algunos puestos de trabajo, sino que también puede generar otros nuevos y transformar industrias enteras. Por ejemplo, la introducción de cajeros automáticos en los bancos eliminó muchos empleos de cajeros, pero también generó nuevas carreras en el diseño, mantenimiento y programación de sistemas automatizados.
La automatización también puede impulsar el crecimiento económico y generar empleos en otros sectores al aumentar la productividad y reducir los costos de producción. Por ejemplo, el uso de robots en la fabricación puede hacer que las empresas sean más competitivas a nivel internacional, lo que puede generar demanda de empleo en campos como la ingeniería, la logística y la gestión empresarial.
En todo caso, es importante reconocer que la transición hacia una economía automatizada puede ser disruptiva y desafiante para muchos trabajadores, especialmente para aquellos cuyas habilidades y conocimientos se vuelven obsoletos debido a los avances tecnológicos. Así lo plantea el artículo de Rodríguez (2022) titulado "Violencia estructural y las tecnologías de la información". El artículo analiza cómo las tecnologías de la información pueden fomentar un tipo de violencia que viola los principios del comportamiento racional y ético.
Argumenta que hay tres componentes principales que contribuyen a esta causalidad estructural. Primero, la perturbación causada por estas tecnologías no solo causa inestabilidad social y personal, sino que también impide la posibilidad de una reestructuración política democrática. En segundo lugar, las capacidades reflexivas de las personas son cada vez más afectadas por estas tecnologías, lo que conduce a la propagación de noticias falsas, la polarización y otros tipos de malestar digital. Tercero, la idea de "Otro" es superada por las tecnologías digitales, que son un componente esencial para crear la subjetividad ética y la acción responsable. En consecuencia, las redes sociales y las nuevas tecnologías no permiten experiencias éticas básicas, lo que se refleja en los desafíos que enfrenta la ética de la inteligencia artificial.
Según el artículo de Rodríguez (2022) para evitar los peligros del totalitarismo digital, se debe fomentar un sentido de comunidad inclusivo basado en la conciencia de nuestra interdependencia con el universo. Se concluye que es necesario regular democráticamente el uso de la tecnología y evitar su desarrollo en secreto, ya que los riesgos que conlleva son incontrolables si se permite que la disrupción que genera se prolongue de manera.
Por tanto, es esencial que gobiernos, empresas y sociedad tomen medidas para reducir los efectos negativos de la automatización en el empleo. Esto podría incluir políticas de protección social que apoyen a quienes sufren la pérdida de empleo por la automatización, y programas de formación y reciclaje laboral para ayudar a los trabajadores a adquirir habilidades y adaptarse a los cambios en el mercado laboral. Algunas líneas de acción son propuestas por autores que mantienen la preocupación durante algunos años.
En primer lugar, Santana-Soriano (2023), argumenta que, aunque la IA puede emular ciertos procesos cognitivos humanos, su incapacidad actual para experimentar emociones o autoconciencia la diferencia fundamentalmente de la inteligencia humana, lo que cuestiona cualquier comparación directa entre ambas. Llega a la conclusión de que la incorporación de la IA en diversos ámbitos ha generado cuestiones éticas justificadas y ha planteado peligros. Para anticipar y comprender el horizonte tecnológico emergente y establecer los principios que guiarán su concepción, producción, desarrollo, implementación, distribución y uso, es necesario fomentar el diálogo interdisciplinario.
En otro orden, Gabriel (2021) asevera que para lograr resultados positivos de la automatización es necesario implementar un modelo social innovador que se afiance en bases más sólidas que las del plan de una globalización únicamente económica.
La economía ha caído como un castillo de naipes debido al coronavirus. Si se consideran las repercusiones de la crisis financiera de 2008 y las posibles de la actual crisis coronavírica iniciada en 2020, puede que haya generado más gastos que beneficios en comparación con lo que habría resultado de una gestión económica más sostenible desde 1990.
Establece: “Esto requiere apartarse de una idea muy asentada: la de que el impulso fundamental de la sociedad procede de la competencia y la lucha por el dominio de los recursos, que solo podemos mantener bajo control por medio de la supervisión y la vigilancia estatales. El objetivo de una sociedad ilustrada es ante todo otro: la autonomía, el autocontrol de sus miembros por medio de la razón moral. Dadas las condiciones actuales de la moderna división del trabajo, y el carácter poco transparente de las complejas cadenas de producción global, necesitaremos un «ánimo confiado» global, incrementar lo que llamaremos «solidaridad» (Gabriel, 2023). p. 11).
Por otra parte, La Organización Internacional del Trabajo (OIT, 2019) examina las tendencias globales del empleo juvenil y las políticas para abordar el desempleo juvenil. Destaca la importancia de políticas integrales que combinen medidas de educación, formación, empleo y emprendimiento para mejorar las perspectivas laborales de los jóvenes desempleados.
Asimismo, Yip (2018) examina la relación entre el desempleo y el suicidio, destacando los efectos adversos del desempleo prolongado en la salud mental. Argumenta que las políticas gubernamentales deben abordar tanto las dimensiones económicas como las de salud mental del desempleo, mediante la provisión de servicios de salud mental accesibles y programas de apoyo psicosocial.
Layard (2005) y sus coautores discuten la relación entre el desempleo y el rendimiento macroeconómico, así como las políticas laborales para abordar el desempleo. Destacan la importancia de las políticas públicas activas, como la formación profesional y los subsidios al empleo, para reducir el desempleo y promover la reinserción laboral.
Sen (1999) argumenta que el desempleo no solo implica la falta de ingresos, sino también la privación de oportunidades y libertades fundamentales. Propone un enfoque de desarrollo humano que priorice la expansión de las capacidades de las personas desempleadas, incluida su participación en la vida económica y social a través de políticas de inclusión social como la asistencia social, la educación y el acceso a servicios básicos.
En síntesis, todas las exposiciones están enfocadas en la manera de educar, formar, capacitar al sujeto. Otras, además, sugieren políticas de estado con acciones puntuales. La capacitación que trabaja la mente de las personas es una buena idea para contrarrestar el bombardeo de la automatización. Formar la mente y capacitarla en áreas modernas, en nuevas estrategias de producción es más efectiva que la que se suele utilizar en las poblaciones para brindar una asistencia social inmediata o medidas populistas que solucionan temporalmente una situación específica, pero no prepara a la persona para explorar e incursionar en otras áreas a las que está acomodado.
De modo que combatir el desempleo provocado por cualquier causa, pero en especial el que se genera por los cambios de automatización, requiere un enfoque multidimensional que aborde las causas económicas, sociales y de salud mental del desempleo. Las políticas públicas deben diseñarse de manera integral, considerando el desempleo y priorizando la inclusión social y la protección de los derechos humanos.
En efecto, aunque la automatización puede tener un impacto significativo en el empleo, su influencia no siempre es predecible. La forma en que la sociedad aborde los desafíos y oportunidades de la automatización afectará de manera pronunciada la economía y el mercado laboral. A continuación, se ofrece un ejemplo de la estructura para la organización numérica de las secciones y subsecciones del artículo, por si necesita hacer uso de ellas:
discusión
Biopolítica y automatización: ¿efectos casuales o
causados?
La automatización se puede considerar una herramienta para ejercer este control, ya sea a través de la vigilancia masiva, la recopilación de datos biométricos o la automatización de procesos administrativos relacionados con la gestión de la población, como el seguimiento de la salud pública o el control migratorio. Entonces, ¿de qué manera se puede garantizar que los beneficios de la automatización se distribuyan de manera equitativa y que no empeoren las desigualdades ya existentes? Autores como Zuboff (2019) y Susskind (2020) argumentan que la automatización podría aumentar la concentración de riqueza y poder en manos de unos pocos y dejar a la mayoría de la población con trabajos precarios o desempleo.
En su obra seminal "Nacimiento de la Biopolítica", publicada en 1979 por el filósofo francés Michel Foucault, presenta una exploración penetrante de las relaciones entre el poder, la economía y la vida humana. A través de un análisis crítico de las teorías políticas y económicas predominantes en el siglo XX, Foucault desentraña los mecanismos mediante los cuales el poder político y económico moldea y regula las poblaciones humanas.
Comenzando su análisis, Foucault (1979) cuestiona las ideas predominantes sobre el poder, que han tendido a concentrarse en cómo se manifiesta de manera represiva y coercitiva. Por el contrario, sugiere una perspectiva más amplia que considera el poder como algo que se ejerce en todas las relaciones sociales y está presente en todos los aspectos de la vida. La idea de poder no se limita a las instituciones políticas oficiales, sino también a las prácticas diarias, las relaciones de género, la producción de conocimiento y las dinámicas económicas.
Foucault introduce la noción de biopolítica para describir cómo los estados y las organizaciones controlan las poblaciones a través de la gestión de la vida y la salud. La biopolítica está estrechamente relacionada con la economía porque los gobiernos buscan principalmente la producción y la reproducción de la vida. Esto se ve reflejado en las políticas destinadas a controlar la natalidad, controlar la inmigración, mejorar la salud pública y optimizar la productividad económica.
En ese contexto, vemos que la automatización tiene el potencial de cambiar radicalmente la vida cotidiana de las personas. Asimismo, puede cambiar la naturaleza del trabajo en el ámbito laboral, eliminando ciertos empleos y creando otros nuevos. Esta transformación puede tener un impacto significativo en la biopolítica porque afecta la forma en que las personas se relacionan con el trabajo y cómo se organiza la sociedad en torno a la producción y la distribución de recursos.
Para Almonacid (2019), lo que ocurre con la automatización en la actualidad es un efecto de la cuarta revolución industrial[1] del siglo XXI. Y enfatiza que es distinta a las demás porque ya no se enfoca en el reemplazo de la fuerza laboral, sino en el uso de la inteligencia artificial (IA) en lugar de la inteligencia humana. Nuestra época, también conocida como la era del big data[2], es el tiempo de las máquinas inteligentes. Los computadores, los teléfonos, los televisores, los autos, los cajeros de supermercados y los bancos, entre otras cosas, son una versión de la inteligencia humana.
Todo esto nos lleva a resaltar un aspecto clave del análisis de Foucault. Él hace un examen de cómo el neoliberalismo, como una forma específica de racionalidad política y económica, ha transformado la biopolítica en la era contemporánea. En lugar de confiar en la intervención estatal directa, el neoliberalismo promueve la idea de un mercado autorregulado como el principal mecanismo para gestionar la vida y la población. Sin embargo, Foucault advierte que esta aparente liberación del estado no elimina el ejercicio del poder, sino que lo desplaza hacia nuevas formas de control basadas en la competencia, la individualización y la gobernanza a través del mercado.
La relevancia de las ideas de Foucault para entender los efectos de la automatización en el mundo contemporáneo es innegable. En un momento en que la tecnología y los avances científicos están transformando radicalmente nuestras concepciones de la vida y la salud, la pregunta sobre quién controla y regula estos aspectos fundamentales de la existencia humana se vuelve cada vez más urgente. Además, la creciente preocupación por la desigualdad económica, la discriminación estructural y el cambio climático subraya la necesidad de un análisis crítico de las relaciones entre el poder, la economía y la vida en el siglo XXI.
Según autores como Berardi (2017) y Lazzarato (2014), la biopolítica utiliza la automatización y la biotecnología para controlar y normalizar los cuerpos y las mentes. Se dice que estas tecnologías pueden crear una sociedad de "cuerpos superfluos", donde las personas que no son productivas o rentables serán excluidas del sistema social.
Al preguntar quién controla, hay que tener presente si es el gobierno el que traza las pautas para recopilar información y datos que sirven de insumo para sus estrategias. O si, por el contrario, hay una forma colectiva de gobiernos donde hay uno que indica y controla todo. También se puede dilucidar que en cada sociedad existe una estrategia global desde grupos de empresarios o personas con intereses en centrar el poder en torno suyo. Estos sectores se centran en controlar los datos e informaciones mediante medios virtuales y controlar a los gobiernos y cómo ejercer la política.
Uno de los casos más notables es el escándalo de Cambridge Analytica, que resultó en una demanda colectiva en 2018. En este caso, se descubrió que Cambridge Analytica, una empresa de análisis de datos, había obtenido ilegalmente datos personales de millones de usuarios de Facebook con el fin de influir en las elecciones políticas, lo que generó preocupaciones sobre el manejo de datos de Facebook y la privacidad de los usuarios (Laborde, 2018). La demanda de Karl Racine sostiene que el escándalo tecnológico permitió la manipulación de la información de casi la mitad de los residentes del distrito. Esto provocó demandas colectivas de usuarios e investigaciones de autoridades reguladoras en varias naciones.
En adición, Sánchez-Vallejo (2020), publica otro caso relevante. La Comisión Federal de Comercio (FTC) de EE. UU. presentó una demanda antimonopolio contra Facebook en diciembre de 2020. La demanda afirma que Facebook ha utilizado prácticas anticompetitivas para mantener su dominio en el mercado de redes sociales. De acuerdo con la demanda, la empresa liderada por Mark Zuckerberg ha mantenido su "dominio" en el ámbito de las redes sociales durante muchos años a través de acciones comerciales que violan la libertad de competencia. La respuesta de la tecnológica fue inesperada y lamentó los "efectos negativos" de las restricciones sobre la comunidad empresarial y los usuarios de sus servicios.
Es fundamental recordar que Facebook ha estado involucrado en numerosas demandas a lo largo de los años, incluyendo la adquisición de posibles competidores como Instagram y WhatsApp. La demanda busca desafiar el poder de Facebook y podría afectar significativamente a la regulación de las grandes empresas tecnológicas.
Otro caso reciente es el de Noyb, una asociación austríaca especializada en defensa de la privacidad. En enero de 2024 anunció que presentaría una demanda ante la autoridad de protección de datos del país en contra del modelo de pago por privacidad instaurado por Facebook e Instagram (Forbes Staff, 2024). Explican que, desde principios de noviembre, las plataformas que forman parte de Meta imponen una "tarifa de privacidad" muy polémica que puede superar los 250 euros anuales para aquellos usuarios que desean evitar ser monitoreados por ellas.
Pero no sólo esta red. También está el caso de otras aplicaciones y software que intentan recopilar informaciones de usuarios, y fundamentalmente, orientadas a proporcionar datos a estamentos gubernamentales. En 2023, el Tribunal Supremo de los Estados Unidos autorizó la continuidad de la demanda presentada por Meta, propietaria de WhatsApp, en contra de la empresa israelí NSO Group Technologies, que, según la demanda, accedió ilegalmente a los servidores del servicio de mensajería durante la instalación del software Pegasus (The San Diego Union Tribune, 2023).
La demanda de Meta, que comenzó en octubre de 2019, sostiene que la empresa israelí violó la ley federal contra el fraude y el abuso informáticos al instalar el "software" Pegasus, lo que le permitió espiar a 1.400 personas, incluidos activistas y periodistas, a través de los servidores de WhatsApp. Sin embargo, la compañía israelí argumentó que actuaba en representación de gobiernos extranjeros, a los que no identificó, y que Pegasus es un sistema utilizado por fuerzas y cuerpos de seguridad e inteligencia.
Con estas informaciones, cada gobierno tiene de manera exacta el control de los usuarios y puede advertir cualquier situación contraria a sus intereses. Además, al obtener datos de esta naturaleza, es evidente que se serviría como herramienta para manipular, extorsionar y provocar decisiones.
Esta realidad, claramente expresa que los usuarios gratuitos están expuestos a ser monitoreados y a proporcionar sus datos a las compañías de manejo de la tecnología. Con estas actividades se crea una influencia directa en las mentes de las personas y se ejerce el poder en forma focalizada, muy distinta para cada grupo de población. Es sólo una idea de cómo se aplica el control que expresaba Foucault hace 45 años.
En resumen, la relación entre la biopolítica y la automatización se centra en cómo la automatización afecta el ejercicio del poder sobre los cuerpos y las vidas de las personas, así como en cómo afecta la organización y la gobernanza de la sociedad en su conjunto. Al hablar de poder no nos referimos estrictamente al ejercicio político, sino a una nueva filosofía de influir en todo y estar al tanto de todos. Por tanto, se puede vislumbrar que los efectos de la automatización no son causales, sino que están detalladamente causados por una nueva filosofía del control y de la influencia. Quizá esto tenga efectos colaterales impensados por creadores y desarrolladores, pero el fin último es el control absoluto de las cosas y el desplazamiento de lo que se considera obsoleto.
Aun así, es inevitable que se propaguen las formas de inteligencia artificial; resulta casi imposible retroceder la forma en que se realizan los procesos y revertir la influencia que estas tienen en la vida cotidiana. Sin embargo, estas no podrían funcionar sin que medie la manipulación de un sujeto humano. La automatización es una extensión del pensamiento humano en su esfuerzo inagotable por querer día a día abarcar más áreas tanto en la vida productiva como en las relaciones sociales primarias. identificadas durante el estudio. En esta sección, además, se pueden incluir nuevamente los objetivos ya alcanzados, así como los aspectos que no se hayan logrado cubrir. Las conclusiones se fundamentarán en las pruebas y datos recopilados en el estudio.
Conclusiones
Basado en las ideas expuestas en este análisis, se puede ver el avance de la automatización, particularmente con tecnologías como el aprendizaje automático y la IA en el siglo XXI, fruto de las distintas revoluciones industriales, plantea dilemas éticos complejos relacionados con la responsabilidad, la equidad y la integridad en el diseño e implementación de sistemas automatizados.
De manera particular, de la automatización preocupa la privacidad y la seguridad de los datos, en especial por la posibilidad de discriminación algorítmica y la recopilación de información personal. Además, las perspectivas éticas sobre la automatización pueden variar según la sociedad, las consideraciones culturales y sociales, lo que pone el tema en una aparente vulnerabilidad ética, y en efecto plantea la necesidad de establecer marcos éticos y legales sólidos para regular su desarrollo y aplicación.
El ejercicio del poder sobre los cuerpos y las vidas de las personas plantea importantes cuestiones éticas y de responsabilidad. Esto incluye preocupaciones sobre la privacidad, la justicia social, la discriminación algorítmica y el acceso equitativo a la tecnología. Desde una perspectiva biopolítica, es fundamental pensar en cómo se distribuyen los efectos de la automatización en la sociedad y quién tiene el poder de decidir cómo y por qué se implementa.
Desde esa perspectiva, la discusión sobre la ética de la automatización es complicada y tiene muchas facetas. Aunque no hay respuestas fáciles, es esencial que sigamos hablando para garantizar que el desarrollo y el uso de la automatización se lleven a cabo de manera responsable, justa y ética en beneficio de toda la humanidad.
Por otra parte, la relación entre la automatización y el desempleo es un tema de discusión y preocupación, con argumentos que sugieren tanto la posibilidad de pérdida neta de empleos como la creación de nuevas oportunidades laborales. Desde ese punto de vista, es necesario un enfoque multidimensional para combatir el desempleo causado por la automatización. Este enfoque debe abordar las causas económicas, sociales y de salud mental del desempleo, así como implementar políticas públicas integrales que promuevan la inclusión social y protejan los derechos humanos.
Partiendo de los datos del análisis, la automatización puede ser una herramienta para controlar a las poblaciones, lo que preocupa la distribución equitativa de sus beneficios y el riesgo de aumentar las desigualdades existentes, así como la privacidad y manipulación de datos por parte de entidades gubernamentales y corporativas.
En resumen, después de abordar las implicaciones éticas de la automatización y su efecto en el desempleo, se enfatiza en la importancia de tener un enfoque justo que considere los beneficios potenciales y los riesgos y desafíos de esta tecnología emergente. De manera que la automatización impulsada por la inteligencia artificial (IA) y la biotecnología están cambiando rápidamente el mundo del trabajo. Aunque esta transformación implica mayor eficiencia, productividad y desarrollo económico, también plantea cuestiones éticas y sociopolíticas importantes.
Se puede concluir que la ética de la automatización es un campo de estudio crucial en la era digital. A medida que la tecnología continúa avanzando a pasos agigantados, es fundamental abordar las implicaciones éticas de la automatización y trabajar hacia un futuro donde la innovación tecnológica esté alineada con los valores humanos fundamentales
referencias
Almonacid Díaz, C. (2019). Columna de Opinión: El Desafío Ético de la Automatización Inteligente. Departamento de Filosofía de la Universidad Católica del Maule: Chile.
Awad, E., & Levine, S. (2020, September 7).
Why we should crowdsource AI ethics (and how to do so responsibly).
Behavioral Scientist. Retrieved from https://behavioralscientist.org/why-we-should-crowdsource-ai-ethics-and-how-to-do-so-respo
Berardi, B. (2017).
"Capitalismo Salvaje: Trabajo y el Futuro de la Humanidad”. Japón:
Kodansha
Bostrom, N. (2014). Superinteligencia: Caminos, Peligros, Estrategias. Oxford University Press.
Floridi, L. y Cowls, J.
(2019). Un marco unificado de cinco principios para la IA en la sociedad.
Revisión de ciencia de datos de Harvard, 1 (1). https://doi.org/10.1162/99608f92.8cd550d1
Forbes Staff (2024). Facebook
e Instagram enfrentan demanda por su cuestionado modelo de pago por privacidad.
En: https://www.forbes.com.mx/facebook-e-instagram-enfrentan-demanda-por-su-cuestionado-modelo-de-pago-por-privacidad/ Forbes: México
Foucault, M. (1979). Nacimiento de la biopolítica. Madrid: Fondo de Cultura Económica.
Foucault, M. (2006). Seguridad, territorio, población. Buenos Aires: Fondo de Cultura Económica. https://blogs.uoc.edu/economia-empresa/ca/etica-automatizacion/ https://www.tandfonline.com/doi/full/10.1080/01490400.2020.1774004
Frey, C. B., & Osborne, M. A. (2017). Tecnología
y empleo: ¿Cuáles son las implicaciones para el futuro del trabajo? Oxford Martin School Working Paper,
(OMS-WP-001).
Gabriel, M. (2021a). Ética para tiempos oscuros: valores universales para el siglo XXI. Traducción de Gonzalo García. Barcelona: Pasado & Presente.
Instituto McKinsey
Global. (2017). Empleos perdidos, empleos ganados: Transiciones laborales en un
tiempo de automatización. McKinsey & Company.
Kearns, M., & Roth, A. (2019). El Algoritmo Ético: La Ciencia del Diseño de Algoritmos Socialmente Conscientes. Oxford University Press.
Laborde, A. (2018). La fiscalía de Washington demanda a Facebook por el escándalo de la filtración de datos. Periódico El País. En: https://elpais.com/internacional/2018/12/19/actualidad/1545246780_274007.html
Layard, R., Nickell, S., & Jackman, R. (2005). Desempleo: Desempeño Macroeconómico y el Mercado Laboral. Oxford University Press.
Lazzarato, M. (2014). Gobernar mediante la deuda. Semiotext(e).
Mittelstadt, B. D.
(2020). Ética del Internet de las Cosas Relacionadas con la Salud: Una Revisión
Narrativa. Ética y Tecnología de la Información, 22(2), 155-174.
Organización
Internacional del Trabajo (2019). Tendencias Globales de Empleo para la
Juventud 2019: Nota Informativa. OIT.
Rodríguez, J. M. (2022). Violencia estructural y las tecnologías de la información. Trayectorias Humanas Trascontinentales, (14). https://doi.org/10.25965/trahs.4850
Sánches-Vallejo, M. A. (2020). Estados Unidos demanda a Facebook por monopolio. Periódico El País: https://elpais.com/economia/2020-12-09/estados-unidos-demanda-a-facebook-por-monopolio.html
Santana-Soriano, E. (2023). Ética y filosofía de la inteligencia artificial: debates actuales. La Barca de Teseo, 1(1), 47-64. https://doi.org/10.61780/bdet.v1i1.5
Schwab, K. (2017). La Cuarta Revolución Industrial. Currency.
Susskind, D. (2020). Un
mundo sin trabajo: Tecnología, automatización y cómo debemos responder. PublicAffairs.
Telkamp, J.B. y Anderson, M.H. (2022). The
Implications of Diverse Human Moral Foundations for Assessing the Ethicality of
Artificial Intelligence. J Bus Ethics 178, 961–976. https://doi.org/10.1007/s10551-022-05057-6
The San Diego Tribune (2023). El Supremo de EE.UU. permite una demanda de Whatsapp contra Pegasus. California: The San Diego Tribune en español. En: https://www.sandiegouniontribune.com/en-espanol/noticias/california/articulo/2023-01-09/el-supremo-de-ee-uu-permite-una-demanda-de-whatsapp-contra-pegasus
Yip, P. W. K. (2018). Desempleo y Suicidio.
Zuboff, S. (2019). La era del capitalismo de vigilancia: La lucha por un futuro humano en la nueva frontera del poder. Profile Books.
[1] La "Cuarta Revolución Industrial" es un concepto acuñado por Klaus Schwab, fundador y presidente ejecutivo del Foro Económico Mundial, en su libro de 2016 titulado "La Cuarta Revolución Industrial". Schwab argumenta que estamos en medio de una revolución tecnológica que está alterando fundamentalmente la forma en que vivimos, trabajamos y nos relacionamos entre nosotros.
[2] La "era del Big Data" se refiere a un período en el tiempo en el que la generación, recolección y análisis de grandes volúmenes de datos se ha vuelto fundamental en prácticamente todos los aspectos de la vida moderna.