El debate en torno a la automatización tecnológica, particularmente en nuestra época profundamente atravesada por la inteligencia artificial, suele plantearse como una disyuntiva entre dos visiones, la que considera que tecnología nos relega, nos suplanta y erosiona nuestras capacidades corporales y cognitivas; o la que considera que somos nosotros quienes la usamos, conservando siempre el control sobre ella, por lo que solo el humano es responsable de lo que se hace con la tecnología. No obstante, la pregunta relevante no es si la tecnología es algo a lo que delegamos nuestras capacidades o algo que nos relega y pone en segundo plano, sino cómo se redistribuye la agencia entre personas, dispositivos, plataformas e instituciones.
La delegación tecnológica no es una transferencia total de agencia; es una reorganización de la agencia. Pensemos en la invención y extensión comercial del GPS. Hace apenas un par de décadas, llegar a un lugar desconocido exigía comprar una Guía Roji, interpretar el mapa (que nunca es el terreno), preguntar a desconocidos o navegar a través de la prueba y el error hasta memorizar la ruta. Hoy, cualquier aplicación de mapas calcula nuestro trayecto, anticipa el tráfico y hasta nos indica el tiempo estimado que estaremos atorados en el tráfico. Es verdad que delegamos la orientación, pero nunca dejamos de conducir: decidimos a dónde ir, elegimos entre rutas, ignoramos sugerencias y asumimos la responsabilidad final del viaje. Sin embargo, esta delegación no es unilateral ya que también modifica la relación que mantenemos con nuestro entorno. Quien depende permanentemente del GPS puede perder práctica en la lectura de mapas o en la orientación espacial, pero, al mismo tiempo, gana acceso a una movilidad más eficiente e informada en tiempo real. La tecnología no simplemente nos hace más dependientes ni más capaces: hace ambas cosas a la vez. Amplía un poder y, al hacerlo, reconfigura lo que significa ejercerlo.
La tecnología como extensión
Una de las teorías más extendidas en la filosofía de la técnica es que la tecnología es una extensión de nuestro cuerpo y mente. Esta perspectiva ya aparece desde el siglo XIX, por ejemplo, en Ernst Kapp, y su noción de proyección orgánica (Organprojektion): las herramientas operan como proyecciones externas de nuestros órganos y capacidades corporales. El martillo proyecta el puño, el lente proyecta el ojo y el sistema telegráfico proyecta nuestra capacidad comunicativa. Para Kapp, la técnica no es algo meramente ajeno al ser humano, sino una exteriorización mediante la cual este se conoce a sí mismo.
Lo mismo sucede en el pensamiento del famoso teórico de los medios Marshall McLuhan, quien retomó y profundizó esa intuición en Comprender los Medios de Comunicación (1964). Para él, todos los medios y tecnologías son “extensiones del hombre”: la rueda extiende los pies, el teléfono extiende la voz, la escritura extiende la memoria y los medios electrónicos extienden el sistema nervioso. Su tesis central es que toda extensión tecnológica modifica el conjunto psíquico y social del que forma parte.
No obstante, hay que considerar que en esta relación mutua, la tecnología no solo nos extiende hacia nuestro entorno, sino que también se encarna en nosotros, en cuerpo y mente. Nos modifica tanto como modificamos nuestro entorno con ella. Por ejemplo, la escritura amplía la memoria, pero también disminuye las prácticas de memorización oral. El teléfono acerca la voz, pero reorganiza la disponibilidad y la atención. Las redes sociales extienden la sociabilidad, pero también alteran los ritmos de exposición, validación y conflicto. Toda extensión conlleva una reorganización personal y social.
Delegación y control
Desde esta óptica, la delegación tecnológica no puede describirse como una simple pérdida de control. Tampoco significa postular una soberanía total del usuario, como si el humano fuera dueño de la naturaleza y de las herramientas que usa para modificarla. Es mejor hablar de una inter-acción: entregamos ejecución, velocidad, memoria o cálculo, y recibimos nuevas capacidades, pero también nuevas formas de dependencia, opacidad en nuestras propias operaciones y vulnerabilidad ante riesgos del que tal vez no tengamos la capacidad técnica para enfrentar, particularmente cuando usamos tecnologías tan complejas como las del presente.
Un sistema de inteligencia artificial que realiza búsquedas, redacta borradores u organiza información no sustituye automáticamente el juicio humano. Puede ampliarlo, siempre que la persona conserve la capacidad de revisar, contextualizar, cuestionar y responsabilizarse por el resultado. Pero si la delegación se vuelve automática, si aceptamos la respuesta solo porque el sistema la produce con fluidez y autoridad, la ampliación se convierte en atrofia.
La cuestión política y educativa, entonces, no es si debemos delegar. Ya lo hacemos, y lo hemos hecho desde que usamos herramientas. La pregunta es qué funciones conviene delegar, bajo qué condiciones de transparencia, con qué competencias de revisión y cómo asumimos esa responsabilidad.
¿Matan las armas o las personas?
Tal vez una salida se encuentre en un tema clásico que ya Bruno Latour abordó en su libro La esperanza de Pandora (1999) mediante el ejemplo del uso de las armas. Frente al lema que se repite reiteradamente de que “las armas no matan personas; las personas matan personas”, Latour propone una respuesta más compleja. Ni el arma ni la persona actúan solas. Una persona con un arma en la mano no es exactamente la misma persona cuando carga con ella, y el arma no es el mismo objeto cuando está siendo sostenida por alguien. Se produce lo que Latour llama un híbrido: un agente compuesto por persona y artefacto, un fenómeno de agenciameminto.
La idea no consiste en exculpar a quien dispara ni en atribuir intenciones morales a un objeto inerte. Sería ridículo llevar a cabo un juicio a un rifle de asalto. Sin embargo, se trata de reconocer que las tecnologías incorporan guiones de acción, ya cargan con un diseño predeterminado, es decir, están informadas por la cultura humana. Un arma facilita ciertas posibilidades y dificulta otras. Una pistola y almohada, pueden ser ambas usadas como armas homicidas, pero la potencialidad homicida de la pistola es mucho mayor que la de la almohada. Por lo tanto, la tecnología no necesariamente determina cabalmente la conducta humana, pero sí la estructura y organiza, la contextualiza y condiciona.
Este pasaje de Latour nos dice que no basta con preguntar quién tiene el control, si la persona o la máquina, sino que hay que preguntar qué tipo de agencia surge cuando ambas se articulan en un solo híbrido o fenómeno de agenciamiento. Un algoritmo de recomendación no “decide” por nosotros en el sentido humano del término, pero sí ordena opciones, prioriza los contenidos que consumimos y moldea el campo de lo que resulta probable ver, comprar o creer. En este sentido, hay que considerar el diseño que inherentemente carga las tecnologías que usamos, no podemos esperar que una máquina de casino no fomente la ludopatía, así como no podemos esperar que las redes sociales no generen problemas de autoestima o relaciones parasociales, ya que estos outputs son resultado del diseño que se encuentra en el núcleo de su funcionamiento.
En este sentido, la tecnología siempre nos hace “más”: más rápidos, más conectados, más capaces de calcular, recordar, comunicar y actuar a distancia. Pero “más” no significa solamente mejor. También podemos volvernos más expuestos, más dependientes, más trazables y más sujetos a infraestructuras que no controlamos.
La lección de Latour converge en que la relación entre humanos y tecnología no es de sustitución, sino de acoplamiento. No elegimos entre ser reemplazados o conservar un control puro. En cambio, debemos elegir, de manera más que menos consciente, cómo se distribuye la acción. Si la delegación es inevitable, la cuestión entonces se enfoca en si la realizamos con criterio y bajo qué condiciones.
La tecnología tiene por qué relegarnos ni suplantarnos. Pero eso solo sucederá si somos conscientes de sus usos responsables, de las condiciones materiales e ideológicas desde las que se generan y operan, y de lo hace con nosotros.
Referencias
Kapp, E. (2020). Principios de una filosofía de la técnica: La génesis de la cultura desde un nuevo punto de vista. Oviedo: Krk Ediciones.
Latour, B. (2021). La esperanza de Pandora: Ensayos sobre la realidad de los estudios de la ciencia. Buenos Aires: Gedisa.
McLuhan, M. (1996). Comprender los medios de comunicación: Las extensiones del ser humano. Barcelona: Paidós.