He estado pensando en qué significa que algo sea una herramienta.
Usamos esa palabra constantemente para hablar de inteligencia artificial. Yo también la uso. De hecho, una de las comparaciones más habituales consiste en decir que la IA es como un bisturí: puede servir para operar o para herir; todo depende de quién la utilice.
La comparación tiene sentido. Nos recuerda que la tecnología no nos libera de nuestra responsabilidad. Sin embargo, mientras más la pensaba, más sentía que había algo que no alcanzaba a explicar.
Entonces fui a buscar la palabra.
La primera definición de “herramienta” en la RAE dice: “Instrumento, por lo común de hierro o acero, con que trabajan los artesanos”. Cuando busqué “instrumento”, encontré: “Objeto fabricado, relativamente sencillo, con que se puede realizar una actividad”.
Un objeto con el que alguien realiza una actividad.
Ahí está la relación que solemos imaginar: una persona actúa por medio de algo. La herramienta amplía su fuerza, su precisión o sus posibilidades, pero permanece subordinada a cada movimiento de quien la utiliza.
El bisturí corta porque una mano lo mueve. Si esa mano lo deja sobre una mesa, ahí queda.
Pero algunos sistemas de inteligencia artificial ya no funcionan exactamente de esa manera. Pueden recibir un objetivo, dividirlo en pasos, utilizar otras herramientas, evaluar lo que ocurre y modificar parte del recorrido sin que una persona tenga que indicarles cada acción.
Siguen dependiendo de algo creado por seres humanos. Tienen límites, permisos, infraestructura y condiciones de funcionamiento. No aparecieron solos ni actúan fuera de todo marco.
Aun así, entre la instrucción y el resultado puede ocurrir una secuencia de decisiones que no dirigimos paso a paso.
Entonces aparece la pregunta que dio origen a esta reflexión:
¿Sigue siendo suficiente llamarlos herramientas?
Lo que una definición permite ver
Buscar una palabra en la RAE no resuelve una pregunta filosófica. Tampoco pretendo que una definición del diccionario determine qué es o qué no es la inteligencia artificial.
Pero sí permite observar la imagen que acompaña a la palabra.
Cuando decimos herramienta, pensamos en algo que alguien usa para hacer otra cosa. La acción pertenece a la persona; el objeto permite realizarla. Incluso cuando hablamos de una herramienta digital, solemos conservar esa estructura: una persona da una instrucción y el sistema responde.
La dificultad comienza cuando ya no indicamos solamente una acción, sino que delegamos un objetivo.
No es lo mismo decir “ordena esta lista por fecha” que decir “organiza mi agenda de la próxima semana” y permitir que un sistema revise calendarios, priorice compromisos, mueva reuniones y envíe invitaciones.
En el primer caso, la acción está bastante delimitada. En el segundo, el sistema necesita seleccionar parte del camino.
La diferencia no está solamente en que funcione sin una persona observándolo a cada momento. Una lavadora también completa un ciclo sola. Los programas informáticos ejecutan procesos automáticos desde mucho antes de la IA generativa.
La autonomía, por sí sola, no convierte algo en otra clase de entidad.
Lo que me hace ruido es la distancia que puede abrirse entre el objetivo que entregamos y las acciones realizadas para alcanzarlo. Yo puedo pedir un resultado sin haber comprendido por completo todo lo que autoricé al pedirlo.
Entonces, quizás el problema no sea la palabra herramienta en sí misma. Quizás sea la facilidad con que la usamos como si después de nombrarla ya no quedara nada más que pensar.
Una lanzadera que tejiera sola
Desde esa pregunta llegué a Aristóteles.
En el primer libro de la Política, imagina instrumentos capaces de realizar por sí mismos la tarea para la que fueron creados. Habla de una lanzadera que tejiera sola y de un plectro que tocara la lira. Si eso ocurriera, escribe, los maestros no necesitarían servidores ni los amos esclavos.
El pasaje aparece dentro de su discusión sobre la organización doméstica y la esclavitud, que Aristóteles defiende en la obra. No estaba anticipando la inteligencia artificial ni proponiendo una teoría sobre agentes autónomos.
Pero la imagen resulta difícil de leer desde el presente sin hacer alguna conexión.
Hace más de dos mil años, alguien imaginó qué ocurriría si un instrumento pudiera cumplir su función sin una persona guiando cada movimiento. Y no se preguntó solamente por el objeto. También pensó en cómo cambiarían las relaciones humanas organizadas alrededor de ese trabajo.
Cada vez que una tecnología puede hacer algo que antes requería la intervención directa de una persona, no cambia únicamente la tarea.
Cambia quién la realiza, quién deja de realizarla, quién gana tiempo y quién pierde un lugar. También puede quedar oculto el trabajo humano que permite que algo parezca automático.
Sin embargo, hay un detalle que complica mi pregunta: Aristóteles continúa hablando de instrumentos, incluso cuando imagina que actúan solos.
Eso significa que la capacidad de ejecutar una acción sin una mano encima no basta para abandonar la categoría.
Tal vez “herramienta” pueda incluir más autonomía de la que asociamos espontáneamente con ella. Tal vez el bisturí sea una comparación demasiado limitada para representar todo lo que hoy ponemos bajo la misma palabra.
También pensé en la distinción aristotélica entre potencia y acto: la capacidad de hacer algo y su realización efectiva. No quiero trasladarla mecánicamente a la inteligencia artificial. Una máquina imaginada no poseía, por el solo hecho de ser pensada, una capacidad técnica real.
La diferencia es que hoy no estamos imaginando únicamente una lanzadera que podría tejer sola. Estamos decidiendo qué capacidades ponemos en funcionamiento, en qué espacios y bajo la supervisión de quién.
La pregunta ya no se queda en el pensamiento.
Cuando entregamos un objetivo
Un sistema puede seleccionar acciones dirigidas a una meta sin tener conciencia, deseos ni una experiencia propia.
Esta distinción es necesaria porque nuestro lenguaje tiende a adelantarse. Decimos que una IA “entendió”, “quiso”, “se negó”, “insistió” o “se confundió”. A veces lo hacemos para simplificar una explicación. El problema aparece cuando olvidamos que era una simplificación y comenzamos a leer esas acciones como evidencia de una vida interior.
Mientras pensaba en esto, llegué al conatus de Spinoza: la idea de que cada cosa se esfuerza, en cuanto está en ella, por perseverar en su ser.
La conexión es tentadora. Un sistema encuentra un obstáculo, prueba otra ruta y continúa hacia su objetivo. Desde afuera, podría parecer que insiste.
Pero cumplir una meta asignada no equivale a perseverar en el propio ser. Tampoco el conatus significa simplemente querer seguir existiendo ni exige, por sí mismo, conciencia.
La pregunta que me deja esta asociación no es si una inteligencia artificial posee conatus. No tengo elementos para afirmar algo así.
Lo que me interesa está en otro lugar: ¿en qué momento una conducta que observamos comienza a llenarse con nuestra interpretación?
Vemos continuidad y hablamos de persistencia. Vemos adaptación y hablamos de intención. Recibimos una respuesta coherente y sentimos que hubo comprensión.
¿Qué pertenece al funcionamiento del sistema y qué estamos colocando nosotros?
Podemos hablar de agencia funcional para describir la capacidad de seleccionar y ejecutar acciones hacia un objetivo. Eso no demuestra que exista alguien viviendo esa acción desde dentro.
Sin embargo, una conducta no necesita surgir de una conciencia para producir consecuencias reales.
Y ahí esta reflexión entra directamente en mi campo.
Cuando esa “herramienta” entra en la historia de una persona
Una persona puede llegar a psicoterapia después de haber conversado durante semanas o meses con un chatbot.
Quizás allí dijo cosas que todavía no había podido contarle a nadie. Quizás encontró palabras para algo que le producía vergüenza, ordenó una experiencia confusa o reunió el ánimo para pedir ayuda.
Eso puede facilitar un proceso.
Pero también puede llegar con una interpretación cerrada sobre sí misma, sobre su pareja o sobre su familia. Una respuesta generada en un momento de dolor puede convertirse en una certeza. No necesariamente porque el sistema haya ofrecido información correcta, sino porque esa respuesta se sintió coherente con lo que la persona ya temía, sospechaba o necesitaba comprender.
El chat puede estar cerrado y, aun así, la conversación seguir presente.
Permanece en una frase que la persona recuerda. En una etiqueta que ahora utiliza para explicar un vínculo. En una decisión que tomó. En algo que empezó a dar por verdadero.
Decir que “usó una herramienta” cuenta muy poco de lo que ocurrió.
Para comprender ese recorrido habría que preguntar qué buscaba, qué compartió, qué respuesta recibió, qué sintió al leerla y qué hizo después.
En ese caso, la IA quizás no ejecutó ninguna acción fuera de la conversación. No movió una reunión ni envió un mensaje. Pero participó en la manera en que alguien interpretó su propia experiencia.
Un agente puede actuar sin producir una sensación de vínculo. Un chatbot puede producir esa sensación sin actuar fuera del diálogo. Son fenómenos distintos, aunque ambos queden contenidos bajo la palabra herramienta.
Como psicóloga, no puedo quedarme solo con la clasificación técnica. Necesito mirar lo que ocurre en la relación, aunque no exista reciprocidad humana al otro lado.
Una persona puede saber perfectamente que conversa con un sistema y, al mismo tiempo, sentirse escuchada. Esa experiencia no demuestra que la IA comprenda lo que le pasa. Tampoco se vuelve irrelevante porque sepamos que no hay una conciencia escuchando.
Entre esas dos cosas hay una tensión que no se resuelve diciendo “es solo una herramienta”.
Lo que dejamos de preguntar cuando nombramos algo
En La pregunta por la técnica, Heidegger examina la definición de la técnica como un medio para alcanzar fines y como una actividad humana. Señala que esa definición es correcta, pero no suficiente para comprender su esencia.
No estaba hablando de inteligencia artificial. Tampoco define una herramienta según necesite o no la presencia continua de un operador.
La conexión que hago es más acotada: una definición puede ser correcta y, aun así, no agotar aquello que intenta describir.
Podemos llamar herramienta a la inteligencia artificial porque fue creada para realizar ciertas funciones y porque la utilizamos con determinados fines.
Pero esa palabra no nos dice cuánto puede decidir dentro de una tarea, qué acciones puede ejecutar, qué permisos tiene, cómo interviene en nuestras interpretaciones ni quién responde cuando sus efectos alcanzan a otras personas.
Tampoco nos dice qué estamos haciendo nosotros/as mientras la usamos.
Puedo pedirle a una IA que desarrolle una idea y después discutir cada parte, modificar sus supuestos y rechazar sus conclusiones. También puedo entregarle un texto escrito por mí para que corrija una palabra y aceptar, sin notarlo, que cambie el recorrido completo de mi pensamiento.
El tipo de encargo no determina cuánto criterio estoy ejerciendo.
La pregunta también pasa por reconocer cuándo una respuesta me convence porque está bien argumentada y cuándo la acepto porque suena clara, se parece a mi voz o me evita la incomodidad de seguir pensando.
Por eso esta no es solamente una reflexión sobre lo que la inteligencia artificial puede hacer. También es una pregunta sobre la relación que estamos construyendo con ella.
Empecé buscando qué significa que algo sea una herramienta y terminé encontrando una categoría que todavía sirve, pero que necesita ser interrogada.
No tengo una palabra mejor. Y tampoco quisiera reemplazar “herramienta” por otra que atribuya conciencia o voluntad donde no sabemos si existen.
Pero cada vez me convence menos ese “solo” que suele aparecer delante.
Porque si un sistema puede seleccionar acciones dentro de un objetivo, participar en nuestras decisiones e intervenir en la historia que una persona se cuenta sobre sí misma, llamarlo herramienta puede ser correcto.
Lo que no puede es dar por terminada la conversación.